프롬프트 구조와 엔지니어링 기법 정리

1. Prompt 프롬프트란?

- LLM에게 입력하는 모든 문장

- 즉, AI에게 전달하는 지시문

➡️ 프롬프트를 통해 역할, 작업, 말투, 결과 형태까지 모두 설정 가능

 

🔺프롬프트 구성 요소

• 지시 (Insturcion) : LLM이 수행해야 하는 명령
• 입력 값(Input Data) : LLM이 받아 들일 값, 그림, 글 등
• 문맥 (Context) : 추가적인 정보, 어조, 말투
• 출력 지시자(Output Indicator) : 출력 틀, 양식
• 예시(Example) 사용자가 원하는 추가적인 예시

* 이 구성요소가 항상 적용되진 않음

 

🔺프롬프트 vs 매개변수

프롬프트 = 무엇을 시킬지

매개변수 = 어떻게 답할지 조정

 

* 주요 매개변수

• 자유도 (Temperature): LLM의 답변 자유도를 설정하는 값
  - 높음 : 창의적 (but 환각 가능성 ↑)
  - 낮음 : 안정적 (but 다양성 ↓)
• 토큰(Token)
  - 문장을 나누는 단위
  - 많을수록 긴 문장 처리 가능
  - 하지만 비용/GPU 부담 증

2. 프롬프트를 더 잘하는 방법 ( Prompt Engineering)

상황에 맞게 프롬프트를 설계하는 기술

 

🔺주요 기법 정리

1) Zero-Shot Prompting

모델에 예시 없이 원하는 작업을 지시하여, 사전 학습된 일반적인 지식만으로 문제를 해결하는 방법

장점 : 별도의 학습을 수행하지 않고 지시문만 명료하게 작성하면 되므로 사용자 입장에서 직관적이고 간편

단점 : LLM의 기존의 학습된 내용에 오로지 의존

2) Few-Shot Prompting

프롬프트 내에 소수의 관련 예시를 포함시켜서 ai 모델의 성능을 향상시키는 프롬프트 엔지니어링 기법

장점 : 예시를 포함하여 다음 출력 결과를 예상할 수 있음

단점 : 예시가 명확해야하며 정확한 답변을 원할 수록 더 많은 예시와 예외처리가 필요함

3) Chain-of-Thought Prompting (생각의 사슬)

복잡한 문제를 해결할 때 정답을 바로 제시하는 대신 사고 과정을 단계별로 거쳐 추론하도록 유도하는 방식

장점 : LLM이 추론해 나가는 과정을 볼 수 있어서 만약 잘못 추론한 부분이 이씅면 피드백하기 쉬움

단점 : 필요없는 내용까지 방대해질 수 있으며 답변을 후처리 가공이 필요할 수 있음

4) Tree of Thoughts (생각의 나무)

복잡한 문제를 해결 과정을 나무처럼 여러 가지 가능성을 탐색하고 최적의 경로를 찾는 방식

장점 : 여러 해결책을 구할 수 있음

단점 : 어느 답이 제일 적절한지 환각은 없는지 검증을 해야 하거나 검증이 어려움

5) Structured prompting(구조화 지시)

구조를 갖춰서 절차지향적으로 프롬프트를 작성하는 방법

장점 : LLM이 절차를 수행하는데 가장 직관적인 방법

단점 : 사람이 이해하는 초점을 두기 보다는 기계의 입장에서 프롬프트를 이해하도록 작성하는데 초점을 둬야 함

6) Generated Knowledge Prompting (지식 생성)

응답 정확도와 추론 능력을 향상시키기 위한 프롬프트 엔지니어링 기법

장점 : 모델이 지식을 정리하고 사고 기반을 만들기 때문에 정확도와 추론력 향상에 도움

단점 : 생성된 지식이 부정확할 경우 잘못된 정보를기반으로 답이 더 크게 틀릴 위험

 

3. 오늘 배운 프롬프트 기법들의 예시들을 내 직무 관련 업무와 연관 지어서 작성해보기

1) Zero-Shot 

2) Structured prompting

3) Generated Knowledge Prompting

 

오늘 배운 내용 정리 및 느낀점

지금까지는 LLM에 질문할 때 "~~는 뭐야?", "~~에 대해 알려줘"와 같은 방식으로 많이 사용해왔기 때문에 이 질문들이 프롬프트라고 생각해보지 못했다. 그런데 프롬프트에 대해 공부하고 나니 내가 사용하던 모든 질문이 프롬프트의 일종이었다는 점이 신기하게 느껴졌다

심지어 내가 사용하던 방식이 Zero-Shot Prompting이라는 이름이 있는 기법이었다는 것도 인상 깊었다

 

하지만 기존 방식으로 질문을 하면 내가 원하지 않는 설명이나 불필요한 미사여구가 포함되는 경우가 많아 필요한 내용만 따로 정리해야 하는 번거로움이 있었다 그런데 오늘 배운 프롬프트 기법을 활용해 질문해보니 원하는 형태로 답변이 정리되어 나와 훨씬 효율적이고 깔끔하다고 느꼈다

앞으로는 다양한 프롬프트 기법을 직접 사용해보면서 더 효율적으로 활용해보고 싶다고 생각했다