Prompt Engineering (프롬프트 엔지니어링)

쉽게 이해하기

AI에게 질문이나 지시를 잘 작성하는 기술입니다. 같은 AI 모델이라도 어떻게 물어보느냐에 따라 결과가 완전히 달라집니다. 비유하자면, 구글 검색도 검색어를 잘 써야 원하는 결과가 나오듯 AI도 마찬가지입니다. "요약해줘"와 "전문가 수준의 독자를 위해 핵심 인사이트 3가지로 요약해줘"는 결과가 크게 다릅니다. 기업들이 프롬프트 엔지니어를 별도로 채용할 만큼 전문 분야로 성장했으며, ChatGPT 등장 이후 가장 빠르게 부상한 실무 스킬입니다.

기술 심층 분석

• 핵심 구성요소: Role(역할 설정), Context(배경 제공), Task(명확한 지시), Format(출력 형식), Constraints(제약 조건)

• 주요 기법:

  • Zero-shot: 예시 없이 직접 지시만으로 작업 수행
  • Few-shot: 입력-출력 예시 2~5개를 함께 제공하는 in-context learning 방식
  • Chain-of-Thought (CoT): "단계별로 생각해봐" 추가로 복잡한 추론 능력 대폭 향상
  • Role Prompting: "당신은 10년 경력의 의사입니다" → 전문 지식 활성화
  • Instruction Following: 구체적 지시어("반드시", "절대", "JSON 형식으로") 활용

• 시스템 프롬프트 vs 유저 프롬프트: 시스템 프롬프트는 모델 행동 지침, 유저 프롬프트는 실제 요청으로 역할 분리

• 프롬프트 인젝션 공격: 악의적 입력이 시스템 프롬프트를 덮어쓰려는 시도. 방어 방법으로 입력 검증과 구분자(delimiter) 사용이 권장됨

• 온도(Temperature): $T \to 0$이면 결정론적 출력, $T \to 1$이면 창의적 다양성 증가. 사실 기반 태스크는 낮은 T, 창작 태스크는 높은 T가 적합

• 토큰 예산 최적화: 긴 프롬프트는 비용 증가, 짧은 프롬프트는 품질 저하. 핵심 정보의 밀도를 높이는 최적화 필요

• 평가(Prompt Evaluation): A/B 테스트, LLM-as-Judge, 골든 셋 정확도 측정으로 프롬프트 품질 정량화

• 고급 변형:

  • Meta-prompting: 프롬프트 자체를 자동으로 생성
  • Automatic Prompt Optimization (APO): 그래디언트 없이 프롬프트를 반복 개선
  • DSPy: 프로그래밍 방식으로 프롬프트를 모듈화하고 최적화하는 프레임워크

Footnotes