할루시네이션을 줄이고, 보다 정확하고 신뢰도 있는 답변을 얻기 위한 프롬프트 가이드

 할루시네이션을 줄이고, 보다 정확하고 신뢰도 있는 답변을 얻기 위한 프롬프트 가이드 

기본 원칙

1. 명확한 목표 제시:
   모델에게 무엇을 원하는지, 어떤 형태의 답변이 필요한지를 분명히 설명이 필요
   예) "OO에 대해 최신의, 신뢰 가능한 통계 자료를 기반으로 정리(요약)해줘."
2. 정보 출처 또는 근거 제시 요구:
   답변에 사용한 정보의 출처, 인용 가능한 근거를 제시하도록 유도
   예) "반드시 출처가 있는 공식 통계를 기준으로 설명해."
   "최근 2년간 언론기사나 연구논문에서 확인할 수 있는 정보만 사용해."
3. 시간 및 범위 제한:
   최신성을 유지하고, 특정 시간 혹은 범위 안에서의 정보만을 요청하면, 모델이 사실관계를 벗어나는 답변을 하는 위험을 줄일 수 있음 
   예) "2022년 이후 발표된 정부 보고서를 기반으로 부동산시장  현황을 정리해."
4. 검증 과정을 요청:
   모델에게 스스로 검증하도록 지시
   예) "위 주장에 대한 반례나 확인 절차를 제시하고, 스스로 검증해."
5. ‘모름’ 허용:
   모델이 확실하지 않을 경우 “모른다”라고 답할 수 있도록 제한 
   예) "만약 확실한 근거가 없거나 정보가 불충분하다면 "모른다"고 말해."
6. 단계적 추론 :
   복잡한 질문에 대해서 단계별 reasoning을 거쳐 결론을 도출하도록 요청하면 단순 추측을 최소화 
   예) "단계별로 생각 과정을 드러내고, 각 단계별로 사실관계를 검증한 뒤 결론을 내려."
7. 사실 여부 재확인 요구:
   답변 후, 모델에게 제안한 정보의 신뢰성과 정확성을 재검토하도록 지시.
   예) "지금까지의 설명 중 오류 가능성이 있는 부분을 다시 검증해."

프롬프트 예시

• 단순 정보 요청 예시
  "2023년 기준, 한국의 전력 생산량과 재생에너지 비중을 확인 가능한 공식 통계(예: 정부 보고서, 국제기구 통계) 기반으로 요약해. 정확한 수치와 출처(해당 통계를 발표한 기관명)를 밝혀주고, 만약 출처가 불명확하다면 ‘확실한 자료가 없다’고 말해."
• 단계별 검증 예시
  "유럽연합(EU)의 2021년 탄소 배출량 관련 최신 공식 통계를 제시하고, 해당 통계의 출처(유럽 환경청 등의 기관명)와 보고서명, 페이지 번호를 명시해. 만약 출처가 불확실하다면 현재 가능한 정보로 추론한 뒤, 추론 과정과 함께 '이 부분은 정확하지 않을 수 있다'고 명시해. 마지막으로, 위 추론이 신뢰할 만한지 네가 다시 검토해."
• 모름 허용 예시
  "2024년 발행된 일본 정부 공식 보고서를 근거로, 동일본 대지진 이후 후쿠시마 원전 폐기물 처리 현황을 알려줘. 만약 2024년 자료를 찾기 어렵거나 내가 지정한 출처로 확인 불가능하다면 '해당 시점 정보 없음'이라고 말해."

정리

위와 같이:

• 출처와 시점 명확히 하기
• 불확실할 때 ‘모른다’고 응답하도록 프롬프트 내 지시
• 단계별 논리 전개 요구

등의 방법을 활용하면, 할루시네이션을 줄이고 정확성을 높일 수 있습니다. 이러한 프롬프트 작성 가이드를 적용하면, 다른 모델로 갈아타지 않고도(혹은 새로운 모델을 선택하더라도) 더 신뢰성 있는 답변을 얻는 데 도움이 될 수 있습니다.