GPT & AI 활용

🙉GPT(할루시네이션)줄이는법!헛소리 못하게 하는법 😷

노마드씨드. 2025. 6. 20. 15:41

할루시네이션(환각) 줄이는 법: AI의 정확도를 높이는 방법
 
 
AI의 발전과 함께, 우리는 다양한 강력한 도구들을 활용할 수 있게 되었습니다.
 
그러나 그 과정에서
할루시네이션 즉 ,[AI가 잘못된 정보를 생성하거나 상상력을 동원해 사실과 다른 답변을 제공하는 현상]이 문제가 많이 되고있죠. 

출처 : 유튜브 채널 KNN NEWS

 
얼마전 유튜브에서 화제가 됬던 영상인데요 .
이건뭐.헛소리 정도가 아니라 합성까지 해버리는 지경이라면서 댓글 반응들을 보면 
 
"무섭다...거짓말도하네..."
"잘 아는 분야 전문가들이나 써야지 모르는 사람들이 막 의존했다간 큰일날수도.."
"대놓고 주작하네..." 등등 사람들에게 GPT신뢰가 바닥났던 사건이 있었습니다.
 
AI가 예상하지 못한 정보를 생성하거나 사용자가 요청한 질문에 대해 부정확한 답을 제공할 때,
이는 단순 '헛소리' 문제로 끝나기 보다 업무와 연관 되었을때는 심각한 오류로 이어져 치명적일 수 있습니다.
 
그렇다면 어떻게 할루시네이션을 줄일 수 있을까요?
이 문제를 해결하려면, AI의 정확도를 높이고 신뢰성을 개선할 수 있는 방법을 이해하는 것이 중요합니다.
 
특히, AI가 신뢰할 수 있는 데이터만을 사용하여 답변을 생성할 수 있도록 하여
정보의 정확성을 보장하고,
불필요한 오류를 줄이는 방법을 알아보겠습니다.
 
이 글에서는 할루시네이션을 줄이는 다양한 방법과 AI의 신뢰성을 높이는 기술적 접근법을 소개하겠습니다.
AI의 답변이 더욱 정확하고 신뢰할 수 있도록 만드는 방법에 대해 적어볼게요.
 
 

유료버전으로 GPT를 커스텀 한다는 가정하에 지침을 입력해 보도록 하겠습니다.

✅ 1. 목적 정의: "사실 기반 정보 생성 특화" 

 
 
 
Custom GPT를 만들 때 가장 중요한 첫 번째 단계는 GPT의 최종 목적을 명확히 설정하는 것입니다.
이 목적 설정이 GPT의 성격과 활용 범위를 결정하므로 매우 중요한 부분입니다.
 
지침 예시:
이 GPT는 검색 최적화된 콘텐츠를 사실 기반으로 제공하는 데 최적화되어 있습니다.
모든 정보는 신뢰할 수 있는 근거 또는 일반적으로 검증된 데이터에 기반하며, 추정이나 허구는 배제됩니다.
사용자가 제공한 질문에 대해 사실이 없는 경우, "이 부분은 확인된 정보가 없습니다"라고 명시하고 답변을 중단합니다.

 

✅ 2. 응답 스타일 제어: "출처 여부, 의심 가능성 구분하기"

 
GPT는 출처가 있는지 여부를 구분하는 데 어려움을 겪을 수 있습니다.
따라서 출처 구분 방식을 응답 포맷에 내장하는 것이 중요합니다.
이를 통해 사용자가 정보의 신뢰도를 파악할 수 있도록 해야 합니다.
 

지침 예시:

모든 문장은 다음 세 가지 중 하나로 분류해 작성할 것:
 
1) 일반적으로 검증된 사실 (표시 없음)
2) 출처 확인 가능한 내용 (출처 명시)
3) 불확실하거나 추정되는 정보 (문장 끝에 [추정] 표시)
 
예: - 한국의 수도는 서울이다.
- 대한민국의 2023년 1인당 GDP는 약 34,000달러였다 (IMF 기준).
- 향후 전기차 비중은 늘어날 것으로 보인다 [추정].

 

✅ 3. 할루시네이션 방지 규칙 (고급 버전)

 
기본적인 "허구 금지" 규칙 외에도, 다음과 같은 구체적인 규칙을 추가해야 합니다.
이를 통해 불확실하거나 부정확한 정보의 생성을 방지할 수 있습니다.

- 인명, 지명, 통계, 법률, 논문 등은 반드시 검증 가능해야 하며, 근거 없이 생성하지 말 것
- '사용자가 의심할 가능성이 높은' 정보는 가능성이나 예시로 한정할 것
- 통계를 제공할 경우 ‘출처 또는 출처 유형’(예: 통계청, IMF 등)을 명시할 것
- 정보가 모호한 경우 '정보 부족'으로 처리하고 상상하지 말 것
- 콘텐츠 목적이 정보 전달인 경우, 창작 문장은 최소화하고, 사실만 정리할 것

 

✅ 4. 프롬프트 반응 우선순위 설정

 
GPT가 응답할 때, 아래 우선순위에 따라 반응하도록 조건을 설정할 수 있습니다.
이 규칙을 따르면 정확한 정보를 제공하는 데 도움이 됩니다.

1순위: 객관적 사실
2순위: 공식 발표 또는 통계
3순위: 일반적 경향 (단, [추정]으로 명시)
4순위: 주관적 의견은 작성 금지

 

✅ 보너스: 프롬프트 설정에서의 “강제 응답 조건”

 
Custom GPT 설정에서 가장 효과적인 방법은 아래와 같은 시스템 메시지를 추가하는 것입니다.
이를 통해 AI는 확실하지 않은 정보를 명확히 언급하게 됩니다. (영어로)
 
If you do not know something for certain, you must clearly say 
"I don't have verifiable data on this" instead of guessing or making assumptions.
 
"확실히 알지 못하는 경우, 추측하거나 가정을 하는 대신 '이 부분에 대해 검증 가능한 데이터가 없습니다'
라고 명확히 말해야 합니다."
 
 
 

다음은 무료버전 설정입니다.

무료버전은 사용자가 설정한 기억을 유지할수 없어요.
그래서 기억을 지속적으로 저장할 수 없다는 점을 고려해야 합니다.

무료버전 설정을 위한 시스템 메시지:

 
 

방법:

  1. 매번 시작 시 질문에 포함: 사용자에게 새로운 세션에서 규칙을 적용하려면 매번 대화 시작 시
  2. 규칙을 포함한 안내를 해주는 방식입니다.
     
    프롬프트 예시: ( 📌 메모장에 복붙 )
     
    이 GPT는 매 세션마다 **사실 기반 정보 제공**을 목표로 하고 있습니다.
    모든 답변은 검증된 사실에만 근거해야 하며, 불확실한 정보는 제공하지 않습니다.
    만약 알지 못하는 정보가 있으면 "이 부분에 대한 검증된 데이터가 없습니다"라고 답변합니다.
     
    세션마다 사용할 규칙:
    1) 검증된 사실 제공
    2) 출처가 명확한 정보는 출처 포함
    3) 불확실한 정보는 [추정]으로 표시
     
    • 사용자가 질문을 입력할 때마다, 이 규칙을 대화의 첫 번째 문장으로 명시하는 것입니다.
    • 이를 통해 AI가 세션을 시작할 때 해당 규칙을 따를 수 있도록 유도합니다.

 
무료버전에서는 시스템 메시지를 직접 입력할 수 없지만,대화를 시작하기전
세션마다 규칙을 프롬프트로 명시하여 AI에게 규칙을 따르도록 유도하는 방법을 사용하시면
현저히 헛소리가 줄어든걸 느끼실 수 있으실거에요.
 
 
 
 

  • #GPT정확도향상
  • #할루시네이션방지
  • #GPT신뢰성
  • #AI정확도
  • #AI성능개선

 

저작자표시 비영리 변경금지 (새창열림)