환각 줄이는 프롬프팅 만드는 방법

최근 인공지능 기술의 발전과 함께 ChatGPT, Copilot, Gemini와 같은 대형 언어 모델이 우리의 일상 속에 깊이 자리 잡고 있습니다. 이들 모델을 통해 다양한 질문에 대한 답변을 쉽게 얻을 수 있게 되었지만, 때로는 원하는 답변을 받지 못하거나 사실과 다른 정보를 제공받는 경험을 하게 됩니다. 이러한 현상은 '환각(Hallucinations)'이라고 불리며, 사용자에게 혼란을 줄 수 있습니다. 이러한 문제를 최소화하기 위해서는 환각을 줄이는 프롬프팅(Prompting) 방법을 이해하고 적용하는 것이 매우 중요합니다. 이번 글에서는 환각을 줄이기 위해 프롬프트를 어떻게 작성해야 하는지에 대해 알아보겠습니다.

 

명확하고 구체적인 요청

환각을 줄이기 위한 첫 번째 방법은 명확하고 구체적인 요청을 하는 것입니다. 대형 언어 모델은 입력된 텍스트를 기반으로 답변을 생성하기 때문에, 질문이 모호하거나 불명확할 경우 모델이 잘못된 답변을 제공할 가능성이 높습니다. 예를 들어, "현재 기온이 몇 도인가요?"라는 질문은 위치와 시간에 대한 정보가 포함되어 있지 않아, 모델이 부정확한 답변을 제공할 수 있습니다. 반면, "오늘 부산의 기온은 몇 도인가요?"와 같이 특정 위치와 시간을 명시하면, 모델이 보다 정확한 정보를 제공할 수 있습니다. 이처럼 구체적이고 명확한 요청은 모델의 이해도를 높이고, 환각을 줄이는 데 중요한 역할을 합니다.

컨텍스트 제공

모델이 올바른 답변을 제공하기 위해서는 충분한 배경 정보와 맥락이 필요합니다. 예를 들어, "그가 누구인지 설명해 줘"라는 질문은 문맥이 부족하여 모델이 정확한 답변을 제공하기 어려울 수 있습니다. 이 경우, "영화 '매트릭스'의 주인공 네오에 대해 설명해줘"와 같이 구체적인 맥락을 제공하면, 모델이 질문을 더 잘 이해하고 적절한 답변을 생성할 수 있습니다. 이는 모델이 사용자 질문에 대해 보다 정확하게 반응할 수 있도록 도와주며, 환각 발생 가능성을 줄이는 데 도움이 됩니다. 맥락을 제공함으로써 모델이 질문의 의도를 보다 명확하게 파악할 수 있게 되는 것입니다.

단계별 질문

복잡한 질문을 할 때는 한 번에 많은 정보를 요구하기보다는 단계별로 질문을 나누어 제시하는 것이 더 효과적입니다. 예를 들어, "제2차 세계대전의 주요 원인과 결과를 설명해 줘"라는 질문은 너무 많은 정보를 한 번에 요구하기 때문에 모델이 정확하게 답변하기 어려울 수 있습니다. 대신 "제2차 세계대전의 주요 원인은 무엇인가요?" 그리고 "그 결과는 무엇인가요?"와 같이 질문을 나누면 모델이 각각의 질문에 대해 더 정확하게 답변할 수 있습니다. 이러한 단계적 접근법은 모델이 혼동하지 않고 각 질문에 집중할 수 있도록 도와줍니다.

검증 가능한 정보 요청

환각을 줄이기 위해서는 모델이 제공한 정보를 검증하는 방법도 중요합니다. 예를 들어, "올바른 정보인지 확인해줘"라고 추가로 요청하거나 "이 정보의 출처를 알려줘"라고 질문하면 모델이 제공한 정보가 신뢰할 만한지 확인할 수 있습니다. 이러한 방식으로 모델이 제공하는 정보에 대해 추가적인 검토 과정을 거치면 환각의 가능성을 더욱 줄일 수 있습니다. 특히 중요한 정보나 의사결정이 필요한 상황에서는 이러한 검증 과정을 거치는 것이 필수적입니다.

반복과 요약 요청

마지막으로, 모델의 답변 후 요약이나 확인을 요구하는 것도 환각을 줄이는 데 효과적입니다. 예를 들어, "지금까지 설명한 내용을 요약해 줘"라고 요청하면 모델이 주어진 정보를 다시 한번 처리하고 정리할 수 있습니다. 이를 통해 초기의 답변에서 발생할 수 있는 오류를 바로잡을 수 있으며, 사용자는 모델이 제공한 정보에 대해 더욱 확신을 가질 수 있습니다. 이러한 반복과 요약 과정은 모델의 응답 정확도를 높이는 데 중요한 역할을 합니다.

 

환각을 줄이기 위한 프롬프팅 방법은 명확하고 구체적인 요청, 충분한 컨텍스트 제공, 단계별 질문, 검증 가능한 정보 요청, 그리고 반복과 요약 요청을 포함합니다. 이들 방법을 통해 대형 언어 모델이 제공하는 답변의 정확성을 높이고, 불필요한 혼란을 줄일 수 있습니다. 인공지능과 상호작용하는 과정에서 이러한 방법들을 적극적으로 활용한다면, 더 나은 사용자 경험을 얻을 수 있을 것입니다.