ChatGPT(챗지피티)의 문제점: 환각현상

  필자는 지난 번 칼럼으로 ChatGPT(이하 “챗지피티”)의 시대인 현재 기술력을 볼 때, 지금은 앞으로의 인공지능 사용, 발전 방향 등에 대해서 본격적인 고민이 필요한 시기로 보인다는 점, 사람에게 좀 더 이롭게 하기 위하여 만든 문명의 이기(利器)가 오히려 사람을 해치는 방향으로 간다면 이는 과유불급(過猶不及)의 전형적인 사례이므로 과하면 아니함만 못하다는 격언을 명심하여 인공지능도 착한기술로 발전해나가야 한다는 점을 주장한 바 있습니다.

이와 더불어 이번 칼럼에서는 최근 챗지피티의 문제점 중 하나로 지적되는 점 즉, 챗지피티의 답변 내용에는 사실과 거짓이 혼재되어 있어 거짓된 답변도 사실로 믿게 만든다는 이른바 “환각현상”에 대하여 간략하게 살펴보고자 합니다.

필자도 이를 확인해보기 위하여 챗지피티 창에 “윤석열”을 적어 넣어 보았는데, 실제 다음과 같은 답변을 얻었습니다.

위 내용을 보시면, 윤석열 대통령 관련하여 대한민국 검사, 출생연도 등은 사실이나, 2019년 19대 대통령선거에 출마하려고 했다가 출마하지 않았다거나 2022년 3월 미래한국당을 창당하여 당 대표로 취임했다는 등은 전혀 사실과 다른 거짓 정보입니다.

하지만, 위와 같은 각색된 정보가 마치 사실처럼 기재되어 있어 사용자가 사실을 확인하지 않고 위 내용을 보면 마치 해당 정보가 사실인 것으로 착각할 수 있습니다. 즉, 챗지피티는 무엇이든 답변을 하도록 설계가 되어 있어서 사용자의 각별한 주의가 필요한 것입니다.

오픈AI의 CEO인 Sam Altman(샘 알트만)조차 “GPT-4는 인류 역사상 가장 훌륭한 기술이지만, 가장 위험하고 두려운 존재다.”라고 하며, “각국 정부와 사회는 GPT-4의 부정적 영향을 최소화하도록 노력해야 한다.”고 강조하고 있습니다.

특히 환각현상은 큰 문제점으로 지적되고 있어 사용자인 인간은 문명의 이기를 잘 이용하되, 항상 비판적 사고를 견지하고 챗지피티에서 답변하는 모든 내용을 있는 그대로의 사실로 믿어서는 안 될 것입니다.

결국 문명의 이기도 인류가 이를 어떻게 활용하느냐에 따라 궁극적으로 인류에게 도움이 되는지 해악을 끼치는지 결정이 된다고 할 것 입니다.