기사를 읽어드립니다

0:00

“챗지피티(ChatGPT)와 같은 거대언어모델(LLM·거대한 데이터를 학습해 인간의 언어로 답을 생성하는 인공지능 모델)이 지속적으로 내놓는 부정확한 답을 ‘환각’(hallucinations)이라 불러주는 것은 ‘기술 옹호자’(technology cheerleaders)들이 그 능력을 과대평가하게 만드는 일이다. ‘환각’이 아니라 ‘헛소리’(bullshit)가 더 정확하다.”

‘챗지피티’(ChatGPT)가 출시된 2022년 말 이후 1년여동안 생성형 인공지능의 대표 문제점으로 지목되어온 ‘환각’이란 단어 사용에 문제를 제기하고 이보다는 ‘헛소리’라는 표현이 과학적으로 보다 정확하다는 주장이 학계에서 나왔다.

영국 글래스고우대학(University of Glasgow)의 연구진들이 최근 챗지피티와 같은 생성형 인공지능이 그럴 듯한 거짓 답변을 내놓는 것을 ‘환각’이라 부르지 말고 미국 철학자 해리 프랭크퍼트가 말한 '헛소리(bullshit)' 개념으로 이해해야 한다고 주장하고 나섰다. 정보기술 분야 저널인 ‘정보기술과 윤리(Ethics and Information Technology)을 통해 발표한 ‘챗지피티는 헛소리다’(ChatGPT is bullshit)란 제목의 논문을 통해서다.

이들은 챗지피티 등이 ‘사람처럼’ 말이나 글을 생성하는 것을 목표로 할 뿐 ‘진실에 대해 무관심하고 누군가를 속이려는 의도조차 없다’는 면에서 ‘헛소리’의 특징과 일치한다고 봤다. 해리 프랭크퍼트가 자신의 저서(On Bullshit)를 통해 거짓말과는 구별되는 ‘헛소리’의 특징으로 본 것은 다음과 같다. △자신이 하는 말이 참인지 거짓인지에 대해 무관심함 △속이려는 의도가 없으며 청자에게 특정한 인상만을 주고자 함 △진실 자체에 무관심하다보니 헛소리가 거짓말보다 더 위험할 수 있음 △광고, 정치 연설, 일부 학문 분야 등 현대 사회의 많은 영역에서 헛소리가 만연함 등이다.

실제 생성형 인공지능 열풍이 불어닥친 지난 1년여동안 챗지피티와 같은 인공지능 챗봇은 터무니없는 답변으로 세상을 놀라게했다. ‘세종대왕이 맥북 던진 사건을 이야기해줘’와 같은 질문에도 마치 있었던 일인 것처럼 뻔뻔하게 설명을 늘어놓는 모습은 언론에 지속적으로 보도됐다. 인물에 대한 설명이나 출처조차도 아예 거짓인 경우가 많았다. 그동안 인공지능 업계에서는 이 현상을 ‘환각’이라 부르며 극복해야 할 문제로 여겨왔다.

이에 연구진은 이와같은 ‘헛소리’를 ‘환각’이라 부르며 해결해야 할 문제인 것처럼 다루는 것이 제대로된 과학적 소통을 막는다고 봤다. “헛소리 문제는 해결책을 제시해봤자 효과가 없을 수 있으며 전문가들의 잘못된 노력이 이어질 수 있다”며 “환각이 아닌 헛소리로 정확하게 불러야 과학·기술 분야에서 유용한 소통을 할 수 있을 것”이라는 설명이다.

국내 전문가들 사이에서도 이와같은 논문의 취지에 공감하는 목소리가 나온다. 이원태 아주대 교수(사이버보안학과)는 “이 논문은 ‘헛소리’라는 개념을 통해 거대언어모델의 거짓 발언이나 부정확한 결과물을 보는 관점을 재정립하려는 문제의식을 갖고 있다”며 “진실에 대한 무관심과 오직 특정 효과 만들기에만 집중하는 태도 등 거대언어모델의 한계와 특징을 정확하게 직시하자는 것”이라고 말했다.

임지선 기자 sun21@hani.co.kr