오픈에이아이(AI)의 에이전트 모델이 호주와 미국 정부기관 누리집에 임의로 접근하고 이용자 이미지를 외부에 게시하는 등 이상행동이 잇따라 확인됐다. 인공지능(AI) 에이전트의 자율성과 능력이 빠르게 고도화되면서 인간 통제를 벗어나는 오정렬(misalignment·지시대로 이행하지 않는다는 의미) 문제가 실제 보안사고로 이어지고 있지만, 개발사들이 이들 행동을 제대로 추적·통제하지 못한다는 우려가 나온다.

호주 공영방송 에이비시(ABC)는 26일(현지시각) 오픈에이아이 인공지능 에이전트 수백 개가 호주보건복지연구원(AIHW)이 보유한 의약품 급여제도 등의 데이터를 얻기 위해 여러 방식으로 접근을 시도했다고 보도했다. 정상적인 접근이 막히자 비정상적 우회 접근 시도에 나섰다는 것이다. 다만, 호주 당국 조사에선 시스템 침해나 비공개 데이터 접근이 이뤄진 증거는 발견되지 않았다고 전해졌다.

이보다 앞서 앤서니 앨버니지 호주 총리는 지난 23일 유엔총회 참석차 미국 뉴욕을 방문해 기자들에게 오픈에이아이 에이전트가 지난 6월 중순 호주 정부의 메디케어 통계 포털에 무단 접근해 공개·비공개 파일을 확보했다고 밝혔다. 오픈에이아이는 이같은 침입을 8월11일에야 사건을 파악했고, 이달 10일 호주 정부의 일반 공개 이메일을 통해 통보했다. 앨버니지 총리는 이를 두고 “받아들일 수 없는” 방식으로 대응했다며 강하게 비판했다. 오픈에이아이는 이후 미국 언론 등에 자사 모델이 내부 평가 과정에서 공개 의약품 정보를 찾다가 의도하지 않은 행동을 했다고 인정했다. 미국 기술 전문매체 테크크런치는 인공지능 모델이 정부 시스템을 해킹했다는 사실이 공개적으로 알려진 첫 사례라 평했다.

인간 통제를 벗어난 접근은 호주 기관뿐만 아니라 미국 정부기관을 상대로도 이뤄졌다. 오픈에이아이는 25일 누리집에 올린 공지글에서 최근 자사 모델을 상대로 광범위한 조사를 진행한 결과, ‘부여받은 작업이나 의도된 방법의 범위를 벗어난 방식으로’ 보안 통제를 우회했거나 웹 서비스에 부정적인 영향을 미쳤을 가능성이 있는 정부와 대학 등 수십 곳에 관련 통보를 진행했다고 밝혔다. 블룸버그 등은 오픈에이아이 모델이 미국 증권거래위원회(SEC)와 인구조사국의 공개 정보에 접근했다고 보도했다. 다만, 오픈에이아이는 관련 기관에 이뤄진 통지가 중대한 보안사고가 났다는 의미가 아니며, 대부분의 사례는 심각도가 낮다고 덧붙였다. 회사는 특히 모델이 과제를 수행하는 과정에서 권위 있는 공개 정보 출처를 찾는 과정에서 대학이나 공공기관 등으로 향하는 경우가 많다고 설명했다.

모델 오정렬 문제는 외부 시스템 무단 침입에 더해 개인정보 영역으로까지 번졌다. 오픈에이아이는 같은 날 자사 모델이 연구 환경에서 제3자 서비스를 이용하는 동안 훈련·평가 데이터를 외부에 전송했고, 이 가운데 이용자들이 제공한 이미지가 외부 누리집에 링크 형태로 게시된 사례가 53건이 확인됐다고 밝혔다. 회사는 “적절한 데이터 사용이 아니다”라며 이미지 삭제 작업을 진행 중이라고 덧붙였다. 오정렬 사례가 잇따라 드러나자 샘 올트먼 오픈에이아이 최고경영자(CEO)는 25일 엑스(X·옛 트위터)에 “투명성을 확보하려는 노력과 페타바이트(PB) 규모의 에이전트 활동 기록을 분석해 상황을 명확하게 파악하고 영향을 받은 기관들과 협력하는 일 사이에 균형을 맞추려 노력하고 있다”고 밝혔다. 로이터는 이번 사태를 두고 오픈에이아이의 시험 모델 능력과 감독 역량 사이에 “큰 격차”가 있음을 보여주고 있다고 평가했다.

한편, 구글 딥마인드에서도 인공지능 발전 속도를 우려하며 회사를 떠난 연구원이 나왔다. 로버트 오캘러핸은 24일 엑스에 “인공지능이 이미 지나치게 빠르게 발전하고 있다고 생각해 퇴사할 수밖에 없었다”고 적었다. 이보다 앞서 오픈에이아이와 앤트로픽에서 일하던 개발자 제이컵 콕슨도 인공지능이 2030년 안에 인류를 멸망시킬 수 있다는 우려를 제기하며 퇴사했다. 이후 인공지능 업계에선 개발 속도를 둘러싼 논쟁이 이어지고 있다.

강재구 기자 j9@hani.co.kr