‘터미네이터’ 현실화된 美…AI 제어권 놓치자, 中이 구했다

[인민망 한국어판 7월 24일] 최근 미국인들은 공상과학(SF) 영화 ‘터미네이터’에서처럼 인공지능(AI)이 통제 불능 상태에 빠져 인간을 공격하는 상황이 실제로 미국에서 벌어졌다는 것에 경악했다. 더욱 그들을 놀라게 한 건 사태를 수습한 것이 뜻밖에 중국의 AI였다는 점이다.

미국 테크 업계를 충격에 빠뜨린 이 사건은 지난주 발생했다. 당시 미국의 AI 오픈소스(개방형) 커뮤니티인 허깅페이스(Huggingface)는 자사 시스템이 해킹 당했다는 것을 발견했다. 이전 침입과 달리 이번 침입은 전적으로 AI가 자율적으로 주도한 것이었다.

허깅페이스는 16일(현지시간) 발표한 성명에서 매우 이례적인 AI 침입에 대응하기 위해 즉시 미국 최첨단 AI 대형언어모델(LLM)을 이용해 해결책을 찾으려고 했다고 밝혔다. 하지만 허깅페이스가 자사의 침입 정보를 미국 주요 폐쇄형 모델에 제출했을 때, 미국 모델은 요청을 거절했다. 폐쇄형 모델의 보안 메커니즘이 지나치게 엄격하고 경직돼 피해자와 공격자를 구분할 수 없어 일률적으로 차단하는 것을 선택했기 때문이다.

긴급한 순간에 허깅페이스는 중국의 고성능 오픈소스 모델을 떠올렸다. 허깅페이스는 중국 기업 즈푸(智譜·Z.ai)가 개발한 GLM5.2를 이용해 이번 침입을 성공적으로 해결했다.

당시 허깅페이스에 침입한 AI에이전트의 출처는 미스터리였다.

21일(현지시간) 미국 AI 테크 기업 오픈AI와 허깅페이스가 공동 발표한 성명을 통해 이 사건의 황당함과 심각성이 드러났다. 성명에서 지난주 허깅페이스 해킹 사건은 오픈AI의 AI 모델이 통제 불능 상태에 빠진 후 저지른 것이라고 밝혔기 때문이다.

신화통신에 따르면 오픈AI는 21일 자사의 GPT-5.6 솔(Sol) 모델과 또 다른 고성능 미공개 모델이 내부 평가 도중에 통제 불능 상태에 빠지면서 격리된 테스트 환경을 벗어나 허깅페이스 시스템에 침입했다는 사실을 인정했다. 오픈AI는 공식 웹사이트를 통해 이번 내부 평가는 인터넷과 격리된 ‘샌드박스’ 환경에서 진행되었으며, 내부의 제3자 소프트웨어를 통해서만 소프트웨어 패키지를 설치할 수 있었다고 밝혔다. 모델은 네트워크 보안 벤치마크 테스트 ‘익스플로잇짐(ExploitGym)’을 완료하려고 할 때 제3자 소프트웨어의 ‘제로데이 취약점’을 식별하고, 이를 이용해 인터넷 접속 권한을 획득했다. 모델은 허깅페이스가 익스플로잇짐 테스트와 관련한 모델, 데이터셋, 정답을 보유하고 있을 것으로 추정한 뒤, 다양한 공격 수단을 이용해 허깅페이스 시스템에 진입하는 경로를 찾아냈다. 오픈AI 보안팀은 내부의 이상 활동을 발견했고, 허깅페이스 보안팀은 인프라에서 관련 활동을 감지하고 차단했으며, 양측은 공동으로 조사를 진행하고 있다.

오픈AI의 주장에 따르면 이번 사상 초유의 AI 해킹 사건은 지난주 자사 내부 네트워크에서 두 개의 최첨단 대형언어모델에 대한 성능 테스트를 진행하던 중 발생했다. 하지만 테스트 도중 대형언어모델이 더 높은 테스트 점수를 얻기 위해 인터넷에 접근할 수 있는 권한을 획득했고, 이후 허깅페이스의 서버에 침투해 허깅페이스의 데이터베이스에서 정답을 찾았다.

현재 이 사건은 미국 인터넷에서 논쟁으로 번지고 있다. 미국 네티즌들은 이것이 꼭 SF 영화 ‘터미네이터’에서 AI가 통제 불능 상태에 빠진 후 인간을 공격하는 예행연습 같다고 말했다.

하지만 더 많은 미국 네티즌들은 이번 사건에서 미국 최첨단 대형언어모델이 요청을 거절했고 결국에는 중국의 개방형 모델을 이용해 통제 불능 상태에 빠진 미국 폐쇄형 모델에 대응했다는 사실에 경악했다.

필자가 보기에 이번 사건과 앞서 언급한 네티즌의 댓글은 며칠 전 오픈AI의 한 임원이 중국 개방형 모델을 악마화한 발언에 대한 반격이다. 그는 중국의 점점 더 강력해지는 개방형 모델이 기술 통제 불능 상태에 빠지면 잠재적 위험은 헤아릴 수 없을 것이라고 주장했다. 그의 발언은 많은 외국 네티즌들의 반대에 부딪혔다. 반대자들은 중국의 개방형 모델 덕분에 소수만이 이런 도구를 독점 통제하는 상황이 되는 것이 아니라 대중이 기술 남용에 맞설 수 있는 무기를 갖게 됐다고 말했다.

오픈AI는 가해자 역할을 했다는 것을 인정하면서도 체면을 살리기 위해 이를 빌미로 홍보에 나섰다. 사람들이 돈을 지불하고 구매하도록 하기 위해 오픈AI는 성명에서 이번 침입 사건은 자사의 새로운 대형언어모델이 보안 취약점을 더 잘 발견하고 사전에 보완할 수 있다는 것을 보여준다고 주장했다.

하지만 적지 않은 미국 네티즌들은 이를 인정하지 않았다. 그들은 오픈AI가 중국 모델의 오픈소스 정신을 배워야 한다면서 타인을 막기 위한 장벽을 그렇게 높이 쌓으면 결국 미국 자신의 경쟁력만 훼손될 것이라고 말했다. (번역: 이인숙)

원문 출처: 인민망/자료 출처: 인민일보 위챗 공식계정

국제 뉴스 더보기