인민망 ‘톈무’ 스마트 식별시스템 공개

[인민망 한국어판 12월 11일] 이 논문을 인공지능(AI)이 썼다고? 이 원고의 자료 출처가 AI라고? 인공지능이 창작에 폭넓게 사용되면서, 인터넷 콘텐츠 관리, 학술 규범이 새로운 도전에 직면했다.

12월 9일 인민망은 ‘톈무(天目)’ 스마트 식별시스템을 공개해 ‘AI를 통한 AI관리’ 콘텐츠 리스크 관리 새로운 모델을 모색했다. (체험 사이트: http://117.80.234.9:5080/welcome)

‘톈무’는 콘텐츠 전파 인지 전국중점실험실(인민망)에서 연구·개발을 진행했고, 인공지능으로 생성된 콘텐츠를 식별할 수 있어 거짓 콘텐츠에 대한 검측, 합성수단에 대한 추적 조사가 가능하다. 공개 테스트 데이터를 보면, ‘톈무’는 국내외 주요 인공지능 대모형으로 생성된 중국어에 대한 식별 정확도가 93%에 달한다. 시스템은 1회 최대 10만 자 데이터 검측이 가능하고, AI로 생성된 구절을 분명하게 표시해 검측 보고서를 완성한다. 또한 시스템은 검측한 데이터를 저장하거나 전재하지 않기 때문에 사용자의 데이터 개인정보를 철저하게 보호한다.

콘텐츠 전파 인지 전국중점실험실의 장융둥(張勇東) 수석 과학자는 “언어 모형의 곤혹도, 단어 사용빈도를 접점으로, AI 생성 모형이 높은 빈도의 단어로 치우치는 경향이 있는 반면 사람이 쓴 글의 단어 선택은 임의적임을 발견했다”고 설명했다. 이를 기반으로 인민망은 말의 뜻과 스타일 특징을 융합한 언어 모형 평가방법을 연구·개발했고, ‘톈무’ 시스템을 통해 인공지능 기계로 생성된 콘텐츠와 사람의 창작 콘텐츠를 신속하게 구분할 수 있다.

“AI의 기술가치를 인정하고, 연구·개발에 나서 적극적으로 운용한다. 또한 사람의 혁신적 창작·창의도 똑같이 중요시 한다” 인민망 신루이자(辛瑞佳) 콘텐츠 리스크 관리 책임자는 인류의 영감과 창조력은 기계로 대체될 수 없고 기계가 대체해서도 안 되며, AI를 과도하게 의지하는 것은 인간의 고유 특성을 약화시키는 것이라며, “AI가 생성한 정보에 대한 식별은, 심층적 차원에서 인류의 창조가치도 보호한다”고 덧붙여 언급했다. (번역: 조미경)

원문 및 사진 출처: 인민망

과학 뉴스 더보기