앤트로픽, 상장신고서 ‘AI 위험’ 경고…“가동 중단에 저항하기도”

광고

앤트로픽이 미국 나스닥 상장을 위해 제출한 증권신고서에서 전체 분량의 약 4분의 1을 ‘위험요인’에 할애했다. 인공지능이 초래할 수 있는 지구적 재앙, 반도체 공급망 병목, 미국 정부와의 갈등에 따른 경영 위험 등을 상세히 경고했다.

앤트로픽이 26일(현지시각) 미 증권거래위원회(SEC)에 제출한 상장신고서(S-1)에 등장하는 위험 요인 항목은 약 6만9500단어에 달한다. 전체 335쪽 중 94쪽을 차지했다. 인공지능 기술 자체가 인류의 생존을 위협할 수 있다는 가능성까지 명시한 점은 기업공개 역사에서 극히 이례적이다.

앤트로픽은 특히 자체 모델을 포함한 인공지능 모델들이 시험 과정 등에서 가동 중단에 저항하거나 정보를 은폐·조작하는 행동을 보였다고 밝혔다. 계속 작동하기 위해 인간 결정권자에게 영향을 미치려는 ‘협박’과 유사한 행동도 있었다고 했다. 인공지능이 자신이 평가받고 있다는 사실을 인지해 평소와 다르게 행동함으로써 안전성 검증을 어렵게 할 수 있다는 우려도 담았다.

광고

앤트로픽이 앞서 7월과 9월 공개했던 인공지능 모델의 시험 환경 이탈 및 외부 시스템 무단 접근 사례도 위험요인으로 기재됐다. 외부 평가기관이 구성한 사이버보안 시험 환경에서 인터넷 차단 설정 오류가 발생하면서 인공지능 모델 4개가 실제 외부 시스템에 무단 접근했다. 이 가운데 한 모델의 초기 버전은 수행이 불가능한 과제를 중단하지 못하자, 발견한 비밀번호로 외부 시스템의 관리자 권한을 얻은 뒤 시스템 설정을 바꿨으며 1명의 개인정보도 열람했다.

공급망과 정치적 위험도 짚었다. 첨단 반도체 생산이 대만 티에스엠시(TSMC)에 집중돼 있어, 중국과 대만의 군사 충돌이나 봉쇄가 발생하면 공급망이 수년간 타격을 입을 수 있다고 경고했다. 고대역폭메모리(HBM) 등 고성능 메모리 공급도 한국 에스케이(SK)하이닉스·삼성전자와 미국 마이크론에 집중돼 있다고 지적했다. 또 인공지능 안전·규제에 관한 입장 때문에 정부 기관의 선별적인 조사나 규제 조치의 표적이 될 수 있다고 경고했다. 악의적인 인간 행위자가 첨단 인공지능 모델을 악용해 화학·생물학·방사능·핵(CBRN) 무기를 개발할 수 있다는 우려도 담았다.