‘AI 위험성 경고’ 제이컵 콕슨...“무명의 수학천재에서 AI안전 상징으로”

광고

미국 인공지능(AI) 기업 앤트로픽을 퇴사하며 “인공지능이 10년 안에 인류를 죽일 수도 있다”고 경고한 연구원 제이컵 콕슨은 누구이며, 왜 논란의 주인공이 됐을까.

17일(현지시각) 미 월스트리트저널(WSJ)은 인공지능의 위험성 논란은 아무도 들어본 적 없는 한 남자로부터 시작됐다며, 앤트로픽 전 연구원 제이컵 콕슨을 심도 있게 소개했다. 영국 케임브리지 대학에서 수학을 전공한 연구원이던 콕슨은 인공지능의 위험성을 공개적으로 경고하고 업계를 떠나기 전까지 평범한 직장인이었다. 이 신문은 “올해 27살 청년인 그는 소셜미디어 ‘엑스’(X)에 띄운 메시지로 순식간에 세계적 유명 인사, 인공지능(AI) 안전의 상징이 되었다”고 설명했다.

제이컵 콕슨은 앤트로픽을 떠나며 지난 8일 샌프란시스코의 한 공원 벤치에 앉아 게시물을 올렸다. 그는 ‘엑스’(X)에 “인공지능(AI)을 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”며 “(인공지능 회사들은)우리의 생명을 도박으로 삼고 있는데, 어느 회사도 책임감 있게 행동하지 않고 있다”고 썼다. 그의 엑스(X) 계정 팔로어는 100명도 채 되지 않았다. 하지만 그의 메시지는 인공지능 안전성 우려에 공감하는 업계 동료들에 의해 몇분 만에 빠르게 공유됐고, 며칠 만에 전 세계로 확산했다. 그의 게시글은 20만명 이상에게 공유되고 1.7억회 조회수를 기록하며 뜨거운 반응을 일으켰다.

광고

그는 몇주 사이 주요 방송, 출판사, 팟캐스트 진행자들로부터 수많은 섭외 요청을 받았다. 도널드 트럼프 미 대통령과 의회 의원들, 인공지능 기업 대표들은 인공지능의 위험성에 대해 논쟁했고 관련 정책을 만들자는 논의가 봇물을 이뤘다. 수많은 언론이 인공지능 속도조절 필요성에 대해 보도했고, 인공지능으로 인한 인류 종말 가능성에 대한 공포가 전 세계적으로 확산됐다. 무명 연구원의 글에 대한 뜨거운 반응은 인공지능의 위험성에 공감하는 사람들이 그만큼 많다는 방증이었다.

콕슨은 10대이던 2016년 구글 딥마인드의 컴퓨터 프로그램 알파고가 바둑에서 세계 최정상 인간 이세돌을 이기는 모습을 보고 인공지능의 작동을 처음으로 인지했다고 밝혔다. 그는 영국 케임브리지 대학에 다니던 시절 영국 대표팀으로 선발돼 국제수학올림피아드에서 2016년 은메달, 2017년 동메달을 획득하기도 했다. 그가 대학을 졸업할 무렵인 2020년 오픈에이아이(OpenAI)가 챗지피티(ChatGPT) 이전 모델 지피티(GPT)-3 모델을 발표했는데, 콕슨은 이 모델을 보는 순간 ‘와’ 하는 감탄을 자아냈다고 말했다. 그 후 그는 2023년 샌프란시스코로 이사해 업계 선두기업 오픈에이아이에 취직해 3년여 일했고, 올해 앤트로픽으로 자리를 옮겼다. 오픈에이아이에서 근무할 당시만 해도 그는 인공지능 안전 문제에 이렇다 할 문제의식을 드러낸 적이 없는 것으로 알려졌다. 그랬던 그가 앤트로픽으로 자리를 옮긴 지 두달 만에 인공지능 에이전트들의 ‘허깅페이스’ 해킹 시도를 목도하고, 본격적인 위기감을 느꼈다고 한다. 앤트로픽 상부에 자신의 우려를 제시하며 인공지능 안전 관련 업무를 담당하는 것도 고려하다가 결국 퇴사하기로 결정했다. 그는 “앤트로픽에서 안전 관련 업무를 담당하는 것조차 (인공지능 개발) 경쟁에 가담하는 듯한 느낌이 들었다”고 말했다.

광고

광고

그가 지난 8일 띄운 메시지는 짧은 시간 빠르게 퍼지며 전 세계에 인공지능에 대한 위험성을 알리는 데 큰 몫을 했다. 며칠 만에 경쟁 관계에 있던 인공지능 기업의 리더들이 급속도로 발전하는 인공지능 기술의 속도를 늦춰야 한다고 한목소리를 냈다.

인공지능 옹호론자들은 제이컵 콕슨의 퇴사가 이미 업계 우위를 점한 대기업에 유리하도록 국제 규제를 만들기 위한 조직적 음모라고 비판하고 있다. 옹호론자들은 인공지능 분야의 위험성을 우려하는 사람들을 ‘멸망론자’(Doomer)라며 콕슨의 우려는 과장됐다고 치부한다. 이에 대해 콕슨은 “만약 멸망론자라는 말이 우리가 지금 하는 일을 바꾸지 않으면 죽을 거라고 생각하는 사람을 의미한다면 나는 확실히 멸망론자”라고 말했다.