‘AI 감속’ 공감해도 멈추면 낙오…‘죄수의 딜레마’ 빠진 빅테크

다리오 아모데이, 샘 올트먼, 데미스 허사비스.(왼쪽부터)

최첨단 인공지능(AI) 개발 속도를 늦춰야 한다는 공감대가 업계에서 커지고 있지만 구체적인 실행 방식을 놓고는 의견이 엇갈리고 있다. 규제 주체와 적용 시점·통제 기준을 둘러싼 이해관계가 얽혀 있어 현실화까지는 적잖은 진통이 예상된다. 월스트리트저널(WSJ)은 “전형적인 ‘죄수의 딜레마’”라고 표현했다.

미국 정보기술 전문매체 디인포메이션은 13일(현지시간) 앤트로픽·오픈AI·구글이 AI 산업의 표준기구 설립을 물밑에서 논의해왔다고 보도했다. 최첨단 모델의 안전성을 평가할 공동 체계를 마련하기 위한 ‘사전 작업’으로 해석된다. 이들 기업은 지난 7월부터 C레벨 이하 실무진으로 구성된 그룹에서 정기 회동을 해왔으며 지난주까지도 논의를 이어간 것으로 전해졌다.

다리오 아모데이 앤트로픽 최고경영자(CEO)의 제안은 외부 검증을 토대로 기업들이 속도를 맞추는 ‘공동 감속’이다. 외부 평가자에게 내부 임직원에 준하는 접근 권한을 부여해 모델과 학습 과정을 점검받는 방식을 골자로 한다. 일정한 위험 능력에 도달할 때마다 안전성을 입증하도록 하는 ‘체크포인트’ 방식을 예로 들었다.

문제는 이런 공동 규칙을 누가 만들고 감독하느냐다. 규제 논의가 프런티어 AI 개발사 위주로 흘러갈 경우 업계 안팎의 강한 반발을 부를 수 있다. 사티아 나델라 마이크로소프트 CEO는 “소수의 주체가 통제해서는 안 되며 생태계와 국가, 학계를 포함한 여러 분야를 폭넓게 대표해야 한다”고 했다.

기업의 자율적인 속도조절만으로는 부족하다는 지적도 나온다. 스튜어트 러셀 미국 UC버클리 교수는 개발 속도를 낮춰 안전기술이 따라올 시간을 벌겠다는 접근에 관해 “순서가 완전히 뒤바뀌었다” “안전요건을 정하고, 이를 충족할 때만 추가 진전이 이뤄져야 한다”고 말했다. 미국 정부가 구축 중인 프런티어 모델의 자발적 사전 평가 체계를 의무화하는 방안도 거론된다.

규제를 어느 개발 단계에 적용하는지에 따라 희비가 엇갈릴 수 있다. 대규모 연산자원을 사용하는 훈련을 제한하면 거대 개발사가 주된 규제 대상이 된다. 반면 모델을 내려받아 수정·활용할 수 있게 하는 ‘가중치’ 공개까지 심사하면 오픈소스 진영과 소규모 스타트업의 부담이 커진다. 자칫 안전 심사가 후발 기업의 기술 개발을 가로막는 ‘진입장벽’이 될 수 있다.

안전 기준의 ‘레드라인’을 설정하는 과정 자체에서도 상당한 진통이 예상된다. AI가 다음 AI 개발을 돕는 ‘재귀적 자기개선’(RSI)이나 인간 능력을 뛰어넘는 ‘초인공지능’(ASI) 등이 위험 수위로 거론되지만, 이 개념들을 표준화한 정의는 아직 없다. 구체적인 평가 항목과 기준을 정하지 않으면 같은 모델을 두고도 기업과 평가기관의 판단이 엇갈리며 규제 실효성이 떨어질 수 있다.

WSJ는 “전형적인 ‘죄수의 딜레마’”라고 표현했다. ‘죄수의 딜레마’란 따로 갇힌 죄수들이 상대의 배신을 염려해 자신과 상대방 모두에게 나쁜 결과를 초래하는 선택을 하는 상황을 말한다. 만약 앤트로픽이 개발 속도를 늦췄는데도 오픈AI가 멈추지 않으면 앤트로픽은 바로 오픈AI에 뒤처질 수밖에 없는 것이다. 모델 훈련과 데이터센터 비용을 감당하기 위해 막대한 규모의 외부 투자금을 끌어들여 경쟁하는 구조 속에서 누구도 자발적으로 먼저 속도를 늦추려 하지 않을 가능성이 크다.

국내 한 AI 개발사 관계자는“AI는 기술 변화가 너무 빨라 하나의 표준을 만들기도 쉽지 않고, 구속력이 있을지도 불분명하다”면서 “(소수 프런티어 랩이) 자신들의 최고치를 맘껏 보여준 뒤 속도를 늦추자고 주장하는 데 동의할 수 있는 기업은 많지 않을 것”이라고 말했다.