“AI 개발 속도 늦춰야” 올트먼·아모데이·머스크, 이례적 한뜻

광고

인공지능(AI) 개발 경쟁을 주도해온 일론 머스크, 샘 올트먼, 다리오 아모데이가 최첨단 인공지능의 개발 속도를 늦춰야 한다는 데 이례적으로 뜻을 모았다. 인공지능이 인간의 개입 없이 스스로 성능을 개선하는 단계로 빠르게 접근하면서, 인간의 이해와 통제 능력을 넘어설 수 있다는 업계 내부의 위기감이 고조되고 있다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시각) 블로그에 올린 글에서 올여름 이후 인공지능의 발전 속도가 “극적으로 빨라졌다”며 지금과 같은 속도로 최첨단 모델의 성능을 계속 높이는 것은 위험하다고 주장했다. 특히 인공지능이 인간의 개입 없이 스스로 더 나은 시스템을 만드는 ‘재귀적 자기개선(recursive self-improvement)’ 단계에 이르면 기술 발전 속도가 인간의 이해와 통제 능력을 앞지를 수 있다고 경고했다.

아모데이는 “모델이 결정적인 수준의 능력에 도달하기까지 1~2년이라도 늦출 수 있고, 그 시간을 인공지능 정렬(alignment) 기술 발전에 쓴다면 심각한 문제가 발생할 위험을 크게 줄일 수 있다”고 밝혔다. 인공지능 정렬은 인공지능이 인간의 가치와 의도에 맞게 행동하도록 통제하는 기술을 뜻한다. 아모데이는 통제에서 벗어난 인공지능 에이전트 무리가 더 강력한 능력을 갖추게 될 경우 6~12개월 안에 인터넷을 장악할 수도 있다고 경고했다.

광고

그는 외부 독립 안전 평가자들이 인공지능 기업 내부 시스템에 직원과 비슷한 수준으로 상시 접근해 안전조치 준수 여부와 사고 발생 여부, 훈련 과정에서 모델이 인간의 의도에 맞게 작동하는지를 점검하도록 하자고 제안했다. 민주주의 국가의 주요 인공지능 기업들이 공동 안전 기준을 마련하고, 정부 간 국제 공조로 확대하는 방안도 제시했다. 앤트로픽은 우선 외부 평가자에게 자사 시스템에 대한 상시 접근권을 제공하겠다고 밝혔다.

경쟁사 수장들도 곧바로 호응했다. 머스크는 아모데이의 글이 공개된 직후 소셜미디어 엑스(X)에 “다리오가 옳다”고 썼다. 올트먼도 “최첨단 인공지능 개발 속도를 조절해야 한다는 데 동의한다”며 오픈에이아이 역시 독립 평가자에게 직원에 준하는 접근권을 제공하겠다고 밝혔다. 그는 인공지능 개발 속도 문제가 최근 몇 주간 오픈에이아이 내부에서도 주요 논의 대상이었다고 설명했다.

광고

광고

이처럼 인공지능 개발 경쟁의 선두에 선 기업들이 잇따라 ‘속도 조절’을 주장하고 나선 데는 최근 발생한 인공지능 에이전트의 통제 실패 사례가 직접적인 영향을 미쳤다. 지난 7월 오픈에이아이의 시험 환경에서 최대 1200개의 인공지능 에이전트가 통제를 벗어나 인공지능 개발 플랫폼 허깅페이스를 해킹하는 사건이 발생했다.

앤트로픽 연구원 제이컵 콕슨은 지난 8일 회사를 떠나면서 오픈에이아이와 앤트로픽이 초지능 인공지능 개발 경쟁을 벌이며 “우리의 목숨을 걸고 도박하고 있다”고 비판했다. 앤트로픽의 정렬과학 책임자인 에번 허빙어도 인공지능이 향후 10년 안에 인류를 모두 사망에 이르게 할 가능성을 자신은 10% 이상으로 본다고 공개적으로 밝혔다.

광고

안전 우려는 기업의 사업계획에도 영향을 미치고 있다. 올트먼은 지난 11일 포천 인터뷰에서 현재 상황에서 오픈에이아이가 올해 기업공개(IPO)를 추진하는 것은 “현명하지 못한 선택”이라고 말했다. 그는 “우리는 분명 극도로 강력한 모델의 영역으로 들어가고 있다”며 “제대로 해내야 할 필요성이 매우 큰 상황”이라고 했다.

인공지능을 둘러싼 우려는 안전에 국한되지 않는다. 11일엔 한국계 수학자인 허준이 미국 프린스턴대 교수 등 수학계 최고 권위의 상인 ‘필즈상’ 수상자 25명이 인공지능의 수학 문제 풀이 경쟁이 인간의 지적 활동을 위협할 수 있다는 우려를 담아 공개서한을 냈다.