“클로드가 차세대 클로드 만든다”…앤트로픽 AI 연구개발 26% 주도

광고

앤트로픽이 자사 인공지능(AI) 모델 ‘클로드’가 인공지능 연구개발 업무의 26%를 주도하고 있다고 밝혔다.

앤트로픽은 17일(현지시각) 자사 누리집에 ‘인공지능 최전선 연구소 내부의 인공지능 개발 속도를 파악하기 위한 측정 지표’라는 제목의 블로그 글을 올려, 자사에서 인공지능을 연구개발에 활용하는 각종 수치를 공개했다. 앤트로픽은 이같은 자료 공개 이유에 대해 “세계가 최전선 인공지능 개발 속도를 늦추는 방안을 검토하는 가운데 대중에게는 더 많은 정보가 필요하다”며 “이러한 측정 결과를 공개하는 것은 대중과 제3자, 정부가 최전선 인공지능 연구소 내부의 개발 속도를 더 잘 파악할 수 있도록 하기 위한 것”이라고 밝혔다. 앞서 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 자신의 블로그에 인공지능이 다음 세대 인공지능 모델을 만드는 데 관여하는 정도가 빠르게 높아지고 있으며 이 같은 흐름이 인간 통제 능력을 앞지를 수 있다고 우려하면서 개발 속도를 조절하자고 주장한 바 있다. 이번 정보 공개로 최전선 연구소 내부와 대중 사이의 정보 격차를 줄이겠다는 취지다.

앤트로픽은 이날 크게 △차세대 인공지능 모델 구축에 인공지능 자체가 관여하는 정도 △앤트로픽 시스템에서 인공지능 에이전트의 행동을 감독하고 개입할 수 있는 정도 △더 뛰어난 모델 개발에 쓰이는 컴퓨팅 자원 배분 등 세 가지 지표를 공개했다.

광고

회사는 우선 지난달 기준 클로드 모델이 앤트로픽 인공지능 연구개발 업무의 26%를 ‘주도’(AL4)하고, ‘협업’(AL3) 이상이 차지하는 업무 비중은 90%가 넘는다고 밝혔다. 앤트로픽은 자동화 수준 측정에 인공지능 연구기관 에포크 에이아이가 개발한 6단계 ‘자동화 수준’(AL·Automation Level) 척도를 활용했다. AL4인 ‘주도’는 사람이 큰 방향만 제시하고 감독하면 인공지능이 업무 대부분을 처음부터 끝까지 수행할 수 있는 단계다. AL5는 사람의 개입 없이 인공지능이 업무를 완전히 자율적으로 수행하는 단계로, 여기에 해당하는 연구개발 업무는 없었다. AL3 단계는 사람의 긴밀한 지시 아래 인공지능이 업무의 상당 부분을 맡는 수준이다.

앤트로픽이 공개한 수치를 보면, 올해 2월만 해도 인공지능의 연구개발 주도 비중이 1% 미만이었는데 6개월 사이에 26%까지 높아졌다. 회사는 이 같은 지표를 공개하는 이유 가운데 하나로 ‘재귀적 자기개선’(RSI)이 얼마나 가까워졌는지 파악할 필요성이 있다고 설명했다. 재귀적 자기개선은 인공지능 모델이 사람의 개입 없이 차세대 모델을 자율적으로 개발하는 상태를 뜻한다.

광고

광고

인공지능의 연구개발 활용이 늘면서 이들의 감독 필요성도 커지고 있다. 앤트로픽은 인공지능 에이전트의 행동을 실행 전과 후에 각각 모니터링해 이들의 판단과 행동을 검토한다고 설명했다. 회사는 지난달 기준 내부의 한 플랫폼에서 일정 시점에 3만개의 인공지능 에이전트와 연구·엔지니어링 업무를 수행했는데, 이들이 내린 10억건이 넘는 결정 가운데 0.002%의 비율로 실행을 차단했다고 밝혔다.

앤트로픽은 인공지능 개발에 쓰이는 컴퓨팅 자원 가운데 안전 연구에 할당하는 비율도 함께 공개했다. 지난 7월 13~20일 일주일 동안의 사용량을 분석한 결과, 인공지능 연구개발에 투입된 컴퓨팅 자원의 6∼12%가 안전 관련 업무에 사용했다.

광고

앤트로픽은 향후 이 같은 내부 측정치를 자체 평가에만 맡기지 않겠다는 계획도 밝혔다. 앤트로픽은 “독립적인 제3자 평가자들을 앤트로픽에 두고, 내부 위험 평가팀이 갖는 것과 비슷한 수준으로 내부 절차와 시스템, 데이터에 접근할 수 있도록 할 계획”이라고 했다.