AI 개발 경고음…영국 국왕, AI기업 경영진과 이번주 회담

광고

인공지능(AI)의 급격한 개발을 두고 선두 기업 최고위층이 한목소리로 우려를 나타낸 가운데 찰스 3세 영국 국왕이 인공지능 개발 기업 경영진들과 만날 예정이다.

13일(현지시각) 뉴욕타임스에 따르면 영국 왕실은 이날 성명을 통해 찰스 3세 국왕이 이번주 스코틀랜드 남서부 교육 자선단체 킹스 재단의 본부 덤프리스 하우스에서 인공지능 기업 지도자들과 만난다고 밝혔다.

이 자리에는 엔비디아, 구글, 딥마인드, 오픈에이아이, 앤트로픽 등 주요 에이아이 기업 관계자가 참석할 예정이다. 왕실은 “인공지능이 사회에 이익이 되는 방식으로 개발되고 배치될 수 있는 방안을 논의할 예정”이라고 밝혔다.

광고

다만, 왕실은 성명에 이름을 올린 인공지능 기업들 가운데 누가 실제 참석하는지는 밝히지 않았다. 오픈에이아이는 최고재무책임자(CFO) 세라 프라이어가 참석할 것이라고 밝혔지만, 다른 기업들은 참석 여부 확인 요청에 응하지 않았다.

영국 정부에선 카니슈카 나라얀 인공지능 장관이 참석한다. 또 청년 자선단체 킹스 트러스트와 세계 주요 기업 최고경영자 네트워크인 지속가능시장 이니셔티브 등 국왕이 설립한 자선단체들의 대표도 참석할 예정이다.

광고

광고

이번 모임은 인공지능 업계 내부자들과 인공지능 기업의 최고경영자들이 인공지능 도구들의 위험성과 발전 속도에 경고음을 내는 가운데 열린다.

앞서 지난 7월 오픈에이아이의 인공지능 에이전트 무리가 테스트 환경에서 벗어나 오픈소스 에이아이 모델 공유 플랫폼 허깅 페이스를 해킹하는 사건이 발생하면서 급속한 인공지능 개발에 대한 우려가 크게 확산했다.

광고

이어 과거 오픈에이아이에서 일했던 앤트로픽 엔지니어 제이콥 콕슨이 8일 회사를 그만두며 “인공지능 회사들이 스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다”고 경종을 울렸다. 그는 “이 기술을 개발하는 이들조차 인공지능이 10년 안에 우리 모두를 죽일 수도 있다고 믿고 있다”고 경고했다.

12일에는 다리오 아모데이 앤트로픽 최고경영자(CEO)가 인공지능 개발 속도를 늦춰야 한다고 촉구하는 글을 공개했다. 그는 허깅 페이스 해킹 외에도, 현재 인공지능 모델들이 점점 더 강한 인공지능 도구를 만드는 능력을 갖추고 있다는 점을 문제로 지적했다. 그는 이 과정이 통제되지 않은 채 진행되면 “인간이 이 시스템을 이해하고 통제할 수 있는 능력을 넘어설 수 있다”고 강조했다.

아모데이의 글이 발표된 후 인공지능 개발을 놓고 치열하게 경쟁했던 오픈에이아이 샘 올트먼과 엑스에이아이 일론 머스크, 구글 딥마인드 데미스 허사비스 의장 등도 소셜미디어 등을 통해 아모데이의 주장에 동조했다.

왕실은 찰스 국왕과 인공지능 업계 지도자들의 회동에 대해 “공동체를 강화하고 삶을 개선하는 등 인공지능을 선하게 활용할 방법을 탐색하는 자리가 될 예정”이라고 밝혔다.