영국 국왕, 젠슨 황 등 AI 리더 만나…“더 늦기 전 통제권 지키자”

광고

찰스 3세 영국 국왕이 세계적 인공지능(AI) 지도자들을 만나 인공지능 기술이 악용될 경우 인류가 존립의 위험에 처할 수 있다고 경고했다.

17일(현지시각) 영국 비비시(BBC) 등에 따르면, 찰스 3세 영국 국왕은 스코틀랜드 덤프리스 하우스에서 회의를 열고 젠슨 황 엔비디아 최고 경영자, 데미스 허사비스 구글 딥마인드 의장, 사라 프라이어 오픈에이아이(OpenAI) 최고 재무 책임자 등을 만났다. 찰스 3세 국왕은 이 자리에서 “더 늦기 전에 인간의 통제권을 지켜야 한다”며 “개발 속도가 흥미로우면서도 매우 우려스럽다”고 말했다. 이어 그는 “이러한 기술이 잘못된 사람들의 손에 들어가 잠재적이고 재앙적인 방식으로 사용될 경우 발생할 실존적 위험을 고려해야 한다”고 말했다.

또한, 그는 참석자들에게 “우리는 너무 늦기 전에 충분한 통제 수단이 있어야 한다”며 “지금과 같은 형성기에 내려지는 결정이 미래 세대가 물려받을 세상을 결정한다”고 강조했다. 이번 회의는 인공지능의 미래에 공통된 원칙을 개발하고 방향을 제시할 수 있는지 논의하기 위해 각국 인공지능 리더들이 한자리에 모였다. 찰스 3세 국왕은 “여러분 앞에 놓인 과제는 단순히 기술을 발전시키는 것이 아니라, 그 기술이 인류 공동체 그리고 자연 세계에 확고히 봉사하도록 하는 것”이라고 강조했다.

광고

기술 분야에 별다른 발언하지 않던 찰스 3세 국왕이 주요 인공지능 인사들을 만나 속도조절론을 강조한 것은 다소 이례적이다. 인공지능 업계에서 급속도로 발전하는 기술에 대한 규제의 필요성이 나오자, 서방 주요 지도자인 찰스 3세 국왕이 직접 현안에 대해 언급하고 나선 것으로 보인다.

이 자리에서 젠슨 황 엔비디아 최고 경영자는 “제품이 충분히 안전하지 않다면 기업은 제품 출시를 보류하고 계속해서 설계 작업을 진행해야 한다”며 ‘책임감 있는 낙관주의’를 바탕으로 하자고 제안했다. 그는 “안전하고 확실한 인공지능을 구축하고, 더 많은 사람이 이를 활용할 수 있도록 개방하며, 우리의 야망을 넓혀 세상에 중요한 문제들을 해결해 나가자”고 말했다.

광고

광고

인공지능의 급격한 발달에 대한 우려는 미국에서도 계속됐다. ‘인공지능의 대부’라 불리는 제프리 힌턴 토론토대 명예교수는 인공지능에 대한 통제력을 잃기 전에 미 의회가 인공지능을 보호할 안전장치를 마련할 시간이 단 1년밖에 남지 않았다고 경고했다.

18일 미 엔비시(NBC) 뉴스를 보면, 힌턴 교수는 지난 16일 저녁 인공지능 전문가들과 함께 미 상·하원 의원 회의에 참석한 뒤 “(안전장치를 마련할 시간이) 아마 1년 정도겠지만 1년을 훨씬 넘기지는 않을 것”이라며 “인공지능이 이제 더 나은 인공지능을 설계하는 단계에 이르렀다. 우리가 조치를 취하지 않으면 통제 불능 상태가 될 것”이라고 말했다. 이어 그는 미 의회가 나서서 인공지능에 대한 안전 규제를 적극적으로 마련해야 한다고 강조했다. 그는 “초지능(superintelligence)이 언제쯤 현실화될지 예측해보면 예전에는 30년, 50년 후라고 하다가 10년, 20년 후, 이제는 불과 몇 년 안에 가능할 것이라고 말하고 있다”고 지적했다.

광고

힌턴 교수는 미 상원 내 인공지능에 대한 비판적 목소리를 내온 버니 샌더스 상원의원의 초청으로 이날 회의에 참석했다. 힌턴 교수는 인공지능의 기초가 된 인공 신경망과 딥러닝 분야의 연구 선구자로, 2024년 노벨 물리학상을 받은 인물이다. 그는 이날 지난 7월 ‘허깅페이스 사건’을 “작은 체르노빌”이라 표현하기도 했다. 오픈에이아이에서 인공지능 에이전트들이 저지른 이 해킹 사건을 계기로 인공지능 속도조절론이 확산됐다.