나델라 마이크로소프트 CEO “AI에 ‘비상 제동장치’ 필요…내부 위협처럼 통제해야”

사티아 나델라 마이크로소프트 CEO (왼쪽)가 도널드 트럼프 미국 대통령으로부터 8일(현지시간) 국가 기술혁신 훈장을 받고 있다. AFP연합뉴스

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 11일(현지시간) 소셜미디어(SNS) 엑스(X·옛 트위터)에 기업들이 강력한 인공지능 모델을 잠재적인 내부 위협으로 간주하고, 통제를 벗어나는 것을 막기 위한 ‘비상 제동장치’를 마련해야 한다고 말했다고 블룸버그통신이 11일 보도했다. 나델라 CEO는 AI 통제와 관련해 “다시 말해 정보의 제공과 정보에 대한 통제권을 분리해야 한다”고 설명했다.

그는 AI를 ‘내부 위협’처럼 다루자고 제안하면서 그간 기업에서 영향력 있는 내부자를 어떻게 관리해야 하는지 학습해온 내용을 활용할 수 있다고 설명했다. 기업에서 내부자에 대해 신원 확인, 권한 제한, 활동 기록 등을 적용해온 지침을 AI에도 적용할 수 있다는 것이다.

나델라 CEO가 제시한 안전 대책에는 중대한 의사결정을 단일 AI에 의존하지 않는 것, AI의 행동을 위·변조가 불가능한 기록으로 남기는 것, AI 시스템에 독립적인 외부 감사를 적용하는 것 등이 포함됐다. 그는 대규모 AI 사고나 보안 침해가 발생할 경우 이를 공개하고, 기업들이 사고 원인과 경위를 공유해 다른 기업들도 안전장치를 강화할 수 있도록 해야 한다고 촉구했다.

나델라 CEO의 이번 주장은 최근 수 개월 사이 앤트로픽과 오픈AI 등 기업이 자사 AI 모델이 의도치 않은 방식으로 행동한 사례들을 잇달아 공개한 가운데 나온 것이다. 앞서 다리오 아모데이 앤트로픽 CEO를 포함한 주요 AI 기업 수장들은 AI 발전 속도가 너무 빠르다고 경고하기도 했다.

나델라 CEO는 이 글에서 기존의 ‘AI’라는 용어 대신 도널드 트럼프 행정부의 대체 용어인 ‘슈퍼지능’(SI·Super Intelligence)으로 지칭했다. 트럼프 대통령은 ‘인공’)이라는 말이 AI에 대해 부정적인 인식을 준다며 이를 SI로 바꿔 부르도록 하는 행정명령에 서명했다. AI라는 용어를 쓰면 적으로 간주하겠다고도 밝히기도 했다.