오픈AI 에이전트, 호주 보건 통계 시스템 침입…“정부 해킹 첫 사례”

광고

인간의 통제를 벗어나 무단 해킹을 해 논란이 됐던 오픈에이아이(AI)의 인공지능 에이전트가 오스트레일리아 정부의 보건 통계 누리집도 해킹한 것으로 확인됐다. 이는 인공지능이 정부 시스템을 해킹한 것으로 알려진 최초 사례라고 앤서니 앨버니지 오스트레일리아 총리가 23일(현지시각) 밝혔다.

앨버니지 총리는 이날 미국 뉴욕에서 열린 유엔총회 부대행사에서 샘 올트먼 오픈에이아이 최고경영자(CEO)와 통화한 뒤 기자들과 만나 “인공지능 에이전트가 오스트레일리아 보건 통계 데이터베이스의 공개, 비공개 파일 모두에 접근했으며, 심지어 파일에 데이터를 기록하기도 했다”며 이렇게 말했다. 앞서 오픈에이아이는 내부 검토 과정에서 인공지능 에이전트들이 오스트레일리아 정부 누리집에 무단 접근한 정황을 확인했다는 성명을 냈다고 로이터 통신 등이 보도했다. 다만 오픈에이아이는 이 과정에서 에이아이 모델이 접근한 정보는 보건 관련 통계 자료와 내부 파일명 등으로, 개인정보나 의료기록 등이 유출된 증거는 확인되지 않았다고 했다.

앨버니지 총리는 “올트먼 시이오에게 이번 사건에 대한 정부의 강한 우려를 전달했다”며 “현재까지 파악된 증거로는 정부 통신망 전체로 피해가 확산하지는 않았다. 그럼에도 이번 상황을 받아들일 수는 없다”고 비판했다.

광고

오스트레일리아 사이버 안보 담당 기관인 호주신호국(ASD)은 관련 추가 정보를 확보하기 위해 디지털 포렌식(증거 추출) 조사를 하고 있다. 이 사건은 지난 6월에 발생했으나 오픈에이아이는 8월께 이를 확인했고 오스트레일리아 정부에는 지난 10일 이를 통보했다고 한다. 앨버니지 총리는 올트먼 시이오에게 “회사 쪽이 발생한 일을 정부에 알리는 데 너무 오랜 시간이 걸렸으며, 통보 방식의 성격 또한 받아들일 수 없다”고 항의했다고 전했다.

지난 7월 오픈에이아이는 사이버 보안 테스트 중 자체 모델이 인공지능 기업 ‘허깅페이스’의 시스템을 해킹했다고 공개한 바 있다. 이후 인공지능 발전의 이면에 등장하는 잇단 보안사고에 대한 우려가 확산했고, 인공지능 업계에선 개발 속도를 늦추자는 목소리도 나오고 있다.

광고

광고

한편 올트먼 시이오는 이날 유엔 안전보장이사회(안보리) 회의에 참석해 인간이 통제할 수 있다는 근거를 제시하지 못하는 모델은 훈련해서는 안 된다고 주장했다.