[단독] AI가 만든 세계에서 ‘소수자’는 지워진다

광고

다국적 투자은행 골드만삭스가 추산한 올해 전세계 인공지능(AI) 인프라 투자 규모는 1조달러(1300여조원)다. 막대한 투자로 인공지능 기술 발전은 빨라지고 활용 범위는 크게 확대되고 있다. 하지만 ‘멋진 신세계’만 기다리고 있는 것은 아니다. 한겨레는 두차례에 걸쳐 인공지능 알고리즘이 소수자와 사회적 고통을 어떻게 배제하는지 보도한다

인공지능(AI)이 구축한 가상 세계에서 소수자가 사라지는 현상이 나타난다는 연구 결과가 나왔다. 챗지피티나 제미나이 같은 ‘대규모 언어모델’(LLM·엘엘엠) 알고리즘이 장애인과 성소수자 등을 연산 과정에서 지우고 있다는 지적이다. 정부 정책 등에 소수자 배제 편향성을 띤 인공지능 모델이 활용될 경우 사회적 차별과 불평등이 심화될 수 있다는 우려가 나온다.

한겨레는 18일 김승섭 서울대 보건대학원 환경보건학과 교수 연구팀(김수민·팽은지·김승섭)이 미국 코넬대학교가 운영하는 출판 전 논문 공개 누리집 ‘아카이브’(arXiv)에 등록한 논문을 입수했다. 논문 제목은 ‘침묵의 설계자: 페르소나가 입력된 대규모 언어모델은 소수자와 사회적 고통을 보이지 않게 만든다’이다.

광고

이 논문에서 연구팀이 인공지능 반도체 기업인 엔비디아가 제작한 한국인 100만명 규모의 ‘합성 페르소나’(가상주체) 데이터를 엘엘엠에 입력한 뒤 1만명의 가상주체를 무작위로 추출해 질문한 결과, 자신을 소수자(장애인, 성소수자, 국외 출생자)라고 답한 사례가 단 한건도 없는 것으로 드러났다. 인공지능이 생성한 가상 세계에서 소수자가 완전히 지워지는 현상이 확인된 것이다.

엔비디아는 지난 4월 “대한민국의 실제 인구통계학적 분포와 지리적·문화적 특성을 정밀하게 반영해 재현했다”며 100만명 규모의 ‘페르소나 데이터세트(자료 집합)’를 공식 발표하고, 무료로 서비스하고 있다. 이 자료는 인공지능 서비스 개발과 학습, 고객 마케팅, 리서치 등 다양한 분야에서 활용될 수 있다.

광고

광고

연구팀은 논문에서 “인공지능 모델이 사회적 불평등을 증폭시킬 수 있는 인간 대상 연구나 (정부) 정책 수립에 더 널리 적용되기 전에 추가적인 검토가 시급하다”고 밝혔다.