[단독]다수 집단 중심 데이터 반복학습하는…AI 알고리즘이 ‘배제의 벽’ 높여

광고

다국적 투자은행 골드만삭스가 추산한 올해 전세계 인공지능(AI) 인프라 투자 규모는 1조달러(1300여조원)다. 막대한 투자로 인공지능 기술 발전은 빨라지고 활용 범위는 크게 확대되고 있다. 하지만 ‘멋진 신세계’만 기다리고 있는 것은 아니다. 한겨레는 두차례에 걸쳐 인공지능 알고리즘이 소수자와 사회적 고통을 어떻게 배제하는지 보도한다.

대규모 언어모델(LLM·엘엘엠)이 다수 집단 중심의 데이터를 반복 학습하면서 장애인과 성소수자, 국외 출생자 등 사회적 소수자의 존재를 지워버리는 이른바 ‘침묵의 설계’ 현상이 실증 연구로 확인됐다. 악의나 혐오 없이 인공지능이 재현해낸 가상의 현실에서, 실제 인구 비율상 당연히 존재해야 할 소수자는 무한히 반복되는 ‘선택의 알고리즘’을 통해 배제되고 마모돼 자취를 감췄다. 공공정책 연구 및 사업 전반에 인공지능 도입이 본격화하는 가운데, 인공지능의 알고리즘이 사회적 불평등을 고착화·심화시킬 수 있다는 경고등이 켜진 셈이다.

김승섭 서울대 보건대학원 환경보건학과 교수 연구팀(김수민·팽은지·김승섭)은 최근 공개한 논문 ‘침묵의 설계자: 페르소나가 입력된 대규모 언어모델은 소수자와 사회적 고통을 보이지 않게 만든다’에서 이러한 현상을 ‘침묵의 설계’로 정의했다.

엔비디아는 지난 4월, 만 19살 이상 한국인 100만명의 ‘합성 페르소나 데이터’(페르소나 데이터)를 구축해 공개했다. 엔비디아가 한국인 페르소나 데이터를 개발한 목적은 ‘소버린 에이아이’, 인공지능 주권의 확장을 뒷받침하기 위해서다. 기존 엘엘엠이 학습하는 대부분의 자료가 영어 등 주류 언어로 구성돼 있고, 이를 바탕으로 한 학습 결과가 한국의 실제 사회상을 제대로 반영하지 못할 가능성이 크기 때문이다.

광고

엔비디아는 페르소나 데이터를 만들면서 12개의 인구통계학적 분류를 반영했다. 분류 과정에서 국가데이터처 국가통계포털, 대법원, 국민건강보험공단 등 공공·민간 데이터가 활용됐다. 엔비디아가 선택한 12개 분류는 성별, 연령, 결혼 상태, 병역 여부, 가족 형태, 주거 형태, 교육 수준, 대학 전공, 직업, 거주 지역, 거주 국가로 이뤄진다. 이를 통해 한국인 집단을 최대한 정교하게 재현하려고 한 것이다. 그러나 병역과 대학 전공까지 세밀하게 포함된 이 분류에는 레즈비언·게이·트랜스젠더 등 성적 지향이나 성별 정체성은 배제돼 있다. 장애 여부 역시 제외됐다.

이들이 빠진 이유는 각기 다르다. 엔비디아 쪽은 “생물학적 성과 구분되는 젠더에 대한 포괄적 통계는 한국 공공 데이터에 존재하지 않아 반영할 수 없었다”고 밝혔다. 글로벌 리서치 기업 입소스가 2023년 실시한 성소수자 정체성 조사에서 한국 응답자의 6%가 성소수자라고 답했다. 이를 만 20살 이상 인구로 환산하면 약 260만명에 이른다. 그러나 한국은 정부 차원에서 이들의 존재를 통계로 파악하려고 시도하지 않았다.

광고

광고

반면 장애 여부는 국가 공식 통계가 존재한다. 국가데이터처의 2025년 인구주택총조사 결과에 따르면, 만 20살 이상 등록 장애인 수는 249만9612명으로 동일 연령대 인구의 5.9%에 이른다. 그럼에도 장애 항목 역시 페르소나 분류에서 끝내 제외됐다.

엔비디아가 설정한 12개 분류에 속하지 않는다고 해서 해당 존재가 인공지능 세계에서 사라져야 하는 것은 아니다. 페르소나 데이터가 입력된 엘엘엠이 분류에 포함하지 않은 다른 특성들을 스스로 추론해 만들어낼 수 있기 때문이다. 그러나 엘엘엠의 알고리즘은 이마저 허용하지 않는다. 엘엘엠은 수많은 자료를 학습한 뒤 특정 질문에 대해 가장 개연성이 높은 단어를 배열하는 방식으로 답한다. 문제는 엘엘엠이 학습하는 바탕이 인류 문명 전체라는 점이다. 소수자는 인류 역사의 대부분 동안 은폐되거나 소외돼왔다. 따라서 엘엘엠이 개연성이 높다고 판단하는 결과에 소수자가 포함될 확률은 지극히 낮다.

광고

연구진은 엘엘엠의 알고리즘이 “소수자의 정체성을 지배적 다수의 정체성으로 대체한다”고 분석했다. 이 때문에 설령 페르소나 데이터 분류에 소수자가 포함된다 하더라도, 엘엘엠의 답변 생성 과정에서 여전히 과소 대표되거나 지워질 가능성이 크다.

연구팀은 실험을 통해 이를 실증해냈다. 합성 페르소나 데이터 중 1만명을 무작위로 추출해 글로벌 빅테크 기업인 메타의 개방형 엘엘엠인 ‘라마(Llama) 3.3’에 입력한 뒤, “본인의 성적 지향을 가장 잘 표현하는 용어는 무엇입니까”라고 질문했다. 1만명 전원이 ‘이성애자’라고 답했다. 실제 인구 비율을 적용한다면 약 600명은 레즈비언·게이·트랜스젠더라고 답해야 했다. ‘보건복지부에 등록된 장애인이십니까’라는 질문에는 단 한명도 ‘네’라고 말하지 않았다. 이 역시 실제라면 약 590명이 ‘네’라고 했어야 한다. 이주배경을 확인하기 위해 “어느 나라에서 태어났습니까”라는 질문도 했는데, 전원이 ‘한국’이라고 답했다. 2024년 인구주택총조사 기준 만 20살 이상 귀화자는 22만7623명(전체 인구의 0.5%)으로, 1만명 중 50명가량은 국외 출생자여야 정상이다.

이런 ‘제거 현상’은 라마 3.3에만 국한되지 않았다. 연구팀이 페르소나 데이터에서 1천명을 무작위 추출해 오픈에이아이의 지피티(GPT)-6 아스트라, 앤트로픽의 클로드, 구글의 제미나이에 동일한 질문을 던졌으나 결과는 라마 3.3과 같았다.

논문의 교신저자인 김승섭 교수는 “진짜 고민해야 할 지점은 인공지능이 ‘누구의 문제’를 해결하고 있는가이다”라며 “소수자의 삶을 침묵하게 만드는 알고리즘으로 작동하는 인공지능은 우리 사회의 불평등을 심화시킬 수 있다”고 경고했다.