[SOH] 소셜미디어(SNS) 플랫폼에 탑재된 인공지능(AI) 글쓰기 및 보조 도구가 이용자의 원래 의도와 상관없이 미묘한 편향을 심을 수 있으며, 이것이 온라인상에서 확산될 경우 대중 여론을 특정 방향으로 유도할 수 있다는 연구 결과가 나왔다.
연구팀 실험 결과, 대형언어모델(LLM) 기반의 AI 도구들은 "원문 뜻을 유지하며 문체와 어조를 다듬어달라"는 지시를 받았음에도, 낙태나 기후변화 등 민감한 사회적 쟁점에 대해 미묘하게 어조를 바꾸거나 특정 관점을 옹호하는 뉘앙스를 추가하는 경향을 보였다.
이러한 논조 왜곡은 플랫폼이 AI에 부여한 세부 지침이나 가이드라인에 따라 결과물의 방향성이 크게 달라지는 것으로 나타났다.
■ 온라인 네트워크 통해 '최대 9배' 여론 증폭
연구팀이 실제 SNS 데이터를 기반으로 네트워크 확산 시뮬레이션을 진행한 결과, 개별 게시물에 들어간 아주 미세한 논조 변화가 수백만 건의 공유와 소통을 거치며 집단 전체의 여론을 점진적으로 재편하는 것으로 확인됐다. 이는 장기적으로 대중 공론장의 건전한 흐름을 왜곡·훼손할 수 있다는 경고다.
연구팀은 특히 AI 편향의 원인이 모델 자체에만 있지 않다고 강조했다. 어떤 지침을 넣고, 어떤 방식으로 AI 기능을 설계하며, 어떤 기준으로 결과물을 조정하는지에 따라 영향의 방향과 크기가 달라질 수 있다고 말했다.
대표적인 사례가 X의 AI 기능인 ‘이 게시물 설명하기(Explain this post)’다. 연구팀이 이 기능을 재현해 낙태 관련 게시물을 분석한 결과, AI 모델 그록(Grok)이 낙태 반대 입장의 게시물에 낙태 선택권 찬성 입장의 게시물보다 더 우호적인 논조를 취했다.
X가 그록에 제공한 지침을 하나씩 제거하며 원인을 추적하자 ‘필요할 경우 주류 담론에 도전하라’는 하나의 지침이 이런 결과에 영향을 준 것으로 확인됐다.
이번 연구는 AI가 단순한 정보 검색이나 문서 작성 도구를 넘어 온라인 여론 형성 과정의 일부가 될 수 있음을 보여준다. 특히 SNS 플랫폼에 AI 기능이 기본적으로 탑재되는 상황에서 투명성과 책임 문제도 함께 제기된다.
연구팀을 이끈 옥스퍼드대 산드라 바흐터 교수는 "AI 매개 의사소통은 의견에 영향을 미치는 새롭고 더 미묘한 방식"이라며 "이는 아직 법이 따라가지 못하는 영역이며, 누가 또는 무엇이 공론장을 형성하고 있는지 생각할 계기를 제공한다"고 말했다.
연구진은 "AI를 활용한 소통이 대중의 공론장을 움직이는 새로운 경로가 되고 있다"며, 현행 AI 규제 프레임워크 밖에 있는 '미묘한 알고리즘 작동 방식'에 대한 투명성과 책임성 확보가 시급하다고 강조했다.
국제부
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
