스마트폰으로 전송된 뉴스 알림에서 입에 담기 힘든 인종차별적 비속어가 발견된다면 어떨까요. 최근 구글 뉴스 알림 시스템이 영국의 권위 있는 시상식인 바프타(Baftas) 관련 소식을 전하는 과정에서 인종차별 단어를 필터링하지 못한 채 사용자들에게 그대로 노출하는 사고가 발생했습니다. 구글은 즉각 고개를 숙이며 사과했지만 기술적 신뢰도에 대한 의구심은 커지고 있습니다.
바프타 시상식 현장에서 발생한 돌발 상황의 전말
이번 사건의 발단은 2026년 2월 열린 바프타 시상식 현장에서 시작되었습니다. 배우 마이클 B. 조던과 델로이 린도가 무대에 올랐을 때 객석에 있던 투렛 증후군 환자가 본인의 의지와 상관없는 틱 증상으로 인해 인종차별적 비속어를 내뱉는 상황이 발생한 것입니다.
현장은 순식간에 얼어붙었으며 해당 장면을 중계하던 BBC 역시 즉각적인 사과를 표명했습니다. 문제는 이 소식을 전하는 언론사들의 기사가 쏟아지면서 발생했습니다. 구글의 뉴스 큐레이션 시스템이 수많은 기사 속에 포함된 해당 비속어를 뉴스 알림의 핵심 키워드로 인식하여 사용자들에게 푸시 메시지를 발송한 것입니다.
구글 뉴스 알림 서비스에서 인종차별 단어가 노출된 배경
사용자들은 구글 뉴스 알림 메시지에 포함된 더 보기 링크를 통해 해당 단어를 접하게 되었습니다. 구글은 이번 사태에 대해 깊은 유감을 표하며 시스템이 온라인상의 방대한 콘텐츠 내에서 반복적으로 등장하는 특정 용어를 콘텐츠의 특징으로 잘못 파악했다고 설명했습니다.
시스템은 수많은 매체에서 해당 비속어를 포함해 시상식의 논란을 보도하자 이를 중요한 맥락으로 오인한 것입니다. 특히 미국의 흑인 역사의 달인 2월에 이런 일이 벌어지면서 온라인 창작자들과 사용자들 사이에서는 분노의 목소리가 더욱 거세게 터져 나왔습니다.
이번 사태가 생성형 AI의 직접적인 오류가 아니라고 밝힌 이유
일각에서는 이번 구글 뉴스 알림 사고가 구글의 생성형 AI 기술인 제미나이(Gemini) 등의 판단 착오가 아니냐는 의혹을 제기했습니다. 인공지능이 문맥을 제대로 읽지 못하고 부적절한 단어를 생성해냈다는 지적입니다.
하지만 구글 측은 이번 사고가 생성형 AI 때문이 아니라고 공식적으로 선을 그었습니다. 대신 푸시 알림을 생성하는 기존의 안전 기능과 필터링 시스템 내에서 발생한 결함이라고 해명했습니다. 콘텐츠 시스템이 특정 단어를 인식하고 이를 사용자에게 전달하는 로직상의 안전장치가 제대로 작동하지 않았다는 분석입니다.
시스템 오류 해결을 위해 구글이 도입한 3가지 안전 장치
사건 직후 구글은 해당 알림을 즉시 삭제하고 소수의 사용자만이 이를 확인했다고 밝혔습니다. 또한 향후 동일한 문제가 반복되지 않도록 다음과 같은 기술적 조치를 진행 중입니다.
- 뉴스 푸시 알림에 대한 안전 트리거 강화
- 부적절한 언어를 감지하는 세이프티 가드레일 업데이트
- 콘텐츠 큐레이션 알고리즘의 민감도 수동 조정
구글 대변인은 BBC와의 인터뷰를 통해 이번 사건은 결코 일어나서는 안 될 일이었다고 강조하며 시스템의 안전 기준을 대폭 높일 것을 약속했습니다.
사용자가 직접 뉴스 푸시 알림 권한을 최적화하는 방법
글로벌 플랫폼의 알고리즘이 완벽할 수 없다는 사실이 증명된 만큼 사용자 스스로 구글 뉴스 알림 설정을 관리하는 것도 중요합니다. 불필요하거나 자극적인 알림을 피하고 싶다면 아래 단계를 참고하여 설정을 변경할 수 있습니다.
- 스마트폰의 구글 뉴스 앱 실행 후 프로필 아이콘 선택하기
- 설정 메뉴 내의 알림 탭으로 이동하기
- 알림의 개수를 낮음으로 설정하거나 특정 주제에 대한 알림 끄기
- 관심 없는 주제로 분류된 항목에서 논란이 될 만한 키워드 제외하기
이러한 수동 설정을 통해 알고리즘이 추천하는 무분별한 정보로부터 개인의 디지털 환경을 보호할 수 있습니다. 기술의 편리함 뒤에 숨은 부작용을 최소화하는 최소한의 방어 기제인 셈입니다.
기술적 진보 뒤에 숨겨진 윤리적 가이드라인의 중요성
구글은 세계에서 가장 많이 다운로드되는 뉴스 앱 중 하나를 운영하고 있습니다. 그만큼 이들이 전파하는 정보의 영향력은 막강합니다. 이번 사례는 단순한 기술적 결함을 넘어 빅테크 기업이 콘텐츠를 다룰 때 가져야 할 윤리적 책임감이 얼마나 무거운지를 다시금 일깨워 주었습니다.
인공지능과 알고리즘이 우리 삶의 깊숙한 곳까지 정보를 전달하는 시대입니다. 하지만 기술이 인간의 감수성과 사회적 맥락을 완전히 이해하기 전까지는 철저한 인간의 모니터링과 견고한 안전장치가 병행되어야 합니다.
마무리
구글 뉴스 알림 시스템의 이번 실수는 디지털 플랫폼이 가진 양날의 검을 명확히 보여주었습니다. 방대한 정보를 빠르게 전달하는 능력은 뛰어나지만 그 정보가 누군가에게 상처를 줄 수 있는 비수가 될 때는 그 파급력을 걷잡을 수 없기 때문입니다. 구글이 약속한 대로 더 정교한 가드레일을 구축하여 우리 손안의 뉴스가 안전하고 유익한 정보로만 채워지기를 기대해 봅니다.
출처: https://www.bbc.com/news/articles/c3v730qwwzwo
이어서 보면 좋은 글
#구글뉴스 #바프타시상식 #인종차별논란 #구글사과 #뉴스알림오류 #인공지능윤리 #빅테크이슈 #콘텐츠가이드라인 #푸시알림설정 #기술오류대응