최근 틱톡과 인스타그램 등 소셜 미디어에서 흑인 여성의 외형을 본뜬 AI 캐릭터들이 무분별하게 퍼지며 논란이 되고 있습니다. 단순히 가상의 인물을 만드는 수준을 넘어, 실제 모델의 영상을 도용하거나 인종차별적인 고정관념을 강화하는 방식으로 악용되고 있어 우려가 큽니다.
AI 딥페이크가 흑인 여성을 타겟으로 삼는 이유
인공지능 기술은 이제 얼굴과 신체를 정교하게 조작하는 수준에 이르렀습니다. 최근 연구에 따르면, 특정 플랫폼에서 흑인 여성의 신체적 특징을 과장하거나 왜곡한 AI 캐릭터들이 성인 콘텐츠를 홍보하는 용도로 사용되고 있음이 밝혀졌습니다.
- 인종적 편견을 담은 캐릭터 생성
- 왜곡된 신체 비율 및 피부톤 강조
- 성인 사이트로 유도하는 낚시성 계정 운영
도용당한 실제 모델들의 분노와 피해 상황
말레이시아 모델 리야 울란(Riya Ulan)은 자신의 영상이 허락 없이 도용된 사례를 직접 목격했습니다. AI로 생성된 캐릭터가 자신의 얼굴과 체형, 움직임을 그대로 따라 하며 300만 명이 넘는 팔로워를 확보하고, 정작 본인의 영상보다 수십 배 높은 조회수를 기록하는 기현상이 벌어졌습니다.
왜 사람들은 AI 생성 모델을 진짜로 믿을까
많은 이용자가 영상 속 존재가 AI라는 사실을 인지하지 못한 채 이를 실제 인물로 받아들입니다. 기술적인 완성도가 높아짐에 따라 실제 사람과 구분하기 어려운 수준이 되었고, 계정 운영자들은 AI 사용을 부정하거나 마치 실존 인물인 것처럼 속여 신뢰도를 높이는 방식을 취하고 있습니다.
인종차별과 데이터 착취의 연결고리
전문가들은 이러한 현상이 과거부터 이어진 흑인 여성에 대한 착취의 연장선이라고 비판합니다. AI 기술이 혐오 표현이나 인종적 고정관념을 학습해 이를 생산성 높은 데이터로 재가공하고, 이를 다시 자본화하는 과정에서 인권은 완전히 배제되고 있습니다.
플랫폼은 왜 이러한 악성 계정을 방치했는가
비판이 거세지자 틱톡 측은 조사에 착수하여 수십 개의 계정을 차단했다고 밝혔습니다. 그러나 문제가 된 콘텐츠들이 이미 수억 건의 조회수를 기록한 뒤에야 조치가 이루어졌다는 점에서, 플랫폼의 사후 대처 능력과 알고리즘 관리에 대한 근본적인 의문이 제기됩니다.
콘텐츠 생태계에서 우리가 기억해야 할 점
AI가 만든 이미지가 범람하는 시대에 우리는 콘텐츠의 진위 여부를 끊임없이 의심해야 합니다. 더 이상 눈에 보이는 것이 전부가 아닌 세상에서, 타인의 인격권을 침해하거나 특정 집단을 비하하는 방식의 기술 사용은 명백한 범죄임을 인식해야 할 시점입니다.
AI의 그늘을 직시하고 디지털 환경 정화하기
AI 기술은 창의적인 도구가 될 수도 있지만, 누군가에게는 폭력의 수단으로 변질될 수 있습니다. 이제 플랫폼은 더 강력한 필터링 시스템을 구축해야 하며, 사용자 또한 검증되지 않은 콘텐츠에 무비판적으로 반응하지 않는 태도가 필요합니다.
출처: https://www.bbc.com/news/articles/c070e283k8vo
이어서 보면 좋은 글
#인공지능 #딥페이크 #틱톡논란 #AI윤리 #디지털성범죄 #개인정보도용 #소셜미디어 #인종차별 #테크놀로지 #디지털리터러시