최근 틱톡과 인스타그램을 중심으로 영국 크로이던 같은 도시가 마치 범죄와 가난에 찌든 것처럼 묘사된 가짜 AI 영상이 빠르게 퍼지고 있습니다. 세금으로 운영되는 물놀이 시설에 복면을 쓴 청년들이 가득한 자극적인 장면들은 사실 정교하게 조작된 딥페이크에 불과합니다. 왜 이런 가짜 콘텐츠가 수백만 회의 조회수를 기록하며 사회적 갈등을 부추기는지 그 이면을 들여다보겠습니다.
영국 도시를 타겟팅한 가짜 AI 영상 확산 배경
최근 소셜 미디어를 점령한 이른바 디클라인 포르노는 서구 도시의 몰락을 전시하며 대중의 분노를 먹고 자랍니다. 특히 영국 런던의 특정 지역을 배경으로 제작된 영상들은 실제와 가짜를 교묘하게 섞어 시청자들을 혼란에 빠뜨리고 있었어요. 제작자들은 단순히 재미를 위해서라고 변명하지만 그 파급력은 결코 가볍지 않더라고요.
영상을 제작하는 이들은 정교해진 생성형 AI 도구를 활용해 단 몇 분 만에 수백만 명이 속아 넘어갈 만한 장면을 만들어냅니다. 영국에 한 번도 가본 적 없는 제작자가 북부 잉글랜드의 자기 방에서 런던의 특정 지역을 범죄의 온상으로 묘사하는 일이 현실이 되었어요. 이런 영상들이 알고리즘을 타고 전 세계로 퍼지면서 해당 지역에 대한 부정적인 편견을 고착화하고 있었습니다.
왜 사람들은 조작된 영상을 진짜라고 믿을까요?
인간의 뇌는 텍스트보다 시각 정보에 더 민감하게 반응하기 마련입니다. 특히 AI가 생성한 영상들은 실제 사람이 촬영한 것처럼 흔들림이나 질감을 구현해내기 때문에 의심 없이 받아들이는 경우가 많았어요. 댓글 창을 보면 수천 명의 사람들이 정치적인 분노를 쏟아내며 이것이 실화라고 굳게 믿는 모습을 볼 수 있었습니다.
- 시각적 정교함: AI 기술의 비약적인 발전으로 가짜와 진짜의 경계가 모호해짐
- 확증 편향: 평소 도시 치안이나 이민자 문제에 불만을 가진 이들이 가짜 영상을 근거로 채택함
- 플랫폼 알고리즘: 자극적인 콘텐츠일수록 더 많은 사람에게 노출되는 구조적 문제
조회수를 노린 Decline Porn 콘텐츠의 3가지 특징
이런 영상들은 철저하게 시청자의 말초신경을 자극하도록 설계되어 있습니다. 단순히 도시의 풍경을 보여주는 것이 아니라 특정한 의도를 가지고 편집되더라고요. BBC 조사에 따르면 이러한 콘텐츠들은 공통적인 패턴을 보이고 있었습니다.
- 현실보다 더 자극적인 인종적 고정관념 강화: 복면을 쓴 청년들이나 특정 인종을 범죄와 연결 지어 시각화합니다.
- 세금 낭비라는 정치적 프레임 씌우기: 실존하지 않는 화려한 시설을 보여주며 국민의 세금이 낭비되고 있다는 거짓 주장을 덧붙입니다.
- AI 기술을 이용한 교묘한 디테일 수정: 실제 거리 풍경에 가짜 간판이나 아랍어 문구를 합성하여 이질감을 극대화합니다.
딥페이크 논란 유발하는 제작자의 무책임한 태도
문제가 된 영상을 만든 제작자들은 자신의 작업물을 일종의 예술이나 풍자로 치부하는 경향이 있었어요. RadialB라는 닉네임을 사용하는 한 제작자는 사람들이 가짜라는 것을 바로 알면 스크롤을 넘겨버리기 때문에 일부러 진짜처럼 보이게 만든다고 당당하게 밝히기도 했습니다. 조회수가 곧 돈이 되는 구조에서 책임감은 뒷전으로 밀려난 셈이었죠.
이들은 자신의 영상 아래에 달리는 인종차별적인 댓글이나 정치적인 혐오 발언에 대해서도 플랫폼이 알아서 필터링할 문제라며 책임을 회피하고 있었습니다. 하지만 한 번 퍼진 가짜 정보는 정정하기가 매우 어렵고 해당 지역에 사는 주민들에게는 실질적인 피해를 입히고 있었어요. 딥페이크 논란이 단순한 기술적 문제를 넘어 사회적 윤리 문제로 번지는 이유입니다.
자극적인 가짜 뉴스로부터 스스로를 보호하는 법
정보의 홍수 속에서 우리는 무엇이 진짜인지 판별하는 능력을 길러야 합니다. 단순히 영상의 퀄리티만 보고 믿기보다는 정보의 출처와 맥락을 확인하는 습관이 필요하더라고요. 전문가들은 다음과 같은 방법을 제안합니다.
- 영상 하단이나 설명란에 AI 생성 표시가 있는지 확인하기
- 해당 영상이 보도된 공신력 있는 언론사가 있는지 검색해보기
- 지나치게 감정을 자극하거나 특정 집단을 혐오하는 내용이라면 의심하기
소셜 미디어 플랫폼의 대응과 한계는 무엇인가요?
틱톡이나 인스타그램 같은 플랫폼들도 가짜 AI 영상의 위험성을 인지하고 AI 생성 콘텐츠에 라벨을 붙이도록 강제하고 있습니다. 하지만 수없이 쏟아지는 모든 영상을 실시간으로 검열하기에는 한계가 뚜렷했어요. 계정이 차단되더라도 다시 새 계정을 만들어 활동하는 제작자들을 막는 것도 역부족이었고요.
플랫폼의 정책보다 더 무서운 것은 이 가짜 영상들이 이미 사람들의 머릿속에 특정 도시에 대한 부정적인 잔상을 남긴다는 점입니다. 기술이 발전할수록 조작은 더 쉬워질 것이고 우리는 더욱 고도화된 가짜 뉴스와 마주하게 될 것입니다. 플랫폼 기업들의 적극적인 기술적 차단과 더불어 사용자들의 비판적 사고가 절실한 시점입니다.
가짜 영상이 가져올 사회적 불신을 경계하며
가짜 AI 영상은 단순히 누군가를 속이는 장난을 넘어 공동체의 신뢰를 무너뜨리는 무기가 될 수 있습니다. 영국 도시의 쇠락을 조작해 보여주는 행위는 결국 타인에 대한 혐오를 정당화하는 수단으로 악용될 뿐입니다. 우리가 오늘 본 영상이 누군가에 의해 정교하게 설계된 거짓은 아닐지 한 번 더 고민해보는 자세가 필요합니다. 건전한 디지털 생태계를 위해 자극적인 영상에 휘둘리지 않는 현명한 시청자가 되어야겠습니다.
출처: https://www.bbc.com/news/articles/c4g8r23yv71o
이어서 보면 좋은 글
#가짜AI영상 #영국도시쇠락 #딥페이크논란 #소셜미디어 #팩트체크 #디클라인포르노 #AI윤리 #런던크로이던 #조회수조작 #가짜뉴스