딥페이크 희생양 이번엔 테일러 스위프 가짜 이미지 확산

/사진=솔저필드 페이스북

노골적 성적 이미지 X 퍼져…소셜플랫폼·AI 업체 “차단 최선”

박영주 기자(yjpark@kakao.com)
JAN 27. 2024. SAT at 11:04 AM CST

테일러 스위프트가 이미지를 조작하는 딥페이크의 가장 최신 희생양이 됐다. AP통신은 “이 가수는 기술 플랫폼 업체와 딥페이크 악용 방지 단체가 문제 해결을 위해 고군분투하고 있는 가장 유명한 피해자가 됐다”고 묘사했다.

이번 주 소셜 미디어 플랫폼 X(옛 트위터)를 통해서 스위프트의 성적으로 노골적이고 모욕적인 가짜 이미지가 널리 퍼졌다. X에서 스위프트를 묘사한 음란물이 쏟아져 나오면서 일부 이미지는 페이스북과 다른 소셜 미디어 플랫폼으로 퍼지고 있다.

테일러 스위프트가 이미지를 조작하는 딥페이크의 가장 최신 희생양이 됐다. 스위프트의 성적으로 노골적이고 모욕적인 가짜 이미지가 X 등을 통해 널리 퍼졌다. 사진은 스위프트의 지난해 시카고 솔저필드 공연 모습. /사진=솔저필드 페이스북

딥페이크 탐지 단체인 리얼리티 디펜더(Reality Defende)의 성장 책임자 메이슨 앨런은 “안타깝게도 일부 이미지가 삭제될 때까지 수백만 명의 사용자에게 퍼져나갔다”라고 말했다.

현재 이와 관련, 최소 수십 개의 AI 생성 이미지가 유포되고 있는 것으로 알려졌다. AP에 따르면, 가장 널리 공유된 것은 축구와 관련된 것으로, 페인트칠을 하거나 피투성이가 된 스위프트의 모습을 보여주고 있다.

이러한 스위프트 가짜 포르노 이미지 유포에 대한 AP 논평 요구에 X는 “우리 팀은 확인된 모든 이미지를 적극 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조치를 취하고 있다”며 “추가적인 위반 사항이 발견되면 즉시 해결하고 해당 콘텐츠를 삭제할 수 있도록 상황을 면밀히 모니터링하고 있다”고 말했다.

실제 27일(토) 오전 10시 현재 X에서 ‘Taylor Swift’로 검색할 경우 ‘지금은 게시물을 불러올 수 없습니다’는 메시지가 뜬다. 일부 게시물은 블러 처리됨으로써 아예 이미지를 볼 수 없도록 조치가 취해졌다.

일부에서는 2022년 일론 머스크가 트위터를 인수한 이후 콘텐츠 모니터링 팀을 대폭 감축한 것을 지적하기도 했다.

테일러 스위프트의 가짜 포르노 이미지가 X 등에서 확산되자 이들 업체가 차단에 나섰다. 사진은 X의 차단된 이미지.

페이스북을 운영하는 메타도 성명을 통해 “여러 인터넷 서비스에 걸쳐 유포되는 콘텐츠를 강력히 규탄하며 이를 삭제하기 위해 노력하고 있다”며 “우리는 이러한 위반 콘텐츠를 플랫폼에서 지속적으로 모니터링하면서 필요에 따라 적절한 조치를 취할 것”이라고 말했다.

이에 대해 백악관도 “경악할 일”이라며 딥페이크 오용 관련 법적 장치를 의회에 요구했다.

ABC뉴스에 따르면, 카린 장 피에르 백악관 대변인은 26일(금) 온라인 상에서 벌어진 스위프트 이미지 유포에 대해 “경악하고 있으며 의회가 입법적 조치를 취해야 한다“고 말했다.

스위프트 측은 아직 이에 대해 공식 입장을 내놓지 않은 상태이다. ABC는 스위프트의 한 관계자가 지난 26일(금) 논평 요청에 즉시 응답하지 않았다고 전했다.

뉴욕대학교에서 스위프트에 대한 강의를 맡고 있는 롤링스톤의 선임 작가 브리트니 스패노스(Brittany Spanos)는 “만약 스위프트가 실제로 법정 소송을 제기한다면 이는 큰 문제가 될 수 있다”고 지적했다.

스위프트의 열렬한 팬층인 ‘스위프티’가 이에 빠르게 대응하고 있다. 이들은 X에 #프로텍트테일러스위프트(#ProtectTaylorSwift) 해시태그를 통해 이 팝스타에 대한 긍정적인 이미지를 유포하고 있다. 일부는 딥페이크 공유 계정을 신고하겠다고 밝히기도 했다.

이번 스위프트 이미지 유포에 어떤 인공지능(AI) 기술이 사용된 지는 알려지지 않았다. 현재 주요 딥페이크 기술로는 스테이블 디퓨전(stable diffusion), 미드저니, 오픈AI(OpenAI)의 달리(DALL-E) 등이 있다.

이번 사태에 대해 오픈AI는 “유해한 콘텐츠 생성을 제한하고 테일러 스위프트를 포함한 유명인의 이름이 들어가는 이미지 생성 요청을 거부하는 안전장치를 마련하고 있다”고 말했다.

달리 기반 이미지 생성기를 제공하는 마이크로소프트는 자사 도구가 오용됐는지 여부를 조사 중이라고 밝혔다. MS는 “다른 상업용 AI 서비스와 마찬가지로 성인용 또는 합의되지 않은 콘텐츠는 허용하지 않는다”며 “정책에 위배되는 콘텐츠 제작 시도가 반복될 경우 서비스 이용이 제한될 수 있다”고 AP에 전했다.

@2024 박영주의 시카고오늘

yjpark