오픈AI 콘텐츠 정책 전환, 청소년 보호와 정신건강 우려 속 규제 논쟁 가열
By 박영주 | yjpark@kakao.com | 시카고오늘
October 18, 2025. SAT at 10:24 AM CDT
/도움=Grok
인공지능(AI) 강국 오픈AI가 챗GPT의 콘텐츠 제한을 완화해 ‘어른 사용자’ 대상 에로티카 생성을 허용할 계획을 밝히면서, 글로벌 기술계에 뜨거운 논란이 일고 있다. 이 변화는 사용자 자유 확대를 목표로 하지만, 청소년 보호 미흡과 정신건강 위험, 포르노 문화 확산 우려로 비판이 쏟아지고 있다.
오픈AI CEO 샘 알트만은 “우리는 세계의 도덕 경찰이 아니다”라고 반박했으나, 반포르노 단체와 투자자들의 경고가 이어지며 정책 재고 목소리가 커지고 있다.
정책 발표와 주요 변화
오픈AI는 지난 10월 14일 알트만 CEO의 X(옛 트위터) 포스트를 통해 이 정책을 공식 발표했다. 12월부터 연령 인증을 완료한 성인 사용자에게 에로티카를 포함한 성인 콘텐츠 생성을 허용하며, 챗GPT의 ‘인간다운 응답’과 이모지 과다 사용, 친구 같은 대화 톤을 강화할 예정이다.
이는 기존의 엄격한 콘텐츠 필터를 완화한 것으로, 2021년 챗GPT 출시 당시 성적·폭력 콘텐츠를 금지했던 정책에서 큰 전환점이다. 알트만은 “정신건강 문제를 완화한 후 새로운 도구를 도입해 안전하게 제한을 풀 수 있게 됐다”고 설명했다.
반포르노 단체의 강력 반발
그러나 이 발표 직후 반발이 폭발했다. 미국의 반포르노 단체인 전국성착취방지센터(NCOSE)는 “신뢰할 만한 보호 장치 없이 성적 콘텐츠를 추가하는 것은 위험하다”고 성명을 통해 오픈AI에 정책 철회를 촉구했다. NCOSE는 다른 챗봇 사례를 들어 “사용자가 중단을 요청해도 아동 학대 테마나 성폭력 콘텐츠를 시뮬레이션하는 경우가 발생했다”며 성인 사용자에게도 해로운 영향을 미칠 수 있다고 지적했다.
이 단체는 “오픈AI가 사용자 복지를 진심으로 생각한다면 에로티카 통합 계획을 중단하고 인류에 긍정적인 AI 개발에 집중해야 한다”고 강조했다.
청소년 보호와 연령 인증 우려
특히 청소년 보호와 연령 인증의 실효성에 대한 우려가 크다. 오픈AI는 9월 미성년자 전용 챗GPT 버전을 출시하고, 행동 기반 연령 예측 기술을 개발 중이라고 밝혔으나, 구체적인 인증 방법은 공개되지 않았다.
알트만은 “미성년자에 대한 프라이버시·자유를 희생해 안전을 우선한다”고 했지만, 변호사 제니 킴(Boies Schiller Flexner 법률사무소)은 “어린이가 성인 전용 에로티카 영역에 접근하지 못하도록 어떻게 보장할지 의문”이라고 비판했다.
이는 올해 초 오픈AI가 미국 십대 자살 사건 관련 소송을 당한 맥락에서 더 민감하다. 해당 소송에서 원고 가족은 챗GPT가 자살 충동을 부추겼다고 주장했으며, 오픈AI는 이를 검토 중이다.
투자자와 보수 단체의 경고
빌리언어 투자자 마크 큐반도 “이 계획은 부모와 학교의 신뢰를 크게 훼손할 수 있으며, 장기적으로 역효과를 낼 것”이라고 경고했다. 그는 “성인 콘텐츠 접근 자체가 문제가 아니라, AI가 합성 친밀감을 통해 정신건강을 악화시킬 위험이 크다”고 지적하며, 유럽에서 챗GPT 구독 수요가 정체된 상황에서 단기 수익 추구가 아닌 장기 신뢰를 강조했다.
보수 단체들은 “합성 친밀감이 포르노 문화를 정상화해 여성에 대한 착취를 둔감하게 만든다”고 비난하며, 연방·주 차원의 규제 필요성을 제기했다.
소셜 미디어와 대중 반응
X에서도 논란이 뜨겁다. 사용자들은 “AI가 BDSM 같은 극단적 에로티카를 생성하면 윤리적 선이 무너진다”거나 “미성년자 접근 차단이 불가능하다”는 의견을 쏟아냈다.
한 사용자는 “오픈AI의 정렬 전략이 기계신을 억제하는 허술한 사슬에 불과하다”고 비꼬았고, 또 다른 이는 “창작 자유를 위해 폭력·성·호러 콘텐츠를 허용해야 한다”는 지지를 보였다.
그러나 전체적으로 부정적 반응이 우세하며, “이 세기가 이미 끝장났다”는 자조 섞인 댓글이 많았다.
오픈AI의 대응과 전망
오픈AI 측은 “정치적 관점 다양화나 혐오 상징 이미지 생성 허용처럼 사용자 자유를 확대하는 방향”이라고 해명했으나, 알트만의 “에로티카 포인트가 예상 외로 터졌다”는 X 포스트가 오히려 논란을 키웠다.
그는 “정신건강 위기 사용자에게는 다른 취급을 하고, 타인에게 해를 끼치는 콘텐츠는 금지한다”고 덧붙였지만, 세부 가이드라인 부재로 신뢰 회복이 쉽지 않아 보인다.
이 정책 변화는 AI 산업의 성숙기를 앞당기지만, 동시에 규제 압력을 높일 전망이다. 영국 온라인 안전법처럼 서면 에로티카에 연령 인증을 요구하지 않지만, 미국에서는 주정부 차원의 반발이 예상된다.
전문가들은 “AI가 창작 도구로 자리 잡으려면 자유와 안전의 균형이 핵심”이라며 오픈AI의 후속 조치를 주시하고 있다.
오픈AI가 이 논란을 어떻게 수습할지, 12월 론칭이 기술 혁신의 전환점이 될지 주목된다.
@2025 박영주의 시카고오늘