AI 그림, '성매매 경험담'…수백만 조회수, 위험한 유혹

SNS, 위험한 만화의 물결

최근 SNS에서 유흥업소 종사자와 손님의 관계, 불륜 관계 등을 다룬 만화가 빠르게 퍼지고 있습니다. 이러한 만화들은 수백만 회의 조회수를 기록하며, 청소년을 포함한 많은 사람들에게 노출되고 있습니다.

 

 

 

 

불쾌함과 우려의 목소리

20대 김모씨는 인스타그램에서 성매매업 종사 여성과 남성 고객의 적나라한 대화가 담긴 만화를 보고 불쾌감을 느꼈습니다. 그는 “검색하지도 않았는데 성인 콘텐츠가 떠서 불쾌했다”며, “고등학생 동생이 있는데 소셜미디어에서 성인 만화를 접하게 될까 걱정도 들었다”고 말했습니다.

 

 

 

 

AI, 선정적인 콘텐츠 제작의 도구

인스타그램 등 소셜미디어에서 생성형 AI를 활용해 불법 성매매와 같은 부적절한 내용을 다룬 만화가 빠르게 확산되고 있습니다. 이러한 만화들은 챗GPT 등 생성형 AI를 이용해 제작되었으며, AI를 이용하면 빠른 시간 안에 쉽게 만화를 제작할 수 있다는 특징이 있습니다.

 

 

 

 

넘쳐나는 유해 콘텐츠, 솜방망이 제재

메타 측과 방송통신심의위원회(방심위)는 청소년 대상 유해·불법 콘텐츠에 조치를 취한다는 입장이지만, 부적절한 만화는 소셜미디어에 넘쳐나고 있습니다. 인스타그램의 모회사 메타 관계자는 “커뮤니티 규정에 따라 위반 여부를 확인 후 조치하고 있다”고 밝혔지만, 실질적인 제재는 미흡하다는 지적이 나옵니다.

 

 

 

 

규제의 사각지대: AI 만화

문제의 만화들은 유흥업소를 소재로 다루지만, 나체 이미지나 성적 행위가 직접적으로 포함되지 않아 제한 대상 콘텐츠로 분류될지 불분명합니다. 메타 관계자는 “AI 만화 등 특정 콘텐츠별 조치 여부 확인은 어렵다”고 밝혀, AI를 이용한 콘텐츠에 대한 명확한 규제가 부재함을 보여줍니다.

 

 

 

 

강력한 규제의 필요성

허만섭 강릉원주대 디지털미디어커뮤니케이션학부 교수는 “청소년들이 SNS에서 유해 콘텐츠에 반복적으로 노출되면 유흥업소를 방문하는 불법 행위나 퇴폐적 문화에 둔감해질 수 있다”며, “챗GPT 등 생성형 AI 플랫폼과 SNS 플랫폼에 대한 보다 강력하고 명확한 규제가 필요하다”고 강조했습니다.

 

 

 

 

AI 만화, 위험한 유혹

AI 기술을 악용한 선정적인 만화가 SNS에서 급증하며, 청소년 유해성 문제가 심각하게 대두되고 있습니다. 현행 규제는 이러한 새로운 형태의 콘텐츠를 제대로 통제하지 못하고 있으며, 전문가들은 보다 강력한 규제가 필요하다고 지적합니다.

 

 

 

 

자주 묻는 질문

Q.AI 만화는 왜 문제가 되나요?

A.AI 만화는 선정적인 내용을 담고 있음에도 불구하고, 현행 규제의 사각지대에 놓여 있습니다. 특히 청소년들이 이러한 콘텐츠에 쉽게 노출될 수 있다는 점이 가장 큰 문제입니다.

 

Q.플랫폼은 어떤 조치를 취하고 있나요?

A.인스타그램과 같은 플랫폼은 커뮤니티 규정에 따라 위반 여부를 확인하고 조치를 취하고 있다고 밝히고 있습니다. 하지만, AI 만화와 같은 특정 콘텐츠에 대한 구체적인 조치는 불분명합니다.

 

Q.어떤 규제가 필요할까요?

A.전문가들은 챗GPT 등 생성형 AI 플랫폼과 SNS 플랫폼에 대한 보다 강력하고 명확한 규제가 필요하다고 말합니다. 이는 청소년 보호를 위한 필수적인 조치입니다.