#그록 #딥페이크 #생성형AI
그록 딥페이크 논란 확산, 각국 정부까지 대응 나서
일론 머스크가 이끄는 xAI의 챗봇 ‘그록’이 성 착취물 딥페이크를 대량으로 생성·유포할 수 있다는 점에서 국제적인 논란이 확산됐어요. 그록은 소셜미디어 엑스 안에서 제공되는 AI 서비스로, 지난달 말 이미지 편집 기능이 추가되면서 문제가 본격화됐어요. 이 기능을 활용하면 온라인에 공개된 실존 인물 사진을 속옷이나 수영복 차림으로 손쉽게 변형할 수 있어요. 챗GPT나 제미나이와 달리 성적 이미지 생성을 엄격히 제한하지 않고 ‘표현의 자유’를 이유로 허용한 점이 핵심 원인이 됐어요. 유럽 비영리 단체 AI 포렌식스 분석에 따르면, 그록이 생성한 이미지 20만 개 중 53%가 속옷·비키니 차림이었고, 그 중 여성으로 보이는 인물 비중이 81%, 전체의 2%는 18세 이하로 추정됐어요. 해당 분석을 통해 AI 기술이 동의 없는 성 착취물 생산에 악용될 수 있다는 우려가 수치로 확인된 셈이에요.
관련 기사 보기