정치
|
|
|
|
|
|
일론 머스크가 소유한 인공지능 챗봇 그록(Grok)이 더 이상 X 플랫폼에서 실제 인물이 노출이 심한 옷을 입은 사진을 편집할 수 없게 됐다.
X는 수요일 저녁, 그록이 성인을 포함해 일부 경우에는 아동의 사진까지 디지털 방식으로 노출되게 편집해 왔다는 사실이 드러나 전 세계적인 비판이 일자, 해당 기능을 전면 차단했다고 공식 발표했다.
X는 자사 안전팀 계정을 통해 “비키니 등 노출이 심한 옷을 입은 실제 인물의 사진을 편집할 수 없도록 그록 계정에 기술적 제한을 적용했다”며 “이 조치는 유료 X 프리미엄 구독자를 포함한 모든 사용자에게 동일하게 적용된다”고 밝혔다.
그록과 X를 소유한 xAI는 앞서 지난주, 그록의 이미지 편집 기능을 유료 X 프리미엄 구독자에게만 제공하도록 제한한 바 있다. 이후 연구진과 CNN 취재팀은 최근 며칠간, 그록의 X 계정이 이미지 편집 요청에 대해 이전과 다른 방식으로 응답하고 있음을 확인했다. X는 수요일 저녁 발표를 통해 이러한 변경 사항을 공식적으로 인정했다.
그러나 알고리즘을 분석하는 유럽 비영리 단체 AI 포렌식(AI Forensics) 연구원들은, X 플랫폼에서의 공개 상호작용과 Grok.com의 비공개 채팅을 분석한 결과 음란물 콘텐츠 생성에 대한 처리 기준이 일관되지 않다고 지적했다.
이에 대해 X는 “아동 성착취물(CSAM)을 포함한 불법 콘텐츠에 대해서는 삭제, 계정 영구 정지, 필요 시 사법 당국과의 협력 등 강력한 조치를 취하고 있다”고 재차 강조했다. 또한 “Grok을 이용해 불법 콘텐츠 제작을 시도하거나 이를 조장하는 행위는, 해당 콘텐츠를 직접 업로드한 것과 동일한 책임을 지게 된다”고 밝혔다.
머스크는 같은 날 X에 올린 글에서 “Grok이 생성한 미성년자 나체 이미지는 단 한 건도 보고받은 바 없다”며 “Grok은 불법 콘텐츠를 제작하지 않으며, 모든 국가와 지역의 법률을 준수하도록 설계돼 있다”고 주장했다.
그러나 연구원들은 완전한 나체 이미지보다는, 사용자의 요청에 따라 미성년자의 이미지를 비키니나 속옷 등 노출이 심한 복장으로 변경하거나 성적으로 자극적인 자세를 취하게 만드는 점이 핵심 문제라고 지적했다.
전문가들은 이러한 동의 없는 성적 이미지 제작 행위가 아동 성착취물 관련 범죄로 이어질 수 있으며, 도널드 트럼프 전 미국 대통령이 지난해 서명한 ‘테이크 잇 다운 법(Take It Down Act)’에 따라 벌금형이나 징역형에 처해질 수 있다고 경고한다.
실제로 수요일, 캘리포니아주 법무장관 롭 본타는 “Grok을 통해 제작된 동의 없는 성적 콘텐츠의 확산”에 대해 공식 조사에 착수했다고 밝혔다.
한편, 이러한 이미지 생성 논란으로 인해 그록은 현재 인도네시아와 말레이시아에서 사용이 금지된 상태다. 영국 규제기관 오프콤(Ofcom)은 월요일 X에 대한 공식 조사에 착수했다고 발표했으며, 키어 스타머 총리실은 수요일 “X가 문제 해결을 위해 조치를 취하고 있다는 보도를 환영한다”는 입장을 내놨다.
*CTV뉴스의 글을 번역,편집한 것입니다.
|
||||||||||||||||||||||||||||
제목
