목요일에 구글은 Gemini 인공지능 챗봇이 생성하는 역사적 묘사의 "부정확성"에 대해 사과한 하루 뒤로 사람 사진 생성 기능을 일시적으로 중단하기로 결정했다고 밝혔다.

 

이번 주 Gemini 사용자들은 구글이 생성한 역사적으로 백인이 우세한 장면에 인종 다양성이 있는 캐릭터들이 포함되어 있다고 소셜 미디어에 스크린샷을 게시했다. 이로 인해 비판가들은 구글이 자사의 AI 모델의 인종적 편견 리스크를 너무 과도하게 교정하고 있는지에 대해 의문을 제기했다.

 

구글은 X라는 소셜 미디어 플랫폼에 한 게시물에서 "Gemini의 이미지 생성 기능에 대한 최근 문제를 해결하기 위해 이미 작업 중입니다. 이 과정에서 사람의 이미지 생성을 일시 중단하고 곧 개선된 버전을 재발표할 예정입니다." 라고 말했다.

 

이전 연구들은 AI 이미지 생성기가 그들의 훈련 데이터에서 발견된 인종 및 성별 스테레오타입을 증폭시킬 수 있으며, 필터가 없으면 여러 맥락에서 사람을 생성하도록 요청할 때 주로 피부가 밝은 남성을 보여줄 가능성이 더 높다는 것을 보여주었다.

 

구글은 수요일에 "Gemini가 일부 역사적 이미지 생성 묘사에서 부정확한 정보를 제공하는 것을 인식하고 있으며, 이러한 종류의 묘사를 즉시 개선하도록 노력하고 있다"고 밝혔다.

 

Gemini는 "다양한 사람들"을 생성할 수 있다고 회사는 말했으며, 이는 전 세계 사람들이 이 시스템을 사용하기 때문에 "일반적으로 좋은 일"이지만 "목표를 달성하지 못하고 있다"고 말했다.

 

인공지능 이미지 생성기의 편견을 연구해 온 워싱턴 대학 연구원인 수로지트 고쉬는 구글이 사람들의 얼굴 생성을 일시 중단하는 데 찬성하지만 "이 결과에 도달하는 과정에 대해 조금 갈등을 느낍니다." 이번 주 소셜 미디어에서 순환하는 "백인 소거"라는 주장과 Gemini가 백인 얼굴을 생성하는 것을 거부한다는 전제와는 반대로, 고쉬의 연구는 대부분 반대 결과를 보여주었다.

 

고쉬는 "이와 같은 모델들에 의해 전통적으로 소외된 사람들이 소거되었다는 다른 문헌과 다른 연구들이 많은 상황에서 이러한 반응의 신속함을 조금 이해하기 어렵다고 생각합니다,"라고 말했다.

 

AP가 Gemini에게 사람들의 사진이나 대규모 군중 사진을 생성하도록 요청하자, 이에 대한 응답으로 "우리는 이를 개선하기 위해 노력하고 있다"고 말했다. "이 기능이 곧 복구될 것으로 기대하고, 그렇게 되면 릴리스 업데이트에서 알려드리겠습니다,"라고 챗봇이 말했다.

 

고쉬는 구글이 사용자의 요청의 역사적 맥락을 반영하기 위한 방법을 찾을 수 있을 것이라고 말했지만, 인터넷에서 찾은 사진과 작품의 세대에 기반한 이미지 생성기로 인한 널리 알려진 피해를 해결하는 것은 기술적 패치 이상의 것을 필요로 한다.

 

"대표 이미지에 해를 끼치지 않는 텍스트-이미지 생성기를 즉시 만들어내기는 어렵습니다,"라고 그는 말했다. "그들은 우리가 사는 사회의 반영입니다."

 

 

*CP24의 글을 번역,편집한 것입니다.