마크 카니 캐나다 총리가 텀블러 리지 총기 사건과 관련한 ChatGPT 보도가 나온 가운데, 올가을 의회에서 인공지능(AI) 안전 문제를 다루겠다고 밝혔다. 다만 기존 디지털 안전 법안인 C-34를 의미하는 것인지, 별도의 입법을 추진하는 것인지는 구체적으로 밝히지 않았다.

카니 총리는 29일 기자회견에서 AI와 소셜미디어 안전 문제를 이미 검토하고 있다며, 이번 회기 중 의회에서 관련 사안을 다룰 것이라고 말했다.

앞서 B.C.주 니키 샤르마 법무장관은 AI 기업의 책임을 명확히 하기 위해 연방 정부에 형법 개정을 요청했다. 이에 대해 카니 총리는 샤르마 장관의 제안과 별도로 정부가 AI 서비스 제공업체의 책임과 법적 의무를 포함한 안전 문제를 검토해 왔다고 설명했다.

논란의 배경에는 미국 잡지 '마더 존스'가 보도한 텀블러 리지 사건 관련 ChatGPT 대화 내용이 있다. 해당 보도는 ChatGPT가 폭력과 관련된 질문에 부적절한 정보를 제공하고, 안전장치를 우회하는 방법을 안내했다는 내용을 담고 있다.

샤르마 장관은 형법을 개정해 AI 기업의 책임 소재를 명확히 하면 기업의 행동에도 변화가 생길 수 있다고 주장했다.

반면 션 프레이저 법무부 장관실은 현행 형법이 기술 중립적으로 적용돼 기술 기업과 일반 기업 모두에 적용된다는 입장이다. 정부는 지난 6월 AI 챗봇과 소셜미디어 서비스의 안전 의무를 강화하는 C-34 법안을 하원에 발의했다.

C-34가 통과되면 AI 챗봇 서비스는 유해 콘텐츠 위험을 줄이고, 위기 상황에 대응하기 위한 조치를 마련하는 등의 의무를 부담하게 된다.

톰슨 리버스 대학교의 로버트 디아브 법학 교수는 별도의 형법 개정 없이도 기존 형법과 C-34가 결합되면 AI 기업의 책임을 다룰 수 있는 법적 수단이 마련될 수 있다고 설명했다.

디아브 교수는 C-34가 시행될 경우 AI 기업들이 폭력을 조장하거나 유해한 대화를 생성하는 위험을 줄이기 위한 조치를 취해야 할 법적 의무가 생길 것이라고 말했다.

*City뉴스의 글을 번역,편집한 것입니다.