미국 AI 기업들이 적용한 강력한 안전장치 때문에 사이버 보안 분석이 어려워지자, 한 미국 스타트업이 중국 AI 모델을 활용해 문제를 해결한 사례가 공개됐다.

 

AI 플랫폼 허깅페이스(Hugging Face)는 최근 OpenAI 기반 자율 AI 에이전트가 남긴 해킹 데이터를 분석하는 과정에서 중국 Zhipu AI의 오픈소스 모델(GLM-5.2)을 사용했다고 밝혔다.

 

미국 AI 모델들은 해킹과 관련된 작업을 위험 행위로 판단해 분석을 거부했지만, GLM-5.2는 해당 작업을 수행할 수 있었다.

 

최근 AI 기업들은 악성 해킹이나 사이버 범죄를 막기 위해 모델에 강력한 안전장치를 적용하고 있다.

 

문제는 AI가 사이버 공격과 보안 방어를 구분하지 못하는 경우가 많다는 점이다.

 

이 때문에 실제 보안 전문가가 해킹 로그를 분석하거나 공격을 추적하려 해도 AI가 이를 위험한 요청으로 인식해 작업을 거부하는 사례가 늘고 있다.

 

반면 일부 중국 오픈소스 AI 모델은 이러한 제한이 상대적으로 적어 실제 보안 분석 업무에 활용되고 있다.

 

이번 사례는 단순한 기술 문제가 아니라 AI 산업 경쟁에도 영향을 줄 수 있다는 평가가 나온다.

 

전문가들은 미국 기업들이 지나치게 보수적인 제한을 유지할 경우 보안 업계와 개발자들이 상대적으로 제약이 적은 중국 AI로 이동할 가능성이 있다고 보고 있다.

 

특히 오픈소스 AI의 성능이 빠르게 향상되면서 미국 AI 기업들의 경쟁력이 약해질 수 있다는 우려도 제기된다.

 

일반 사용자 입장에서는 AI가 더 안전해지는 것이 긍정적이다.

 

하지만 기업과 보안 전문가에게는 지나친 제한이 실제 사이버 공격 대응을 어렵게 만들 수 있다.

 

결국 앞으로는 AI의 안전성과 활용성을 어떻게 균형 있게 유지할 것인가가 중요한 과제가 될 전망이다.

 

미국 AI 기업들은 현재의 일괄적인 차단 방식 대신, 보안 전문가에게는 필요한 기능을 제한적으로 허용하는 새로운 접근 방식을 검토해야 한다는 요구를 받고 있다.

 

한편 중국의 오픈소스 AI는 낮은 비용과 적은 제약을 앞세워 글로벌 개발자 시장에서 영향력을 빠르게 확대하고 있다.

 

전문가들은 앞으로 AI 경쟁이 단순한 성능을 넘어 안전성과 개방성의 균형을 둘러싼 경쟁으로 확대될 것으로 전망하고 있다.

 

 

*CTV뉴스의 글을 번역,편집한 것입니다.