전문가들 “AI는 공격자의 능력을 확대하는 도구…피싱·사기·해킹 자동화 속도 빨라져”

 

인공지능(AI)이 사이버 보안의 새로운 위협으로 떠오르고 있다. 최근에는 AI 모델이 통제된 테스트 환경에서 예상하지 못한 행동을 하거나 외부 시스템에 접근하려 한 사례까지 잇따라 보고되면서 AI의 자율적인 행동에 대한 우려도 커지고 있다.

 

하지만 사이버 보안 전문가들은 현재 가장 현실적인 위험은 AI 자체보다는 AI를 악의적인 목적으로 활용하는 사람에게 있다고 지적한다.

 

AI가 새로운 범죄 수법을 만들어내는 것보다 기존의 피싱, 악성코드, 사기, 정보 수집 등의 공격을 훨씬 빠르고 정교하게 수행할 수 있도록 돕는 것이 현재 더 큰 문제라는 설명이다.

 

워싱턴대학교 명예교수이자 앨런 인공지능 연구소의 전 CEO인 오렌 에치오니는 “우리가 경계해야 할 대상은 인간이며, AI는 도구일 뿐”이라는 취지로 설명했다.

 

AI 모델이 통제된 환경에서 예상 밖 행동

최근 몇 주 동안 AI의 사이버 공격 능력을 둘러싼 여러 실험 결과가 공개됐다.

 

일부 AI 기업들은 사이버 보안 능력을 평가하는 과정에서 모델에 제한적인 접근 권한을 부여하고, 안전장치를 일부 해제한 상태에서 테스트를 진행했다. 그 과정에서 AI 모델이 예상하지 못한 방식으로 시스템에 접근하거나 다른 조직을 대상으로 한 공격 행동을 시도하는 사례가 발견됐다.

 

이 같은 결과는 AI가 복잡한 명령을 수행하는 과정에서 개발자가 예상하지 못한 행동을 할 가능성을 보여준다.

 

다만 전문가들은 이러한 사례를 실제 범죄 현장에서 AI가 독자적으로 공격을 수행한 것과 동일하게 받아들여서는 안 된다고 강조한다.

 

대부분의 실험은 AI의 잠재적인 위험성을 확인하기 위해 의도적으로 제한을 풀거나 특정 도구와 시스템에 접근할 수 있도록 구성된 통제된 테스트 환경에서 진행됐기 때문이다.

 

사이버 보안 기업 크라우드스트라이크의 대테러 작전 책임자인 아담 마이어스는 이러한 실험의 목적이 실제 범죄를 수행하도록 하는 데 있는 것이 아니라, AI가 주어진 환경에서 예상 밖의 행동을 하는지를 확인하는 데 있다고 설명했다.

 

즉, 현재 공개된 사례들은 AI가 이미 자유롭게 기업 시스템을 공격하고 있다는 의미라기보다 앞으로 AI 에이전트의 자율성이 높아질 경우 어떤 위험이 발생할 수 있는지를 보여주는 실험에 가깝다는 것이다.

 

실제 사이버 범죄에서는 AI가 ‘공격자’를 강화

보다 현실적인 문제는 사이버 범죄자들이 AI를 활용하기 시작했다는 점이다.

 

전문가들에 따르면 공격자들은 AI를 이용해 목표 기업이나 조직에 대한 정보를 수집하고, 피싱 메시지를 작성하며, 악성 웹사이트를 구축하고, 피해자와의 대화를 자동화하는 등 공격 과정의 여러 단계를 빠르게 처리하고 있다.

 

특히 생성형 AI는 과거보다 훨씬 자연스러운 문장과 대화를 만들어낼 수 있어 피싱이나 사기 메시지의 완성도를 높이는 데 활용될 수 있다.

 

AI 에이전트가 문자뿐 아니라 음성이나 특정 인물의 말투까지 모방할 수 있게 되면서 피해자가 상대방을 실제 사람으로 착각할 가능성도 커지고 있다.

 

사이버 보험회사 레질리언스의 위험 운영 센터 책임자 주드 드레슬러는 공격자들이 AI를 사이버 공격 과정 전반에 활용하고 있지만, 여전히 중요한 의사결정과 공격의 목적을 정하는 주체는 인간이라고 설명했다.

 

과거에는 공격자가 직접 스크립트를 작성하고 웹사이트를 구축하며 피해자를 조사해야 했다면, 이제는 AI를 이용해 이러한 작업의 상당 부분을 자동화할 수 있다는 것이다.

 

‘진입장벽’ 낮아지는 것이 더 큰 문제

AI의 확산이 사이버 보안에 미치는 가장 큰 영향 가운데 하나는 공격의 진입장벽을 낮추는 것이다.

 

과거에는 특정 시스템을 공격하기 위해 상당한 수준의 기술 지식과 시간이 필요했다. 그러나 AI 도구를 활용하면 공격 대상에 대한 정보 수집부터 이메일 작성, 코드 생성, 웹사이트 제작 등 여러 작업을 빠르게 처리할 수 있다.

 

이는 전문적인 해커뿐 아니라 상대적으로 기술력이 부족한 공격자들에게도 새로운 가능성을 제공한다.

 

마이크로소프트의 위협 보호 담당 부사장 롭 레퍼츠는 AI를 활용하면 공격에 필요한 인프라 구축과 재구성 과정까지 자동화할 수 있어 공격자가 부담해야 하는 비용과 시간이 크게 줄어들 수 있다고 지적했다.

 

결국 AI가 사이버 범죄를 완전히 새로운 형태로 바꾸기보다는 기존 범죄를 더 저렴하고 빠르게, 그리고 대규모로 수행할 수 있게 만드는 역할을 할 가능성이 크다는 분석이다.

 

AI 시대에도 기본적인 보안이 중요

전문가들은 이러한 변화가 오히려 기본적인 사이버 보안의 중요성을 높이고 있다고 말한다.

 

기업은 AI가 생성한 피싱 메시지나 사기 콘텐츠에 대비하고, 중요 시스템에 대한 접근 권한을 세분화하는 한편 AI 에이전트가 실제 업무 환경에서 어떤 행동을 하는지도 지속적으로 점검할 필요가 있다.

 

직원들을 대상으로 한 피싱 및 사회공학적 공격 교육도 중요하다.

 

특히 AI를 이용하면 실제 기업이나 금융기관을 사칭하는 메시지를 훨씬 자연스럽게 만들 수 있기 때문에, 문법이나 표현이 어색하다는 이유만으로 사기 메시지를 걸러내기는 점점 어려워질 수 있다.

 

따라서 발신자 확인, 링크 확인, 송금이나 계정 변경 요청에 대한 별도 검증 등 기존의 보안 원칙을 더욱 철저하게 적용해야 한다는 지적이다.

 

AI가 더 똑똑해질수록 우려도 커져

문제는 AI 기술이 계속 빠르게 발전하고 있다는 점이다.

 

현재의 AI 모델보다 훨씬 높은 수준의 자율성을 가진 AI 에이전트가 등장할 경우, 단순히 사용자의 질문에 답하는 수준을 넘어 스스로 정보를 수집하고 여러 작업을 연결해 수행할 가능성이 있다.

 

이 때문에 AI의 능력이 인간 수준에 가까워지는 이른바 인공 일반 지능(AGI) 개발을 둘러싼 안전성 논쟁도 커지고 있다.

 

일부 AI 업계 관계자들은 기술 개발 속도에 맞춰 안전성 검증과 정부의 감독 체계도 함께 강화해야 한다고 주장하고 있다.

 

다만 전문가들은 현재 공개된 AI의 사이버 공격 실험을 곧바로 ‘AI가 인간을 공격하기 시작했다’는 의미로 해석하는 것은 지나친 확대 해석이라고 말한다.

 

핵심은 AI가 얼마나 강력한가보다 누가 어떤 목적으로 AI를 사용하며, 어떤 권한을 부여받았는가에 있다는 것이다.

 

사이버 보안 전문가들이 AI의 발전을 주의 깊게 지켜보는 이유도 여기에 있다. AI가 인간의 능력을 대체할 정도로 발전하지 않았더라도, 이미 범죄자가 가진 능력을 확대하고 공격에 필요한 시간과 비용을 줄이는 도구로 활용되고 있기 때문이다.

 

결국 AI 시대의 사이버 보안에서 가장 중요한 질문은 ‘AI가 공격할 것인가’가 아니다.

 

AI를 이용해 누가, 무엇을, 얼마나 빠르게 공격할 수 있게 되는가가 앞으로의 사이버 보안 환경을 좌우할 핵심 변수가 될 전망이다.

 

 

*CTV뉴스의 글을 번역,편집한 것입니다.