중국 오픈소스 AI, 해킹 무기로 악용…전세계 460곳 침투 시도

국내 금융권을 강타한 사이버 공격의 배후로 중국산 오픈소스 인공지능(AI) 모델이 지목되면서 글로벌 보안 위협이 심화되고 있다. 미국 국가안보국(NSA), 연방수사국(FBI), 사이버보안·인프라보안국(CISA)은 지난달 9일 오픈소스 AI 모델의 악용 위험성에 대한 공식 경보를 발령했다. 중국산 오픈소스 AI가 세계 최고 수준의 성능을 갖춘 미국 프런티어 모델과 경쟁하면서 동시에 해커들의 새로운 '디지털 무기'로 전락하고 있다는 경고가 나오고 있다.

신한은행을 포함한 국내 금융권에서 발생한 개인정보 유출 사건의 공격 과정에서 '아텍스 자율 침투 테스트 콘솔'이라는 중국어 문자열이 발견됐다. 이는 중국 바이두 보안대응센터의 보안 챌린지에서 우승한 정교한 중국 기반 도구로, 공격자들이 대출모집인 시스템에 무작위 계정 대입을 시도할 때 사용된 것으로 파악됐다. 최근 미국, 유럽, 대만 등에서 발생한 해킹 공격에도 유사한 중국산 오픈소스 AI의 악용 사례가 잇따라 확인되고 있어 이것이 단순한 국내 사건을 넘어 글로벌 차원의 보안 위협임을 보여주고 있다.

글로벌 보안업체 팰로앨토네트웍스의 7월 보고서에 따르면 중국계 공격자들이 중국 오픈소스 AI인 '딥시크'를 자율 에이전트 도구와 결합해 전 세계 460여 개 서버에 침투를 시도한 사례가 적발됐다. 흥미롭게도 이 공격자들은 처음에 오픈AI와 앤트로픽의 모델을 사용하려 했으나 강력한 보안 가드레일에 막혀 상대적으로 안전 제약이 느슨한 딥시크로 우회했다. 딥시크 기반 AI 에이전트는 공격자의 지시에 따라 공격 루트를 자동으로 설계하고 보안 취약점을 파악해 대규모 침투를 자동으로 시도했다. 유럽과 중동에서는 알리바바의 '큐원'을 활용한 금융회사 공격 사건도 발생했으며, 대만 행정원은 중국산 오픈소스 모델을 활용한 정밀 피싱과 공공 전산망 접속 시도가 늘어나자 중앙·지방정부 및 핵심 인프라 공공기관에 대해 이들 모델의 접속과 내부 사용을 전면 금지하기에 이르렀다.

해커들이 오픈소스 AI를 선호하는 핵심 이유는 사이버 공격에 최적화한 맞춤 개조가 가능하다는 점이다. GPT, 제미나이, 클로드 같은 폐쇄형 AI와 달리 오픈소스 모델은 AI의 핵심인 '가중치' 파일이 외부에 완전히 공개된다. 공격자는 이를 내려받은 후 악성코드 제작이나 취약점 공격 요청을 거절하도록 설계된 보안 가드레일을 완전히 제거할 수 있다. 추적을 불가능하게 하는 맞춤 개조도 가능하며, 여기에 해커가 수집한 제로데이 취약점으로 취약점 정보와 공격 스크립트, 피싱 패턴 등 특화 데이터셋을 주입하는 악성 파인튜닝까지 결합된다. 결과적으로 범용 AI 모델이 순식간에 고도화된 해킹 특화 무기로 개조되는 것이다.

이렇게 개조된 오픈소스 AI가 공격 자동화 스크립트와 연동되면 24시간 쉬지 않고 전 세계 취약 서버를 자율적으로 스캔하고 침투하는 '무인 공격 에이전트'가 완성된다. 국내 IT 업계 관계자는 "성능은 100점이지만 통제당하는 미국 프런티어 AI 모델보다 성능이 90점이어도 해커 맘대로 커스터마이징이 가능한 오픈소스 모델이 사이버 보안에 더 위협적"이라고 경고했다. 또 다른 보안 업계 관계자는 "최고 성능의 모델을 사실상 무제한으로 사용할 수 있게 되면서 국가 배후 해킹 조직은 물론 영세한 범죄 집단까지 '핵무기'급 무기를 손에 쥐게 된 꼴"이라며 우려를 표했다. 중국산 오픈소스 AI의 확산이 전 세계 사이버 보안 체계의 최대 뇌관으로 부상하고 있는 만큼 국제 사회의 조율된 대응이 시급한 상황이다.