AI 해킹은 1분이면 뚫리는데...규제는 여전히 '20세기 수준'

인공지능(AI)이 보안 시장의 판도를 바꾸고 있다. 16일 서울 강남구에서 열린 행사에 국내 기업 임원 60여 명이 모인 이유도 이 때문이다. 미국 AI 기업 오픈AI는 이날 AI가 보안 취약점을 찾아 수정안까지 제시하는 방어 체계 '데이브레이크'를 소개했다. 챗봇을 팔던 AI 기업들이 보안이라는 새로운 전장으로 진출하고 있는 것이다. 앤스로픽은 소스코드 취약점을 찾아 고쳐주는 '클로드 시큐리티'를, 구글은 보안 특화 AI인 '페어윈드'를 내놨다. 국내 기업들도 발 빠르게 움직이고 있다. 삼성SDS와 보안업체 에스투더블유는 데이브레이크에 참여했고, 화이트해커 기업 티오리는 오픈AI와 앤스로픽 프로그램에 합류했다. SK텔레콤과 업스테이지는 안랩 등과 함께 독자적인 AI 보안 협의체를 출범시켰다.

기업들이 이렇게 서두르는 이유는 현실의 위협 때문이다. 해커들은 이미 AI를 무기로 삼아 보안 허점을 끊임없이 공략하고 있다. 개발자들이 코드를 공유하는 플랫폼 깃허브에 공개된 AI 모의해킹 도구는 누구나 내려받아 공격 무기로 활용할 수 있다. 실제로 금융권 해킹에 사용된 것으로 지목된 AI 도구를 테스트 서버에 실행해본 결과, 1분이 채 되지 않아 시스템이 뚫렸다. 이는 인간이 대응할 수 있는 속도를 완전히 초월한 수준이다. 방어하는 쪽도 더 이상 사람의 손에만 의존할 수 없게 된 시대가 온 것이다. AI 공격에는 AI 방어로 맞서야 한다는 현실이 명확해지고 있다.

그러나 법 체계는 여전히 과거에 머물러 있다. 현행 정보통신망법 48조 1항은 '정당한 접근권한 없이 또는 허용된 접근권한을 넘어 정보통신망에 침입해서는 안 된다'고만 규정하고 있다. 선의의 보안 점검을 면책하는 조항이 없다는 뜻이다. 물론 기업이 자신의 시스템이나 허락받은 고객 시스템을 점검할 때는 AI를 사용할 수 있다. 보안 협의체나 데이브레이크 같은 프로그램이 이 범위 내에서 운영되고 있다. 하지만 현실의 공격은 협력사나 외부 접점 등 예상 밖의 경로를 통해 들어온다. 모의해킹의 진정한 가치는 이런 실제 공격 경로를 사전에 경험해보는 데 있다. 그런데 AI는 스스로 새로운 길을 찾다가 법적 울타리를 넘기 일쑤다. 방어 목적이라도 법의 선을 한 번 넘으면 범죄가 되기 때문에, 실전처럼 점검하려는 기업일수록 손발이 묶이는 모순이 생기고 있다.

정부도 이 공백을 인식하고 있다. 올해 첫 취약점 신고 시범사업에서는 민간 7곳과 공공 8곳의 지정 시스템에 한해, 등록한 화이트해커가 AI로 점검한 뒤 신고하면 책임을 묻지 않기로 했다. 하지만 이 면책 범위는 겨우 15곳에 불과하다. 더 큰 문제는 이 면책을 모든 기업과 기관으로 확대하는 제도화가 2027년에야 시작된다는 점이다. 정부가 조심스러워하는 이유는 취약점이 공개되면 기업 이미지가 훼손될 수 있고, 점검 과정에서 개인정보가 유출될 수 있다는 우려 때문이다. 정부가 개발 중인 보안 특화 AI 모델도 9월에 개발을 시작해 내년에나 활용할 수 있을 전망이다. 과학기술정보통신부는 15일 국회 국감에서 "늦은 감은 있다"고 인정했다. 금융사 16곳이 해킹당한 사건 이후 금융당국이 내놓은 대책도 결국 연 1회 취약점 점검을 대형사부터 연 2회 이상으로 늘리는 수준에 그쳤다. AI 점검 인프라 구축은 구체적인 일정 없는 추진 과제로만 남아 있다.

결국 현재 상황은 역설적이다. AI가 쉬지 않고 취약점을 훑는 시대에 사람이 수행하는 점검의 횟수를 늘리는 것이 정부의 대책이 되어버렸다. 국회 국감장에서는 "공격은 최첨단 AI라는 창을 쓰는데 방어는 20세기의 낡은 방패를 쓰고 있다"는 지적이 나왔다. 실제로 새로운 방패는 이미 존재한다. 오픈AI, 앤스로픽, 구글 등이 개발한 AI 보안 도구들이 그것이다. 문제는 이 방패를 꺼내 들 법적 근거가 없다는 점이다. 전문가들은 법에 선의의 보안 점검을 명확히 면책하는 조항을 추가하고, 시범사업을 상시화하는 것부터 시작해야 한다고 강조한다. AI 시대의 보안 위협에 대응하려면 법 체계의 현대화가 더 이상 미룰 수 없는 과제가 되었다.