미 하원 정보위, AI의 '검은백조' 위험 경고...테러 무기화 우려

미국 하원 상임 정보위원회가 인공지능(AI)이 테러리스트나 적대국에 의해 악용될 경우 초래할 수 있는 파괴적 위험성을 경고했다. 위원회는 최근 발표한 보고서에서 첨단 AI 기술이 대량살상무기 개발이나 더욱 치명적인 테러 공격 계획 수립에 악용될 수 있다며 미국 정보기관들이 이러한 '검은백조' 위험에 대비할 필요가 있다고 강조했다. 이 경고는 2001년 9월 11일 테러 공격 25주년을 앞두고 나온 것으로, 현재의 위협 환경이 9·11 이후 만큼이나 복잡하고 위험하다는 평가를 담고 있다.

리크 크로포드 하원 정보위원장(공화당, 아칸소)과 짐 하임스 소수당 대표(민주당, 코네티컷)를 포함한 위원들은 보고서에서 "정보기관과 정책 입안자들은 AI 도구가 테러리스트를 포함한 불량 행위자에 의해 악용되는 것을 방지하는 방법을 신중하게 검토해야 한다"고 명시했다. 보고서는 지난 25년간 9·11 테러로 드러난 정보 실패를 해결하기 위한 미국의 노력을 평가하는 과정에서 작성됐다. 엘리즈 스테파닉 의원(공화당, 뉴욕)과 조시 고텔하이머 의원(민주당, 뉴저지)도 이 보고서 작성에 참여했다.

위원회는 현재의 AI 보안 체계가 기술의 급속한 발전을 따라잡기에 충분하지 않을 수 있다고 우려했다. "AI 연구소들이 생물무기 제조 같은 악의적 목적으로 활용될 수 있는 정보를 모델이 반환하지 못하도록 노력하고 있지만, 모델의 기본 능력은 빠르게 발전하고 있으며 이러한 악용을 완전히 통제하기는 어렵다"고 의원들은 지적했다. 9·11 이후 미국 정보기관과 국가안보 체계는 대량살상무기 개발을 위한 장비와 전문성 확보를 테러 조직이 하지 못하도록 막는 데 상당한 노력을 기울여왔다. 그러나 대규모 언어 모델로 대표되는 첨단 AI 기술의 등장으로 상황이 급변하고 있다는 게 위원회의 분석이다.

위원회는 미국 정보기관이 책임감 있는 방식으로 첨단 AI 기술을 빠르게 도입해 미국이 적대국보다 앞서 나갈 수 있도록 할 것을 촉구했다. 특히 "정보 수집, 분석, 경보 시스템을 위한 안전한 AI 도구에 투자하되, 엄격한 테스트, 인적 감시, 강력한 프라이버시 및 시민자유 보호 조치를 함께 추진하는 것이 다음 세대 위협에 대응하는 데 필수적"이라고 강조했다. 보고서는 또한 미국이 직면한 위협 환경이 9·11 이후 어느 때보다 복잡하고 위험하며, 이러한 취약점에 대처할 능력에 여전히 심각한 격차가 있다고 평가했다.

이번 경고는 AI 기술이 빠르게 발전하면서 엄청난 경제 활동을 주도하고 있는 와중에 나온 것이다. 의회와 정부 관계자들은 기술 규제를 둘러싼 어려운 정책 결정을 앞두고 있다. 한편 AI 연구소들은 모델이 악의적 목적으로 악용되지 않도록 안전장치를 강화하려는 노력을 계속하고 있지만, 기술의 이중용도 특성상 완벽한 통제는 불가능에 가까운 상황이다. 이에 따라 정보기관과 정책 입안자들 사이에서는 AI의 혁신성을 보장하면서도 국가안보 위협을 최소화할 수 있는 균형 잡힌 접근 방식의 필요성이 높아지고 있다.