자율주행차 의사결정 설명 가능하게 만드는 AI 기술 개발

자율주행차가 언제 실패할지 예측하기 어려운 '블랙박스' 문제를 해결할 수 있는 새로운 인공지능 기술이 개발됐다. 네이처 저널에 발표된 연구에 따르면, 개념 래퍼 네트워크(CW-Net)라는 방식을 통해 자율주행차의 의사결정 과정을 인간이 이해할 수 있는 개념으로 설명할 수 있게 됐다. 이 기술은 실제 자동차에 탑재되어 테스트됐으며, 운전자가 자율주행차의 행동을 더 잘 예측하도록 도와주는 것으로 확인됐다.

현재 자율주행차 산업은 완전 자율주행 택시 서비스와 소비자용 운전 보조 시스템으로 나뉘어 있다. 머신러닝 기술의 발전으로 자율주행차의 성능이 크게 향상되었지만, 여전히 예상치 못한 상황에서는 인간의 개입이 필요한 실정이다. 도로 주행이 안전이 가장 중요한 영역인 만큼, 이러한 드문 실패 사례들이 심각한 결과를 초래할 수 있다. 문제는 머신러닝 시스템의 불투명성 때문에 자율주행차가 왜 특정 결정을 내렸는지 설명하기 어렵다는 점이다. 이로 인해 운전자가 자동차의 행동을 예측하고 대비하기 어려워지면서 안전 위험이 증가하게 된다.

자율주행차와 인간 운전자 간의 소통 부족은 이미 여러 건의 심각한 사고로 이어졌다. 일부는 사망 사고까지 발생했으며, 이는 머신러닝 시스템의 의사결정 과정을 명확히 설명할 필요성을 더욱 부각시켰다. 지난 연구들은 설문조사, 시뮬레이션, 자연어로 운전 정책을 설명하는 방식 등을 시도했지만, 대부분 이론적 수준에 머물렀거나 실제 환경에서의 효용성을 입증하지 못했다. 인간이 이해할 수 있으면서도 자율주행차의 실제 의사결정 과정을 충실하게 반영하는 설명 방식이 절실했던 이유다.

개념 래퍼 네트워크(CW-Net)는 이러한 문제를 해결하기 위해 개발된 새로운 방식이다. 이 기술은 블랙박스 머신러닝 시스템의 추론 과정을 '정차한 차량에 접근 중' 또는 '자전거 탑승자와 가까움' 같은 인간이 이해할 수 있는 개념으로 설명한다. CW-Net은 인간의 인지 방식과 기억 체계에서 영감을 받은 고전적 인공지능 접근법인 사례 기반 추론에 기반하고 있다. 이 방법은 기존의 사전 훈련된 머신러닝 모델에도 적용할 수 있으며, 시스템의 성능을 희생하지 않으면서도 충실한 설명을 제공한다는 장점이 있다.

연구팀은 개발한 CW-Net을 실제 자율주행차에 탑재하여 현장 테스트를 진행했다. 그 결과 제공된 설명이 운전자의 자율주행차에 대한 정신 모델을 개선하는 것으로 나타났다. 특히 예상 밖의 상황에서 자동차의 행동을 더 잘 예측할 수 있게 되었다. 이는 단순한 시뮬레이션이 아닌 실제 도로 환경에서 입증된 결과라는 점에서 의미가 크다. 연구팀은 이 기술이 자율주행 드론이나 로봇 수술 시스템 같은 다른 안전 중심 시스템에도 적용될 수 있을 것으로 예상하고 있다.

이번 연구는 자율주행차의 투명성과 안전성을 높이는 데 실질적인 방법을 제시했다는 평가를 받고 있다. 머신러닝 기반 자동 운전 시스템의 의사결정 과정을 인간이 이해할 수 있는 형태로 설명함으로써, 자율주행차에 대한 신뢰를 구축하고 안전성을 향상시킬 수 있는 길을 열었다. 향후 이러한 설명 가능한 인공지능 기술이 더 많은 자율주행 시스템에 통합된다면, 자동차 산업의 안전 기준을 한 단계 높이는 데 크게 기여할 것으로 전망된다.