'조종자를 제거하라'…공격 설계도 치밀한 AI드론[탐사보도 뉴스프리즘] / 연합뉴스TV (YonhapnewsTV)

[진행자 코너]

군사무기용 드론의 진화에서 핵심은 AI입니다. AI가 자체적으로 판단해 드론을 움직이고 공격무기 사용 등에서 의사결정을 내리는 단계로 진입했습니다.

AI 드론은 이미 우크라이나 전쟁에서 사용되고 있는데요. 아직 인간이 컨트롤러로 드론을 조종하는 게 대부분이지만, 재밍 같은 돌발 변수로 조정 신호가 끊겼을 때 AI 드론이 자체 판단에 따라 움직이고 있습니다. 실제 표적을 AI드론이 결정하고 공격한 일이 알려지기도 했는데요. 우크라이나군 제60기계화여단의 AI드론이 재밍으로 송수신이 끊겨 인간의 조정이 불가능한 상황에서 러시아군 전차에 돌진해 무력화시켰습니다.

그런데 표적 판단과 공격 결정을 AI가 맡을 경우 윤리적인 문제 등이 발생할 수 있습니다. 자칫 AI드론이 인간의 통제를 벗어나 인간에게 비수를 들이밀 가능성도 있습니다.

영국 왕립항공학회가 지난해 5월 개최한 회의에서 한 미국 공군 관계자는 AI드론이 인간의 통제에 반하는 결정을 내린 시뮬레이션 결과를 발표했는데요. 미 공군은 AI드론에 적군의 지대공미사일 파괴 임무를 내리면서, 목표물에 대한 공격 결정은 인간이 한다는 단서를 달았습니다. 특히 AI 조정자를 죽이지 말라고 AI시스템을 훈련시키기도 했는데요. 그런데 AI는 조정자를 공격해 죽였습니다.

인간이 때때로 목표물을 제거하지 말라고 지시를 내릴 수 있다는 점을 AI가 깨닫고, 임무 달성에 방해가 될 수 있는 조정자를 공격한 겁니다. AI는 조정자를 공격하기 전, 조종자가 드론과 교신하는 데 사용하는 통신탑을 파괴해 조정자가 AI드론을 통제할 수 없도록 했습니다.

가상의 실험이었으나 AI드론이 자체 판단으로 인간의 명령에 반해 인간을 공격할 가능성을 보여준 사례입니다. 더구나 공격하기 위한 과정도 치밀하기까지 합니다.

지난 9일 서울에서 AI의 책임 있는 군사적 이용에 관한 국제회의가 열렸는데요. 각 정부 대표단 및 전문가들이 참석한 반관반민 형식으로, 90여개국에서 참가할 정도로 성황을 이뤘습니다. 이 회의에선 AI 이용을 통한 군사적 혁신이 논의되면서도 인류에 대한 위협 문제도 중요하게 다뤄졌습니다. 그만큼, AI드론의 위협은 간과할 수 없다는 데 국제적인 컨센서스가 이뤄지고 있는 겁니다.

▣ 연합뉴스TV 두번째 채널 '연유티' 구독하기
https://bit.ly/3yZBQfA

▣ 연합뉴스TV 유튜브 채널 구독
https://goo.gl/VuCJMi

▣ 대한민국 뉴스의 시작 연합뉴스TV / Yonhap News TV
http://www.yonhapnewstv.co.kr/