전체메뉴

[애플경제 전윤미 기자] 이른바 ‘AI킬러’가 크게 확산될 것이란 우려가 높다. 특히 러-우크라 전쟁에서 이미 AI무기나 AI 기반의 전투용 드론이 등장하면서 이런 우려는 현실이 되고 있다. 특히 생성AI 등의 고도화 된 AI기술로 인해 인간의 개입없이 목표를 식별하고 공격할 수 있는 자율무기 시스템이 발달하고, 빠르게 실용화되고 있다는 것이다.

최근엔 특히 “최첨단 AI와 AGI(범용인공지능) 등장은 핵무기 도입을 연상시킬 정도로서, 최악의 경우, 인류에게 멸종 수준의 위협을 초래해 세계 안보를 불안정하게 만들 가능성이 있다”는 진단도 나오고 있다.

미국의 AI스타트업 글래드스톤AI사는 최근 미 국무부 의뢰에 따라 작성한 보고서에서 “특히 최첨단 AI와 AGI의 큰 위험 요소로 ‘무기화’와 ‘통제력 상실’을 꼽을 수 있다”며 이같이 우려했다. 그러면서 “AI킬러 시스템은 생화학이나 사이버 전쟁을 설계하고 실행하는데 사용될 수 있고, 통제가 불가능해지면서 인간에게 적대적으로 행동할 수 있다”고 경고하기도 했다.

AI킬러에 대한 인간 통제력 상실, “세계안보 위협”

이를 인용한 정보통신기획평가원에 따르면 해당 보고서는 미 국무부 의뢰를 받아 주요 AI 기업의 최고경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보와 관련한 정부 당국자 등 200명이 넘는 관계자들을 1년여에 걸쳐 인터뷰한 내용을 토대로 한 것이어서 공신력을 더해주고 있다.

보고서는 또한 AGI(범용AI)의 빠른 진화를 ‘재앙적 위험’의 핵심으로 꼽아 눈길을 끈다. 즉 “공상과학 영화에 등장하는 AGI가 인간 이상 수준으로 대부분의 작업을 수행한다”면서 “이런 위협에 대응하기 위해 정부가 AI 개발에 신속하고 단호하게 개입해야 한다”고 촉구하기까지 했다.

또한 “컴퓨터 성능을 제한하는 방안 등을 제시하고 첨단 AI 반도체 제조와 수출에 대한 통제도 강화할 것”을 권고하기도 했다.

실제로 AI를 탑재한 무기 시스템은 공격 목표를 자동으로 설정하는 것은 물론, 인간이 전쟁을 제어할 수 없는 상황을 초래한다는 우려도 제기되고 있다. 그 대표적인 징후가 최근 개발 중인 AGI다. AI 전문가들은 앞으로 5년 이내 “인간보다 뛰어난” AGI가 출현할 수 있을 것으로 보고 있다. 구글 딥마인드, 앤트로픽, 엔비디아는 모두 오는 2028년까지 AGI에 도달할 수 있다고 전망하고 있다.

러-우크라전, 이-팔 분쟁, “‘AI무기’ 시험장”

AI 킬러 로봇 등은 이미 오래 전부터 논쟁의 중심이 되어왔다. 물론 AI가 인류의 이익과 행복에 기여하는 측면이 더 클 수도 있다. 정보통신기획원은 “예를 들어 AI가 엑스레이 스캔을 분석해 폐암 발병 위험을 감지하거나, 코로나19 동안 기침 소리를 분석해 바이러스 진단 알고리즘을 개발하는 등 의료 진단, 과학 분야에서 큰 성과를 내기도 했다”면서 “또한 양자 물리학 실험 설계와 같이 인간이 어려워하는 작업에도 사용되고 있다”고 했다.

그러나 러시아-우크라이나, 이스라엘-하마스 전쟁 등 각종 분쟁 현장에서 AI 무기가 실제로 전장에 빈번하게 투입되는 일이 잦아지고 있다.

러-우크라이나 전쟁의 경우 양측은 AI 전술 프로그램이나 AI 드론을 사용, 건물 내부나 은폐·엄폐물 너머 목표물을 찾아 타격할 정도로 기술이 발전했다.

실제로 러-우크라 전쟁 발발 3개월 무렵인 2022년 5월 우크라이나군은 AI를 활용한 전술 프로그램 ‘GIS 아르타’로 시베르스키도네츠강을 건너려는 러시아군 공세를 차단한 적이 있다. 이 전투에서 우크라군은 ‘GIS 아르타’를 이용, 1,500명 가량의 러시아군을 살상하고, 70여 대의 탱크·장갑차를 파괴하기도 했다.

지난 2월 중순에도 우크라이나군은 해상 공격용 드론(무인기)으로 크림반도 부근에 있던 러시아군 대형 상륙함 체사르 쿠니코프함을 격침시킨 바 있다. 이에 전쟁 발발 3년 차에 접어든 최근 러시아 푸틴 대통령도 “더욱 향상된 군사 장비 개발과 제조를 위해 군사 장비에 AI 기술을 도입할 것”을 언급하기도 했다.

이스라엘도 하마스와의 전쟁에서 AI 무인기, 머신러닝 알고리즘을 적용한 AI 광학 조준기 등을 투입한 바 있다. 빅데이터를 학습한 AI는 수많은 전투기와 드론, 무인 헬리콥터에 목표물과 공격 시기, 우선순위, 탄약량 등을 빠르게 계산해 제공한다.

“이처럼 AI 무기는 군사적 효율성을 높일 수 있는 잠재력과 위험성을 내재하고 있어 세계 각국, 국제단체에서는 이를 규제하기 위한 논의가 본격화되고 있다”는 설명이다. 심지어는 “AI 기술이 드론·로봇·미사일·전투기·함정·무인잠수정 등 무기 체계에 본격적으로 접목할 경우 인류를 크게 위협하는 요인이 될 것”이란 우려도 높다.

국제회의체 결성…각국 정부 적극 대책 마련해야

그런 가운데 AI킬러의 위험성에 대비하기 위한 국제적 회의체인 ‘REAIM(Responsible AI in the Military Domain Summit)’이 지난해 2월 출범하기도 했다. 이는 “AI의 책임 있는 군사적 개발·배치·이용에 대한 국제사회 이해를 높이고, 관련 국제규범을 형성하는 과정에 기여”함을 선언하고 있다.

유엔도 대응책에 나서고 있다. 지난해 12월 유엔은 ‘무기 체계의 AI와 자동화를 우려하는 결의안’을 152개국 찬성으로 총회에서 채택한 바 있다. 그러나 우크라이나와 전쟁 중인 러시아, 그리고 인도·벨라루스 등 4개국이 반대하고, 중국·이스라엘·이란 등 11개국이 기권함으로써 실효성이 의심되는 상황이다.

이와 별도로 바이든 미국 대통령은 이보다 한 달 앞선 지난해 11월 시진핑 중국 주석과의 정상회담에서 “핵무기의 AI 접목을 금지하는 안건”을 포함, 논의하기도 했다.

한편 한국은 지난해 9월 서울에서 열린 ‘제2차 REAIM’를 앞두고 일본·호주·인도 등과 아시아지역 협의회를 별도로 열었다. 이를 통해 지역별 이해를 도모하며 글로벌 규제를 적극 논의한다는 구상이다.

특히 과기정통부·국토교통부·국가정보원은 지난 12일 드론 위협에 대한 국가 대응 역량을 강화하기 위해 ‘국가안티드론훈련장 지정․운영 및 사용에 관한 업무협약’을 체결했다. 정부는 “무인기를 활용한 북한의 테러 가능성이 증가하고 있고, 러-우크라이나 전쟁 등에서 무인 드론이 폭넓게 이용되는 등 국내외적으로 드론 테러가 심각한 안보 위협으로 대두된 데 따른 대응 차원”이라며 “특히 국내 대테러 관계기관의 드론 대응훈련과 민간 안티드론 장비 개발업체의 기술을 시험 평가할 수 있는 인프라를 제공하기 위한 것”이라고 밝혔다.