전체메뉴

[애플경제 이윤순 기자] 4․10 총선의 공식 선거운동이 27일부터 시작되었다. 선거 국면에서 특히 생성AI와 같은 첨단 IT기술이 악용될 소지는 여전히 배제할 수 없다. 그렇다면 생성AI, 혹은 AI 기반의 IT기술에 대한 국내 규제 현실을 어떨까. 미국이나 유럽, 영국, 중국, 일본 등 주요국에 비해 국내에선 아직 생성AI를 적절히 제어, 규정하거나 규제하는 법적, 제도적 장치가 미흡하다는 지적이다.

현재 국회에서 인공지능법 입법 작업이 진행되곤 있으나, 22대 국회로 그 공이 넘겨진 것이나 다름없다. 그럼에도 이미 딥페이크 확산에 따라 이번 총선처럼 공직선거에서의 부정한 사용이나, 가짜뉴스, 생성AI를 이용한 허위 광고, 이에 따른 유권자 기만 등 공정 선거를 저해할 만한 위험이 크다.

한국지능정보사회진흥원은 “이미 이같은 일로 인해 손해를 보는 등 소비자와 사용자들의 피해가 증가하고 있다.”면서 “물론 한켠에선 딥페이크 영상 제작 서비스를 제공하는 기업의 자발적 규제도 등장하고 있으나, 한계가 있을 수 밖에 없다.”고 지적한다.

국내선 아직 생성AI 규제 일반법령 없어

일단 우리나라는 딥페이크 또는 생성AI에 의한 생성물을 규제하는 일반법령은 아직 없다. 다만 이번 총선을 앞두고 지난해 연말 개정된 ‘공직선거법’에서 이에 관한 소정의 규제를 하고 있다. 동법 제 82조의 8 제1항에 따르면 선거 전 90일부터 선거일까지 딥페이크 영상 등의 제작 ․ 편집ㆍ유포ㆍ상영ㆍ게시를 금지하도록 했다.

또 인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향 이미지 또는 영상 등을 선거에 이용할 경우 ‘부정선거운동죄’로 처벌당한다. 동법 제 255조 제5항은 이런 경우 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처하도록 했다. 다만 해당 선거 기간 외에 딥페이크영상 등을 제작ㆍ편집ㆍ유포ㆍ상영ㆍ게시하는 것은 허용되나, ‘실제가 아닌 인공지능 기술 등을 이용하여 만든 가상의 정보’임을 표시해야 한다.

딥페이크영상 등의 형태, 즉 영상 음향 이미지 등의 표시는 ‘공직선거관리규칙’ 제45조의6 에 따라 ‘별표’로 규정하고 있다. 만약 중앙선거관리위원회규칙으로 정하는 사항, 즉 ‘공직선거관리규칙’ 제45조의 6에 따라 딥페이크 영상 등에 이런 표시를 안 할 경우는 1천만원 이하의 과태료를 부과하도록 했다.

또한 ‘당선되거나 되게 할 목적’인 경우엔 ‘허위사실공표죄’에 해당,5 년 이하의 징역 또는 5천만원 이하의 벌금에 처하도록 했다. 반대로 (상대 후보 등이) 당선되지 않게 할 목적인 경우엔 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처하도록 했다.

이같은 생성AI 기술로 인한 이용자의 혼선을 방지하고, 인공지능 콘텐츠의 신뢰성과 책임성을 강화하기 위해 지난해는 ‘콘텐츠산업진흥법’ 개정안이 발의되기도 했으나, 역시 21대 국회에선 폐기될 가능성이 크다. 그러나 법안 내용은 후속 입법작업을 위해 참고할 만하다는 평가다. 이상헌 의원이 발의한 해당 개정안은 인공지능 콘텐츠를 제작한 경우 이를 표시하도록 하는 내용 등을 담고 있다.

관련 규제법 대부분 폐기, 22대 국회로 공넘겨

또한 ‘정보통신망법’ 일부개정법률안, ‘지능정보화 기본법 일부개정법률안’, ‘민법 일부개정법률안’ 등 딥페이크로 인한 개인의 권익 피해에 대응한 입법도 21대 국회에서 추진되었다. 그러나 역시 미완에 그쳐 22대 국회에서 다시 딥페이크 규제 입법을 추진할 가능성이 크다.

한국지능정보사회진흥원 AI법제도센터 채은선 수석 연구원은 “생성형 인공지능 콘텐츠가 인공지능이 생성한 것임을 알리도록 함으로써 ‘가상의 것’이 진실되거나 ‘실제하는 것’으로 오인되지 않도록 할 필요가 있다”면서 “그로 인한 저작권이나 개인정보, 인격권, 초상권 침해, 그리고 금융범죄로 인한 재산상 피해 등을 예방해야 한다”고 주문했다.

즉 “인공지능을 통한 다양한 결과물을 만들어내는 것은 기술의 활용 발전 및 문화적 측면에서 허용하되, 타인의 법익 또는 사회질서 침해의 방지를 위하여 주요 분야별 위반 행위는 규제할 필요가 있다”는 주장이다.

한편 현재 입법이 추진되고 있는 ‘인공지능기본법’에서는 생성형 인공지능 결과물을 표시하는 것을 의무화하고, 식별제도를 도입했다. 생성형 인공지능 서비스를 제공하려는 사업자가 결과물에 인공지능 결과물 표시를 할 수 있도록 했다. 또 그 결과물에 서비스제공자가 기계 판독이 가능한 기술적 조치 등을 하도록 함으로써 제3자가 알 수 있도록 했다. 이를 통해 “책임있고 신뢰할 수 있는 인공지능을 개발하고 이용 환경을 조성하기 위한 제도적 장치를 마련할 필요가 있다”는 얘기다.

전문가들은 또 “다양한 콘텐츠 산업 진흥을 위해 금지는 하지않되, 딥페이크 기술의 건전한 이용을 위한 규제장치가 절실하다”는 의견이 지배적이다.

입법 추진 중인 ‘인공지능기본법’은 이런 취지를 십분 반영해야 한다는 주장이다. 생성형 인공지능의 이용과 함께 그 결과물을 식별할 수 있도록 하는 기본적 표지 제도 표시 등 방안을 마련해야 한다는 지적이다. 특히 “이번 총선처럼 중요한 선거 국면에서 명예훼손이나 저작권 침해를 막고, 문화활동이나 영화제작, 교육 등 개별 분야에서 기술의 오남용을 방지하고 국민의 디지털 권리 보장 및 사회질서 보호를 위한 안전장치가 절실하다”는 주문이다.

미국, 유럽, 중국 등 주요국은 입법 완비

이미 우리보다 관련 입법이 앞서고 있는 해외에서도 생성AI와 딥페이크로 인한 폐해가 광범위하다.

특히 2024 대선을 앞두고 있는 미국에선 최근 바이든 대통령의 투표 불참을 권하는 가짜 전화와 목소리나, 악담을 하는 일본 기시다 총리, 그리고 영국이 슬로바키아 등에서도 정치적 목적의 가짜 영상이 나돌기도 했다. ‘선거의 해’를 맞아 특히 정치 관련 음성 조작 사례 등이 넘쳐나고 있는 것이다.

중국에선 딥페이크가 적용된 영상통화로 금전을 요구하는 피싱사기가 횡행하고 있다. 다른 여러 국가에서도 딥페이크를 이용해 안면인식을 통한 신원인증 사기 또한 빈번하다.

이에 미국의 바이든 행정부는 행정명령을 통해 전 분야에서 인공지능의 안전한 사용을 위해 각 부처 등이 이행해야 할 사항을 특정 기간 내에 이행하도록 했다. 또 인공지능 선두기업이 인공지능의 안전과 보안, 신뢰를 자발적으로 이행하도록 약속하게 했다.

G7은 이에 관한 11개 지도원칙과 그 이행을 위한 행동강령을 내놓았다. 즉, 고도의 인공지능과 생성형 인공지능에 대해 개발업체나 기관이 준수해야 하는 11개 지도 원칙이다.

중국은 이른바 ‘심층합성기술’(딥페이크)에 대한 관리 규정을 마련하고, 생성AI에 대해선 별도로 서비스 규정을 두고 있다. 일본은 별도의 법제 마련보다는 기존 법령 해석 및 지침 마련 등으로 관련된 저작권과 개인정보보호 문제 등에 대응하고 있다. 그러나 최근엔 일본 자민당이 ‘인공지능의 진화와 구현에 관한 프로젝트팀’을 구성, 인공지능법을 추진하고 있다.