전체메뉴

[애플경제 이윤순 기자]  EU 의회가 세계 최초로 AI를 포괄적으로 관리․규제하는 ‘AI법’을 최종 통과시켜 입법을 완료했다. 이는 인공지능 사용에 대한 일체의 사항을 포함하고 있다.

이번에 발효되 ‘AI법’은 인공지능 개발 국가나 지역에 관계없이 EU시장의 모든 AI 제품에 적용된다. 앞서 지난해 12월 EU의 전체 회원국들은 법률안 초안에 대한 정치적 합의를 한 바 있고, 이번에 최종 통과시킨 것이다. 다만 앞으로 수 년 간 조항별로 점진적으로 발효될 예정이다. 이는 특정 AI 사용을 금지하고, 투명성을 위한 원칙을 도입하며, 고위험으로 간주되는 AI 시스템에 대한 위험 평가를 의무화하는 등의 내용을 담고 있다.

생성AI가 등장하는 등 AI기술이 날로 발달하면서, 이점 못지않게 그 부작용이나 위험도 날로 증가하고 있다. 이에 새로운 ‘AI법’은 개발 지역에 관계없이 EU 시장의 AI 제품에 적용되며, 이 법을 위배될 경우엔 해당 기업의 전 세계 매출의 최대 7%에 해당하는 벌금이 부과된다.

“안전하고 인간 중심적인 AI개발의 길 제시”

EU 의회는 “이 법은 안전하고 인간 중심적인 AI 개발을 향한 명확한 길을 제시하는 세계 최초의 규정”이라고 의미를 부여했다. 물론 아직 EU 회원국들의 최종 승인이 필요하지만, 이미 EU 회원국들이 해당 법안에 모두 지지를 표했기 때문에 사실상 법률로 확정된 것이나 다름없다.

이 법은 원칙적으로 EU에만 적용되지만, 유럽 시장의 위상 등을 고려하면, 전 세계적으로 영향을 미칠 것으로 보인다. 또 다른 지역이나 국가들도 EU의 ‘AI법’을 본받은 AI 관련 법률을 제정할 가능성이 높다. 이는 사실상 AI와 관련한 세계 최초의 ‘규범’이어서, AI 툴을 만드는 사람은 물론, 전세계 모든 사용자들이 참고할 것으로 보인다. 가히 ‘세계 AI법’의 위상을 갖는 셈이다.

유럽의 이런 움직임으로 인해 세계 각국에서도 이를 벤치마킹한 AI규칙이나 법률을 도입했거나 입법 작업을 진행하고 있다.

바이든 행정부도 지난해 주요 AI 기업들이 심각한 위험을 초래할 수 있는 모델을 개발할 때 정부에 통보하도록 요구하는 행정명령에 서명했다. 중국 규제 당국도 생성 AI에 초점을 맞춘 규칙을 제정한 바 있다.

특히 ‘범용 AI(AGI)’에 주목, 구체적 규제 많이 담아

다만 ‘AI법’ 전부가 당장 발효되지는 않고, 조항에 따라선 일종의 유예기간을 두고 있다. 예를 들어 학교와 직장에서의 감정 인식 AI 사용 금지, 얼굴 인식 데이터베이스용 이미지의 비(非)표적 스크래핑 금지 등은 올해 말부터 시행될 것으로 예상된다. 또 다른 조항들도 내년부터 2027년까지 점진적으로 적용된다.

그럼에도 ‘AI법’은 디지털문명에 큰 획을 그은 것으로 평가된다. 특히 제한없이 방대한 데이터 세트를 학습하고, 더욱 전문적인 AI 애플리케이션을 뒷받침하는 범용 AI 모델(AGI)에 대한 규제가 대표적이다. 이는 장차 ‘인간보다 뛰어난 AI’로 알려지면서 많은 우려를 낳고 있기도 하다. 이에 ‘AI법’은 AGI 개발업체에게 반드시 검증할 만한 관련 최신 기술 문서를 의무화했다. 또한 모델을 교육하는 데 사용한 콘텐츠도 게시하도록 했다. 기술의 투명성을 보장함으로써 제어 가능한 AGI를 요구한 것이다.

또한 EU가 “시스템적 위험”으로 간주할 만큼 강력한 ‘범용 AI’ 모델에 대해선, 개발업체가 반드시 해당 모델에 대한 최첨단 안전 평가를 거치도록 했다. 또 모델에서 발생하는 심각한 사고를 규제 기관에 필수적으로 알리도록 했다. 잠재적인 위험을 완하하고, 사이버 보안을 수행하기 위한 조치도 강력히 규정하고 있다.

‘AI법’은 특히 오픈AI의 챗GPT를 비롯한 생성AI 기반 챗봇이 등장한 직후 입법 과정에서 ‘범용 AI’에 대한 조항이 추가되었다. 이에 일각의 반발도 물론 있었다. 업계와 일부 회원국은 ‘범용 AI’에 대한 포괄적인 규칙에 반대하면서, “기술의 사용을 뒷받침하는 모델에 초점을 두기보단, 기술의 위험성을 제어해야 한다”고 주장하기도 했다.

이 법은 또 AI에 의해 생성되거나 조작된 이미지, 오디오 비디오 즉, 딥페이크가 진짜처럼 보이지 않도록 명확한 라벨링을 의무화하고 있다. 중요 인프라에 사용되는 AI기술 중에서 위험도가 높은 것으로 간주하는 AI 시스템은 반드시 위험 평가를 수행하고, 고품질 데이터를 사용하고 있는지 확인해야 한다.

일각에선 ‘규제 허술’ 등 비판 vs ‘법률 남용 우려’ 목소리도

그러나 ‘AI법’은 법률안 최종 성안 과정에선 엄청난 로비와 저항이 있었던 것으로 전해졌다. EU의원들은 “지난 몇 년 간 디지털기술과 관련된 법률을 제정해왔지만, AI법이야말로 가장 심하게 로비를 받은 법안 중 하나”라고 털어놓기도 했다.

반대로 기업을 감시하는 시민단체나 일부 의원들은 “가장 강력한 모델뿐만 아니라 모든 ‘범용 AI’ 모델에 대해 안전성 평가와 위험 완화를 위한 보다 엄격한 규제를 법안에 포함시켜야 한다”고 주장하기도 했다.

그렇다보니 최종 통과 이후 논란도 이어지고 있다. 업계 단체인 ‘비즈니스유럽’은 “‘AI법’의 위험 기반 접근 방식을 지지한다”면서도 “법이 실제로 어떻게 해석될지에 대한 의문이 있다”며 남용을 우려하기도 했다. 반대로 시민의 디지털 권리를 주장해온 ‘액세스 나우’는 “법안의 최종안은 허점으로 가득 차 있으며, 특히 가장 위험한 AI로부터 사용자들은 적절하게 보호하지 못하고 있다”고 비판하기도 했다.

특히 유럽의 대표적인 AI기업인 미스트랄AI가 본사나 사업장을 두고 있는 프랑스와 독일은 법안의 일부 제안을 완화하려고 애썼다. 그러나 그 뜻대로 되진 않았지만, 미스트랄AI의 아서 멘슈 CEO도 “AI법이 (일부 불만족스런 부분이 있긴 하지만) 본사에겐 관리 가능한 수준의 부담이 될 것”이라고 이를 수용하는 태도를 보였다.

그런 우여곡절 끝에 마침내 ‘AI법’이 통과되면서 그 영향력과 추이가 큰 관심을 끌고 있다. 월스트리트저널은 “EU의 AI법은 명실상부한 글로벌 규칙 제정자로서 EU의 위상을 보여준 것으로 전세계 AI규제의 전범(典範) 역할을 할 것”이라고 의미를 부여했다.