전체메뉴

[애플경제 이윤순 기자] 우리나라도 4월 총선을 앞둔 상황에서 구글이 자사 AI챗봇 ‘제미니’에 대해 선거와 관련되는 모든 검색이나 질문을 차단하기로 해 눈길을 끈다. 국내에서도 선거 국면에 돌입하면서 허위․과장 정보나 근거없는 비방, 마타도어가 난무하는 현실이다. 이런 국내 언론과 소셜미디어 환경에 비춰 제미니에 대한 구글의 조치는 눈여겨볼 만하다는 평가다.

만약 굳이 선거에 관해 ‘제미니’에 질문하려면 아예 선거가 열리지 않는 나라에서나 가능하다. 이런 차단 사실은 은밀히 진행되었다고 한다. 그러다가 기술매체 테크크런치가 이를 가장 먼저 포착, 보도함으로써 시중에 널리 알려졌다.

선거 없는 나라에선 차단 안해

이에 구글도 “전 세계적으로 선거 관련 ‘쿼리’(질문, 검색)에 대한 답변을 제한하기 위해 ‘제미니’에 이런 제한을 적용하기 시작했다”고 확인했다. 다만 현재로선 대선을 앞둔 미국과 함께 눈앞에 총선을 앞둔 인도에서만 검색이 차단되어있다. “그러나 순차적으로 선거가 예정된 다른 나라들에게도 적용할 것”이라고 해 4월 총선을 앞둔 한국에도 선거 전에 ‘제미니’ 검색이 차단될지가 관심사다.

흔히 생성AI가 개발된 후엔 각종 선거 과정에서 이를 악용, 무기화하거나 부정확하고 오해의 소지가 있는 응답을 유도하는 경우가 많다. 또 챗봇 자체의 문제로 엉터리 답변을 쏟아내기도 한다.

이에 제미니는 정당, 후보자, 정치인에 관한 쿼리에 대해선 아예 차단을 위해 미리 설정된 메시지로 대응한다. 특정 정당이나 후보자에 대한 평가나 신상정보 등 질문을 받으면 “나는 이 질문에 대답하는 방법을 아직 배우고 있으니까 그동안 구글 검색을 사용해 보세요.” 라고 한다. 다만 선거 관련 쿼리에 대한 답변을 제한하지만, 만약 질문에 오타가 포함된 경우는 이를 인식하지 못하고 그에 맞는 대답을 한다는게 문제이긴 하다.

그래서 구글은 “이러한 문제를 심각하게 인식하고, 선거 관련 쿼리 유형에 대한 제한을 좀더 치밀하게 개선하기 위해 노력하고 있다”고 전했다.

이번 차단 조치는 특히 눈앞에 다가온 인도 총선 직전에 시행되었다. 인도 정부는 지난 주 자국 기술기업들에 대해 정부 승인 없이 (선거에 악용될 소지가 큰) 새로운 AI 모델을 국내에 출시하지 말 것을 권고하기도 했다. 그러나 이에 대해 글로벌 VC와 AI 스타트업 창업자들의 반발이 일자, 인도 정부는 이런 출시 제한 조치가 스타트업이 아닌 빅테크 등 ‘중요한’ 기술 기업에 국한된 것이라고 밝혔다.

제미니, 인도 총리 관련 ‘오답’이 차단 조치 계기

인도 정부의 이런 권고는 지난달 인도 정부와 총리에 대한 ‘제미니’의 답변 오류가 결정적 계기가 되었다. 가뜩이나 선거전이 치열한데, 일부 사용자가 ‘제미니’에 “나렌드라 모디 인도 총리가 파시스트인가”라고 묻는 질문을 던졌다. 그랬더니 ‘제미니’는 즉각 “모디가 ‘파시즘’으로 규정할 만한 정책을 시행했다는 비난을 일부 국민들로부터 받았다”고 답했다.

이에 인도의 IT 관련 고위당국자가 이를 “2021년 IT 규칙에 대한 ‘직접적인 위반’”이라고 구글까지 싸잡아 비난하면서 사태가 커졌다.

이에 당황한 구글은 사람들의 이미지를 생성하는 ‘제미니’의 기능을 지난 달 중단하기도 했다. 그런 다음 “이런 문제가 없도록 개선된 버전을 곧 다시 출시할 것”이라고 말했다.

현재로선 구글이 금년에 집중된 세계 각국의 선거철이 끝나면 이같은 차단 조치를 해제할 것인지는 불투명하다. 한편으론 한국을 포함해 많은 나라가 선거를 앞두고 있는 만큼, 곧 어떤 나라들로 차단 조치가 확대될 것인지도 관심을 끌고 있다. 특히 이런 차단 조치가 4월 총선 국면의 한국의 소셜미디어와 온라인 환경엔 어떤 영향을 끼칠지도 두고 볼 일이란 관측이다.