획기적인 법안이 주요 장애물을 통과할 예정인 유럽연합(EU)를 포함해 전 세계 당국이 인공지능(AI)을 통제 혹은 규제하기 위해 서두르고 있다.

유럽 의회 의원들은 안면인식(facial recognition)에 대한 논란이 많은 개정 내용을 포함한 이 제안에 대해 투표할 예정이다.

미국 오픈AI의 챗GPT(ChatGPT)와 같은 챗봇의 급속한 발전이 새로운 기술이 가져올 수 있는 이점과 새로운 위험을 보여줌에 따라 AI를 위한 가드레일을 마련하기 위한 브뤼셀의 수년간의 노력이 더욱 시급해졌다고 AP통신이 14일9현지시간) 전했다.

유럽연합의 인공지능법(Artificial Intelligence Act)을 살펴본다.

* 규칙은 어떻게 작동하나 ?

2021년에 처음 제안된 이 법안(AI ACT)은 인공지능 시스템을 사용하는 모든 제품이나 서비스를 규제할 것이다. 이 법은 AI 시스템을 최소 수준에서 허용할 수 없는 수준까지 네 가지 위험 수준에 따라 분류한다.

어린이를 대상으로 하는 고용 또는 기술과 같은 위험이 높은 애플리케이션은 보다 투명하고 정확한 데이터를 사용하는 것을 포함하여 보다 엄격한 요구사항이다.

위반할 경우에는 최대 3,000만 유로(약 415억 9천만 원)의 벌금이 부과되며, 이는 구글과 마이크로소프트와 같은 기술 회사의 경우 수십억 달러에 이를 수 있다.

규칙을 시행하는 것은 유럽 연합의 27개 회원국에 달려 있다.

* 위험 요소는 무엇일까?

EU의 주요 목표 중 하나는 건강과 안전에 대한 AI 위협으로부터 보호하고 기본적인 권리와 가치를 보호하는 것이다. 이는 행동에 따라 사람을 판단하는 “인터넷상의 영향력 지수(social scoring)” 시스템과 같은 일부 AI 사용이 절대 금지라는 것을 의미한다.

또 어린이를 포함한 취약한 사람들을 착취하거나 위험한 행동을 조장하는 대화형, 즉 말하는 장난감과 같이 해를 끼칠 수 있는 잠재적인 조작을 사용하는 AI도 금지된다.

누가 범죄를 저지를지 예측하기 위해 데이터를 압축하는 예측 치안 도구도 출시되었다.

국회의원들은 공공장소에서의 원격 얼굴 인식과 생체 인식에 대한 금지를 확대함으로써 EU 집행부인 유럽 위원회의 원래 제안을 강화했다. 이 기술은 지나가는 사람들을 스캔하고 AI를 사용하여 그들의 얼굴이나 다른 신체적 특징을 데이터베이스에 일치시키는 기술이다.

그러나 한 중도 우파 정당이 실종 아동 찾기, 심각한 범죄에 연루된 용의자 확인 또는 테러 위협 방지와 같은 법 집행 예외를 허용하는 수정안을 추가한 후 이 수정법안이 통과될지도 주목되고 있다.

AI법에 대한 작업을 공동 주도하고 있는 루마니아 유럽의회 의원 드라고스 튜도라체(Dragos Tudorache)는 “우리는 대규모 감시를 원하지 않으며, 사회적 점수를 원하지 않으며, 유럽 연합에서 예측 가능한 치안 유지를 원하지 않는다. 그것은 중국이 하는 일이지 우리가 하는 일이 아니다”고 강한 목소리를 냈다.

개인의 삶의 과정에 영향을 미칠 고용 및 교육과 같은 범주에 사용되는 AI 시스템은 사용자에게 투명하고, 알고리즘의 편향 위험을 평가하고 줄이는 조치를 취하는 것과 같은 까다로운 요구 사항이 포함되어 있다.

위원회는 “비디오 게임이나 스팸 필터와 같은 대부분의 AI 시스템은 위험도가 낮거나 없는 범주에 속한다”고 말하고 있다.

* 채팅 앱은?

원래의 조치는 챗봇에 대해 거의 언급하지 않았는데, 주로 사용자가 기계와 상호 작용한다는 것을 알 수 있도록 챗봇에 라벨을 붙이도록 요구했다. 협상가들은 나중에 ChatGPT와 같은 범용 AI가 폭발적으로 인기를 끌자 해당 기술에 고(高)위험 시스템과 동일한 요구 사항을 적용하기 위해 조항을 추가했다.

한 가지 핵심 추가 사항은 AI 시스템에 인간의 작업과 유사한 텍스트, 이미지, 비디오 및 음악을 생성하는 방법을 가르치는 데 사용되는 저작권 자료를 철저히 문서화해야 한다는 요구 사항이다.

이를 통해 콘텐츠 제작자는 블로그 게시물, 디지털 책, 과학 기사 또는 노래가 ChatGPT와 같은 시스템을 구동하는 알고리즘을 훈련하는 데 사용되었는지 여부를 알 수 있다. 그런 다음 그들은 그들의 작품이 복사되었는지 여부를 결정하고 보상을 구할 수 있게 하자는 것이다.

* 유럽연합 규칙이 왜 그렇게 중요하나?

유럽 연합은 최첨단 인공지능 개발에서 큰 역할을 하지 않았다. 그 역할은 미국과 중국이 맡고 있는 셈이다. 그러나 브뤼셀은 종종 사실상의 글로벌 표준이 되는 경향이 있는 규제와 함께 추세를 결정하는 역할을 하며, 대형 기술 회사의 힘을 목표로 삼는 노력의 선구자가 됐다.

전문가들은 4억 5천만 명의 소비자가 있는 EU 단일 시장의 순수한 규모로 인해 기업들이 지역별로 다른 제품을 개발하는 것보다 쉽게 준수할 수 있다고 말한다.

하지만 이것은 단순한 단속이 아니다. 브뤼셀은 AI에 대한 공통된 규칙을 설정함으로써 사용자들에게 자신감을 심어줌으로써 시장을 발전시키기 위해 노력하고 있다.

기술자이자 아일랜드 시민 자유 위원회의 선임 연구원인 크리스 슈리샤크(Kris Shrishak)는 “미국, 싱가포르, 영국과 같은 다른 곳에서는 ‘지침과 권고(guidance and recommendations)’만을 제공했을 뿐이기 때문에, 이것이 시행될 수 있고 기업들이 책임을 질 것이라는 사실은 중요하다”고 강조했다.

그는 “다른 나라들은 유럽 연합의 규칙을 적용하고 모방하기를 원할 수도 있다”고 덧붙였다.

EU이외의 다른 나라들은 따라잡기 놀이를 하고 있다.

2020년에 EU를 떠난 영국은 AI 리더십의 자리를 놓고 경쟁하고 있다. 리시 수낙 영국 총리는 올 가을 인공지능 안전에 관한 세계 정상회의를 개최할 계획이다.

수낙 총리는 이번 주 기술회의에서 “나는 영국을 지적인 고향뿐만 아니라 세계 AI 안전 규제의 지리적인 고향으로 만들고 싶다”고 말했다. 영국의 정상회담은 “세계의 학계, 기업, 정부”의 사람들을 모아 “다자적 틀(a multilateral framework)”을 마련할 것이라고 강조했다.

* 다음은 무엇 ?

이 규칙이 완전히 시행되기까지는 수년이 걸릴 수 있다. 투표는 회원국, 의회, 유럽연합 집행위원회가 참여하는 3자 협상으로 이어질 것이며, 문구에 합의하려고 노력하면서 더 많은 변화에 직면할 수 있다.

최종 승인은 2023년 말까지 이루어질 것으로 예상되며, 기업과 조직이 적응할 수 있는 유예 기간은 보통 2년 정도이다.

법안이 발효되기 전에 그 격차를 메우기 위해, 유럽과 미국은 5월 말에 관리들이 몇 주 안에 초안을 작성하고 다른 ‘마음이 맞는 국가(like-minded countries)'로 확대될 수 있다고 약속한 자발적인 행동 강령을 작성하고 있는 중이다.