세계 최대 인공지능 기업 중 한 곳의 공동 창업자는 BBC와의 인터뷰에서 “제3자가 확인할 수 있는 인공지능 ‘킬 스위치’(kill switch)를 기업에 의무화해야 할 수도 있다”고 밝혔다.

BBC는 15일 앤트로픽의 공동 창립자 7명 중 한 명인 잭 클라크(Jack Clark)는 “인공지능 소프트웨어가 너무 위험해질 경우, 완전히 차단하는 방안은 사회가 궁극적으로 규정을 마련해야 할 수도 있는 것”이라고 말했다고 보도했다.

클라크는 앤트로픽을 포함한 대부분의 연구소가 “전력 공급을 중단할 수 있는 다양한 방법을 갖추고 있다”고 말했지만, “입법자들이 그러한 장치를 갖추도록 의무화해야 할 수도 있다”고 덧붙였다.

인공지능의 급속한 발전과 그것이 인류에게 미칠 위험성에 대한 우려는 인공지능 기업 임원 및 직원들의 일련의 경고로 인해 주목받게 됐다. 일부에서는 이 기술이 제대로 통제되지 않으면, 인류 전체를 멸망시킬 가능성이 있다고 공개적으로 주장해 왔다.

앤트로픽의 최고경영자 다리오 아모데이(Dario Amodei)는 지난 주말 인공지능 개발 속도를 늦추고 더욱 면밀히 감시해야 한다고 촉구했는데, 이는 회사가 이전에도 주장했던 바와 같은 맥락이다. 그러나 일각에서는 이러한 주장의 동기에 의문을 제기하고 있다.

아모데이는 인공지능 개발을 억제하기 위한 어떠한 조치도 “상업적 이점을 희생하지 않고” 이루어져야 한다고 덧붙였다.

클라크는 BBC와의 인터뷰에서 ‘킬 스위치’ 요건 및 검증과 관련된 구체적인 사항은 인공지능을 둘러싼 “더 큰 정책 논의”의 일부가 되어야 한다면서 “기업들이 반드시 킬 스위치를 갖추도록 의무화해야 할까? 그리고 그 킬 스위치는 제3자가 검증할 수 있어야 할까?”라고 질문했다.

이어 그는 “제 생각에는 사회가 알고 싶어 할 만한 것이 바로 그런 종류의 정보이고, 결국에는 그에 대한 규칙을 제정하고 싶어 할 수도 있을 것 같다.”고 덧붙였다.

지난 2021년 경쟁사인 오픈AI의 전 직원들이 모여 설립한 앤트로픽은 현재 AI 안전성을 둘러싼 논쟁의 중심에 서 있다. 지난주, 인공지능이 인류를 멸망시킬 수 있다는 우려 때문에 앤트로픽을 그만둔 인공지능 연구원의 글이 큰 화제가 됐다.

이에 대해 앤트로픽 소속의 인공지능 연구 과학자인 에반 휴빙거(Evan Hubinger)는 “개인적으로 인공지능으로 인한 인류 멸종 가능성을 향후 10년 안에 10% 정도”라고 생각한다고 밝혔다.

앤트로픽은 인기 챗봇 ‘클로드’를 개발했으며, 올해 인공지능 챗봇의 기반 기술인 AI 모델들을 여러 개 출시했는데, 그 성능은 점점 더 향상되고 있다. 오픈AI와 더불어 앤트로픽은 이후 자율적으로 작동하는 봇(bot)인 AI 에이전트가 예상치 못한 방식으로 행동한 여러 사례를 자체적으로 보고했다.

‘인공지능의 대부’로 알려진 컴퓨터 과학자이자 노벨상 수상자인 제프리 힌튼(Geoffrey Hinton)은 지난 11일 BBC와의 인터뷰에서 “인공지능이 인류를 전멸시킬 확률이 10%라는 것은 불합리한 수치가 아니다”라고 말했다.

그와 비슷한 우려를 가진 다른 사람들은 AI가 인터넷에 연결된 중요 시스템을 장악하고, 이를 인간에게 공격적으로 사용하는 방식으로 그렇게 할 수 있다고 주장했다.

하지만 인공지능 업계 일각에서는 인공지능이 인류를 파멸시킬 것이라는 우려가 과장되었거나, 대중의 관심을 끌기 위한 과장된 주장일 수 있다고 지적한다.

오픈AI 봇에 의해 해킹당한 개발자 플랫폼 허깅페이스(Hugging Face)의 대표 클레멘트 델랑그(Clement Delangue)는 지난주 “죄송하지만 제이콥 콕슨(Jacob Coxon)에게 AI 멸종 위험에 대해 묻는 것은 에어컨 기사에게 기후 변화에 대해 묻는 것과 같다.”라면서 “그것이 반드시 흥미롭지 않거나 그 자체로 잘못되었다는 말은 아니지만, 균형 잡힌 시각을 유지해야 한다.”고 강조했다.

그라인더(Grindr : 게이들을 위한 데이팅 애플리케이션)의 대표인 조지 아리슨(George Arison)은 “AI 도구에 대한 우려가 기업들이 사업 계획을 뒷받침하기 위해 이용하는 것”이라고 말했다.

9,650억 달러(약 1,303조 6,185억 원)의 기업 가치를 가진 앤트로픽은 기업공개(IPO)를 준비 중이며, 이를 통해 사람들은 회사 주식을 살 수 있게 될 것이다.

최근 기업 가치가 8,520억 달러(약 1,151조 2,224억 원)로 평가된 오픈AI도 비슷한 행보를 보일 것으로 예상됐지만, 오픈AI의 샘 알트만 CEO는 11일(현지시간) 인공지능 안전성에 대한 논쟁 때문에 올해는 기업공개(IPO)를 하지 않을 것이라고 밝혔다.

조지 아리슨은 “이러한 기업 가치를 정당화할 수 있는 유일한 방법은 ‘나는 모든 산업과 모든 일자리를 장악할 것이고, 내 AI가 그 모든 일을 처리할 것이다’라고 주장하는 것뿐”이라고 말했다.

인공지능으로 인해 사망하는 인간의 비율을 묻는 질문에 클라크는 “이런 통계는 그다지 유용하지 않다고 생각한다”고 답했지만, 인공지능이 “완전히 규제되지 않은 산업”으로 계속 남아 있도록 허용하는 것은 잘못된 생각이라고 덧붙였다.

클라크는 이어 “우리는 엄청난 위험을 무릅쓰고 주사위를 던지고 있는 셈”이라며, “중요한 건, 이 업계의 방향을 바꿔야 한다는 것”이라고 강조했다.

* 미 의원 일부 : “킬 스위치 법안” 발의

미국 의원들은 문제가 있는 인공지능 도구를 차단할 수 있는 방법을 기업들이 갖추도록 의무화하는 ‘킬 스위치 법안’을 발의했다.

또한 특정 정부 기관에 해당 도구의 사용을 중지하거나 제한하도록 요구할 수 있는 권한을 부여하게 될 것이다.

하지만 도널드 트럼프 미국 대통령은 인공지능 개발 속도를 늦추라는 요구를 일축하며 소셜 미디어에 “인공지능이 세상을 장악하고 인류를 파괴하며 온갖 나쁜 일들을 저지른다는 것은 모두 거짓”이라고 주장했다. 트럼프는 나중에 이러한 우려를 “얼마 전까지만 해도 모든 사람이 극심한 더위로 죽을 것이라고 주장했던 ‘지구 온난화 사기극’”에 대한 우려와 비교했다.

그는 이전 게시물에서 “인공지능과 데이터 센터를 겨냥한 끔찍한 음모가 진행 중이며, 이를 반기는 유일한 세력은 중국이다. 인공지능을 이기는 자가 승리하는 것이다!”라고 썼다.

한편, 영국 정부는 최근 킬 스위치 개발 아이디어를 거부했으며, 대변인은 “이것이 다른 곳에서 개발되거나 오용되는 것을 막지는 못할 것”이라고 밝혔다. 트럼프와 크게 다르지 않은 반응인 셈이다.