도널드 트럼프 미국 대통령 정권은 인공지능(AI) 개발로 세계를 선도하는 것을 목표로 “AI 행동 계획”을 발표했다.

AI의 리스크관리에 중점을 두었던 조 바이든 전 행정부와는 다르게 트럼프 정권은 바이든 정부의 방침을 전환, 규제 완화는 물론 대규모 투자를 유치해 기술 개발이나 인프라 정비를 가속화하겠다는 야심을 드러내고 있다. 트럼프는 또 중국과의 패권 다툼을 제제하기 위해 우호국에 대한 기술 수출 등도 촉진한다는 방침이다.

특히 트럼프의 인공지능 개발 개입은 놀라운 일이 아닐 수 없다. 챗지피티(chatGPT)와 같은 생성형 AI의 출력(생성물)에 대한 개입은 많은 우려를 낳고 있다. 예를 들어 ‘DEI’ (다양성, 형평성, 포용성)과 ‘기후변화’에 대한 언급을 없애도록 AI 리스크 관리에 관한 국가 지침을 개정했고, 연방 정부는 ‘객관적이고 이데올로기적 편향이 없는 사업자’와만 계약하겠다는 방침을 내세웠다. 인공지능에서 말하는 환각(hallucination, 할루시네이션)이 트럼프의 뇌에 들어 있는 것은 아닌지 의심스러울 정도이다.

인간이나 챗지피티나 착각과 환각이 존재한다. 예를 들어 착각은 “(실제로) 처음 보는 여자인데, 옛날 나의 첫사랑으로 잘못 보는 것”을 말하며, 환각은 “실제로는 아무런 소리도 없는데 귀신이 노래 부르는 소리가 들린다”고 말하는 것이다. 트럼프의 착각이나 환각적인 생성형 AI의 출력 개입은 진정한 기술 개발의 목적을 훼손시킬 뿐만 아니라 자칫 그 AI는 반신불수나 다름없는 어이없는 일이 벌어질 수도 있다.

트럼프는 “언론의 자유와 미국의 가치를 지킨다”는 대의를 내걸었지만, 그와는 반대로 언론 통제로 이어질 수 있는 위험성을 내포하고 있다. 원래 ‘이데올로기적 편향’을 판단하는 중립적인 기준을 만드는 것은 어려울 뿐만 아니라 어느 정권에서는 자의적으로 편리하게 해석하고 정의를 내려 국민을 통제하려 들 수 있다.

DEI는 성별, 인종, 국적, 장애 등에 따른 차별 시정을 목표로 부당한 취급을 받은 사람들에게 공정한 기회를 보장하는 사고방식으로 천부인권적 특성을 지닌다. 트럼프는 DEI와 지구 온난화 대책에 부정적이며 취임 이후 다양한 조치를 취하고 있다. 그는 화석연료를 청정에너지보다 경제적 측면에서 더욱 선호하고, 그러한 산업을 더욱 활성화시키려 하고 있다.

그 연장으로 사회나 생활 속에서 급속히 보급되는 생성 AI에 개입하는 것은 간과하기 어렵다. 연방 정부의 조달 요건이 그대로 '표준'이 될 우려도 있으며, 생성 AI의 대부분을 미국에 의존하는 여러 나라들에 있어서도 무관하지 않다. 트럼프의 잘못된 인식이 들어간 생성형 AI기술이 세계 여러 나라에 악영향을 미칠 수 있다.

트럼프 대통령은 생성 AI의 '편향'의 예로 백인 남성이었던 역사상 인물의 인종과 성별을 잘못 출력한 예를 꼽았다. 일반적으로 생성 AI는 ‘딥 러닝’(deep learning)이라는 기술을 사용하여 방대한 데이터를 사용하여 학습을 수행 한 후, 튜닝이라고 하는 조정 작업을 반복한다. 학습 데이터에 편향이 있으면, 응답도 치우쳐 조정 작업의 결과, 잘못된 출력을 하는 경우도 있다.

뒤집으면 학습 데이터를 자의적으로 선별하거나 조정 과정에서 의도적인 알고리즘 (계산 절차)을 더하면 출력 결과를 특정 방향으로 편향시킬 수도 있다. 이것은 또한 알아야 할 생성 AI의 특성이며, 강권적인 국가에게 편리한 언론 통제의 수단이 될 수도 있다.

한가지 사례를 보면, 챗지피티(ChatGPT)는 맥아더 장군이 태어나기도 전인 남북 전쟁을 배경으로 맥아더 장군을 북부군 지휘관으로 묘사하는 환각을 일으켰다. AI의 환각은 데이터에 의한 환각과 학습과 추론에 의한 환각이 있다.

중국의 기업 딥시크(DeepSeek)가 올해 공개한 생성 AI는 천안문 사건과 같은 중국 정부에 형편없는 정보에 대한 답변을 거부·회피하겠다는 지적이 있다. 특정 설명을 제거하는 트럼프 흐름의 개입도 본질적으로 변하지 않는다. 이런 관점에서 보면, 미국 트럼프나 중국 시진핑이나 위험한 개입을 통한 국가 통제 욕구는 크게 달라 보이지 않는다.