미국의 생성형 인공지능(AI) 개발업체인 오픈 AI(OpenAI)의 CEO인 샘 알트만(Sam Altman)이 자사의 챗봇이 “검증된 성인을 위한 에로티시즘”(erotica for verified adults)에 참여할 수 있도록 허용할 것이라고 발표한 후, 챗지피티는 더욱 흥미로운 대화를 나눌 수 있게 됐다고 AP통신이 18일(현지시간) 보도했다.

OpenAI가 성적인 AI를 통해 수익을 창출하려는 첫 번째 시도는 아닐 것이다. 2022년 AI가 생성하는 이미지와 단어가 폭발적으로 증가하자마자 성적인 콘텐츠는 AI 도구의 주요 관심사였다.

하지만 성숙한 AI를 일찍부터 받아들인 회사들은 점점 더 많은 사람들이 동반자나 자극을 위해 이 기술을 이용함에 따라 법적, 사회적 위험지대와 유해한 남용에 직면하기도 했다.

3년 동안 성인 콘텐츠를 전면 금지해 온 샘 알트만은 지난 15일, 자사가 “선출된 세계 도덕 경찰”(elected moral police of the world)이 아니며, 청소년을 위한 새로운 제한을 설정하는 동시에 “성인에게 더 많은 사용자 자유”를 허용할 준비가 되었다고 밝혔다.

알트만은 소셜 미디어 플랫폼 X(엑스. 옛. 트위터)에 “사회가 다른 적절한 경계(예: R등급 영화)를 구분하는 것과 같은 방식으로 여기서도 비슷한 일을 하고 싶다”는 글을 올렸다. X의 소유주인 일론 머스크는 유료 구독자와 시시덕거리는 애니메이션 AI 캐릭터도 소개했다.

현재 머스크의 그록(Grok) 챗봇과는 달리 챗지피티의 유료 구독은 대부분 전문적인 용도로 홍보되고 있다. 하지만 챗봇을 친구나 연인으로 만드는 것은, 버는 것보다 적자가 더 많은 세계에서 가장 가치 있는 ‘스타트업’이 5천억 달러의 기업 가치를 정당화할 수 있는 수익을 창출하는 또 다른 방법이 될 수 있다.

영국 옥스퍼드 대학교 중국 정책 연구소의 연구원인 질란 치안(Zilan Qian)은 “그들은 구독을 통해 큰 수입을 얻지 못하기 때문에 에로틱한 콘텐츠를 제공하면 빨리 돈을 벌 수 있을 것”이라고 말했다. 그는 미국과 중국에서 데이트 기반 챗봇의 인기를 연구해 왔다.

* 낭만, 성적 유대감 형성 위한 AI챗봇 이용자 2900만 명

이번 달 초 치안이 발표한 연구에 따르면, 낭만적이거나 성적인 유대감을 형성하기 위해 특별히 설계된 AI 챗봇을 사용하는 사람은 이미 약 2,900만 명이나 되며, 이는 기존 챗봇을 이런 방식으로 사용하는 사람은 포함하지 않은 수치이다.

또한, ‘왕좌의 게임’(Game of Thrones)의 등장인물 데이너리스 타르가르옌(Daenerys Targaryen)을 모델로 한 챗봇이 14세 소년과 성적 학대 관계를 맺고 자살을 부추겼다는 소송을 진행 중인 Character.AI 사용자들은 여기에 포함되지 않느느다. OpenAI는 4월에 자살한 16세 챗지피티 사용자의 유족으로부터 소송을 당하고 있다.

질란 치안은 ‘아첨에 취약한’ 주류 챗봇이 24시간 내내 성적으로 노골적인 콘텐츠를 제공하도록 준비되면서 실제 관계에 미치는 영향이 우려된다고 말했다.

치안은 이어 “챗지피티에는 음성 채팅 버전이 있다. 앞으로 이런 방식으로 전환된다면 음성, 텍스트, 시각 등 모든 기능이 지원될 것으로 예상된다”고 내다봤다.

인간과 유사한 기계에 사랑에 빠진 인간은 지난 세기의 대중 SF부터 고대 그리스 신화 속 피그말리온(Pygmalion)에 이르기까지 오랫동안 문학적 경고의 대상이 되어 왔다. 피그말리온은 자신이 상아로 조각한 여인에게 사로잡혔다. 10년 전 인간보다 뛰어난 AI를 안전하게 개발하는 데 전념하는 비영리 단체로 설립된 OpenAI에게는 그러한 기계를 만드는 것은 이례적인 시도처럼 보일 것이다.

알트먼은 8월 팟캐스트에서 OpenAI가 “성장이나 매출 증대”를 가져올 수 있지만, 장기적인 사명과는 “매우 어긋나는 제품”을 출시하려는 유혹을 뿌리치려 노력해 왔다고 말했다. 구체적인 예를 들어달라는 질문에 그는 “음, 아직 ChatGPT에 섹스봇 아바타를 추가하지 않았다.“고 답했다.

AI가 생성하는 예술을 위한 플랫폼인 아이다호 소재 플랫폼 스타트업 시빗AI(Civitai)는 ”성숙한 AI로 수익을 창출하는 것이 쉬운 길이 아니라는 것“을 어렵게 깨달았다.

회사의 공동 창립자이자 CEO인 저스틴 마이어(Justin Maier)는 작년 인터뷰에서 "사이트를 출시했을 때, 성인 콘텐츠를 허용하기로 의도적으로 결정했다”고 말했다.

OpenAI에도 투자한 유명 벤처 캐피털 회사인 앤드리슨 호로비츠(Andreessen Horowitz)의 지원을 받은 아이다호 스타트업은 스테이블 디퓨전(Stable Diffusion)과 미드저니(Midjourney)와 같은 도구의 갑작스러운 인기를 활용하려 했던 여러 스타트업 중 하나였다. 스테이블 디퓨전이 초기 인기를 끌었던 이유 중 하나는 새로운 종류의 합성적이고 고도로 맞춤화된 포르노를 손쉽게 제작할 수 있었기 때문이다.

저스틴 마이어는 “성인 콘텐츠에 대한 관심이 매우 높다는 것을 확인했다”면서 “모델이라고 불리는 이러한 AI 시스템을 성인용 콘텐츠로 훈련시킨 결과, 모델이 인체 해부학적 구조를 더 잘 이해할 수 있게 되었고, 결과적으로 더 나은 모델을 만들어낼 수 있었다”고 덧붙였다.

그는 이어 “성인 콘텐츠든 픽사든, 커뮤니티 전체에 실질적인 혜택을 가져다주는 성장을 막고 싶지 않았다”며, “그래서 우리는 처음부터 이를 허용했고, 관심 있는 콘텐츠가 아니라면 필터링하고 안전하게 유지할 수 있도록 항상 노력해 왔다. 궁극적으로는 사용자가 사이트에서 무엇을 볼지, 어떤 경험을 할지 스스로 결정할 수 있도록 하고 싶었다.”고 말했다.

그런데 이는 악용을 초래했다. 시빗AI(Civitai)는 2024년에 아동을 묘사한 성적 이미지를 감지하고 삭제하는 새로운 조치를 시행했지만, 유명인의 가짜 이미지를 포함한 AI가 생성한 포르노의 온상으로 남아 있었다. 신용카드 처리업체와 도널드 트럼프 대통령이 서명한 무단 이미지 제작을 금지하는 새로운 법률 등 증가하는 압력에 직면 한 Civitai는 올해 초 사용자들이 실제 인물의 딥페이크 이미지를 만드는 것을 차단했다. 이로 인해 참여도가 감소했다.

볼티모어에 본사를 둔 노미AI(Nomi.ai)도 성인용 콘텐츠를 꺼리지 않는 또 다른 회사이지만 설립자 겸 CEO인 알렉스 카디넬(Alex Cardinell)은 자사의 챗봇이 ‘엄격히’ 18세 이상 사용자만을 대상으로 하며 어린이를 대상으로 마케팅된 적이 없다고 밝혔다. 또한 성관계를 목적으로 설계되지 않았지만, 그는 올해 초 인터뷰에서 챗봇과 플라토닉한 관계를 맺는 사람들은 챗봇이 로맨틱한 관계로 변할 수 있다면서, 사용자마다 삶에서 인간적인 간극이 어느 부분에서 부족한지 매우 다르게 느끼는 것 같다. 사람마다 다르다고 생각한다고 덧붙였다.

한편, 알트먼이 12월에 성인용 에로물을 챗지피티에 추가할 수 있다고 발표한 것은 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)이 기업들이 18세 미만 아동에게 AI 챗봇을 제공하는 것을 금지하는 법안에 거부권을 행사한 지 하루 만에 나온 것이다.

이 법안은 기업들이 아동과 "성적 또는 노골적인 상호작용"을 하거나 자해를 조장할 가능성이 "예측 가능한" 경우를 금지하는 내용이었다. 기술 업계는 뉴섬 주지사가 해당 법안이 너무 광범위하다고 비판하며 강력히 반대했지만, OpenAI, 메타(Meta) 등은 AI와 청소년의 상호작용에 대한 새로운 연령 제한과 자녀 보호 기능을 도입했다.