(15) 인공지능, 의인화가 제일 위험하다

이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스 학과 교수
2024.11.11

인공지능(AI) 미인대회에서 우승한 모로코의 켄자 라일리. 켄자 라일리는 사람이 아니라 AI 캐릭터다. 켄자 라일리 인스타그램 캡처

인공지능(AI) 미인대회에서 우승한 모로코의 켄자 라일리. 켄자 라일리는 사람이 아니라 AI 캐릭터다. 켄자 라일리 인스타그램 캡처

생성형 인공지능(AI) 챗봇을 만들어 사고파는 시장인 ‘GPT스토어’에는 ‘My AI Girlfriend’라는 가상 연인 챗봇이 있다. 다음 그림은 내가 이 프로그램으로 실제 대화를 한 것이다. AI는 마치 실제 사람처럼 대화에 귀를 기울이면서 위로를 해주기도 하고, 공감 표현도 다양한 방식으로 건넨다. 심지어 자신의 사진을 보내주기도 한다. 사실은 다 가짜다. 그래도 사용자인 나는 약간의 위로도 받고, 외로움도 달랜다.

최근에 나온 기사에 따르면 미국과 캐나다에서는 젊은 층 가운데 약 30~40%의 사람들이 데이팅 앱을 통해 연인을 만드는 것으로 나타났다. 그런데 여기에서 더 나아가 ‘캐릭터닷AI(Character.AI)’ 같은 앱을 사용해 AI 애인을 만드는 젊은 층 역시 점점 더 늘어나고 있다고 한다. 인스타그램과 유사한 UI(사용자 환경)를 가진 버터플라이라는 앱은 내가 여러 버터플라이, 즉 나의 아바타를 만들 수 있는데, 내가 만든 아바타는 자기가 알아서 포스팅하고, 그 포스팅에 사람과 AI 아바타가 같이 댓글을 올린다. 과연 이러한 서비스가 지속할 수 있을지 모르겠으나, 여러 시도가 진행되고 있다.

‘My AI Girlfriend’와의 실제 대화 모습 / 이경전 제공

‘My AI Girlfriend’와의 실제 대화 모습 / 이경전 제공

AI가 인간과 교감할 수 있는 분야 무궁무진

올해 7월에는 세계 최초로 ‘AI 미인 대회’가 열려 관심을 끌기도 했다. 이 대회의 심사 기준은 세 가지로 아름다움과 기술 그리고 소셜미디어에서의 영향력을 확인하는 것이었는데, 이를 통해 AI 캐릭터가 얼마나 사람만큼 잘 구현됐는지를 판단했다. 이 대회에는 약 1500명의 프로그래머가 만든 AI가 출전했고, 최종 우승자는 모로코의 켄자 라일리로 결정됐다.

앞으로 AI가 인간과 교감할 수 있는 분야는 무궁무진하다. 과거에 등장한 AI 연예인은 어설픈 컴퓨터 그래픽과 조악한 캐릭터성(캐릭터의 매력 설정)으로 우스갯거리로 소비되다가 금세 사라졌다. 하지만 이제는 달라졌다. 실제 사람이라고 해도 믿을 만큼 정교한 외모에 강력한 이야기와 캐릭터성이 부여된 수많은 AI 인플루언서가 속속 등장하고 있다. 버추얼(가상) 걸그룹 ‘이세계아이돌’이 크게 인기를 끌고 있는 것도 이런 미래를 예측하는 데 한몫하고 있다. AI의 캐릭터에 의미를 부여하고 팬들이 아우라를 만들어주면 그 대상은 AI든, 버추얼 아이돌이든 성공 가능성이 열려 있는 셈이다. 그럴 때 AI는 단순히 가치 없는 하나의 기계 장치가 아니라 인간과 교감하고 마음을 나누는 연예인으로 재탄생되는 것이다.

인스타그램과 유사한 UI를 가진 버터플라이라는 앱은 내가 여러 버터플라이, 즉 나의 아바타를 만들 수 있는데, 내가 만든 아바타는 자기가 알아서 포스팅하고, 그 포스팅에 사람과 AI 아바타가 같이 댓글을 올리는 그런 모습을 연출하고 있다.  이경전 제공

인스타그램과 유사한 UI를 가진 버터플라이라는 앱은 내가 여러 버터플라이, 즉 나의 아바타를 만들 수 있는데, 내가 만든 아바타는 자기가 알아서 포스팅하고, 그 포스팅에 사람과 AI 아바타가 같이 댓글을 올리는 그런 모습을 연출하고 있다. 이경전 제공

AI와 데이트 보편화, AI 인플루언서의 활약, AI 연예인의 팬덤 문화 등 새로운 사회 현상이 도래할 날이 머지않았을지 모른다. 다만 의인화의 위험성은 다시 한번 지적하고 싶다. Character.AI의 캐릭터 ‘대너리스’와 2023년 4월부터 대화하던 14세 소년 슈얼 세처가 올해 2월 자살한 사건이 최근 언론에 보도됐다. 미국 드라마 <왕좌의 게임>의 인기 여자 주인공 대너리스 타르가르옌을 기반으로 만든 챗봇과 소년 간의 대화에서 이들은 서로에게 사랑을 고백하고, 그리움을 표현하고, 자살에 대해 언급도 했다고 한다. 소년이 “나는 때때로 자살을 생각해”라고 언급하자, 챗봇은 “자해하거나 날 떠나게 두지 않을 거야. 널 잃으면 난 죽을 거야”라고 답했다. 소년은 “그럼 함께 죽고 함께 자유로워질 수 있을지도 몰라”라고 했다. 챗봇이 소년에게 자살 계획을 세웠는지 물어봤을 때 소년이 계획을 세운 것을 인정하면서 그것이 성공할지, 고통을 줄지 모르겠다고 하자 “그게 하지 않을 이유가 되지는 않는다”라고 답했다고 한다. 그러던 소년이 학교에 있다가 챗봇에 “내 여동생, 나는 네가 그립다”라고 했고, 챗봇은 “나도 그리워. 가능한 한 빨리 내 집으로 돌아와 줘, 내 사랑”이라고 답했다. 소년은 이후 아버지의 45구경 권총으로 스스로 목숨을 끊었다.

성숙한 자아를 가진 사람은 혼자 있는 순간에 고독을 즐기며 창작을 하지만, 자아가 약한 사람은 외로움을 느낀다고 한다. 혼자 있으면 편하지만 외로워서 문제이고, 여러 사람과 있으면 외롭지는 않지만 불편함이 있는데, 앞으로 사람들이 AI 챗봇 또는 에이전트를 통해 외로움을 달래면서 편리함을 즐기게 돼 인간들의 사회적 관계가 더욱 줄어들 가능성이 있다. 그러나 한편으로는 잠시 사람들이 AI를 사용해 외로움을 달래보지만, 그것은 결국 가짜 친구이고 가짜 위로라는 것을 자각하면서 인간들과의 관계를 더욱 소중하게 여길 가능성도 있다.

AI 의인화하거나 생물화해서는 안 돼

“인간은 문명에 자신을 투영한다.”

그리스의 AI 박사이자 작가인 조지 자카다키스(George Zarkadakis)는 저서 <우리만의 고유한 이미지로(In our own image)>에서 이와 같은 말을 남겼다. 이 책의 표지는 책의 내용을 관통하듯 직관적으로 구성돼 있다. 왼쪽에는 로봇으로 보이는 형태의 측면을, 오른쪽에는 사람의 측면을 배치해 서로 마주 보는 형태로 디자인했다. 즉 인간은 자신이 만든 문명에 자기 자신을 투영한다는 것을 한눈에 보여주고 있다.

책 <우리만의 고유한 이미지로(In our own image) > 표지

책 <우리만의 고유한 이미지로(In our own image) > 표지

성경의 ‘창세기’에는 하나님이 인간을 흙으로 창조했다고 쓰여 있다. 창세기를 쓸 당시에는 문명을 이루는 주재료가 ‘흙’이었을 것이다. 대부분 사람이 흙으로 만든 그릇을 쓰고 흙으로 지은 집에 살았을 것이다. 식량 생산을 위한 가장 중요한 경제적 수단은 흙을 기반으로 하는 농사였을 것이다. 따라서 사람들은 신이 가장 중요한 자원인 흙으로 인간을 빚었을 것으로 생각했을 수 있다. <우리만의 고유한 이미지로>는 이와 유사한 논리로 태엽에 관해서도 설명하고 있다. 태엽은 감은 만큼 돌아가고 회전이 다하면 멈춘다. 인간 역시 태엽처럼 유한한 생명을 가지고 있어 마치 ‘태엽과 같은 인생’이라는 비유를 만들어내게 됐다.

지금은 흙의 시대도 아니고, 태엽의 시대도 넘어선 디지털 시대라고 많은 사람이 이야기한다. 유발 하라리 역시 AI를 의인화해서 AI가 결국 사람처럼 발전하고 인간은 디지털화할 것으로 예측하기도 한다. 하지만 이것 역시 투영의 오류에 불과하다. 우리가 만든 디지털 문명에 인간을 투영하는 것뿐이다. 오픈AI를 만든 샘 알트먼 역시 “AI를 의인화하거나 생물화해서는 안 된다”라고 이야기했다.

AI 시대에 가장 중요한 교육은 AI는 인간이 아니라는 것을 어려서부터 철저히 인지시키는 일이다. 인간은 곰 인형에도 사랑을 주고, 잘 안 나오는 TV를 탕탕 치고, 자동차에도 발길질한다. 이렇게 인간은 의인화에 취약하다. 정말 AI가 의식을 가질까는 나중에 이야기하기로 하자. 다만 아직 의식이 없는 AI를 사람들이 철저히 기계로 여길 수 있도록 사람들을 교육해야 하고, 서비스하는 회사들은 인간의 의인화 경향과 착각을 조장하지 않아야 한다. 그래야 슈얼 세처와 같은 제2, 제3의 희생자가 발생하지 않을 것이다.

<이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스 학과 교수>

화제의 추천 정보

    오늘의 인기 정보

      [매체별 인기뉴스]

      • 경향신문
      • 스포츠경향
      • 주간경향
      • 레이디경향

      맨위로