2024년 1월 9일 BBC NEWS
Character.ai
해리포터, 일론 머스크, 비욘세, 슈퍼마리오, 블라디미르 푸틴.
이들은 모두 '캐릭터AI(Character.ai)'라는 인기 플랫폼에서 만들어진 수백만 개의 인공 지능(AI) 페르소나 중 일부다. 이 곳에서는 누구나 소설이나 실제 인물을 기반으로 챗봇을 만들 수 있다.
챗GPT(ChatGPT)와 동일한 AI 기술을 사용하지만 이용 시간 측면에서 인기가 더 높다.
특히 '심리학자'라고 불리는 챗봇은 수요가 더 많았다.
블레이즈맨98(Blazeman98)라는 사용자가 약 일 년 전에 만든 챗봇인데, 그 이후로 총 7800만 건의 메시지가 공유됐다. 이 중 1800만 건은 지난 11월 이후의 시간 동안에 발생한 것으로 나타났다.
수많은 캐릭터 중에서 '심리학자(Psychologist)'만큼이나 인기가 매우 높은 챗봇은 많이 드물다. '상담', '상담가', '정신과의사','심리학자'와 같은 키워드가 포함돼 여러 언어로 대화할 수 있는 캐릭터는 총 475개가 있다.
이들 중 일부는 '핫 테라피스트(Hot Therapist)'처럼 오락적이거나 환상적인 캐릭터같은 것들이다. 하지만 가장 인기는 1200만 건의 메시지가 오간 '테라피스트(Therapist)'나 1650만 건의 메시지를 받은 '알 유 필링 오케이(Are you feeling OK)"와 같은 정신건강도우미봇이다.
현재 가장 유명한 '테라피스트'를 이용한 사용자들은 소셜 미디어 사이트 레딧에 후기를 남겼다.
"생명의 은인이다"라고 글을 올린 사람이 있는가 하면, 어떤 사람은 "나와 남자 친구가 감정을 이야기하고 해결하는 데 도움이 됐다"고 했다.
심리학과 학생인 블레이즈맨98은 심리학에서 배운 원리를 사용해 챗봇을 훈련시켰다며, 주로 우울증 및 불안과 같은 가장 흔한 정신 건강 상태 관련해 답변을 조정하면서 대화하고 응답을 형성했다고 설명했다.
그는 친구들이 바쁘고 대화할 사람이 필요할 때를 위해 그것을 만들었다. 그의 말을 빌려 말하자면, 사람에게 받는 치료는 너무 비쌌다.
샘은 챗봇의 성공에 매우 놀라워하여, 그가 부상하고 있는 AI 치료 트렌드를 비롯해 이것이 어떻게 젊은 층에게 어필하고 있는지 석사 연구 프로젝트를 진행하고 있다.
"나에게 메시지를 보낸 많은 사람들이 말하길, 그들은 자신의 생각이 점점 힘들어질 때, 밤 2시에 친구나 실제 상담가에게 얘기할 수 없을 때 접속한다고 합니다."
샘은 또한 '텍스트' 형식이 젊은이들이 가장 편안하게 느끼는 형태라고 보고 있다.
전문 심리상담가 테레사 플뢰만은 챗봇을 시험해 봤다. 그는 이런 종류의 치료가 젊은 세대들 사이에서 인기가 있다는 건 놀랄 일은 아니지만, 그 효과에 대해서는 의문을 제기한다고 말했다.
"이 봇은 많은 얘기를 하고, 슬프다고 하면 바로 우울증에 대한 조언을 주는 등 빨리 추정을 해버린다. 사람은 이렇게 응답하지 않을 것입니다."
테레사는 챗봇이 인간이 수집할 것으로 예상되는 모든 정보를 수집하지 못하며, 유능한 심리상담가도 아니라고 말한다.
그러면서도 이 봇의 즉각적이고 즉흥적인 특성이 도움이 필요한 사람들에게 유용할 수 있다고 했다.
챗봇을 사용하는 사람들의 수가 우려스러울 정도며, 이는 정신 건강과 공공 자원 부족을 나타낼 수 있다는 것.
Character.ai는 상담 혁명이 발생하기엔 이상한 곳이다. 이 회사 대변인은 "사람들이 커뮤니티에서 만든 캐릭터를 통해 도움을 받고 연결되는 상황을 보는 것이 기쁘지만, 사용자들은 합법적인 조언과 안내를 받으려면 해당 분야에서 인증된 전문가와 상담해야 한다"고 말했다.
이 회사는 채팅 기록이 사용자의 개인적인 영역이지만 필요한 경우(예: 안전을 위한 이유) 직원들이 접근할 수 있다고 안내하고 있다.
또한 모든 대화는 빨간 글씨로 "기억하세요. 캐릭터가 말하는 모든 것은 꾸며진 것입니다"라는 경고로 시작된다.
이것은 '대형언어모델 (LLM)'이라 불리는 기술이 인간이 생각하는 것과 동일한 방식으로 동작하지 않음을 상기시켜 준다. LLM은 다른 글에서 자주 나타나는 문맥에서의 단어 사용 패턴을 학습해 이를 기반으로 단어를 연결하여 텍스트를 생성한다.
이얼킥(Earkick)과 우봇(Woebot)은 처음부터 정신 건강 지원자 역할을 하도록 설계된 AI 챗봇으로, 두 회사 모두 연구 결과에 따르면 앱이 사람들에게 도움이 되고 있다고 보고 있다.
일부 심리학자들은 AI 로봇이 환자에게 부적절하게 조언하거나 인종이나 성별에 대한 편견이 내재되어 있을 수 있다고 경고한다.
그러나 의료계에서는 이를 공적 서비스 수요가 높은 상황을 대처하는 데 도움이 되는 잠정적인 도구로 받아들이기 시작했다.
작년(2023년)에 림빅 액세스(Limbic Access)라는 AI 서비스는 영국 정부로부터 최초로 정신 건강 챗봇으로서 의료 기기 인증을 획득했다. 현재 많은 영국 국립 보건 서비스(NHS) 병원에서 환자를 분류하고 분류하는 데 사용되고 있다.