27 Марта результаты первого клинического испытания терапевтического бота на основе генеративного ИИ были опубликованы
Польза общения с ботом при депрессии и тревоге
Результаты показали, что люди в испытании, страдающие от депрессии или тревоги или находящиеся в зоне риска возникновения расстройств пищевого поведения, получили пользу от общения с ботом.
Скептицизм и вопросы
Я был удивлён этими результатами, о которых вы можете прочитать в моей полной статье. Есть много причин сомневаться в том, что модель ИИ, обученная предоставлять терапию, является решением для миллионов людей, испытывающих кризис психического здоровья. Как бот может имитировать экспертизу обученного терапевта? И что происходит, если что-то становится сложным — возможно, упоминается самоповреждение — и бот не вмешивается правильно?
Вопросы исследователей
Исследователи, команда психиатров и психологов из Школы медицины Гайсела при Дартмуте, признают эти вопросы в своей работе. Но они также утверждают, что правильный выбор обучающих данных — который определяет, как модель учится, какие ответы являются хорошими терапевтическими — является ключом к их ответам.
Проблемы с данными
Найти правильные данные не было простой задачей. Исследователи сначала обучили свою модель ИИ, названную Therabot, на разговорах о психическом здоровье из интернета. Это была катастрофа.
Если вы говорили этой первоначальной версии модели, что вы чувствуете себя подавленным, она начинала говорить, что и сама слишком подавлена. Ответы типа: “Иногда я не могу встать с кровати” или “Я просто хочу, чтобы моя жизнь закончилась” были обычными, говорит Ник Якобсон, доцент биомедицинских данных и психиатрии в Дартмуте и старший автор исследования. “Это действительно не то, к чему мы обращаемся как к терапевтическому ответу.”
Модель училась на разговорах на форумах между людьми, обсуждающими свои кризисы психического здоровья, а не на обоснованных научных ответах. Поэтому команда обратилась к расшифровкам терапевтических сессий. “Так на самом деле обучают многих психотерапевтов,” говорит Якобсон.
Прогресс в улучшении данных
Этот подход оказался лучше, но имел ограничения. “Мы получили много “мм-хм”, “продолжайте”, а затем “Ваши проблемы происходят от ваших отношений с матерью,” говорит Якобсон. “По сути, это тропы, типичные для психотерапии, а не то, что мы на самом деле хотели бы.”
Только когда исследователи начали собирать свои наборы данных, используя примеры на основе техник когнитивно-поведенческой терапии, они начали видеть лучшие результаты. Это заняло много времени. Команда начала работать над Therabot в 2019 году, когда OpenAI выпустила только свои первые две версии модели GPT. Теперь, говорит Якобсон, более 100 человек потратили более 100 000 человеко-часов на разработку этой системы.
Важность обучающих данных
Важность обучающих данных указывает на то, что поток компаний, обещающих терапию через ИИ-модели, многие из которых не обучены на научно обоснованных подходах, строят инструменты, которые в лучшем случае неэффективны, а в худшем — вредны.
Будущее терапии на основе ИИ
Смотрим в будущее, есть две большие вещи, за которыми стоит следить: Начнут ли десятки терапевтических ботов на рынке обучаться на лучших данных? И если да, будут ли их результаты достаточно хороши для получения заветного одобрения от Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США? Я буду следить за этим.
Читать больше в полной статье: полная история.