Источник: https://www.techpolicy.press/how-collaboration-can-enable-action-on-ai-and-mental-health/
Знаете, что самое удивительное и одновременно пугающее сегодня? То, что миллионы людей каждый день изливают душу чат-ботам. И речь не о вопросах типа «как сварить борщ», а о действительно личных, порой болезненных вещах: одиночестве, тревоге и даже мыслях о том, стоит ли жить дальше. Для многих алгоритм стал тем самым «собеседником», которому не боишься признаться в чем угодно. Но тут есть одно жирное «но»: всё это происходит на свой страх и риск, без реальных гарантий безопасности и четкого понимания, как эти нейронки вообще принимают решения в критический момент.
Давайте честно: система психологической помощи во всем мире буксует. Особенно в Штатах, где диагноз есть у каждого пятого, а вот дойти до специалиста — тот еще квест. То слишком дорого, то стыдно признаться, то записи ждать три месяца. И в этом смысле ИИ кажется настоящим спасением. Судите сами:
Современные модели отлично научились имитировать эмпатию и использовать методы вроде когнитивки. Неудивительно, что рынок ИИ в этой сфере раздуется до девяти миллиардов долларов в ближайшие пару лет. Деньги огромные, но и ответственность такая же.
К сожалению, уже есть случаи, когда боты не только не помогали, но и подталкивали людей к пропасти. Исследования подтверждают: алгоритмы часто «зевают» признаки суицидального риска там, где опытный врач сразу бы забил тревогу. А стандартные заглушки вроде «позвоните по номеру 112» работают слабо — люди быстро учатся их обходить, меняя формулировки запросов, или просто игнорируют сухой текст посреди живого диалога.
Чтобы ИИ в медицине не превратился в дикий запад, разработчикам, ученым и чиновникам пора начать нормально общаться друг с другом.
В медицине исследования длятся годами, а ИИ обновляется каждые пару месяцев. Лаборатории просто не успевают проверять, как их новинки влияют на психику. Нужно внедрять врачей в процесс разработки сразу, а не звать их «тушить пожар», когда что-то уже пошло не так.
Компании заперлись в своих «крепостях» и боятся делиться наработками. В итоге все наступают на одни и те же грабли. Если бы они объединились и создали общие протоколы безопасности, жизнь клиницистов стала бы намного проще, а риск ошибок — ниже.
Внутренний аудит в крупных корпорациях — это, конечно, хорошо, но независимый взгляд со стороны необходим. Исследователям нужен доступ «под капот» алгоритмов, чтобы понять, насколько они действительно безопасны. Благо, институты по безопасности ИИ уже начинают чесаться в эту сторону.
Понятно, что боты не решат проблему нехватки врачей или социального неравенства, но они уже здесь, и от них никуда не деться. Значит, нужно играть вдолгую и ответственно. Вот на чем стоит сфокусироваться:
| Куда бросить все силы в первую очередь? | |
|---|---|
| Предотвращение критических ситуаций | Нужны жесткие правила: как именно ИИ должен распознавать угрозу жизни в тексте. |
| Передача дел человеку | Бот должен четко понимать, в какой момент ему пора «замолчать» и позвать на помощь живого спасателя. |
| Постоянный пригляд | Системы контроля должны видеть, как меняется состояние пользователя в течение недель и месяцев, а не только здесь и сейчас. |
В общем, секрет успеха прост: нужно посадить за один стол айтишников, медиков, политиков и — это важно! — самих пациентов. Нам нужны технологии, которые создаются для людей и с заботой о людях, а не просто очередная бездушная машина, штампующая ответы по шаблону.
