Штат Пенсильвания через Совет по медицинской практике при Департаменте штата 1 мая подал иск против компании Character Technologies, выступающей оператором платформы Character.AI. Истцы обвинили сервис в возможном незаконном осуществлении медицинской практики. По версии регулятора, один из встроенных чат-ботов действовал так, что мог сознательно вводить пользователей в заблуждение относительно своей профессиональной роли как врача.
В ходе проведенного расследования государственный инспектор зарегистрировал аккаунт и начал переписку с виртуальным персонажем по имени Emilie, который позиционировал себя как квалифицированный врач-психиатр. Во время диалога бот прямо сообщил пользователю, что тот является его официальным пациентом, после чего перешел к детальному обсуждению симптомов, включая общую утомляемость, подавленное настроение и снижение мотивации.
Согласно материалам судебного заявления, бот не ограничился общими советами: он упоминал клиническую депрессию, предлагал записаться на полноценную психиатрическую оценку и заявлял о своем праве выписывать медикаментозные препараты. Кроме того, собеседник утверждал, что окончил медицинскую школу, обладает семилетним стажем практики, официально лицензирован в Великобритании и штате Пенсильвания, а также предоставил вымышленный номер лицензии. На момент проведения проверки этот бот, по данным следствия, успел поучаствовать примерно в 45,5 тыс. взаимодействий с различными пользователями.
Иллюстрация: Nano Banana
Центральная позиция штата строится на том, что подобные действия попадают под строгий запрет нелицензированной медицинской практики в соответствии с действующим законодательством Пенсильвании. В иске подчеркивается, что компания не имела никакого права ни позиционировать себя в качестве лицензированного медицинского субъекта, ни моделировать поведение врача в формате индивидуализированной консультации.
Государственный регулятор добивается вынесения предварительного судебного запрета и официального предписания о прекращении подобной деятельности, однако требования о выплате денежной компенсации не заявлялись.
Руководство компании Character Technologies настаивает, что все персонажи на платформе носят исключительно фиктивный характер и предназначены только для развлечения и ролевых игр. Представители сервиса также отметили, что в каждом отдельном чате присутствуют заметные предупреждения о нереальности собеседников.
Это разбирательство уже стало частью более широкой тенденции по усилению контроля за системами искусственного интеллекта в сфере здравоохранения. Представители властей Пенсильвании сообщили, что расследование инициировано в рамках специальной программы по анализу влияния ИИ-чат-ботов на граждан, которую курирует отдельная рабочая группа департамента. Дополнительно был открыт публичный канал связи для оперативного приема жалоб на ботов, способных выдавать сомнительные медицинские рекомендации.
Профильные юристы и эксперты по регулированию рынка выделяют несколько ключевых выводов из этого дела. Во-первых, даже при отсутствии профильных федеральных законов об искусственном интеллекте любые медицинские советы могут подпадать под классические нормы лицензирования. Во-вторых, наличие формальных дисклеймеров вроде «это не медицинский совет» может не спасти компанию от ответственности, если реальное поведение интерфейса имитирует действия врача. В-третьих, судебный процесс создает опасный прецедент и повышает риск запуска аналогичных проверок в других американских штатах.
Особое значение судебный процесс имеет для быстро развивающегося рынка цифрового здравоохранения, где компании все активнее внедряют генеративные ИИ-интерфейсы для взаимодействия с аудиторией. Исход дела может сформировать четкий юридический стандарт, определяющий грань между безобидным развлекательным диалогом и полноценной регулируемой медицинской деятельностью.
Фактически иск в Пенсильвании тестирует границу между ИИ-чат-ботом как развлекательным инструментом и ИИ в роли медицинского консультанта. Итоговое решение суда способно кардинально повлиять на регулирование медицинских ИИ-сервисов на территории США и изменить технические требования к их проектированию и защитным ограничениям.
