Юта готовится стать первым штатом, где медицинские услуги по диагностике пациентов и назначению препаратов будут выполняться искусственным интеллектом без прямого надзора человека. В рамках новой инициативы стартап в области здравоохранения внедряет систему, способную полностью заменить специалиста при лечении определенных состояний. Хотя профессия врача традиционно считается одной из наименее подверженных риску замещения ИИ, этот проект ставит под сомнение подобные прогнозы.
Ограничения пилотного проекта Nolla Health
На начальном этапе масштаб программы жестко лимитирован. Проект рассчитан на один год и касается исключительно пациентов с акне легкой и средней степени тяжести. Для получения медицинской помощи пользователю необходимо оформить подписку на приложение компании Nolla Health стоимостью 4,99 доллара в месяц и провести сканирование лица. После заполнения анкеты с историей болезни и личными данными, ИИ-алгоритм анализирует состояние кожи, определяет уровень жирности и присваивает числовой рейтинг тяжести акне — от состояния чистой кожи до выраженного воспаления.
На основе полученных данных и анамнеза искусственный интеллект рекомендует препараты из перечня восьми одобренных средств. Стоит отметить, что программа подразумевает поэтапное внедрение полной автоматизации процессов.
Этапы перехода к автоматизации и вопросы безопасности
Система внедрения ИИ-рецептов разбита на несколько контрольных фаз:
- Первые 100 рецептов должны проходить обязательную проверку реальными врачами до отправки в аптеку.
- Следующие 400 пациентов будут получать назначения, которые формирует ИИ, при этом врачи будут проводить ретроспективный анализ выписанных рецептов еженедельно.
- На финальной стадии участие врача будет сведено к ежемесячной проверке не менее 10% от общего объема выписанных рецептов.
Вопрос доверия к медицинским рекомендациям ИИ остается острым. Ранее неоднократно фиксировались случаи предоставления некорректных или опасных советов нейросетями, что приводило к серьезным последствиям для здоровья пользователей. Например, в прошлом году один пациент, следуя советам ChatGPT, начал употреблять бромид натрия вместо соли, что привело к развитию бромизма — психического расстройства, встречавшегося в XIX веке. В марте Google также была вынуждена удалить функцию What People Suggest и ряд ИИ-обзоров после сообщений о выдаче пользователям опасных для здоровья неточных сведений.
Впрочем, глава Nolla Health Луис Венус подчеркивает, что риски при использовании их системы минимизированы. Побочные эффекты восьми одобренных для лечения препаратов ограничены локальным раздражением или сухостью кожи, а сами лекарственные средства представлены исключительно в формате топических средств, а не таблеток для приема внутрь. Несмотря на ограниченный охват текущего пилотного проекта, инициатива может стать первым шагом к постепенной замене врачей искусственным интеллектом при лечении некритических состояний.
