AI-агенты в медицине: бум внедрения требует контроля и безопасности

Медицинские AI-агенты ускоряют внедрение, требуя контроля доступа

Медицинская отрасль внедряет AI-агентов быстрее, чем предыдущие технологические новшества. Некоторые отчеты указывают на опережение других регулируемых секторов. Ambient scribes документируют визиты пациентов в реальном времени. Агенты для предварительного согласования и управления доходами обрабатывают рабочие процессы плательщиков, которые ранее требовали ручного ввода данных в несколько систем. Агенты, подключенные к системам электронных медицинских карт (EHR), читают и записывают клинические данные в рамках автоматизированных рабочих процессов. Каждое из этих решений приносит измеримую пользу: экономит время врачей, ускоряет возмещение средств, сокращает административные ошибки.

Полная реализация преимуществ этого сдвига в масштабе зависит от способности контролировать доступ AI-агентов и предотвращать непреднамеренные действия. Видимость отвечает за понимание происходящего. Контроль и контекст определяют, что разрешено. Вместе они решают, станет ли пилотный проект общекорпоративной возможностью или останется ограниченным одним отделом.

FHIR и MCP обеспечивают взаимодействие систем и агентов

FHIR (Fast Healthcare Interoperability Resources) — это стандарт, позволяющий медицинским программным системам обмениваться данными. Он поддерживается организацией Health Level Seven International (HL7) и представляет собой API. FHIR предоставляет структурированный способ запроса и получения медицинских данных, таких как лекарства пациента или результаты анализов. До FHIR обмен данными между системами часто требовал индивидуальной разработки. FHIR устанавливает единые правила для всех.

MCP (Model Context Protocol) — это стандарт, определяющий, как AI-агент подключается к инструментам и источникам данных. Anthropic представила его в ноябре 2024 года для решения проблемы масштабируемости подключений. MCP предоставляет AI-агенту стандартный способ обнаружения и вызова набора инструментов, например, «найти информацию о пациенте» или «проверить результат анализа», без необходимости индивидуальной интеграции для каждого случая. FHIR является точкой доступа к данным, а MCP — уровнем, который делает этот доступ удобным для агента.

FHIR является обязательным стандартом для интеграции данных

FHIR — это основа нескольких федеральных мандатов по интероперабельности, которые регулируют обмен данными между EHR и медицинскими планами. Поставщики EHR, такие как Oracle Health и Epic, публикуют конечные точки FHIR, позволяющие любому совместимому приложению подключаться к медицинской системе для обмена данными пациентов. Финальное правило Центров Medicare & Medicaid Services (CMS) 2020 года (CMS-9115-F) об интероперабельности и доступе пациентов требует от планов Medicare Advantage, Medicaid и CHIP предоставлять доступ к данным пациентов через API доступа пациентов на основе FHIR. Более недавнее правило CMS (CMS-0057-F) об интероперабельности и предварительном согласовании обязывает тех же плательщиков создать API предварительного согласования на основе FHIR к 1 января 2027 года. Это правило является прямой причиной появления агентов предварительного согласования в масштабе.

Эти правила не были написаны с учетом автономных агентов, но они определяют, как данные передаются. Теперь AI-агенты действуют на основе этих данных, а правила не уточняют, что агент может делать после подключения.

Регуляторные пробелы оставляют организации наедине с рисками агентов

Два других регуляторных направления актуальны для развертывания агентов в здравоохранении. Министерство здравоохранения и социальных служб США (HHS) предложило обновление правила безопасности HIPAA, которое добавит требования к многофакторной аутентификации и инвентаризации активов. Окончательное решение ожидается в июле 2027 года. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) в январе 2026 года выпустило руководство, которое позволяет AI-инструментам поддержки клинических решений работать без полной классификации устройства, если клиницист может независимо проверить рекомендации. Однако автономные или критичные по времени системы требуют более тщательного изучения. Эти правила, которые будут регулировать AI-агентов в здравоохранении, еще далеки от завершения. Это создает разрыв между тем, к чему технически разрешен доступ агенту, и тем, что кто-либо проверяет. Организации, которые устраняют этот разрыв самостоятельно, не только управляют рисками, но и строят операционную зрелость.

Риски AI-агентов включают утечку данных и неверные действия

Ambient scribes документируют визиты пациентов. Риск заключается в том, где хранятся аудиозаписи и транскрипты, какие субподрядчики обрабатывают эти данные, как проверяются обновления модели и как выявляются галлюцинации в записях. Агенты предварительного согласования и управления доходами проверяют правила плательщиков и подают заявки. Риск связан с тем, что агент, имеющий доступ к API плательщика и биллинговым системам, фактически обладает учетными данными двух организаций. Агенты, подключенные к EHR, читают и записывают клинические данные через FHIR API. Исследователи безопасности указывают на два конкретных риска: минимальное логирование запросов и возможность того, что агент будет рассматривать входные данные как инструкции, а не как данные для чтения. Это вариант инъекции подсказок (prompt injection).

Видимость и контроль позволяют масштабировать AI-агентов

Внедрение FHIR и MCP в здравоохранении приносит реальную пользу. Обнаружение после того, как запись уже перемещена, или после того, как авторизация уже подана, не является безопасностью. Намерение — это не контроль. Агент, который должен был только проверять результат анализа, но может записывать в список лекарств, представляет собой пробел в управлении. Управление состоянием (posture management) — это непрерывный учет того, к чему агент имеет доступ и что он фактически сделал. Это превращает «мы думаем, что все в порядке» в «мы можем показать доказательства». Средства контроля времени выполнения (runtime controls) — это жесткие границы, которые останавливают агента от непреднамеренного действия. Это превращает «мы можем показать, что все в порядке» в «это не может пойти не так».

Здравоохранение не должно выбирать между внедрением AI-агентов и контролем над ними. Организации, которые создают видимость на уровне агентов и средства контроля времени выполнения сейчас, а не ждут обновлений HIPAA или руководств FDA, смогут расширять использование в более чувствительных рабочих процессах без необходимости восстанавливать доверие после инцидентов.

Источник: Zenity Labs