Все новости
Риски утечек медицинских данных при использовании ИИ: почему «теневая» цифровизация опаснее открытых угроз.
В последние месяцы российское и глобальное здравоохранение столкнулось с парадоксальной ситуацией: чем активнее развиваются технологии искусственного интеллекта, тем сильнее разрыв между ожиданиями пациентов и реальными действиями врачей. С одной стороны, мы видим колоссальный прогресс в диагностике и реабилитации. С другой — формируется рынок так называемого «теневого ИИ», который создает угрозы информационной безопасности, сопоставимые по масштабу с крупнейшими инцидентами в медицинской сфере.
Феномен «теневого ИИ»: благие намерения и риски для приватности
Важно подчеркнуть: в подавляющем большинстве случаев сотрудники обращаются к «теневому ИИ» не со злым умыслом, а для ускорения рутинных операций. Одобренные же ИТ-службами программные продукты зачастую либо громоздки, либо не обладают необходимой функциональностью для оперативной работы.
Пациент между страхом и надеждой: парадокс доверия к ИИ
Проблема усугубляется отношением пациентов к использованию искусственного интеллекта в медицине. Исследования показывают: люди настороженно относятся к автоматизации на ранних этапах диагностики. Но ключевой вывод, к которому мы пришли, анализируя обратную связь, звучит так: уровень доверия напрямую зависит от прозрачности применения технологий.
Большинство пациентов заявляют: если медицинские работники будут обязаны сообщать им о том, когда и для каких целей привлекаются алгоритмы машинного обучения, уровень тревожности резко падает. Более того, люди готовы делиться своей медицинской информацией, если понимают, что это улучшит качество здравоохранения в целом. Но условие одно — жесткие меры подотчетности и гарантии сохранности приватности.
Мы видим тревожный симптом: в условиях «теневого» использования технологий, когда пациент не знает, анализировал ли его снимок живой рентгенолог или сторонний алгоритм, доверие к системе здравоохранения в целом снижается. Возникает ощущение, что данные о здоровье становятся лишь сырьем для тренировки непонятных моделей, а контроль за их использованием отсутствует.
Рецепт безопасности: строим «доверенный ИИ» в здравоохранении
Очевидно, что запретами проблему не решить. Вводить санкции против врачей за использование нейросетей — значит тормозить прогресс и провоцировать скрытое применение небезопасных инструментов. Необходимо сместить фокус с тотального контроля на создание экосистемы «доверенного ИИ» в медицинских организациях.
Что это означает на практике для защиты медицинских данных?
- Пересмотр функциональности официального софта. Врачи обращаются к сторонним сервисам, потому что одобренное программное обеспечение неудобно или не решает их задач. Разработчикам совместно с медицинским сообществом необходимо создавать инструменты, которые автоматизируют реальные рабочие процессы, а не только формируют отчетность. Если официальный софт будет закрывать потребности врача быстрее и качественнее, чем сторонние сайты, риск утечек данных снизится на порядки.
Мы стоим на пороге нового этапа цифровой трансформации медицины. Искусственный интеллект уже стал не просто экспериментальным инструментом, а реальным участником лечебно-диагностического процесса. Но высокая стоимость ошибок и рост киберугроз требуют от нас перехода от стихийной цифровизации к управляемой и безопасной модели.
Перед отраслью стоит задача создать такую среду, где нейросети будут не «черным ящиком», пугающим пациентов, а прозрачным помощником, за сохранность данных в котором отвечают разработчики, медицинский персонал и регуляторы. Только построение системы «доверенного ИИ» позволит использовать колоссальный потенциал накопленной информации для спасения жизней, не подвергая риску приватность миллионов людей и не провоцируя многомиллионные штрафы за утечки.
Автор: Компания ЕМП
