На qConference-2026 состоялась дискуссия о применении ИИ в здравоохранении. Эксперты обсудили риски, связанные с безопасностью данных, и зоны юридической ответственности медицинского персонала при работе с нейросетями, а также оценили экономический потенциал технологий. В результате были выработаны четкие критерии оценки ИИ-решений, которые помогут главным врачам безопасно внедрять искусственный интеллект в клиническую практику.
Применение искусственного интеллекта в медицине перешло из разряда перспективных разработок
в область практической реализации. Но с ним связаны вопросы, на которые пока нет простых ответов.
Кто отвечает за ошибку алгоритма? Можно ли доверять «черному ящику», если цена ошибки – человеческая жизнь?
Эти и другие проблемы стали центром дискуссии на тему применения ИИ в здравоохранении. Организаторы разделили экспертов на две команды: «За» и «Против» внедрения ИИ. Модератором выступил Александр Чесноков, руководитель группы рынка компании СП.АРМ. Диалог между экспертами перешел в активную дискуссию о рисках, ограничениях и реальных возможностях технологий.
в область практической реализации. Но с ним связаны вопросы, на которые пока нет простых ответов.
Кто отвечает за ошибку алгоритма? Можно ли доверять «черному ящику», если цена ошибки – человеческая жизнь?
Эти и другие проблемы стали центром дискуссии на тему применения ИИ в здравоохранении. Организаторы разделили экспертов на две команды: «За» и «Против» внедрения ИИ. Модератором выступил Александр Чесноков, руководитель группы рынка компании СП.АРМ. Диалог между экспертами перешел в активную дискуссию о рисках, ограничениях и реальных возможностях технологий.
Команда «За» (слева направо): В.С. Жук, медицинский советник СП.АРМ,
заместитель главного врача по кардиологии Клиники Пирогова, к.м.н.;
Е.Ю. Донцова, руководитель методического отдела СП.АРМ;
О.А. Черкашин, начальник отдела автоматизированных систем КГБУЗ
«Краевая клиническая больница», главный внештатный специалист министерства здравоохранения Красноярского края по информационным технологиям.
заместитель главного врача по кардиологии Клиники Пирогова, к.м.н.;
Е.Ю. Донцова, руководитель методического отдела СП.АРМ;
О.А. Черкашин, начальник отдела автоматизированных систем КГБУЗ
«Краевая клиническая больница», главный внештатный специалист министерства здравоохранения Красноярского края по информационным технологиям.
Команда «Против» (слева направо): Н.Ю. Голикова, руководитель проектов лабораторных информационных систем СП.АРМ;
М.Ю. Бахтин, заместитель директора по развитию и информатизации медицинской помощи ФГБУ ВЦЭРМ им. А.М. Никифорова МЧС России, заслуженный врач РФ, к.м.н.;
Ю.Ю. Мухин, генеральный директор «КОНСЭФ».
М.Ю. Бахтин, заместитель директора по развитию и информатизации медицинской помощи ФГБУ ВЦЭРМ им. А.М. Никифорова МЧС России, заслуженный врач РФ, к.м.н.;
Ю.Ю. Мухин, генеральный директор «КОНСЭФ».
Личный опыт работы с ИИ в медицине
Дискуссия началась с обмена практическим опытом. Экспертам предложили коротко высказаться: есть ли у них реальные кейсы использования нейросетей, а также оценить этот опыт как полезный или негативный.
Команда «За» привела убедительные примеры. Вадим Сергеевич Жук, медицинский советник СП.АРМ, рассказал, как нейросеть помогла поставить редкий диагноз, который врачи не смогли распознать на первичном приеме. Это не единичный случай: благодаря способности анализировать большие массивы данных грамотно настроенные алгоритмы находят паттерны, которые человек может не заметить.
Также в качестве успешного применения искусственного интеллекта в медицине эксперты привели опыт Краевой клинической больницы Красноярска. Их система мониторинга на основе ИИ активно выявляет 10-15 случаев внутреннего кровотечения в месяц, которые могли бы остаться незамеченными на ранних стадиях. Благодаря оперативному оповещению медицинского персонала система позволяет своевременно купировать критические состояния, предотвращать развитие тяжелых осложнений и, как следствие, сохранять качество жизни пациентов.
Команда «Против» сосредоточилась на рисках. Михаил Юрьевич Бахтин, заместитель директора по развитию и информатизации медицинской помощи ВЦЭРМ им. А.М. Никифорова отметил: «Когда врачи используют публичные модели и выгружают туда медицинские данные, они либо тратят много времени на подготовку и обезличивание данных, либо персональные данные улетают, куда не надо». Он также предупредил об опасности «одушевления» ИИ: «Попытка подменить живого врача алгоритмом – это проблема. Пациенты обращаются к искусственному интеллекту, когда им срочно нужен совет, а к врачу идти далеко или долго, или когда непонятны результаты анализов, заключение врача и его рекомендации. Но в остром состоянии ИИ все равно «направит» пациенту к врачу»». Вопрос, насколько такая промежуточная цифровая консультация полезна и безопасна, остается открытым.
Дискуссия началась с обмена практическим опытом. Экспертам предложили коротко высказаться: есть ли у них реальные кейсы использования нейросетей, а также оценить этот опыт как полезный или негативный.
Команда «За» привела убедительные примеры. Вадим Сергеевич Жук, медицинский советник СП.АРМ, рассказал, как нейросеть помогла поставить редкий диагноз, который врачи не смогли распознать на первичном приеме. Это не единичный случай: благодаря способности анализировать большие массивы данных грамотно настроенные алгоритмы находят паттерны, которые человек может не заметить.
Также в качестве успешного применения искусственного интеллекта в медицине эксперты привели опыт Краевой клинической больницы Красноярска. Их система мониторинга на основе ИИ активно выявляет 10-15 случаев внутреннего кровотечения в месяц, которые могли бы остаться незамеченными на ранних стадиях. Благодаря оперативному оповещению медицинского персонала система позволяет своевременно купировать критические состояния, предотвращать развитие тяжелых осложнений и, как следствие, сохранять качество жизни пациентов.
Команда «Против» сосредоточилась на рисках. Михаил Юрьевич Бахтин, заместитель директора по развитию и информатизации медицинской помощи ВЦЭРМ им. А.М. Никифорова отметил: «Когда врачи используют публичные модели и выгружают туда медицинские данные, они либо тратят много времени на подготовку и обезличивание данных, либо персональные данные улетают, куда не надо». Он также предупредил об опасности «одушевления» ИИ: «Попытка подменить живого врача алгоритмом – это проблема. Пациенты обращаются к искусственному интеллекту, когда им срочно нужен совет, а к врачу идти далеко или долго, или когда непонятны результаты анализов, заключение врача и его рекомендации. Но в остром состоянии ИИ все равно «направит» пациенту к врачу»». Вопрос, насколько такая промежуточная цифровая консультация полезна и безопасна, остается открытым.
Михаил Юрьевич Бахтин, заместитель директора по развитию и информатизации медицинской помощи, заслуженный врач РФ, кандидат медицинских наук, ФГБУ ВЦЭРМ им. А.М.Никифорова МЧС России
Врачи и ИТ-специалисты, работающие в клиниках, сходятся в одном: нейросети уже вошли в повседневную практику, но эффект от их применения зависит от того, как и для чего их использовать. Одни видят в них мощного помощника, способного заметить то, что ускользает от человеческого глаза. Другие – инструмент, который требует осторожности и не всегда готов к реальным клиническим задачам.
Практические кейсы подтверждают, что ИИ способен решать сложные диагностические задачи, но его ценность напрямую зависит от корректного использования и понимания ограничений технологии.
Практические кейсы подтверждают, что ИИ способен решать сложные диагностические задачи, но его ценность напрямую зависит от корректного использования и понимания ограничений технологии.
Данные под защитой? Миф или реальность
Как защитить данные пациентов, если нейросети обучаются на больших массивах информации, в том числе на историях болезней? Когда врач загружает данные пациента в открытую модель, возникает реальный риск передачи персональных данных третьим лицам. Проблема усугубляется тем, что многие медицинские сотрудники не до конца осознают последствия таких действий. Отсутствие четких регламентов и понятных альтернатив толкает их на использование публичных сервисов – быстрых, доступных, но небезопасных.
Команда «За» предложила конкретные шаги по минимизации рисков: информировать сотрудников, проводить обучение и предоставлять легальные инструменты – локальные модели и механизмы анонимизации.
Елена Юрьевна Донцова, руководитель методического отдела СП.АРМ, отметила, что каждый человек оставляет цифровой след. Даже деперсонифицированные данные можно вычислить, если задаться целью. Однако, по мнению эксперта, это не повод отказываться от цифровизации. Скорее, такой риск становится аргументом в пользу непрерывного совершенствования систем защиты. Абсолютно безопасных решений не существует, поэтому ключевая задача – минимизировать риски на всех этапах работы с данными, внедряя многоуровневую защиту и строгие регламенты доступа. Такой подход, подытожила Елена Юрьевна, позволяет эффективно использовать преимущества цифровых технологий, сохраняя приоритет безопасности пациентов и врачей.
Как защитить данные пациентов, если нейросети обучаются на больших массивах информации, в том числе на историях болезней? Когда врач загружает данные пациента в открытую модель, возникает реальный риск передачи персональных данных третьим лицам. Проблема усугубляется тем, что многие медицинские сотрудники не до конца осознают последствия таких действий. Отсутствие четких регламентов и понятных альтернатив толкает их на использование публичных сервисов – быстрых, доступных, но небезопасных.
Команда «За» предложила конкретные шаги по минимизации рисков: информировать сотрудников, проводить обучение и предоставлять легальные инструменты – локальные модели и механизмы анонимизации.
Елена Юрьевна Донцова, руководитель методического отдела СП.АРМ, отметила, что каждый человек оставляет цифровой след. Даже деперсонифицированные данные можно вычислить, если задаться целью. Однако, по мнению эксперта, это не повод отказываться от цифровизации. Скорее, такой риск становится аргументом в пользу непрерывного совершенствования систем защиты. Абсолютно безопасных решений не существует, поэтому ключевая задача – минимизировать риски на всех этапах работы с данными, внедряя многоуровневую защиту и строгие регламенты доступа. Такой подход, подытожила Елена Юрьевна, позволяет эффективно использовать преимущества цифровых технологий, сохраняя приоритет безопасности пациентов и врачей.
Елена Юрьевна Донцова, руководитель методического отдела компании СП.АРМ
Продолжая тему безопасного внедрения ИИ, своим экспертным мнением поделился Вадим Сергеевич Жук. Опираясь на реальный опыт, он подчеркнул: «Любой промпт, который идет в qMS Медицинский ассистент, не содержит персональных данных. Кроме того, использование нашей языковой модели происходит исключительно в контуре организации, как это реализовали специалисты ККБ Красноярска. Мы защищаем медицинские данные и цифровой периметр учреждения, делая работу с технологиями безопасной».
Вадим Сергеевич Жук, медицинский советник СП.АРМ, Заместитель главного врача по кардиологии Клиники Пирогова, к.м.н
Команда «Против» была категорична. Михаил Юрьевич Бахтин прокомментировал: «Я против использования публичного и бесконтрольного ИИ. Допустим только вариант, когда система работает в приватном облаке». Коллеги справедливо отметили, что ключевой аспект здесь – не столько технический контроль данных, сколько доверие к разработчику. Отсутствие прозрачности в партнерстве неизбежно создает риски, которые могут проявиться в долгосрочной перспективе».
Эксперты, занимающие критическую позицию, подчеркивают, что ключевым фактором безопасности является доверие к разработчику: непрозрачность партнерства неизбежно создает долгосрочные риски. Основная угроза заключается не только в утечке персональных данных, но и в уязвимостях, позволяющих вредоносному ПО использовать ресурсы сети организации для дальнейших атак. По мнению специалистов, при текущем уровне развития облачных языковых моделей обеспечить стопроцентный контроль данных практически невозможно.
Безопасность данных – не повод отказываться от цифровизации, но требует системного подхода: информирования, обучения и внедрения локальных защищенных решений вместо публичных сервисов.
Эксперты, занимающие критическую позицию, подчеркивают, что ключевым фактором безопасности является доверие к разработчику: непрозрачность партнерства неизбежно создает долгосрочные риски. Основная угроза заключается не только в утечке персональных данных, но и в уязвимостях, позволяющих вредоносному ПО использовать ресурсы сети организации для дальнейших атак. По мнению специалистов, при текущем уровне развития облачных языковых моделей обеспечить стопроцентный контроль данных практически невозможно.
Безопасность данных – не повод отказываться от цифровизации, но требует системного подхода: информирования, обучения и внедрения локальных защищенных решений вместо публичных сервисов.
Кто ответит за ошибку?
Вопрос юридической ответственности – один из самых сложных при внедрении ИИ. В настоящее время в России пока нет детализированного законодательства, регулирующего ответственность за последствия использования ИИ. Если искусственный интеллект ошибся, и это повлияло на пациента, кто виноват: разработчик, управляющий клиникой или врач, нажавший кнопку «принять»? И можно ли вообще внедрять технологии «черного ящика», слепо доверяя их рекомендациям? Эти вопросы создают правовую неопределенность и заставляют искать ответы в уже существующих нормах.
Команда «За» была единодушна: отвечает врач, который ставит подпись. Эксперты напомнили о Федеральном законе от 21.11.2011 № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации», который четко говорит, что ответственность за лечение пациента несет лечащий врач. Развивая эту мысль, участники дискуссии привели показательный пример: сотрудник использовал нейросеть для подготовки документа, но не проверил итоговый текст, оставив в нем даже внутренние пометки ИИ для главного врача. Этот случай наглядно доказывает: ответственность за результат лежит на пользователе, а не на инструменте.
Команда «Против» предложила разделить зоны ответственности: клинические решения остаются за лечащим врачом, а ответственность за внедрение и корректную работу ИИ-инструментов возлагается на руководство медицинской организации. Участники дискуссии подчеркнули: медицина остается доказательной наукой, а это значит, что окончательное решение и персональная ответственность за пациента лежат исключительно на враче.
Юридическая ответственность остается на медицинском работнике и организаторе системы, а ИИ – лишь инструмент, который не снимает с человека обязанности проверять и подтверждать решения.
Вопрос юридической ответственности – один из самых сложных при внедрении ИИ. В настоящее время в России пока нет детализированного законодательства, регулирующего ответственность за последствия использования ИИ. Если искусственный интеллект ошибся, и это повлияло на пациента, кто виноват: разработчик, управляющий клиникой или врач, нажавший кнопку «принять»? И можно ли вообще внедрять технологии «черного ящика», слепо доверяя их рекомендациям? Эти вопросы создают правовую неопределенность и заставляют искать ответы в уже существующих нормах.
Команда «За» была единодушна: отвечает врач, который ставит подпись. Эксперты напомнили о Федеральном законе от 21.11.2011 № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации», который четко говорит, что ответственность за лечение пациента несет лечащий врач. Развивая эту мысль, участники дискуссии привели показательный пример: сотрудник использовал нейросеть для подготовки документа, но не проверил итоговый текст, оставив в нем даже внутренние пометки ИИ для главного врача. Этот случай наглядно доказывает: ответственность за результат лежит на пользователе, а не на инструменте.
Команда «Против» предложила разделить зоны ответственности: клинические решения остаются за лечащим врачом, а ответственность за внедрение и корректную работу ИИ-инструментов возлагается на руководство медицинской организации. Участники дискуссии подчеркнули: медицина остается доказательной наукой, а это значит, что окончательное решение и персональная ответственность за пациента лежат исключительно на враче.
Юридическая ответственность остается на медицинском работнике и организаторе системы, а ИИ – лишь инструмент, который не снимает с человека обязанности проверять и подтверждать решения.
ИИ – это экономия или новые расходы?
Вопрос экономической эффективности внедрения технологий искусственного интеллекта остается дискуссионным. Структура затрат включает капитальные вложения в инфраструктуру, аппаратное обеспечение и обучение персонала. При этом экономический эффект формируется за счет минимизации рисков, снижения вероятности врачебных ошибок и оптимизации процессов диагностики. Оценка таких инвестиций не всегда прозрачна, если смотреть только на прямую прибыль. Однако анализ эффективности управления потоками пациентов и качества профилактики показывает: результат становится очевидным и измеримым.
Команда «За» продемонстрировала важность использования ИИ на примере диагностики сложного заболевания. Эксперты рассказали про случай, когда отказ от проверки гипотезы, выдвинутой ИИ, привел к полугодовому лечению по неверному протоколу. За это время пациент получил серьезные осложнения. Своевременная реакция на рекомендации системы позволила бы избежать существенных клинических и материальных потерь. Цена человеческой жизни напрямую зависит от скорости и точности диагностики. Технологии, позволяющие быстрее выявлять заболевания и оперативно начинать лечение, не просто улучшают клинические исходы – они создают измеримую экономическую ценность, сохраняя здоровье и трудоспособность пациентов.
Команда «Против» высказалась более осторожно. Наталья Юрьевна Голикова, руководитель проектов лабораторных информационных систем СП.АРМ, призналась, что долго сомневалась в необходимости внедрения ИИ в лабораториях. «Если нейросеть будет настоящим помощником, а врачи – подходить к рекомендациям с критичностью и подтверждать гипотезы, то это обоснованно и может привести к экономии. Но внедрение требует комплексного анализа и осторожности».
Вопрос экономической эффективности внедрения технологий искусственного интеллекта остается дискуссионным. Структура затрат включает капитальные вложения в инфраструктуру, аппаратное обеспечение и обучение персонала. При этом экономический эффект формируется за счет минимизации рисков, снижения вероятности врачебных ошибок и оптимизации процессов диагностики. Оценка таких инвестиций не всегда прозрачна, если смотреть только на прямую прибыль. Однако анализ эффективности управления потоками пациентов и качества профилактики показывает: результат становится очевидным и измеримым.
Команда «За» продемонстрировала важность использования ИИ на примере диагностики сложного заболевания. Эксперты рассказали про случай, когда отказ от проверки гипотезы, выдвинутой ИИ, привел к полугодовому лечению по неверному протоколу. За это время пациент получил серьезные осложнения. Своевременная реакция на рекомендации системы позволила бы избежать существенных клинических и материальных потерь. Цена человеческой жизни напрямую зависит от скорости и точности диагностики. Технологии, позволяющие быстрее выявлять заболевания и оперативно начинать лечение, не просто улучшают клинические исходы – они создают измеримую экономическую ценность, сохраняя здоровье и трудоспособность пациентов.
Команда «Против» высказалась более осторожно. Наталья Юрьевна Голикова, руководитель проектов лабораторных информационных систем СП.АРМ, призналась, что долго сомневалась в необходимости внедрения ИИ в лабораториях. «Если нейросеть будет настоящим помощником, а врачи – подходить к рекомендациям с критичностью и подтверждать гипотезы, то это обоснованно и может привести к экономии. Но внедрение требует комплексного анализа и осторожности».
Наталья Юрьевна Голикова, руководитель проектов лабораторных информационных систем СП.АРМ
Юрий Юрьевич Мухин, генеральный директор «КОНСЭФ», предложил стратегический взгляд:
«Любая цифровая трансформация удорожает процесс, но делает его прозрачным. Руководитель видит процессы на уровне их зарождения и может управлять ими. Профилактика и качество жизни дают реальную экономию в перспективе 3–5 лет».
«Любая цифровая трансформация удорожает процесс, но делает его прозрачным. Руководитель видит процессы на уровне их зарождения и может управлять ими. Профилактика и качество жизни дают реальную экономию в перспективе 3–5 лет».
Юрий Юрьевич Мухин, генеральный Директор КОНСЭФ
Участники дискуссии сошлись во мнении, что экономический эффект от ИИ заключается не в сиюминутной прибыли, а в долгосрочной стратегии: точная диагностика, профилактика и прозрачность процессов окупаются качеством жизни и эффективностью управления.
На что смотреть смотреть при выборе ИИ-решения?
Участники дискуссии предложили три практических критерия, которые помогут главному врачу оценить целесообразность внедрения ИИ в своей клинике.
Участники дискуссии предложили три практических критерия, которые помогут главному врачу оценить целесообразность внедрения ИИ в своей клинике.
- Защищенность. Решение должно соответствовать нормативным требованиям, иметь регистрацию как российское ПО, а также регистрацию изделия медицинского назначения.
- Возможность тестирования. Важен режим апробации – период, который покажет, насколько продукт подходит конкретной организации.
- Понимание границ технологии. Главный врач должен осознавать, что ИИ – это инструмент с ограниченными возможностями, а не замена клиническому мышлению.
Олег Андреевич Черкашин, начальник отдела автоматизированных систем КГБУЗ «Краевая клиническая больница» призвал к личной трансформации:
«Пока руководитель сам не начнет использовать ИИ в рутине, не стоит внедрять его в организацию».
«Пока руководитель сам не начнет использовать ИИ в рутине, не стоит внедрять его в организацию».
Олег Андреевич Черкашин, начальник отдела автоматизированных систем КГБУЗ «Краевая клиническая больница», главный внештатный специалист министерства здравоохранения Красноярского края по информационным технологиям
От обсуждений к действиям
Эксперты пришли к мнению, что нет универсального ответа для всех медучреждений о внедрении ИИ. Есть взвешенное решение для каждой конкретной организации.
Александр Александрович Чесноков, руководитель группы рынка СП.АРМ, подытожил:
«Все упирается в три кита: готовность главного врача к личной трансформации, бюджет и уникальные риски конкретной клиники. Был задан острый вопрос: «ИИ сэкономит деньги или украдет их?» В качестве одного из комментариев прозвучала фраза, которая отсекает все сомнения: сравнивать стоимость технологии и жизнь пациента – некорректно и несоизмеримо. Если ИИ не вредит, а реально помогает, и подход к использованию грамотный и осознанный, то инвестиции во внедрение инструментов на основе ИИ оправданы».
Эксперты пришли к мнению, что нет универсального ответа для всех медучреждений о внедрении ИИ. Есть взвешенное решение для каждой конкретной организации.
Александр Александрович Чесноков, руководитель группы рынка СП.АРМ, подытожил:
«Все упирается в три кита: готовность главного врача к личной трансформации, бюджет и уникальные риски конкретной клиники. Был задан острый вопрос: «ИИ сэкономит деньги или украдет их?» В качестве одного из комментариев прозвучала фраза, которая отсекает все сомнения: сравнивать стоимость технологии и жизнь пациента – некорректно и несоизмеримо. Если ИИ не вредит, а реально помогает, и подход к использованию грамотный и осознанный, то инвестиции во внедрение инструментов на основе ИИ оправданы».
Александр Александрович Чесноков, руководитель группы рынка СП.АРМ
Что важно учитывать при внедрении:
- ИИ – это инструмент, который усиливает профессиональные компетенции, но не заменяет врача.
- Ответственность за применение ИИ лежит на враче и организаторе системы.
- Безопасность данных – критический фактор; локальные решения внутри контура клиники надежнее публичных.
- Экономический эффект достигается в долгосрочной перспективе – через качественную диагностику и профилактику.
Искусственный интеллект в медицине становится рабочим инструментом, но только там, где его внедрение продумано до мелочей.
01 октября / 2026
Автор: Полина Харечко
Фотографии:
Фотографии:
