Всемирная организация здравоохранения (ВОЗ) опубликовала новое руководство эффективного применения искусственного интеллекта в медицинской отрасли.
Стремительное развитие технологий привело к тому, что ИИ во многом стал неотъемлемой частью бизнес-процессов клиник. Системы искусственного интеллекта задействованы для улучшения медицинской диагностики, лечения, ухода за пациентом, а также анализа медицинских данных, снижению количества нежелательных инцидентов. ИИ используют и в условиях нехватки медицинских специалистов, помогая интерпретировать результаты рентгенологических исследований и в других задачах.
Однако внедрение искусственного интеллекта без детального понимания принципов его работы может привести к негативному исходу как для медперсонала, так и для пациентов. На первый план качественной работы с ИИ выходят такие критерии, как безопасность и эффективность. Например, при использовании медицинских данных системы искусственного интеллекта могут получить доступ к конфиденциальной личной информации. Для обеспечения конфиденциальности этих данных требуется создание надежной нормативно-правовой базы. К ее формированию и призывает публикации всемирной организации здравоохранения.
В новой статье ВОЗ выделены шесть основных аспектов регулирования ИИ в медицине:
Однако внедрение искусственного интеллекта без детального понимания принципов его работы может привести к негативному исходу как для медперсонала, так и для пациентов. На первый план качественной работы с ИИ выходят такие критерии, как безопасность и эффективность. Например, при использовании медицинских данных системы искусственного интеллекта могут получить доступ к конфиденциальной личной информации. Для обеспечения конфиденциальности этих данных требуется создание надежной нормативно-правовой базы. К ее формированию и призывает публикации всемирной организации здравоохранения.
В новой статье ВОЗ выделены шесть основных аспектов регулирования ИИ в медицине:
- 1Укрепление доверия к новым технологами зависит от прозрачности и ведения документации. Этого можно добиться, например, путем ведения документа о жизненном цикле системы и последующих процессах ее разработки.
- 2Для управления рисками необходимо учесть и рассмотреть вопросы, касающиеся целевого назначения ИИ, непрерывного обучения, вмешательства человека, модели обучения и угрозы кибербезопасности на основе упрощенных моделей.
- 3Безопасность и удобное регулирование ИИ обеспечат внешняя проверка данных и четкое определение целевого назначения и использования системы искусственного интеллекта.
- 4Для избежания распространения ошибок, предвзятости и систематических погрешностей необходим четкий алгоритм контроля качества данных, предусматривающий тщательную проверку систем перед их выпуском.
- 5Для обеспечения конфиденциальности и защиты данных необходимо решать проблемы, связанные с применением ключевых комплексных режимов регулирования, например, предусмотренных Общим регламентом по защите данных (GDPR), определяя пределы действия юрисдикции этих нормативных актов и требования к получению согласий на обработку данных.
- 6Укрепление сотрудничества между регулирующими органами, пациентами, медицинскими специалистами, представителями промышленности и государственными партнерами поможет обеспечить соответствие продуктов и услуг нормативным требованиям на протяжении их жизненного цикла.
Система искусственного интеллекта не из простых. Ее функционирование зависит не только от заложенного кода, но и данных, которые используются в ходе обучения таких систем, накапливаются в процессе работы МО и взаимодействия с пользователями. Чем качественнее регулирование ИИ, тем меньше риск того, что системы будут увеличивать число отклонений, присутствующих в тренировочных данных.
Как пример — затруднения ИИ в обеспечении точной репрезентации демографического состава населения. Это приведет к погрешностям в системе и ряду неточностей. Для снижения подобных рисков можно применить нормативные акты с указанием характеристик субъектов тренировочных данных, например, их половой, расовой и этнической принадлежности, и целенаправленной коррекции для обеспечения репрезентативности наборов данных.
Новая публикация ВОЗ призвана изложить ключевые принципы при разработке новых или адаптации существующих правил по использованию ИИ на национальном или региональном уровнях. Акценты расставлены на безопасности и эффективности систем искусственного интеллекта, быстрого предоставления соответствующих их тем, кто в них нуждается, и развития диалога между разработчиками, регулирующими органами, медицинскими работниками и другими заинтересованными сторонами.
Как пример — затруднения ИИ в обеспечении точной репрезентации демографического состава населения. Это приведет к погрешностям в системе и ряду неточностей. Для снижения подобных рисков можно применить нормативные акты с указанием характеристик субъектов тренировочных данных, например, их половой, расовой и этнической принадлежности, и целенаправленной коррекции для обеспечения репрезентативности наборов данных.
Новая публикация ВОЗ призвана изложить ключевые принципы при разработке новых или адаптации существующих правил по использованию ИИ на национальном или региональном уровнях. Акценты расставлены на безопасности и эффективности систем искусственного интеллекта, быстрого предоставления соответствующих их тем, кто в них нуждается, и развития диалога между разработчиками, регулирующими органами, медицинскими работниками и другими заинтересованными сторонами.
07 ноября / 2023
Автор: Полина Харечко
Читать также:
