Министерство здравоохранения РФ утвердило Кодекс этики применения искусственного интеллекта (ИИ) в сфере охраны здоровья. Документ разработан для установления правил, касающихся этики в процессе создания, внедрения и применения технологий ИИ в отрасли.
Руководитель отдела проектного менеджмента, производства и инжиниринга Института инновационного развития СамГМУ Петр Кшнякин поделился своим мнением о значении этического кодекса: «Основные проблемы использования ИИ в здравоохранении – недостаток доказательств эффективности и безопасности таких решений, трудности с интерпретацией результатов, к которым пришли алгоритмы, сложность процесса вывода ИИ из эксплуатации в случае его критического сбоя.
Кодекс этики действительно стремится найти ответы на эти вызовы – внедряет дополнительные обязательства в ограничении автономности искусственного интеллекта, обеспечении прозрачности и объяснимости алгоритмов. Регламентирует процессы и вносит новые требования, что, безусловно, приведет к увеличению затрат на разработку систем ИИ и возникновению дополнительной ответственности за возможный вред, который может нанести ИИ-технология. Однако кодекс также упростит порядок взаимодействия разработчиков с регуляторами и медучреждениями. И все же эти аспекты остаются на уровне рекомендаций и отсылают операторов к законодательству.
Многие разработчики уже сейчас следуют закону 152-ФЗ «О персональных данных», использовавшемуся в том числе при проектировании кодекса, и регистрируют ИИ-решения как медизделия. Но в деятельности разработчиков существуют и расхождения с положениями нового документа, например, в области «проблемы черного ящика» (трудности с интерпретацией результатов, к которым пришли алгоритмы) и непрерывного обучения искусственного интеллекта. Эти вопросы остаются нерешенными, что создает определенные несоответствия, по крайней мере относительно некоторых систем ИИ».
Петр Кшнякин убежден в том, что этический кодекс является важным первым шагом, который необходимо сделать на пути упорядочения применения ИИ. Чтобы повысить доверие пациентов и врачей к новым технологиям, следует также активно информировать население и профсообщество о том, что искусственный интеллект может быть полезным инструментом, который помогает в медицинской практике, при этом его использование должно быть контролируемым.
