ВОЗ публикует первый глобальный отчет об искусственном интеллекте (ИИ) в здравоохранении и шесть руководящих принципов его разработки и использования
Согласно новому опубликованному сегодня руководству ВОЗ, искусственный интеллект (ИИ) открывает большие перспективы для улучшения оказания медицинской помощи и медицины во всем мире, но только если этика и права человека будут поставлены во главу угла при его разработке, развертывании и использовании.
Отчет, Этика и управление искусственным интеллектом в интересах здоровья, является результатом 2-летних консультаций, проведенных группой международных экспертов, назначенных ВОЗ..
«Как и все новые технологии, искусственный интеллект обладает огромным потенциалом для улучшения здоровья миллионов людей во всем мире, но, как и все технологии, им можно злоупотреблять и причинять вред», - сказал д-р Тедрос Адханом Гебрейесус, Генеральный директор ВОЗ. «Этот важный новый отчет представляет собой ценное руководство для стран о том, как максимально использовать преимущества ИИ, сводя к минимуму его риски и избегая его ловушек».
Искусственный интеллект можно использовать, и в некоторых богатых странах он уже используется для повышения скорости и точности диагностики и скрининга болезней; для оказания помощи в клинической помощи; укреплять исследования в области здравоохранения и разработку лекарств, а также поддерживать различные меры общественного здравоохранения, такие как эпиднадзор за болезнями, реагирование на вспышки и управление системами здравоохранения.
ИИ также может дать пациентам возможность лучше контролировать свое здоровье и лучше понимать свои меняющиеся потребности. Это также могло бы позволить странам с ограниченными ресурсами и сельским общинам, где пациенты часто имеют ограниченный доступ к медицинским работникам или медицинским работникам, устранить пробелы в доступе к услугам здравоохранения.
Однако новый отчет ВОЗ предостерегает от переоценки преимуществ ИИ для здоровья, особенно когда это происходит за счет основных инвестиций и стратегий, необходимых для достижения всеобщего охвата услугами здравоохранения.
В нем также указывается, что возможности связаны с проблемами и рисками, включая неэтичный сбор и использование данных о здоровье; предубеждения, закодированные в алгоритмах, и риски ИИ для безопасности пациентов, кибербезопасности и окружающей среды.
Например, хотя инвестиции частного и государственного секторов в разработку и внедрение ИИ имеют решающее значение, нерегулируемое использование ИИ может подчинить права и интересы пациентов и сообществ влиятельным коммерческим интересам технологических компаний или интересам правительств в сфере наблюдения и социальный контроль.
В отчете также подчеркивается, что системы, обученные в первую очередь на данных, собранных от людей из стран с высоким уровнем дохода, могут не работать хорошо для людей с низким и средним уровнем дохода.
Поэтому системы искусственного интеллекта должны быть тщательно спроектированы с учетом разнообразия социально-экономических условий и условий здравоохранения. Они должны сопровождаться обучением цифровым навыкам, вовлечением сообщества и повышением осведомленности, особенно для миллионов медицинских работников, которым потребуется цифровая грамотность или переподготовка, если их роли и функции автоматизированы, и которые должны бороться с машинами, которые могут оспорить это решение. создание и автономия поставщиков и пациентов.
В конечном итоге, руководствуясь существующими законами и обязательствами в области прав человека, а также новыми законами и политиками, закрепляющими этические принципы, правительства, поставщики и разработчики должны работать вместе для решения проблем этики и прав человека на каждом этапе проектирования, разработки и внедрения технологии искусственного интеллекта. .
Шесть принципов, гарантирующих, что ИИ работает в интересах общества во всех странах
Чтобы ограничить риски и максимизировать возможности, присущие использованию ИИ для здоровья, ВОЗ предлагает следующие принципы в качестве основы для регулирования и управления ИИ:
Защита автономии человека: В контексте здравоохранения это означает, что люди должны по-прежнему контролировать системы здравоохранения и медицинские решения; неприкосновенность частной жизни и конфиденциальность должны быть защищены, и пациенты должны давать действительное информированное согласие через соответствующие правовые рамки для защиты данных.
Содействие благополучию и безопасности людей и общественным интересам. Разработчики технологий искусственного интеллекта должны удовлетворять нормативным требованиям по безопасности, точности и эффективности для четко определенных вариантов использования или показаний. Должны быть доступны меры контроля качества на практике и повышения качества использования ИИ.
Обеспечение прозрачности, понятности и понятности. Прозрачность требует, чтобы достаточная информация была опубликована или задокументирована до разработки или развертывания технологии искусственного интеллекта. Такая информация должна быть легкодоступной и способствовать конструктивным общественным консультациям и обсуждению того, как разработана технология и как ее следует или не следует использовать.
Повышение ответственности и подотчетности. Хотя технологии искусственного интеллекта выполняют определенные задачи, заинтересованные стороны несут ответственность за их использование в соответствующих условиях и надлежащим образом обученными людьми. Должны быть доступны эффективные механизмы для допроса и возмещения для отдельных лиц и групп, на которых неблагоприятно влияют решения, основанные на алгоритмах.
Обеспечение инклюзивности и справедливости. Инклюзивность требует, чтобы ИИ для здоровья был разработан таким образом, чтобы поощрять как можно более широкое справедливое использование и доступ, независимо от возраста, пола, пола, дохода, расы, этнической принадлежности, сексуальной ориентации, способностей или других характеристик, защищаемых кодексами прав человека.
Продвижение ИИ, который будет гибким и устойчивым. Дизайнеры, разработчики и пользователи должны постоянно и прозрачно оценивать приложения ИИ во время их фактического использования, чтобы определять, адекватно и надлежащим образом реагирует ИИ на ожидания и требования. Системы искусственного интеллекта также должны быть разработаны таким образом, чтобы минимизировать их экологические последствия и повысить энергоэффективность. Правительствам и компаниям следует устранять ожидаемые нарушения на рабочем месте, включая обучение медицинских работников, чтобы они могли адаптироваться к использованию систем искусственного интеллекта, и потенциальные потери рабочих мест из-за использования автоматизированных систем.
Эти принципы будут определять будущую работу ВОЗ по поддержке усилий по обеспечению использования всего потенциала ИИ для здравоохранения и общественного здравоохранения на благо всех.
Из https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its -дизайн-и-использование
