Рекомендации по интеграции и ответственному использованию Персонализатора

Важно!

Начиная с 20 сентября 2023 г. вы не сможете создавать новые ресурсы Персонализатора. Служба Персонализатора отменяется 1 октября 2026 года.

Корпорация Майкрософт помогает клиентам ответственно разрабатывать и развертывать решения с помощью Персонализатора ИИ Azure. Наш принципиальный подход поддерживает свободу действий и достоинство личности, учитывая указанные ниже характеристики системы ИИ.

  • Справедливость, надежность и безопасность.
  • Конфиденциальность и безопасность.
  • Общедоступность.
  • Прозрачность.
  • Индивидуальная ответственность.

Эти характеристики отражают нашу приверженность разработке ответственного ИИ.

Общие рекомендации по интеграции и принципы ответственного использования

Когда вы будете готовы к интеграции и ответственному использованию продуктов или функций на основе ИИ, приведенные ниже действия помогут вам добиться успеха.

  • Общее понимание возможностей. Полностью оцените потенциал Персонализатора для понимания его возможностей и ограничений. Узнайте, как он будет выполняться в конкретном сценарии и контексте, тщательно протестировав его с использованием реальных условий и данных.

  • Уважение прав на конфиденциальность. Собирайте данные и сведения от частных лиц только для законных и оправданных целей. Использовать для этих целей только те данные и сведения, на использование которых у вас есть согласие.

  • Получение юридической проверки. Получите соответствующую юридическую консультацию, чтобы проверить Персонализатор и способ его использования в решении, особенно если вы будете использовать его в конфиденциальных приложениях или приложениях с высоким уровнем риска. Разберитесь, в рамках каких ограничений вам, возможно, придется работать и в чем заключается ваша ответственность за решение любых проблем, которые могут возникнуть в будущем.

  • Вовлечение в процесс человека. Включите надзор за деятельностью человека в качестве области изучения закономерностей. Обеспечьте постоянный контроль со стороны человека над продуктами или компонентами на основе ИИ. Сохраняйте за людьми роль в принятии решений. Убедитесь, что вы обеспечили возможность вмешательства человека в процесс принятия решения в режиме реального времени для предотвращения вреда и управления ситуациями, когда система искусственного интеллекта не справляется со своими обязанностями.

  • Укрепление доверия с затронутыми заинтересованными лицами. Сообщите об ожидаемых преимуществах и потенциальных рисках заинтересованным лицам. Объясните людям, зачем нужны данные и как их использование принесет им пользу. Опишите процесс обработки данных в понятной форме.

  • Создание цикла обратной связи с клиентами. Предоставьте канал обратной связи, который позволит пользователям и отдельным лицам сообщать о проблемах со службой после ее развертывания. После развертывания продукта или компонента на основе ИИ ему требуется постоянный мониторинг и улучшение. Будьте готовы к реализации любых отзывов и предложений по улучшению. Создайте каналы для сбора вопросов и проблем от затронутых заинтересованных лиц. Люди, которые могут быть прямо или косвенно затронуты системой, включают сотрудников, посетителей и широкую общественность.

  • Обратная связь: в процессе разработки и оценки запрашивайте отзывы у различных представителей сообщества (например, у исторически маргинализированных групп, людей с ограниченными возможностями и работников сферы обслуживания). Дополнительные сведения см. в разделе "Жюри сообщества".

  • Исследование пользователей: любые рекомендации по согласию или раскрытию данных должны быть представлены в исследовании пользователей. Оцените первый и непрерывный опыт использования на репрезентативной выборке сообщества, чтобы убедиться, что варианты проектирования приводят к эффективному раскрытию информации. Проведите исследование пользователей с участием 10-20 членов сообщества (затронутых заинтересованных лиц), чтобы оценить их понимание информации и определить, оправдываются ли их ожидания.

  • Прозрачность и объяснимость. Рассмотрите возможность включения и использования возможности объяснения вывода Персонализатора, чтобы лучше понять, какие функции играют важную роль в выборе решения Персонализатора в каждом вызове ранжирования. Эта возможность позволяет предоставить пользователям прозрачность в отношении того, как их данные сыграли роль в создании рекомендуемых оптимальных действий. Например, вы можете предоставить пользователям кнопку с меткой "Почему эти предложения?", которая показывает, какие основные функции сыграли роль в создании результатов Персонализатора. Эти сведения также можно использовать для лучшего понимания того, какие атрибуты данных о пользователях, контекстах и действиях работают в пользу выбора лучшего действия персонализатора, которые работают с ним, и которые могут иметь мало или нет эффекта. Эта возможность также может предоставлять аналитические сведения о ваших сегментах пользователей и помочь вам определить и устранить потенциальные смещения.

  • Состязательное использование: рассмотрите возможность разработки процесса для обнаружения и блокирования вредоносных манипуляций. Некоторые субъекты применяют адаптивные функции систем машинного обучения и искусственного интеллекта. С помощью скоординированных атак они могут искусственно имитировать модели поведения, которые сдвигают модели данных и ИИ в соответствии с их целями. Если использование Персонализатора может повлиять на важные решения, убедитесь, что у вас есть соответствующие средства для обнаружения и смягчения последствий атак такого типа.

  • Отказ. Рассмотрите возможность предоставления пользователям элемента управления, чтобы отказаться от получения персонализированных рекомендаций. Для этих пользователей API ранжирования Персонализатора не будет вызываться из приложения. Вместо этого приложение может использовать альтернативный способ принятия решения о следующем действии. Например, отказавшись от персонализированных рекомендаций и выбрав действие по умолчанию или базовый план, пользователь сможет столкнуться с действиями, которые будут приняты без рекомендации Персонализатора. Кроме того, ваше приложение может использовать рекомендации на основе статистических или основанных на заполнении мер (например, "набирающие популярность", "10 самых популярных" и т. д.).

Зона вашей ответственности

Все рекомендации по ответственной реализации основаны на том убеждении, что разработчики и организации, которые используют Персонализатор, несут ответственность за то, как применение этих алгоритмов влияет на общество. Когда вы разрабатываете приложение, которое будет развертывать ваша организация, важно помнить о своей роли, ведь вы несете ответственность за работу системы и то, как она будет влиять на пользователей. Если ваше приложение будут развертывать сторонние лица, четко разделите ответственность за поведение приложения. Обязательно зафиксируйте это соглашение.

Вопросы и отзывы

Корпорация Майкрософт постоянно обновляет соответствующие инструменты и документацию, чтобы помочь вам выполнить эти обязательства. Наша команда предлагает вам отправить свой отзыв в корпорацию Майкрософт, если вы считаете, что новые инструменты, характеристики продукта или документация помогут вам выполнить описанные рекомендации по использованию Персонализатора.

  • Изучите шесть принципов корпорации Майкрософт по ответственной разработке искусственного интеллекта, которые опубликованы в книге The Future Computed (Вычисляемое будущее), опубликованной в январе 2018 г.

Следующие шаги

Сведения о том, как API Персонализатора получает признаки см. в разделе Признаки: действие и контекст