Поделиться через

Ответственные соображения относительно ИИ для интеллектуальных рабочих нагрузок приложений

  • Статья

Рабочие нагрузки интеллектуальных приложений должны соответствовать принципам ответственного ИИ, чтобы гарантировать справедливость, подотчетность, прозрачность и этичное поведение.

Разработать систему ИИ таким образом, чтобы она относилась ко всем пользователям справедливо, возлагала ответственность на разработчиков и пользователей за ее работу, обеспечивала прозрачность операций ИИ и соответствовала этическим стандартам.

В Microsoft мы стремимся к развитию искусственного интеллекта, руководствуясь принципами, которые ставят людей на первое место. Генеративные модели обладают значительными потенциальными преимуществами, однако без тщательного проектирования и продуманных мер по смягчению последствий такие модели могут генерировать некорректный или даже вредоносный контент. Microsoft вложила значительные средства в защиту от злоупотреблений и непреднамеренного вреда, в том числе внедрила Microsoftпринципы ответственного использования ИИ, приняла Кодекс поведения, создала фильтры контента для поддержки клиентов и предоставила ответственную информацию и рекомендации по ИИ, которые клиенты должны учитывать при использовании генеративного ИИ.

Power Platform Вторые пилоты и функции генеративного ИИ следуют набору основных правил безопасности и конфиденциальности, а также Microsoft Стандарту ответственного ИИ. Power Platform Данные защищены комплексными, ведущими в отрасли средствами контроля соответствия, безопасности и конфиденциальности.

Подробнее:

Основные принципы ответственного ИИ

Основные принципы ответственного ИИ включают справедливость, подотчетность, прозрачность и этику. Обеспечение того, чтобы интеллектуальная рабочая нагрузка приложения, созданная с Power Platform , соответствовала этим основным принципам, включает в себя несколько ключевых практик:

  • Справедливость: используйте разнообразные и репрезентативные данные обучения, чтобы свести к минимуму предвзятость. Регулярно обновляйте данные об обучении и привлекайте аудиторов для подтверждения справедливости и равноправия.
  • Подотчетность: Определите четкие роли и обязанности членов команды, участвующих в проекте ИИ. Установить и соблюдать этические стандарты, в которых приоритет отдается справедливости и ответственности.
  • Прозрачность: дайте пользователям знать, что они используют рабочую нагрузку, которая использует возможности генеративного ИИ. Четко объясните, почему было выбрано решение на основе ИИ, как оно было разработано, как оно контролируется и обновляется.
  • Этика: Способствуйте формированию инклюзивной рабочей силы и ищите мнения различных сообществ на ранних этапах процесса развития. Регулярно оценивайте и тестируйте модели на предмет этических проблем и различий в эффективности. Создать структуру управления, включающую регулярные аудиты.

Внедрите эти практики в процессы разработки и развертывания, чтобы создать интеллектуальную рабочую нагрузку приложения, соответствующую основным принципам ответственного ИИ.

Конфиденциальность и безопасность данных

Обеспечение конфиденциальности данных имеет решающее значение, особенно с учетом того, что интеллектуальная рабочая нагрузка приложений может обрабатывать конфиденциальные данные. При планировании интеллектуальной рабочей нагрузки приложения с Power Platform важно учитывать несколько ключевых рисков и внедрять эффективные стратегии их смягчения:

  • Функции платформы: изучите собственные элементы управления и функции платформы, которые защищают ваши данные. Microsoft Copilot построен на основе Microsoft Azure OpenAI Сервиса и полностью работает в облаке Azure. Система Copilot использует модели OpenAI со всеми возможностями обеспечения безопасности, существующими в Microsoft Azure. Copilot интегрирован в такие Microsoft сервисы, как Dynamics 365 и Power Platform , и наследует их политики и процессы безопасности, конфиденциальности и соответствия, такие как многофакторная аутентификация и границы соответствия.
  • Шифрование данных: технологии на стороне сервиса шифруют организационный контент при хранении и передаче, обеспечивая надежную безопасность. Подключения защищены с помощью Transport слой Security (TLS), а передача данных между Dynamics 365, Power Platform и Azure OpenAI осуществляется по Microsoft магистральной сети, что гарантирует как надежность, так и безопасность. Узнайте больше о шифровании в Microsoft облаке.
  • Контроль доступа: данные предоставляются Copilot на основе уровня доступа текущего пользователя. Реализуйте управление доступом на основе ролей (RBAC) с использованием Microsoft Entra идентификаторов, чтобы гарантировать, что доступ к данным смогут получить только авторизованные пользователи. Применяйте принцип наименьших привилегий, чтобы ограничить доступ только тем, что действительно необходимо.
  • Мониторинг и аудит: выявляйте и реагируйте на потенциальные инциденты безопасности путем регулярного мониторинга доступа и использования системы ИИ. Ведите подробные журналы аудита для отслеживания доступа к данным и их изменений.
  • Соблюдение требований и управление: обеспечьте соблюдение соответствующих правил конфиденциальности данных, таких как GDPR (Общий регламент по защите данных), HIPAA (Закон о переносимости и подотчетности медицинского страхования) и CCPA (Закон Калифорнии о защите конфиденциальности потребителей). Внедряйте этические практики ИИ, чтобы избежать предвзятости и обеспечить справедливость результатов ИИ.
  • Обучение и тренинг пользователей: Обучайте пользователей передовым методам обеспечения безопасности и важности конфиденциальности данных. Информируйте пользователей об обновлениях и изменениях политик и процедур безопасности.

Подробнее: Часто задаваемые вопросы по безопасности и конфиденциальности данных Copilot для Dynamics 365 и Power Platform

Осознание предвзятости и ее смягчение

Осознать важность устранения предвзятости в системе и обеспечить справедливость, чтобы избежать предвзятости в ответах ИИ.

  • Разнообразные и репрезентативные данные: убедитесь, что обучающие данные разнообразны и репрезентативны для различных демографических групп, чтобы свести к минимуму внутренние предубеждения. Регулярно проверяйте данные на предмет предвзятости и дисбаланса и при необходимости принимайте корректирующие меры.
  • Инструменты обнаружения и смягчения предвзятости: используйте инструменты и методы для обнаружения предвзятости в моделях ИИ, такие как статистический анализ и показатели справедливости. Реализуйте методы устранения предвзятости, включая повторную выборку, повторное взвешивание или состязательное устранение предвзятости, чтобы уменьшить предвзятость в моделях.
  • Участие человека: включение циклов человеческого контроля и обратной связи для выявления и исправления предубеждений, которые может вносить ИИ. Создайте этический комитет или совет по управлению для надзора за разработкой и внедрением ИИ, обеспечивая соблюдение этических стандартов.
  • Прозрачность и доверие: дайте пользователям знать, что они используют рабочую нагрузку, которая использует возможности генеративного ИИ. Четко объясните, почему было выбрано решение на основе ИИ, и предоставьте информацию о том, как оно было разработано, как оно контролируется и обновляется.
  • Постоянный мониторинг и совершенствование: постоянно контролируйте систему ИИ на предмет предвзятости и проблем с производительностью, а также обновляйте модели по мере необходимости. Обеспечьте справедливость и беспристрастность моделей путем регулярного переобучения моделей с использованием обновленных и более разнообразных данных.

Постоянный мониторинг и оценка

Продолжайте совершенствовать интеллектуальную рабочую нагрузку приложений. Создайте структуру для постоянного мониторинга и оценки, а также учитывайте отзывы пользователей и развивающиеся этические стандарты при обновлении.

  • Циклы обратной связи: создайте механизмы обратной связи, с помощью которых пользователи могут сообщать о неточностях, что затем можно использовать для уточнения и улучшения моделей.
  • Мониторинг и аудит: выявляйте и реагируйте на потенциальные инциденты безопасности путем регулярного мониторинга доступа и использования системы ИИ. Ведите подробные журналы аудита для отслеживания доступа к данным и их изменений.