Основы оценки вредного воздействия

Моделирование вредного воздействия — это практика, призванная помочь вам предвидеть потенциальный вред, выявить недостатки продукта, которые могут подвергнуть людей риску, и в конечном итоге сформировать подходы к проактивному устранению вреда.

Назначение моделирования вредного воздействия

Ваша работа, как создателя технологий, носит глобальный характер. Создание ИИ, заслуживающего доверия, требует формирования решений, отражающих этические принципы, глубоко укорененные в важных и вечных ценностях. В процессе проектирования и создания технологий важно оценить не только идеальные результаты, но и возможные отрицательные.

Технологии и права человека

Как никогда важно знать, как цифровые технологии могут повлиять на права человека. В дополнение к продолжению защиты конфиденциальности и безопасности мы должны учитывать риски, связанные с искусственным интеллектом и другими новыми технологиями, такими как распознавание лиц. История учит нас, что нарушения прав человека не только приводят к нечестному использованию технологий, но и от отсутствия осведомленности среди тех, кто имеет хорошие намерения. В рамках приверженности нашей компании к защите прав человека корпорация Майкрософт установила партнерские отношения с важными заинтересованными сторонами за пределами нашей отрасли, включая Организацию Объединенных Наций (ООН).

Важным сводом принципов ООН, который наша компания твердо поддерживает и который был ратифицирован более чем 250 странами, является Всеобщая декларация прав человека (ВДПЧ). ВДПЧ — это важнейший документ. Эта декларация, подготовленная глобальной группой экспертов в области права и культуры, была провозглашена Генеральной Ассамблеей Организации Объединенных Наций в 1948 году в качестве общего стандарта достижений для всех народов и всех наций. В ней впервые излагаются основные права человека, подлежащие всеобщей защите. Она была переведена более чем на 500 языков. Кроме того, корпорация Майкрософт является одной из 4700 компаний, подписавших Глобальный договор ООН — международную деловую инициативу, направленную на поощрение ответственного корпоративного гражданства.

Скачивание файла Microsoft Word этой таблицы

Понимание прав человека

Помимо признания важности прав человека при создании надежных систем требуется учитывать мнение многих людей. Понимание того, кто такие заинтересованные стороны, что они ценят, как они могут извлечь выгоду и как они могут пострадать от нашей технологии, является важным шагом, который позволяет нам проектировать и создавать лучшие продукты.

На кого влияет технология?

Кто является клиентами?

• Что они ценят?
• Каковы их преимущества?
• Кому может навредить технология?

Кто такие заинтересованные стороны, не являющиеся клиентами?

• Что они ценят?
• Каковы их преимущества?
• Кому может навредить технология?

Постановка этих вопросов является практикой в ценностно-ориентированном проектировании и началом лучшего понимания того, что важно для заинтересованных сторон и как это влияет на их отношения с продуктом.

Типы заинтересованных лиц

Спонсоры проекта

Кредиторы, лица, принимающие решение, и владельцы составляют эту категорию. Их ценности определяются в стратегии и целях проекта.

Разработчики технологий

Дизайнеры, разработчики, руководители проектов и люди, работающие непосредственно над разработкой систем, составляют эту группу. Они привносят в систему свои собственные этические нормы и профессиональные ценности.

Прямые и косвенные заинтересованные стороны

Система оказывает значительное влияние на эти заинтересованные стороны. Те, кто оказывает влияние, включают конечных пользователей, сотрудников программного обеспечения, клиентов, прохожих, межконфессиональных учреждений, а также даже прошлых или будущих поколений. Сюда также могут быть включены нечеловеческие факторы, например исторические здания или священные места.

Маргинализованные группы населения

Эта категория состоит из населения, которое часто считается меньшинством, уязвимым или стигматизированным классом. Эта категория включает детей, пожилых людей, членов сообщества ЛГБТ+, этнических меньшинств и других народов, которые часто испытывают уникальные и несоразмерные последствия.

Оценка вреда

Определив назначение технологии, варианты использования и заинтересованные лица, выполните упражнение по моделированию вреда для оценки потенциальных способов использования технологии, которую вы создаете, может привести к негативным результатам для людей и общества.

Скачайте файл Microsoft Word этой схемы.

Приведенная выше диаграмма является примером оценки вредного воздействия. Эта модель является качественным подходом, который используется для понимания потенциальной величины вреда.

Вы можете завершить эту деятельность по отдельности, но в идеале она проводится как совместная работа между разработчиками, специалистами по обработке и анализу данных, дизайнерами, исследователями пользователей, разработчиками бизнес-решений и другими дисциплинами, участвующими в создании технологии.

Предложения по описанию вредного воздействия:

• Предполагаемое использование: если [функция] использовалась для [варианта использования], то [заинтересованные стороны] могут столкнуться с [описанием вреда].
• Непреднамеренное использование: если [пользователь] пытался использовать [функцию] для [варианта использования], то [заинтересованные стороны] могут столкнуться с [описанием вреда].
• Системная ошибка: если [функция] не удалось правильно функционировать при использовании для [варианта использования], то [заинтересованные стороны] могут столкнуться с [описанием вреда].
• Неправильное использование: [злонамеренный субъект] потенциально может использовать [функцию], чтобы причинить [описание вреда] [заинтересованная сторона].

Сведения о категориях, вопросах и примерах, описанных в разделе о типах вредного воздействия, можно использовать для создания конкретного описания возможного вредного воздействия. В статье перечислены категории вреда, основанные на распространенных негативных областях воздействия. Адаптируйте и внедрите дополнительные подходящие для вашего случая категории.

Следующие шаги

Прочтите раздел о типах вредного воздействия для дальнейшего анализа причин.