Проектирование и оценка доступных решений ИИ
Хотя генерированный ИИ может значительно повысить производительность для людей с ограниченными возможностями, он может представлять следующие проблемы и риски для специальных возможностей, если он не создан ответственно:
- Смещения: несправедливые или неточные предположения или предпочтения, влияющие на данные, алгоритмы или результаты генерирования искусственного интеллекта. Примером предвзятости является отсутствие представления или разнообразия людей с ограниченными возможностями в наборах данных или моделях, используемых для создания искусственного интеллекта. Эта ситуация может привести к неточным, неуместным или вредным выходным данным.
- Эндегнизм: дискриминация или угнетение людей с ограниченными возможностями на основе предположения, что они низшие или менее способны, чем другие. Примером блюстичности является исключение или маргинализация людей с ограниченными возможностями в проектировании, разработке или оценке создания искусственного интеллекта для специальных возможностей. Это исключение запрещает лицам с ограниченными возможностями иметь голос или выбор в решениях, влияющих на них.
Важно рассмотреть этические и социальные последствия создания искусственного интеллекта для специальных возможностей и привлечь людей с ограниченными возможностями в качестве сокреатора и заинтересованных лиц в процессе. Затем генерированный ИИ может стать инструментом для расширения возможностей и включения людей с ограниченными возможностями, а не источника вреда или дискриминации.
Принципы инклюзивного проектирования для решений искусственного интеллекта
Проектирование доступных решений ИИ требует понимания конкретных потребностей пользователей и контекстов и применения принципов инклюзивного проектирования.
Тестирование и оценка пользователей являются важными для обеспечения доступности и инклюзивного решения искусственного интеллекта в соответствии с ожиданиями пользователей и требованиями и не создают никаких непредвиденных последствий или вреда. Тестирование и оценка пользователей должны включать разнообразный и репрезентативный пример пользователей, которые могут предоставлять отзывы о удобствах использования, полезности и желательности решения.
Разработчики могут проводить тестирование и оценку пользователей с помощью различных методов в зависимости от вопросов и целей исследования. Методы могут включать интервью, опросы, наблюдения или эксперименты.
Результаты тестирования и оценки пользователей должны информировать об улучшении и уточнении решения.