Вопросы и ответы об ответственном применении ИИ
Что такое Microsoft Security Copilot?
Security Copilot — это естественный язык, — это решение для обеспечения безопасности на основе искусственного интеллекта, которое помогает повысить эффективность и возможности защитников, чтобы повысить результаты безопасности на скорости и масштабе компьютера. Он извлекает контекст из подключаемых модулей и данных для ответа на запросы, чтобы специалисты по безопасности и ИТ-администраторы могли обеспечить безопасность своих организаций.
Что можно сделать Security Copilot?
Security Copilot помогает отвечать на вопросы на естественном языке, чтобы в считанные секунды можно было получать ответы на распространенные задачи по обеспечению безопасности и ИТ.
Microsoft Security Copilot помогает в следующих сценариях:
Исследование и исправление безопасности
Получите контекст для инцидентов, чтобы быстро рассматривать сложные оповещения системы безопасности в практические сводки и быстрее устранять их с помощью пошагового руководства по реагированию.Анализ скриптов и создание запросов KQL
Устраните необходимость вручную писать скрипты на языке запросов или реконструировать скрипты вредоносных программ с переводом на естественный язык, чтобы позволить каждому участнику команды выполнять технические задачи.Исследование рисков и управление состоянием безопасности
Получите широкое представление о своей среде с приоритетными рисками, чтобы легче выявить возможности для улучшения положения.Более быстрое устранение неполадок с ИТ-решением
Быстро синтезируйте соответствующую информацию и получайте полезные сведения для быстрого выявления и устранения проблем с ИТ.Создание политики безопасности и управление ими
Определите новую политику, перекрестные ссылки на нее с другими пользователями на наличие конфликтов и суммируйте существующие политики для быстрого и простого управления сложным организационным контекстом.Конфигурация рабочего процесса жизненного цикла
Создавайте группы и устанавливайте параметры доступа с пошаговыми инструкциями, чтобы обеспечить бесперебойную настройку для предотвращения уязвимостей системы безопасности.Отчетность заинтересованных лиц
Получите четкий и краткий отчет, в котором обобщаются контекст и среда, открытые вопросы и защитные меры, подготовленные для тона и языка аудитории отчета.
Каково назначение Security Copilot?
Security Copilot помогает специалистам по безопасности в комплексных сценариях, таких как реагирование на инциденты, охота на угрозы, сбор аналитических сведений и управление состоянием. Дополнительные сведения см. в разделе Варианты использования и роли.
Как оценивалась Security Copilot? Какие метрики используются для измерения производительности?
Security Copilot прошли существенное тестирование перед выпуском. Тестирование включало в себя красное объединение, которое является практикой тщательного тестирования продукта для выявления режимов сбоев и сценариев, которые могут привести к тому, что Security Copilot будет делать или говорить что-то за пределами предполагаемого использования или которые не поддерживают принципы ИИ Майкрософт.
Теперь, когда он выпущен, отзывы пользователей имеют решающее значение для улучшения системы корпорацией Майкрософт. Вы можете предоставлять отзыв каждый раз, когда вы получаете выходные данные из Security Copilot. Если ответ является неточным, неполным или неясным, используйте кнопки "Вне цели" и "Отчет", чтобы пометить любые нежелательные выходные данные. Вы также можете проверить, являются ли ответы полезными и точными, с помощью кнопки "Подтвердить". Эти кнопки отображаются в нижней части каждого Security Copilot ответа, и ваш отзыв передается непосредственно в корпорацию Майкрософт, чтобы помочь нам повысить производительность платформы.
Каковы ограничения Security Copilot? Как пользователи могут свести к минимуму влияние ограничений Security Copilot при использовании системы?
Программа раннего доступа предназначена для предоставления клиентам возможности раннего доступа к Security Copilot и предоставления отзывов о платформе. Предварительные версии функций не предназначены для использования в рабочей среде и могут иметь ограниченные функциональные возможности.
Как и любая технология на основе ИИ, Security Copilot не все в порядке. Однако вы можете улучшить ответы, предоставив свои наблюдения с помощью средства обратной связи, встроенного в платформу.
Система может создавать устаревшие ответы, если ей не предоставляются самые актуальные данные с помощью пользовательских входных данных или подключаемых модулей. Чтобы получить наилучшие результаты, убедитесь, что включены правильные подключаемые модули.
Система предназначена для реагирования на запросы, связанные с предметной областью безопасности, такие как исследование инцидентов и аналитика угроз. Запросы за пределами область безопасности могут привести к ответным действиям, которые не имеют точности и полноты.
Security Copilot может создавать код или включать код в ответы, что может потенциально раскрыть конфиденциальную информацию или уязвимости, если не использовать их тщательно. Ответы могут казаться допустимыми, но на самом деле не могут быть семантически или синтаксически правильными или могут не точно отражать намерения разработчика. Пользователи всегда должны соблюдать те же меры предосторожности, что и при написании любого кода, который использует существенные пользователи не независимо, включая меры предосторожности для обеспечения его пригодности. Сюда относится тщательное тестирование, сканирование IP-адресов и проверка на наличие уязвимостей системы безопасности.
Соответствует общедоступному коду: Security Copilot способен создавать новый код, который он выполняет вероятностно. Хотя вероятность того, что он может создать код, соответствующий коду в обучаемом наборе, низка, предложение Security Copilot может содержать некоторые фрагменты кода, соответствующие коду в обучаемом наборе. Пользователи всегда должны соблюдать те же меры предосторожности, что и при написании любого кода, который использует материал, который разработчики не независимо от исходного кода, включая меры предосторожности для обеспечения его пригодности. Сюда относится тщательное тестирование, сканирование IP-адресов и проверка на наличие уязвимостей системы безопасности.
Система может не обрабатывать длинные запросы, например сотни тысяч символов.
На использование платформы могут распространяться ограничения на использование или регулирование емкости. Даже при более коротких запросах, выбор подключаемого модуля, выполнение вызовов API, создание ответов и их проверка перед отображением для пользователя может занять некоторое время (до нескольких минут) и требовать высокой емкости GPU.
Чтобы свести к минимуму количество ошибок, пользователям рекомендуется следовать инструкциям.
Какие операционные факторы и параметры позволяют эффективно и ответственно использовать Security Copilot?
Вы можете использовать повседневные слова для описания того, что вы хотели бы Security Copilot делать. Например:
- "Расскажите мне о моих последних инцидентах" или "Суммировать этот инцидент".
Когда система создает ответ, вы начинаете видеть шаги, которые система выполняет в журнале процессов, предоставляя возможности для двойного проверка своих процессов и источников.
В любое время во время формирования запроса можно отменить, изменить, повторно запустить или удалить запрос.
Вы можете предоставить отзыв о качестве ответа, в том числе сообщить о любом неприемлемом для корпорации Майкрософт.
Ответы можно закреплять, предоставлять к ним общий доступ и экспортировать, помогая специалистам по безопасности сотрудничать и обмениваться наблюдениями.
Администраторы имеют контроль над подключаемыми модулями, которые подключаются к Security Copilot.
Вы можете выбирать, персонализировать и управлять подключаемыми модулями, которые работают с Security Copilot.
Security Copilot созданы модули promptbook, которые представляют собой группу запросов, которые выполняются последовательно для выполнения определенного рабочего процесса.
Как корпорация Майкрософт подходит к ответственному использованию ИИ для Security Copilot?
Корпорация Майкрософт серьезно относится к нашим обязательствам по ответственному ИИ. Security Copilot разрабатывается в соответствии с принципами ИИ. Мы работаем с OpenAI, чтобы обеспечить работу, которая поощряет ответственное использование. Например, у нас есть и будет продолжаться совместная работа с OpenAI над базовой моделью. Мы разработали Security Copilot пользовательского интерфейса, чтобы держать людей в центре. Мы разработали систему безопасности, которая предназначена для устранения сбоев и предотвращения неправильного использования с такими вещами, как вредные заметки к содержимому, операционный мониторинг и другие меры безопасности. Программа раннего доступа только по приглашениям также является частью нашего подхода к ответственному ИИ. Мы принимаем отзывы пользователей от пользователей с ранним доступом к Security Copilot, чтобы улучшить средство, прежде чем сделать его широко доступным.
Ответственный ИИ — это путь, и мы будем постоянно совершенствовать наши системы на этом пути. Мы стремимся сделать наш ИИ более надежным и надежным, и ваши отзывы помогут нам сделать это.
Соответствуете ли вы Закону ЕС об искусственном интеллекте?
Мы стремимся соблюдать Закон ЕС об искусственном интеллекте. Наши многолетние усилия по определению, развитию и внедрению ответственного ИИ Standard и внутреннему управлению укрепили нашу готовность.
Корпорация Майкрософт признает важность соответствия нормативным требованиям как основы доверия и надежности в технологиях ИИ. Мы стремимся к созданию ответственного искусственного интеллекта. Наша цель заключается в разработке и развертывании ИИ, который будет оказывать положительное влияние на общество и заслужить доверие со стороны общества.
Наша работа руководствуется основным набором принципов: справедливости, надежности и безопасности, конфиденциальности и безопасности, инклюзивности, прозрачности и подотчетности. Ответственное Standard ИИ Майкрософт использует эти шесть принципов и разбивает их на цели и требования к ИИ, который мы делаем доступным.
Наша Standard ответственного использования ИИ учитывает нормативные предложения и их эволюцию, включая первоначальное предложение по Закону ОБ ИИ ЕС. Мы разработали наши последние продукты и службы в области ИИ, такие как Microsoft Copilot и Служба Microsoft Azure OpenAI, в соответствии с нашими Standard ответственного использования ИИ. Поскольку окончательные требования в соответствии с Законом ЕС об искусственном интеллекте определены более подробно, мы с нетерпением ждем совместной работы с политиками для обеспечения возможной реализации и применения правил, демонстрации нашего соответствия, а также взаимодействия с нашими клиентами и другими заинтересованными лицами для поддержки соответствия требованиям в рамках всей экосистемы.