Aplicação de sistemas para a governação da IA
Independentemente da abordagem de governança escolhida, existem algumas boas práticas que ela deve promover.
| Formas de agir para a governação da IA | Descrição |
|---|---|
Disponibilizar recursos  |
Os funcionários precisam de orientação para aprender princípios de IA responsáveis e incorporá-los em seu trabalho. Um manual, um manual ou uma sessão de treinamento podem cumprir essa tarefa. |
Crie um inventário centralizado de IA  |
Ter uma lista de todos os modelos e sistemas de IA em operação na sua organização é fundamental para priorizar esforços e otimizar recursos. Além disso, também é útil facilitar auditorias e testes de conformidade. |
Desenvolver ferramentas  |
Verificar a conformidade em todos os sistemas de IA da sua organização pode ser desgastante. Considere a criação de ferramentas para automatizar essa tarefa: essas ferramentas monitorariam e validariam sistemas e levantariam uma bandeira se algo mudar fora das métricas de desempenho. |
Envolvimento com a governança de IA
Os processos e políticas específicos para o seu sistema de governança de IA dependem se sua empresa está usando sistemas de terceiros ou desenvolvendo IA internamente. Com base nesse fator, fornecemos recomendações para ajudar sua empresa a governar seus compromissos com IA.
Envolvimento com desenvolvedores de sistemas de IA
Para sistemas de IA primários, se sua organização também planeja desenvolver soluções de IA ou integrar IA em seus produtos e serviços existentes, há algumas tarefas para cada função da equipe.
O seu sistema de governação ética deve:
Revise ou forneça conselhos antes do lançamento de qualquer novo sistema de IA, especialmente para casos de uso sensíveis.
Garanta que os funcionários de todos os níveis da empresa se sintam livres para expor preocupações éticas antes de vender produtos e serviços integrados à IA ou à IA.
Analise o caso e forneça orientação para mitigar os riscos se surgirem preocupações durante o projeto, desenvolvimento ou venda do sistema de IA.
Crie processos para monitorar os sistemas de IA que você implanta ou vende para detetar e mitigar desvios e decaimento de modelos ao longo do tempo.
Seus desenvolvedores devem:
Receba orientações padrão detalhadas e completas que possam ajudá-los a projetar e desenvolver soluções de IA para refletir os princípios éticos da sua organização.
Tenha diretrizes e listas de verificação para tecnologias específicas de IA, como reconhecimento facial ou IA generativa.
Para organizações que planejam usar sistemas de IA de terceiros prontos para uso, recomendamos aprender sobre o compromisso do terceiro com o design responsável de IA para garantir que ele esteja alinhado com seus próprios princípios.
Para soluções de IA personalizadas, inclua seus princípios ou padrões em sua solicitação de proposta. Antes de implantar qualquer solução de IA de terceiros, crie diretrizes sobre como operar e monitorar o sistema com segurança. Treine os funcionários sobre essas diretrizes e certifique-se de que elas estão sendo seguidas. Finalmente, seu sistema de governança deve garantir que o sistema de IA tenha sido rigorosamente testado.
Envolvimento com partes interessadas externas
À medida que a utilização da IA se torna mais comum, consideramos que é uma responsabilidade partilhada entre os setores público e privado envolver-se com a IA de forma responsável. A colaboração entre empresas, organizações públicas, governos e organizações sem fins lucrativos é crucial para garantir as melhores práticas e, ao mesmo tempo, maximizar o potencial da IA para oferecer amplos benefícios.
As organizações podem contribuir para esses esforços coletivos de muitas maneiras. Na Microsoft, nos concentramos em unir iniciativas do setor, influenciar políticas, atender às necessidades futuras de mão de obra e local de trabalho e considerar como nossas tecnologias podem ser usadas para melhorar a vida das pessoas em todo o mundo. Por exemplo, aderimos à Parceria sobre IA (PAI), um grupo de pesquisadores, organizações sem fins lucrativos, organizações não governamentais (ONGs) e empresas dedicadas a garantir que a IA seja desenvolvida e utilizada de forma responsável.
A seguir, vamos descobrir como funciona um sistema de governança de IA em uma empresa real usando a Microsoft como exemplo.