Aplicar sistemas para governança de IA
Não importa qual abordagem de governança você escolha, há algumas boas práticas que ela deve promover.
| Maneiras de tomar medidas para a governança de IA | Descrição |
|---|---|
Disponibilizar recursos  |
Os funcionários precisam de diretrizes para ficar a par dos princípios de IA responsável e incorporá-los no trabalho deles. Um livreto, um manual ou uma sessão de treinamento podem cumprir essa tarefa. |
Criar um inventário de IA centralizado  |
Ter uma lista de todos os modelos e sistemas de IA que operam em sua organização é fundamental para priorizar os esforços e otimizar os recursos. Além disso, também é útil facilitar auditorias e testes de conformidade. |
Desenvolver ferramentas  |
Verificar a conformidade em todos os sistemas de IA em sua organização pode ser desgastante. Considere a criação de ferramentas para automatizar essa tarefa: essas ferramentas monitorariam e validariam os sistemas e dariam um alerta se algo ficasse fora das métricas de desempenho. |
Participação na governança de IA
Os processos e políticas específicos para seu sistema de governança de IA dependem se sua empresa está usando sistemas de terceiros ou desenvolvendo IA internamente. Com base nesse fator, fornecemos recomendações para ajudar sua empresa a controlar seu envolvimento com a IA.
Envolvimento com desenvolvedores de sistemas de IA
Para sistemas de IA internos, se sua organização também planeja desenvolver soluções de IA ou integrar IA em seus produtos e serviços existentes, há algumas tarefas para cada função de equipe.
Seu sistema de governança ética deve:
Revisar ou fornecer orientações antes do lançamento de qualquer novo sistema de IA, especialmente para casos de uso confidenciais.
Garantir que os funcionários de todos os níveis da empresa se sintam à vontade para expor questões éticas antes de vender produtos e serviços de IA ou integrados à IA.
Analise o caso e forneça diretrizes para mitigar os riscos se surgirem preocupações ao projetar, desenvolver ou vender o sistema de IA.
Crie processos para monitorar os sistemas de IA implantados ou comercializados, a fim de detectar e atenuar a mudança de direção e a decadência do modelo ao longo do tempo.
Seus desenvolvedores devem:
Receber diretrizes padrão detalhadas e completas que possam ajudar a projetar e desenvolver soluções de IA para refletir os princípios éticos de sua organização.
Ter diretrizes e listas de verificação para tecnologias de IA específicas, como reconhecimento facial ou IA generativa.
Para organizações que pretendem usar sistemas de IA de terceiros prontos para uso, recomendamos conhecer o compromisso dos terceiros em relação ao design responsável de IA para garantir que ele se alinhe com os seus princípios.
Para soluções de IA personalizadas, inclua seus princípios ou seus padrões na solicitação de proposta. Antes de implantar qualquer solução de IA de terceiros, crie diretrizes sobre como operar e monitorar o sistema com segurança. Treine os funcionários sobre essas diretrizes e certifique-se de que estão sendo seguidas. Por fim, seu sistema de governança deve garantir que o sistema de IA tenha sido rigorosamente testado.
Envolvimento com stakeholders externos
Conforme o uso da IA se torna mais comum, consideramos isso uma responsabilidade compartilhada entre os setores público e privado para se envolverem com a IA de maneira responsável. A colaboração entre empresas, organizações públicas, governos e organizações sem fins lucrativos é crucial para garantir as melhores práticas e, ao mesmo tempo, maximizar o potencial da IA para oferecer benefícios amplos.
As organizações podem contribuir com esses esforços coletivos de muitas maneiras. Na Microsoft, nós nos concentramos em participar de iniciativas do setor, influenciar a política, abordar as necessidades futuras de mão de obra e local de trabalho e considerar como nossas tecnologias podem ser usadas para melhorar as vidas das pessoas em todo o mundo. Por exemplo, nos juntamos à PAI (Partnership on AI), um grupo de pesquisadores, organizações sem fins lucrativos, ONGs (organizações não governamentais) e empresas dedicadas a garantir que a IA seja desenvolvida e utilizada de maneira responsável.
Em seguida, vamos descobrir como um sistema de governança de IA funciona em uma empresa real usando a Microsoft como exemplo.