Noções básicas sobre a IA responsável
Como cientista de dados, você pode treinar um modelo de machine learning para prever se alguém é capaz de pagar um empréstimo ou se um candidato é adequado para uma vaga de emprego. Como os modelos geralmente são usados ao tomar decisões, é importante que os modelos sejam imparciais e transparentes.
Seja qual for o uso de um modelo, você deve considerar os princípios de inteligência artificial responsável (IA responsável). Dependendo do caso de uso, você pode se concentrar em princípios específicos. No entanto, é uma prática recomendada considerar todos os princípios para garantir que você esteja abordando quaisquer problemas que o modelo possa ter.
A Microsoft listou cinco princípios de IA responsável:
- Imparcialidade e inclusão: os modelos devem tratar todos de forma justa e evitar tratamentos diferentes para grupos semelhantes.
- Confiabilidade e segurança: os modelos devem ser confiáveis, seguros e consistentes. Você deseja que um modelo opere conforme o esperado, lide bem com situações inesperadas e resista à manipulação prejudicial.
- Privacidade e segurança: seja transparente sobre coleta, uso e armazenamento de dados, para capacitar indivíduos com controle sobre seus dados. Trate os dados com cuidado para garantir a privacidade de um indivíduo.
- Transparência: quando os modelos influenciam decisões importantes que afetam a vida das pessoas, as pessoas precisam entender como essas decisões foram tomadas e como o modelo funciona.
- Responsabilidade: responsabilize-se pelas decisões que os modelos podem influenciar e mantenha o controle humano.
Dica
Saiba mais sobre o padrão de IA responsável para a criação de sistemas de IA de acordo com os seis princípios principais.