Entenda a IA responsável
Como cientista de dados, você pode treinar um modelo de aprendizado de máquina para prever se alguém é capaz de pagar um empréstimo ou se um candidato é adequado para uma vaga de emprego. Como os modelos são frequentemente usados na tomada de decisões, é importante que os modelos sejam imparciais e transparentes.
Seja qual for o uso de um modelo, você deve considerar os princípios da Inteligência Artificial Responsável (IA Responsável). Dependendo do caso de uso, você pode se concentrar em princípios específicos. No entanto, é uma prática recomendada considerar todos os princípios para garantir que você esteja resolvendo quaisquer problemas que o modelo possa ter.
A Microsoft listou cinco princípios de IA responsável:
- Equidade e inclusão: Os modelos devem tratar todos de forma justa e evitar um tratamento diferente para grupos semelhantes.
- Fiabilidade e segurança: Os modelos devem ser fiáveis, seguros e consistentes. Você quer que um modelo opere como pretendido, lide bem com situações inesperadas e resista à manipulação prejudicial.
- Privacidade e segurança: Seja transparente sobre a recolha, utilização e armazenamento de dados, para capacitar as pessoas com controlo sobre os seus dados. Trate os dados com cuidado para garantir a privacidade de um indivíduo.
- Transparência: Quando os modelos influenciam decisões importantes que afetam a vida das pessoas, as pessoas precisam entender como essas decisões foram tomadas e como o modelo funciona.
- Responsabilização: Assumir a responsabilidade por decisões que os modelos possam influenciar e manter o controlo humano.
Gorjeta
Saiba mais sobre o Padrão de IA Responsável para a construção de sistemas de IA de acordo com os seis princípios-chave.