Desafios e riscos com a IA
A Inteligência Artificial é uma ferramenta avançada que pode ser utilizada para beneficiar o mundo. No entanto, como qualquer ferramenta, tem de ser utilizada de forma responsável.
A tabela seguinte mostra alguns dos potenciais desafios e riscos que um programador de aplicações de IA enfrenta.
| Desafio ou Risco | Exemplo |
|---|---|
| O preconceito pode afetar os resultados | Um modelo de aprovação de empréstimos discrimina por sexo devido a preconceitos nos dados com os quais foi preparado |
| Erros podem causar danos | Um veículo autónomo tem uma falha no sistema e causa uma colisão |
| Os dados podem ser expostos | Um bot de diagnóstico médico é preparado com dados confidenciais do paciente, que são armazenados de forma insegura |
| As soluções podem não funcionar para todos | Um assistente de automatização doméstica não fornece saída de áudio para utilizadores com deficiência visual |
| Os utilizadores têm de confiar num sistema complexo | Uma ferramenta financeira baseada em IA faz recomendações de investimento - em que se baseiam? |
| Quem é responsável por decisões condicionadas por IA? | Uma pessoa inocente é condenada por um crime baseado em provas de reconhecimento facial, quem é o responsável? |