O AI Incident Database (AIID) é uma iniciativa dedicada a catalogar e indexar incidentes reais envolvendo sistemas de inteligência artificial (IA). Seu objetivo principal é aprender com esses eventos para prevenir ou mitigar resultados negativos no futuro. Assim como bancos de dados em áreas como aviação e segurança de computadores, o AIID busca criar um histórico coletivo que possa ser utilizado para melhorar a segurança e a eficácia das tecnologias de IA.
O banco de dados permite que usuários descubram, pesquisem e submetam relatos de incidentes. Cada incidente é cuidadosamente indexado e categorizado, tornando-se uma fonte valiosa de informação para pesquisadores, desenvolvedores e legisladores. O AIID abrange uma variedade de casos, desde falhas técnicas até impactos sociais e éticos significativos.
Um exemplo recente é o Incidente 828, onde um programa de TV uruguaio utilizou uma deepfake do candidato político Yamandú Orsi sem seu consentimento. Outro caso notável é o Incidente 827, envolvendo a ferramenta de transcrição Whisper da OpenAI, que supostamente inseriu conteúdo fabricado em transcrições médicas. Esses exemplos ilustram a importância de monitorar e aprender com os erros e falhas dos sistemas de IA.
O AIID também oferece recursos como uma visão espacial dos incidentes, uma tabela detalhada e uma lista de entidades e taxonomias relacionadas. Além disso, os usuários podem contribuir com novos relatos, que são adicionados a uma fila de revisão antes de serem indexados. O banco de dados é mantido pela Responsible AI Collaborative, uma organização dedicada a avançar a segurança e a ética na IA.
Para aqueles interessados em se manter atualizados, o AIID oferece um boletim informativo mensal que resume novos incidentes e tendências. Essa iniciativa é crucial para garantir que a inteligência artificial seja desenvolvida e implementada de maneira responsável, beneficiando a sociedade como um todo.
