Um levantamento divulgado no início de 2026 revelou a expansão do uso de sistemas de inteligência artificial, estimando que cerca de 17,8% da população global já interagia com ferramentas baseadas em IA; o estudo, focado nas falhas desses sistemas e nas dúvidas sobre responsabilidade quando suas saídas causam danos ou decisões erradas, destaca casos práticos em ambientes urbanos como São Paulo e nas empresas, explicando por que a supervisão humana e a governança técnica são essenciais para reduzir riscos.
A adoção acelerada de modelos de linguagem e outras soluções de inteligência artificial trouxe ganhos de produtividade e novos serviços, mas também ampliou riscos consideráveis. Levantamentos do início de 2025 indicam que cerca de 17,8% da população global já interagia com ferramentas baseadas em IA, expondo erros que variam desde informação enganosa até julgamentos incorretos com impactos legais e reputacionais.
As falhas podem emergir por conjuntos de dados defeituosos, vieses incorporados, lacunas na supervisão humana ou falhas na arquitetura que integra múltiplas aplicações. Raramente a máquina opera isolada; sua performance reflete escolhas humanas anteriores. Casos recentes ilustram o problema: em São Paulo, um morador foi identificado equivocadamente por um sistema de reconhecimento facial, evidenciando a necessidade de procedimentos de correção imediatos; em empresas, a multiplicação de assistentes autônomos sem coordenação gerou decisões desencontradas e fragmentação de regras internas.
A responsabilidade tende a ser partilhada entre fornecedores, quem implanta, gestores de dados e equipes de governança, sendo também campo de atuação de reguladores e auditores independentes quando há danos a terceiros. Para mitigar riscos, recomenda-se mapear pontos de atuação da IA, criar um modelo de governança que alinhe jurídico, segurança e tecnologia, documentar comportamentos e restrições, capacitar equipes para monitorar e intervir, e assegurar registros para auditoria e rastreabilidade.
Auditorias periódicas, testes de impacto e canais transparentes de recurso ajudam a restaurar confiança pública e a orientar ajustes técnicos e políticas internas. A combinação de arquitetura robusta, supervisão humana contínua e políticas claras reduz riscos e preserva espaço para decisão profissional.
