Cientistas alertam sobre riscos da inteligência artificial em 2026; entenda o que preocupa especialistas
Relatório internacional reúne avaliações de mais de 100 especialistas sobre falhas, fraudes e perda de controle de sistemas avançados; no Brasil, autoridades já testam medidas para reduzir os riscos.
A inteligência artificial está se tornando cada vez mais capaz de escrever textos, analisar documentos, produzir imagens, desenvolver programas e executar tarefas com pouca intervenção humana. Mas o avanço dessas ferramentas também ampliou uma preocupação entre cientistas: como garantir que sistemas cada vez mais sofisticados permaneçam seguros, confiáveis e sob controle?
O alerta ganhou força em 2026 com a publicação do International AI Safety Report, um estudo internacional liderado pelo cientista Yoshua Bengio, vencedor do Prêmio Turing, e desenvolvido com a participação de mais de 100 especialistas.
O documento reúne evidências sobre riscos que já se manifestam, como fraudes digitais e conteúdos manipulados, e sobre situações ainda incertas, incluindo comportamentos inesperados de sistemas avançados.
A preocupação não está restrita aos laboratórios. Em outubro, novas iniciativas de avaliação de segurança ganharam destaque internacional, enquanto o Brasil avançou em testes supervisionados de inteligência artificial conduzidos pela Autoridade Nacional de Proteção de Dados (ANPD).
Para usuários e empresas brasileiras, a discussão envolve questões práticas: privacidade, segurança financeira, decisões automatizadas e a confiabilidade de informações produzidas por máquinas.
O que os cientistas descobriram sobre os riscos da inteligência artificial?
O International AI Safety Report 2026, publicado em 3 de fevereiro, examina o desenvolvimento de sistemas de inteligência artificial de uso geral, capazes de realizar diferentes atividades a partir de comandos humanos.
O estudo organiza as principais preocupações em três grandes categorias:
- Uso malicioso: quando pessoas utilizam IA para cometer fraudes, manipular informações ou facilitar atividades criminosas.
- Falhas de funcionamento: quando sistemas produzem respostas incorretas, apresentam comportamentos inesperados ou executam ações inadequadas.
- Riscos sistêmicos: quando a utilização em larga escala pode produzir consequências econômicas, sociais e institucionais.
Uma das conclusões importantes é que nem todos esses riscos possuem o mesmo grau de evidência científica.
Alguns problemas já foram documentados. Outros dependem de avanços tecnológicos futuros e continuam sendo objeto de investigação.
Isso significa que os cientistas não estão afirmando que a inteligência artificial necessariamente provocará uma catástrofe. O alerta é sobre a necessidade de compreender, testar e controlar tecnologias antes que possíveis falhas causem consequências graves.
Quais são os cinco riscos da IA que mais preocupam os especialistas?
1. Golpes digitais cada vez mais convincentes
A inteligência artificial generativa permite criar textos, áudios, fotografias e vídeos com aparência realista.
Essas capacidades também podem ser utilizadas por criminosos para simular mensagens de empresas, falsificar identidades ou imitar a voz de pessoas conhecidas.
No Brasil, um exemplo de risco é o recebimento de uma mensagem de áudio aparentemente enviada por um familiar solicitando uma transferência bancária urgente.
A existência de uma voz familiar, isoladamente, já não deve ser considerada prova suficiente de identidade.
O relatório internacional identifica o uso de conteúdo sintético em fraudes e crimes digitais como uma preocupação concreta, embora ressalte limitações na mensuração da frequência desses episódios.
2. Informações falsas apresentadas como verdadeiras
Ferramentas de inteligência artificial podem produzir respostas convincentes mesmo quando as informações estão incorretas.
Esse comportamento é frequentemente chamado de alucinação, expressão utilizada para descrever conteúdos gerados sem sustentação factual adequada.
O problema pode passar despercebido porque a resposta costuma apresentar linguagem organizada e segura.
Em situações cotidianas, isso pode resultar em referências inexistentes, interpretações equivocadas de documentos ou orientações inadequadas.
Quando essas respostas são utilizadas em decisões médicas, jurídicas ou financeiras sem verificação, as consequências podem ser mais sérias.
Por isso, a recomendação prática é tratar a IA como uma ferramenta de apoio, e não como substituta automática de profissionais qualificados ou fontes oficiais.
3. Exposição de dados pessoais e informações confidenciais
Outro risco envolve a quantidade de informações compartilhadas com plataformas de inteligência artificial.
Documentos empresariais, dados de clientes, informações financeiras e registros pessoais podem ser inseridos nessas ferramentas sem que os usuários compreendam integralmente as condições de armazenamento e tratamento.
No Brasil, esse assunto tem relação direta com a Lei Geral de Proteção de Dados Pessoais (LGPD).
Em nota técnica de 2026, a ANPD destacou que sistemas de IA generativa podem produzir conteúdos sintéticos semelhantes a pessoas reais e que determinadas utilizações dessas tecnologias envolvem tratamento de dados pessoais.
A autoridade também ressaltou a importância dos princípios de transparência, prevenção e responsabilização.
Para empresas, isso reforça a necessidade de estabelecer regras internas sobre quais informações podem ser compartilhadas com sistemas de IA e quais exigem proteção adicional.
4. Sistemas que executam ações sem supervisão suficiente
Uma das mudanças tecnológicas mais importantes é o desenvolvimento de agentes de inteligência artificial.
Diferentemente de ferramentas utilizadas apenas para responder perguntas, esses sistemas podem receber objetivos, utilizar recursos digitais e executar sequências de tarefas.
Um agente autorizado pode, por exemplo, consultar documentos, organizar informações ou interagir com sistemas empresariais.
O risco aumenta quando recebe permissões excessivas, interpreta instruções incorretamente ou encontra situações que não foram previstas durante os testes.
Em 16 de outubro, o Financial Times noticiou que a Anthropic ampliou o acesso da organização independente METR aos seus sistemas internos para avaliação de riscos.
A iniciativa representa uma tentativa de fortalecer a análise externa de tecnologias avançadas antes que problemas se manifestem em ambientes reais.
Isso não significa que todos os agentes de IA sejam inseguros. Significa que sistemas capazes de agir precisam de mecanismos proporcionais de supervisão, autorização e interrupção.
5. Impactos sobre empregos e decisões automatizadas
A inteligência artificial também pode modificar a forma como empresas organizam suas atividades.
Ferramentas capazes de produzir relatórios, analisar grandes volumes de informação e automatizar tarefas podem aumentar a produtividade, mas também transformar funções profissionais.
Os efeitos sobre o emprego não são uniformes. Dependem da atividade, da capacidade de adaptação das organizações e da maneira como a tecnologia é implementada.
Outra preocupação envolve decisões automatizadas que afetam pessoas, especialmente quando utilizam informações incompletas ou reproduzem padrões discriminatórios.
Sistemas utilizados em processos seletivos, concessão de serviços e avaliações de risco precisam ser examinados quanto à qualidade dos dados e aos possíveis impactos sobre os indivíduos.
A ANPD reconhece a falta de transparência e os vieses discriminatórios como desafios relevantes da inteligência artificial.
O que mudou em outubro de 2026?
O debate sobre os riscos da IA passou a envolver medidas mais concretas de supervisão.
No Brasil, a ANPD publicou, em 9 de outubro, o segundo relatório parcial de monitoramento de seu Sandbox Regulatório em Inteligência Artificial e Proteção de Dados.
O programa acompanha soluções desenvolvidas pelas empresas Metatext, Synapse AI e Prevvine Tecnologia, selecionadas para participar de um ambiente experimental supervisionado.
A iniciativa conta com parceria do Centro de Inteligência Artificial e Aprendizado de Máquina da Universidade de São Paulo (CIAAM/USP).
O objetivo é produzir evidências sobre o funcionamento das tecnologias e avaliar aspectos relacionados à segurança, transparência e proteção de dados pessoais.
O programa não significa que todas as ferramentas de inteligência artificial utilizadas no país tenham sido aprovadas ou certificadas pela ANPD. Trata-se de um projeto específico de experimentação regulatória.
No cenário internacional, a ampliação das avaliações independentes reforça outra tendência: a segurança da IA está deixando de ser apenas uma promessa das empresas desenvolvedoras e passando a receber maior escrutínio externo.
Como esses riscos podem afetar os brasileiros?
As consequências dependem de como cada pessoa ou organização utiliza a tecnologia.
Para consumidores, os principais cuidados estão relacionados à verificação de informações, à identificação de possíveis golpes e à proteção de dados pessoais.
Para empresas, o desafio é mais amplo.
Uma organização que utiliza inteligência artificial no atendimento ao cliente, por exemplo, precisa verificar se o sistema fornece informações corretas, respeita a privacidade e permite encaminhar situações complexas para atendimento humano.
Já uma empresa que utiliza agentes automatizados para acessar arquivos, enviar comunicações ou executar operações deve estabelecer limites claros de autorização.
Também é importante registrar atividades relevantes, definir responsáveis e prever mecanismos para interromper ações indevidas.
Essas medidas não eliminam todos os riscos, mas ajudam a reduzir a probabilidade de incidentes e suas consequências.
Como usar inteligência artificial com mais segurança?
A utilização responsável não exige abandonar ferramentas de IA. Exige reconhecer suas limitações.
Algumas medidas práticas podem reduzir a exposição de usuários e empresas:
- Verificar informações importantes: conferir respostas sobre saúde, legislação, finanças e assuntos técnicos em fontes confiáveis.
- Proteger dados sensíveis: evitar inserir senhas, documentos confidenciais ou dados pessoais desnecessários em ferramentas sem avaliação adequada.
- Confirmar solicitações financeiras: diante de mensagens urgentes, utilizar outro canal de comunicação para verificar a identidade do solicitante.
- Limitar permissões: conceder a agentes de IA somente os acessos necessários para executar suas tarefas.
- Manter supervisão humana: exigir revisão em decisões que possam produzir impactos relevantes sobre pessoas ou organizações.
Para empresas brasileiras, a adoção de políticas internas de uso da IA também pode ajudar a prevenir problemas de segurança, conformidade e reputação.
A inteligência artificial pode sair do controle humano?
Essa é uma das questões mais debatidas entre pesquisadores que estudam sistemas avançados.
O conceito de perda de controle envolve situações nas quais uma tecnologia executa ações indesejadas e os mecanismos disponíveis não conseguem impedir ou corrigir adequadamente seu comportamento.
Entretanto, é necessário diferenciar comportamentos observados em avaliações técnicas de cenários futuros mais extremos.
O relatório internacional de 2026 reconhece que existem incertezas relevantes sobre a evolução dessas capacidades e a gravidade de determinados riscos.
Portanto, não há base para afirmar que todos os sistemas atuais estão fora de controle ou que uma perda generalizada de controle seja inevitável.
A preocupação científica está em desenvolver métodos de avaliação, supervisão e contenção compatíveis com o aumento das capacidades tecnológicas.
O que pode acontecer agora?
A tendência é que o debate sobre inteligência artificial avance em três frentes: avaliações técnicas mais rigorosas, desenvolvimento de mecanismos de segurança e aperfeiçoamento das regras aplicáveis ao uso da tecnologia.
No Brasil, os resultados dos projetos supervisionados pela ANPD poderão contribuir para discussões sobre boas práticas de governança e proteção de dados.
Internacionalmente, iniciativas de avaliação independente poderão fornecer novas evidências sobre o comportamento de modelos avançados.
Para usuários e empresas, a principal conclusão é que a inteligência artificial oferece oportunidades importantes, mas sua adoção precisa ser acompanhada de responsabilidade.
O desafio de 2026 não é apenas desenvolver sistemas mais inteligentes. É garantir que eles possam ser utilizados de forma confiável, transparente e segura.
Leia também:
Rastreador Bluetooth vale a pena? AirTag, SmartTag e genéricos funcionam de formas bem diferentes
Agentes de IA já conseguem agir por você: entenda o que muda na prática
Split payment começa a ser testado em outubro: o que muda para empresas e consumidores?
One UI 9 já chega aos Galaxy S26 no Brasil: veja o que muda com a atualização
