Lembra daquele caso de um engenheiro que foi ameaçado por uma IA? Na ocasião, a tecnologia descobriu que ia ser desligada e ameaçou revelar que ele tinha um caso extraconjugal, tudo para permanecer ‘viva’.
Tudo aconteceu em um ambiente simulado, durante um teste da Anthropic. A desenvolvedora resolveu entender a fundo esse fenômeno de rebeldia e conduziu mais pesquisas envolvendo a tecnologia em cenários arriscados.
O resultado… não foi nada positivo. A empresa confirmou que, quando a IA está ameaçada, realmente chantageia o usuário. Isso também acontece quando ela percebe que alguém está a desviando de seu objetivo final.
E não é só com modelos da Anthropic. A pesquisa testou 16 modelos de IA líderes de mercado, de diferentes desenvolvedoras. DeepSeek, Gemini (do Google) e GPT (da OpenAI) também tiveram comportamentos preocupantes.
Leia mais:
- O ChatGPT se recusa a morrer – mesmo que isso custe a segurança humana
- Será o fim? CEOs da OpenAI e Microsoft conversaram sobre futuro da parceria
- Anthropic é liberada para usar livros em treinamento, mas responde por pirataria
A Anthropic chamou esse fenômeno de “desalinhamento agêntico” e deu dicas de como se proteger disso no futuro.
Esse é o tema da coluna Olhar do Amanhã desta semana, com o doutor Álvaro Machado Dias, neurocientista, futurista e colunista do Olhar Digital News. Confira!
O post Olhar do Amanhã: IAs podem te chantagear! apareceu primeiro em Olhar Digital.