IA pode superar humanos e se rebelar em 2027, aponta previsão

Os avanços da inteligência artificial já são impressionantes, mas a tecnologia deve ser aperfeiçoada ainda mais no futuro.

O objetivo é chegar ao que é chamado de IA Geral, ou seja, uma ferramenta capaz de realizar qualquer tarefa intelectual no nível dos humanos (ou até melhor).

Apesar das inúmeras potencialidades, este cenário também geraria efeitos negativos.

Pensando nisso, uma organização sem fins lucrativos em Berkeley, na Califórnia, chamada AI Futures Project, passou o último ano tentando prever como o mundo será nos próximos anos, conforme sistemas de IA cada vez mais poderosos são desenvolvidos.

A iniciativa é liderado por Daniel Kokotajlo, um ex-pesquisador da OpenAI que deixou a startup em 2024 por acreditar que ela estava agindo de forma imprudente.

Enquanto estava na OpenAI, ele trabalhou na equipe de governança. Kokotajlo escreveu relatórios internos detalhando como a corrida pela inteligência geral artificial poderia se desenrolar.

Quando saiu, ele uniu forças a Eli Lifland, um pesquisador de IA que tem um histórico interessante: prever eventos mundiais com precisão. Resultado? Quiseram prever como será a próxima onda da IA.

E quais são as tais previsões?

O resultado é o “AI 2027”, um relatório que descreve um cenário fictício detalhado e absolutamente curioso. O que poderia acontecer se os sistemas de IA ultrapassassem a nossa inteligência?

Bom, o ponto de partida deles já é fascinante e preocupante: eles esperam que isso aconteça nos próximos dois a três anos.

“Prevemos que as IAs continuarão a melhorar até o ponto em que serão agentes totalmente autônomos, melhores que os humanos em tudo até o final de 2027 ou algo assim”, disse Daniel Kokotajlo em uma entrevista recente, detalhada em publicação do jornal The New York Times.

O AI Futures Project projetou fez uma peça de ficção científica rigorosamente pesquisada. O grupo passou quase um ano aprimorando centenas de previsões sobre IA. Depois, a equipe trouxe um escritor para ajudar a transformar a previsão em uma narrativa — Scott Alexander, que escreve o blog Astral Codex Ten.

Leia mais

• ‘O que a IA não mata, ela fortalece’ – é o que diz um novo estudo
• O que é exatamente um “agente de IA”? Nem a indústria sabe direito
• Esse é o lado das IAs que ninguém te conta – e que mais preocupa

IA Geral vai promover uma revolução, mas há riscos

O relatório prevê que as IAs continuarão a melhorar a ponto de serem agentes totalmente autônomas.

O documento se concentra na OpenBrain, uma empresa fictícia de IA que constrói um poderoso sistema de inteligência artificial conhecido como Agent-1. Eles decidiram não destacar uma companhia em particular.

À medida que o Agent-1 melhora na codificação, ele começa a automatizar grande parte do trabalho de engenharia, o que permite que a empresa se mova mais rápido e ajuda a construir o Agent-2. No final de 2027, o Agente-4 já foi lançado e está fazendo grandes avanços em pesquisas todas as semanas, mas ameaça se rebelar.

O relatório termina aí. O objetivo não é continuar a história, e sim demonstrar um cenário possivelmente problemático, alertando para as necessidades de medidas de segurança mesmo quando tratamos de avanços tecnológicos.

Possíveis futuros

O repórter Kevin Roose, do New York times, perguntou a Kokotajlo o que viria depois: “A vida no ano de 2030 ainda seria reconhecível? As ruas de Berkeley estariam cheias de robôs humanoides? Pessoas mandando mensagens para suas namoradas IA? Algum de nós teria emprego?”.

A resposta: se os próximos anos corressem bem e mantivéssemos a IA sob controle, ele poderia imaginar um futuro onde a vida da maioria das pessoas ainda seria em grande parte a mesma, mas onde “zonas econômicas especiais” próximas, cheias de fábricas de robôs hipereficientes, produziriam tudo o que precisávamos.

Críticas à argumentação apocalíptica

Como bem pontua o repórter do The New York Times, críticos desse tipo de previsão podem argumentar que histórias fictícias de IA são melhores para assustar as pessoas do que para educá-las.

A reportagem cita Ali Farhadi, presidente-executivo do Allen Institute for Artificial Intelligence, um laboratório de IA em Seattle. Ele revisou o relatório “AI 2027” e disse que não ficou impressionado.

“Sou totalmente a favor de projeções e previsões, mas essa previsão não parece ser baseada em evidências científicas ou na realidade de como as coisas estão evoluindo na IA”, disse Farhadi.

Acho que a análise aqui é clara: Daniel Kokotajlo tem uma visão apocalíptica e facilmente contestável. Mas não impossível. Veja como as IAs avançaram desde que o ChatGPT nasceu. Não deixa de ser interessante refletir como será o mundo se essa ‘propaganda de margarina’ que as big techs nos vendem não se concretizar.

O post IA pode superar humanos e se rebelar em 2027, aponta previsão apareceu primeiro em Olhar Digital.