Durante o Web Summit 2025 em Lisboa, Max Tegmark — físico do MIT e presidente do Future of Life Institute — fez uma provocação que ressoou profundamente entre engenheiros e profissionais de TI:

“Quem aqui está empolgado com ferramentas de IA que nos ajudem a curar doenças e resolver problemas?”

A questão, porém, não é o entusiasmo, mas a direção que a inteligência artificial está tomando — e o papel que os profissionais de tecnologia terão em moldá-la.

O dilema técnico da superinteligência

Tegmark alertou que o problema não é mais “o avanço da IA”, mas como e com que salvaguardas ela avança.

Em um mundo onde LLMs, agentes autônomos e sistemas multimodais evoluem rapidamente, o risco é construir algo com três “superpoderes” simultâneos:

Inteligência – Capacidade de raciocinar, planejar e resolver problemas complexos;
Generalidade – Aplicar esse raciocínio a qualquer domínio;
Autonomia – Executar ações sem supervisão humana.

Ferramentas que possuem um ou dois desses atributos — como copilotos de código, sistemas de recomendação ou robôs industriais — ainda estão sob controle humano. Mas, quando as três dimensões se cruzam, o sistema pode escapar à verificação e à previsibilidade.

É esse tipo de arquitetura que Tegmark acredita que devemos evitar, ao menos até existir consenso técnico e regulatório sobre controle e segurança.

A “95% AI” e o papel dos desenvolvedores

Para Tegmark, há um espaço seguro e extremamente produtivo para inovar: a chamada “zona dos 95% AI” — soluções que possuem alta capacidade cognitiva ou adaptativa, mas mantêm o humano no loop.

No contexto técnico, isso significa:

Copilotos de código que sugerem, mas não comitam;
Modelos preditivos que classificam, mas requerem revisão antes da ação;
Agentes autônomos limitados por escopo e sandboxing;
Automação com logs rastreáveis, thresholds e abort conditions definidos.

Para desenvolvedores, esse paradigma é um convite para projetar IA assistiva e controlável, com governança embutida desde o design.

Engenharia de confiança: segurança como feature

Um dos pontos mais contundentes da palestra foi o paralelo que Tegmark fez entre IA e indústrias reguladas como a farmacêutica ou a aeronáutica.

“Hoje, a IA tem menos regras que um simples sanduíche”, ironizou.

O recado é direto para equipes técnicas: segurança e interpretabilidade precisam ser tratadas como features, não como extras.

Isso envolve:

Explainability by design — modelos com rastreabilidade, logs e capacidade de auditoria.
Guardrails e políticas de uso — controle de contexto, rate limiting, isolamento de tarefas críticas.
Arquiteturas de verificação — pipelines que validam output antes da ação.
Testes contínuos de segurança e viés — incluindo monitoramento pós-deploy.

Em outras palavras: a maturidade técnica em IA agora inclui engenharia de confiança.

Ética e regulamentação no radar técnico

Com o avanço das legislações — como o EU AI Act —, a responsabilidade sobre risco e impacto recai cada vez mais sobre quem desenvolve.

Profissionais de tecnologia precisarão entender, implementar e documentar:

Camadas de conformidade (propósito, explicabilidade, privacidade);
Auditoria de dados e modelos;
Validação de fairness e accountability;
Design orientado à segurança humana.

Em um mercado onde o diferencial técnico se mistura ao regulatório, desenvolvedores passam a ter papel central na ética aplicada do software — e na sustentabilidade de negócios baseados em IA.

IA para desenvolvedores: oportunidade, não ameaça

Tegmark também desmontou o mito de que “a IA vai roubar o seu emprego”.

Segundo ele:

“Não é a IA que vai roubar o seu emprego. Quem souber usar IA é que vai.”

Para os profissionais de TI, isso traduz-se em uma mudança de mentalidade: dominar IA não apenas como ferramenta de automação, mas como co-autor de sistemas mais criativos, eficientes e seguros.

Exemplos práticos incluem:

Copilots de código e agentes de debug integrados à pipeline CI/CD;
Automação de testes com LLMs especializados;
Ferramentas de documentação e análise de dependências via IA;
Modelos que otimizam desempenho e consumo em cloud.

A IA de 95% é o que permite isso: tecnologia poderosa, mas mantida sob controle humano e ético.

O recado final de Tegmark: escolha o lado certo da história

O professor encerrou sua fala com um aviso que soa como manifesto técnico e filosófico:

“Há um caminho diferente rumo à 95% AI, ferramentas que nos complementam em vez de nos substituir. Se pararmos de subsidiar a corrida à superinteligência e exigirmos padrões de segurança, o futuro da IA será simplesmente ótimo.”

Para engenheiros e arquitetos de sistemas, o desafio é claro: criar IA que empodera sem substituir, automatiza sem alienar e aprende sem se emancipar.

Essa é a fronteira ética e técnica que definirá a próxima década da engenharia de software — e quem souber navegá-la será o verdadeiro arquiteto do futuro digital.

*Com colaboração e informações de imasters.com.br

AI na Saúde

IA na saúde: entre a promessa de acesso e o risco da confiança cega

ChatGPT Health e a pergunta que eu mais escuto: a IA vai substituir médicos?

IA sob controle: o desafio técnico e ético que definirá o futuro da engenharia de software

Inscreva-se na nossa newslleter