OpenAI, Anthropic e Google unem forças por segurança em IA, segundo a própria OpenAI. A parceria surge em meio ao crescimento das preocupações com os riscos da tecnologia e a pedidos de líderes do setor por um ritmo mais lento no desenvolvimento da inteligência artificial.
Como OpenAI, Anthropic e Google unem forças
A OpenAI, criadora do ChatGPT, afirmou que trabalha com as concorrentes Anthropic e Google DeepMind para discutir medidas de segurança relacionadas à IA. A informação foi divulgada pela Bloomberg News, com base em declaração de Chris Lehane, chefe de políticas globais da OpenAI.
A iniciativa busca ampliar a cooperação do setor, já que cresce a preocupação de que a tecnologia represente riscos econômicos e de segurança. “É melhor trabalhar em conjunto para priorizar a segurança”, afirmou Lehane. Além disso, segundo o executivo, a OpenAI ainda não vê necessidade de uma isenção das regras antitruste para que as três empresas coordenem iniciativas desse tipo.
Por que o setor pede uma desaceleração da IA
Nos últimos dias, executivos de grandes empresas de tecnologia passaram a defender uma desaceleração no avanço da IA. Assim, o objetivo é avaliar melhor os riscos e tornar o desenvolvimento mais seguro.
O movimento ganhou força depois que Dario Amodei, CEO da Anthropic, desenvolvedora da IA Claude, publicou um texto no sábado (12). No documento, ele defendeu que as empresas reduzam o ritmo de desenvolvimento de seus modelos por causa das preocupações com o uso indevido da tecnologia. Ele também apresentou um plano de três etapas para desacelerar os avanços e criar mais tempo para lidar com os riscos.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, disse Amodei.
Ele também alertou: “Dada a aceleração das capacidades da IA, me preocupa que, em seis a 12 meses, esse enxame possa ser capaz de dominar toda a internet. Se não for controlado, pode ultrapassar nossa capacidade de compreender e controlar esses sistemas. Por isso, seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”.
Quem apoia a segurança em IA
A posição de Amodei também recebeu apoio de executivos de empresas concorrentes da Anthropic. Por exemplo, estão nesse grupo Sam Altman, CEO da OpenAI; Elon Musk, dono do X e da xAI; e Demis Hassabis, presidente do Google DeepMind.
Com isso, OpenAI, Anthropic e Google unem forças de maneira coordenada e sinalizam que o setor começa a levar mais a sério os riscos de sistemas cada vez mais capazes e autônomos.
O que isso muda para as empresas que usam IA
Para quem usa IA no dia a dia, o recado é prático, pois a segurança e governança deixam de ser detalhe e passam a fazer parte da escolha de ferramenta. Por isso, ao planejar uma automação com IA, vale definir desde o início quais dados o modelo acessa, quais ações ele pode executar e como tudo será registrado.
Além disso, acompanhar o tema ajuda a antecipar mudanças de regras e de mercado. Para se aprofundar, veja nosso post sobre governança de agentes de IA.