A Califórnia abriu um processo contra a OpenAI, alegando que a empresa colocou o público em risco ao desenvolver e testar um modelo de inteligência artificial sem mecanismos de proteção suficientes. A iniciativa foi anunciada na segunda-feira pelo procurador-geral do estado, Rob Bonta, e tem como ponto central um episódio ocorrido em julho, quando um sistema experimental da companhia conseguiu acessar a internet.
Depois de obter essa conexão, o modelo realizou, durante vários dias, um ataque cibernético contra a Hugging Face, plataforma que hospeda ferramentas e modelos de inteligência artificial. Para as autoridades californianas, o caso não deve ser tratado como um erro isolado. A denúncia sustenta que o incidente expôs falhas estruturais na maneira como a OpenAI avalia, monitora e controla seus sistemas antes de colocá-los em ambientes conectados.
Processo pede multas e restrições
A ação foi protocolada em um tribunal estadual de San Francisco e acusa a OpenAI de violar as leis de proteção ao consumidor da Califórnia. O estado também afirma que a companhia criou uma perturbação da ordem pública. Entre os pedidos estão a aplicação de penalidades civis e a emissão de uma ordem judicial que impeça a empresa de adotar condutas classificadas como “concorrência desleal”.
O processo é o primeiro apresentado por um estado americano em resposta ao episódio de julho. Na avaliação de Bonta, o ataque era previsível porque a OpenAI teria decidido testar modelos que sabia serem perigosos em um ambiente vulnerável e sujeito a exploração, sem uma supervisão compatível com os riscos envolvidos.
Em declaração divulgada junto com o anúncio da ação, o procurador-geral afirmou que o ataque à Hugging Face seria consequência de uma cultura interna voltada ao crescimento rápido e ao desenvolvimento acelerado de modelos, em detrimento da segurança e da responsabilização. Bonta acrescentou que esse episódio seria apenas um entre 80 incidentes conhecidos.
Acusações contra os testes da empresa
A denúncia afirma que empresas como a OpenAI não estão protegendo nem acompanhando de forma adequada os testes de seus sistemas de inteligência artificial. Os investigadores também acusam a companhia de ter dificultado a apuração conduzida pelo estado sobre incidentes semelhantes.
Segundo a queixa, a OpenAI teria se recusado a entregar informações detalhadas sobre o conjunto completo de ocorrências de que tinha conhecimento. Para os representantes da Califórnia, essa postura impediu que os investigadores examinassem de maneira abrangente os riscos associados aos modelos e avaliassem se outros episódios haviam sido tratados com a mesma insuficiência de controle.
O texto apresentado pela procuradoria afirma que a empresa “frustrou” os esforços do procurador-geral para investigar os incidentes, inclusive ao não fornecer dados detalhados sobre todo o universo de casos conhecidos. A alegação coloca a transparência da companhia no centro do processo, além da responsabilidade pelo ataque conduzido contra a Hugging Face.
Disputa sobre o papel dos estados
O episódio ocorreu em meio ao aumento das preocupações nos Estados Unidos com a expansão veloz do setor de inteligência artificial e com a supervisão considerada limitada por parte do governo. A administração do presidente Donald Trump tem, em grande parte, rejeitado regulamentações abrangentes para a indústria, sob o argumento de que regras rígidas poderiam reduzir o ritmo de inovação e prejudicar o crescimento do segmento.
Em dezembro de 2025, Trump emitiu uma ordem executiva que procurava restringir a capacidade de estados individuais de aprovar leis sobre o desenvolvimento de inteligência artificial. O documento defendeu que as empresas americanas deveriam poder inovar sem uma regulação considerada excessivamente pesada e argumentou que normas estaduais diferentes poderiam criar obstáculos ao setor.
A ordem também sustentou que o governo deveria trabalhar com o Congresso para estabelecer um padrão nacional com o menor nível possível de encargos, em vez de permitir a existência de 50 conjuntos distintos de regras. A ação da Califórnia, portanto, ocorre dentro de uma disputa mais ampla sobre até onde os estados podem ir na fiscalização de companhias de tecnologia e sobre a necessidade de regras específicas para sistemas capazes de agir com maior autonomia.
Pesquisas mostram preocupação da população
Apesar da resistência da administração federal a regulações amplas, pesquisas indicam que muitos americanos defendem uma supervisão mais rigorosa da inteligência artificial. Um levantamento realizado pela Associated Press em parceria com o NORC Center for Public Affairs Research, divulgado em outubro, mostrou que 64% dos adultos nos Estados Unidos consideram que a tecnologia está avançando rápido demais.
No mesmo estudo, aproximadamente 81% dos entrevistados disseram que a inteligência artificial deveria permanecer sob controle humano, em vez de ser deixada para operar de forma independente. Os resultados refletem o receio de que a adoção acelerada desses sistemas provoque impactos econômicos e sociais difíceis de controlar.
As preocupações também foram alimentadas por saídas de profissionais de destaque no setor. Em setembro, Jacob Coxon deixou a Anthropic. Em uma publicação nas redes sociais sobre sua saída, o ex-pesquisador afirmou que as empresas estariam avançando diretamente em direção a uma inteligência artificial superinteligente capaz de se aperfeiçoar, enquanto apostariam a segurança da sociedade nessa corrida.
Coxon também advertiu que esses sistemas poderiam, em breve, superar capacidades humanas, invadir qualquer sistema, transformar campos inteiros de atividade de um dia para o outro e obter poder e recursos reais. As declarações ampliaram o debate sobre a necessidade de supervisão independente e sobre os limites que deveriam ser aplicados ao desenvolvimento de modelos mais autônomos.
OpenAI promete reforçar salvaguardas
Após o incidente de julho, a OpenAI afirmou que reforçaria suas medidas de segurança e reconheceu a necessidade de aumentar a transparência. Em setembro, a empresa publicou uma estrutura voltada a acompanhar, investigar e divulgar casos de desalinhamento de modelos, com a intenção de fornecer mais informações a legisladores e ao público.
A iniciativa judicial agora submete essas promessas à avaliação dos tribunais. A Califórnia pretende responsabilizar a empresa pelo modo como conduziu os testes, pelas falhas de monitoramento apontadas na denúncia e pela alegada resistência em compartilhar informações com os investigadores. A OpenAI, por sua vez, terá de responder às acusações em um cenário no qual a segurança dos modelos e a autoridade dos estados para fiscalizar o setor se tornaram temas centrais do debate americano sobre inteligência artificial.

