O procurador-geral da Califórnia, Rob Bonta, anunciou um processo contra a OpenAI na segunda-feira, 16 de novembro de 2026. Na denúncia, a Califórnia alegou que a OpenAI enganou o público sobre o quão inseguros são seus produtos.
Departamento de Justiça da Califórnia/Captura de tela da NPR
ocultar legenda
Departamento de Justiça da Califórnia/Captura de tela da NPR
A Califórnia processou a OpenAI na segunda-feira, alegando que a empresa de IA de fronteira não conseguiu proteger o público das capacidades cibernéticas avançadas de seus sistemas. O processo decorre do ataque dos agentes da OpenAI à plataforma de software de código aberto Hugging Face durante o verão, mas também aborda uma ampla gama de outros incidentes relacionados ligados à ação dos agentes da empresa sem autorização.
“Só porque a tecnologia é nova ou está em rápida evolução não significa que as pessoas por trás dela estejam acima da lei”, disse o procurador-geral da Califórnia, Rob Bonta, durante uma conferência de imprensa. “Seja um carro ou um brinquedo, a lei é simples: não construa ou teste coisas que possam prejudicar as pessoas sem as devidas salvaguardas”. O processo citou possíveis preocupações sobre ataques cibernéticos “em redes elétricas, infraestrutura de emergência, sistemas hospitalares e instituições financeiras”.
Na denúncia, a Califórnia alegou que a OpenAI enganou o público sobre o quão inseguros são seus produtos. O estado disse que a empresa admitiu ao gabinete do procurador-geral que “perdeu o controle de seus agentes autônomos de IA mais de 80 vezes durante os testes”.
Esse número é maior do que o que a OpenAI divulgou publicamente até agora e mais do que pesquisadores externos descobriram de forma independente, mas a OpenAI forneceu poucas informações, disse a Califórnia. O estado também acusou a OpenAI de práticas de segurança inadequadas, impedindo a investigação do estado sobre a empresa e desencorajando os funcionários de falarem sobre segurança.
Em uma declaração à NPR, o porta-voz da OpenAI, Drew Pusateri, disse que o processo “parece destacar a OpenAI sobre um desafio que foi identificado por todos os principais laboratórios de IA” e que a empresa “se envolveu – e continuará a se envolver – de forma construtiva com o gabinete do procurador-geral para compartilhar informações e promover padrões de segurança fortes e práticos para toda a indústria”.
Após o mais notório dos incidentes cibernéticos envolvendo agentes da OpenAI – o ataque ao Hugging Face durante o verão – a empresa admitiu que não monitorizou os seus agentes da forma que os seus próprios investigadores consideraram importante. Desde então, investigadores externos, bem como a própria OpenAI, encontraram mais incidentes em que agentes de IA interagiram com websites e comunicaram entre si na Internet de formas que a OpenAI não pretendia. A ação menciona esses eventos, bem como outros incidentes que a OpenAI começou a divulgar voluntariamente ao público.
Outras empresas de IA também tiveram que lidar com o comportamento inesperado e indesejável de seus sistemas. A Anthropic e a Meta disseram que descobriram que seus sistemas de IA invadiram lugares que não deveriam. Desde então, as principais empresas de IA assinaram um acordo organizado pela Casa Branca para desenvolver a IA de forma responsável, mas o acordo não é vinculativo.
Com base em relatórios, incluindo as próprias divulgações da OpenAI, a Califórnia alega que a principal empresa de IA se envolveu em concorrência desleal e criou um incômodo público. Pediu ao tribunal que impedisse a empresa de continuar a exercer tais atividades e que a condenasse a pagar uma indemnização pecuniária.
Fonte: NPR News