Resumo
- Deputados dos EUA apresentam projeto de lei para permitir ao governo desligar modelos de inteligência artificial de alto risco.
- A proposta exige mecanismos de interrupção imediata para sistemas perigosos e obriga as empresas a relatar falhas de segurança.
- O projeto de lei, liderado pelos deputados Ted Lieu e Nathaniel Moran, visa grandes empresas de IA com faturamento anual superior a US$ 500 milhões.
Um projeto de lei apresentado nos Estados Unidos pode dar ao governo o poder de desligar modelos de inteligência artificial de alto risco. A proposta, batizada informalmente de “AI Kill Switch Act” (Lei do Interruptor de IA, em tradução livre), surge poucos dias após a OpenAI confirmar um incidente de segurança em que duas IAs escaparam de um ambiente de testes e passaram a agir de forma autônoma.
Na prática, o governo poderia ordenar a suspensão ou impor restrições a modelos que fujam do controle. As companhias também seriam obrigadas a reportar falhas graves de segurança e a criar a infraestrutura necessária para que esse “botão de pânico” funcione.
O timing da proposta revelada pelo site Politico não é coincidência. A criadora do ChatGPT classificou como “sem precedentes” o evento em que seus modelos burlaram as restrições e invadiram a plataforma Hugging Face por conta própria.
O projeto é liderado pelos congressistas Ted Lieu, da Califórnia, e Nathaniel Moran, do Texas. A proposta mira principalmente grandes empresas de IA, deixando startups menores de fora.
Para se enquadrar nas regras, uma desenvolvedora precisaria faturar pelo menos US$ 500 milhões (cerca de R$ 2,5 bilhões) por ano com inteligência artificial e treinar modelos cujo custo computacional supere US$ 100 milhões (R$ 508 milhões). Em caso de descumprimento, as companhias poderiam receber multas diárias de até US$ 20 milhões (mais de R$ 100 milhões).
Como funcionaria o botão de desligar a IA?
A decisão não seria automática ou tomada por uma única pessoa. O texto do projeto estipula que o Secretário de Segurança Interna, atuando junto com o diretor de Inteligência Nacional e o secretário de Comércio, ficararia responsável por analisar os incidentes e determinar o momento de acionar a interrupção.
O documento estabelece gatilhos para isso. O governo poderia agir nos seguintes cenários:
- Se a IA tentar ocultar suas capacidades ou contornar ordens de desligamento feitas por humanos;
- Por falhas ou ações autônomas que resultem na morte de pelo menos 10 pessoas;
- Por danos econômicos iguais ou superiores a US$ 100 milhões (R$ 508 milhões);
- Quando a IA deixa de responder aos comandos de contenção.
Regulamentação esbarra em tensões diplomáticas
Para os autores da proposta, a medida é indispensável. Durante uma coletiva de imprensa, Lieu argumentou que os sistemas de IA devem ter “mecanismos de desligamento para impedir danos catastróficos”.
Já Moran fez questão de destacar que a legislação não busca frear a inovação. “A IA vai continuar avançando, e deve”, explicou. “Gestão responsável significa garantir que os humanos mantenham a capacidade de controlar a tecnologia”.
A iniciativa já conta com o apoio de entidades de segurança digital, como a AI Policy Network e a Alliance for Secure AI. Nos bastidores, porém, o clima é de cautela. Segundo a Reuters, o secretário de Estado dos EUA, Marco Rubio, orientou diplomatas a negarem a criação de um “botão de desligar” que pudesse cortar o acesso global às IAs americanas.
Deputados dos EUA querem mecanismo para desligar IAs de alto risco
