Califórnia passa a exigir protocolo de crise para IAs e proíbe recursos viciantes para menores em redes sociais

Lei com foco na proteção de crianças e adolescentes exige que assistentes de inteligência artificial adotem medidas ao identificarem que usuários planejam cometer suicídio.

O governador da Califórnia, Gavin Newsom, aprovou nesta quinta-feira (10) 13 leis que mudam regras para assistentes de inteligência artificial e redes sociais com o objetivo de aumentar a proteção online de crianças e adolescentes.

Uma das leis exige que serviços como ChatGPT, Gemini e Claude tenham protocolos de crise caso usuários apresentem sinais de que planejam cometer suicídio.

A regra também obriga plataformas a oferecerem controle parental e a notifiquem pais quando crianças e adolescentes desativarem recursos de segurança.

As medidas fazem parte da chamada Lei Adam, em referência a Adam Raine, jovem de 16 anos que, segundo os pais, se suicidou após receber orientações do ChatGPT.

Para redes sociais como Instagram e TikTok, outra lei aprovada nesta quinta proibiu a oferta de recursos viciantes para menores de 16 anos.

Com a regra, as plataformas ficam impedidas, por exemplo, de usar a reprodução automática de vídeos ou sugerir postagens com base no histórico desses usuários.

Uma terceira lei ampliou a definição do crime de exploração sexual infantil para proibir também a veiculação de materiais modificados digitalmente ou gerados com IA para retratar menores de idade em atos de conduta sexual.

A Califórnia é um dos estados americanos que estão regulando o funcionamento de assistentes de IA e redes sociais para menores de idade.

Outros governos estaduais, como os de Utah e da Flórida, também aprovaram leis que restringem o uso de internet por crianças e adolescentes.

Parte dessas medidas, porém, enfrentaram contestações judiciais por parte das plataformas, que alegam haver violação do direito à liberdade de expressão.

Fonte: Redação g1 — São Paulo – 10/09/2026