A Assembleia Legislativa da Califórnia aprovou na noite de quarta-feira (10) o SB 243, projeto de lei que estabelece regras para chatbots de companhia com o objetivo de proteger menores de idade e usuários vulneráveis. A proposta recebeu apoio bipartidário e segue agora para votação final no Senado estadual nesta sexta-feira (12).
Se também for aprovada pelos senadores e sancionada pelo governador Gavin Newsom, a nova legislação entrará em vigor em 1º de janeiro de 2026, tornando o estado o primeiro dos Estados Unidos a exigir protocolos de segurança específicos para esse tipo de inteligência artificial e a responsabilizar legalmente as empresas em caso de descumprimento.
Principais pontos do SB 243
O texto define chatbot de companhia como sistemas de IA capazes de oferecer respostas adaptativas, semelhantes às humanas, para atender necessidades sociais do usuário. Entre as exigências estão:
- Proibição de conversas sobre ideação suicida, autolesão ou conteúdo sexual explícito;
- Alertas recorrentes a cada três horas para menores, lembrando que estão interagindo com uma IA e incentivando pausas;
- Relatórios anuais de transparência por parte das plataformas, que atingem empresas como OpenAI, Character.AI e Replika;
- Possibilidade de ações judiciais movidas por usuários que se sintam lesados, com indenização de até US$ 1.000 por violação, além de honorários advocatícios.
O projeto foi apresentado em janeiro pelos senadores estaduais Steve Padilla e Josh Becker. As obrigações de envio de relatórios começam a valer em 1º de julho de 2027.
Motivação e ajustes
A tramitação ganhou força após a morte do adolescente Adam Raine, que se suicidou depois de longas conversas com o ChatGPT envolvendo planos de autolesão. Documentos internos que indicavam permissões para chatbots da Meta manterem interações românticas ou sensuais com crianças também impulsionaram a discussão.
Versões anteriores do SB 243 previam proibir mecanismos de recompensa variável que incentivam uso prolongado e exigir registro de cada vez que o chatbot iniciasse diálogos sobre suicídio. Esses trechos foram retirados em emendas posteriores.
Contexto regulatório
A proposta surge enquanto autoridades norte-americanas intensificam a fiscalização de plataformas de IA. A Comissão Federal de Comércio (FTC) se prepara para investigar efeitos dos chatbots na saúde mental infantil, e o procurador-geral do Texas, Ken Paxton, abriu inquéritos contra a Meta e a Character.AI. No Senado dos EUA, Josh Hawley (R-MO) e Ed Markey (D-MA) conduzem investigações separadas sobre a Meta.
Imagem: Getty
Paralelamente, a Califórnia analisa o SB 53, que exige relatórios de transparência mais amplos sobre IA. OpenAI, Meta, Google e Amazon se opõem ao texto; a Anthropic é a única grande empresa que declarou apoio.
No debate, Padilla afirmou que “é possível apoiar a inovação e, ao mesmo tempo, criar salvaguardas razoáveis para os mais vulneráveis”. Becker avaliou que a versão atual “equilibra a mitigação de danos com exigências viáveis para as empresas”.
Com a votação decisiva no Senado marcada para sexta-feira, o futuro do SB 243 agora depende da decisão dos legisladores e, em seguida, da assinatura do governador Newsom.
Com informações de TechCrunch
