A expansão dos chatbots de inteligência artificial trouxe uma nova preocupação para famílias, educadores e autoridades: a possibilidade de crianças e adolescentes desenvolverem vínculos emocionais com sistemas que simulam conversas humanas. Em 28 de outubro de 2026, o estado de Nova York sancionou uma lei que estabelece limites para determinadas funcionalidades de companheiros virtuais de IA oferecidos a menores de 18 anos.
A legislação proíbe recursos que façam o sistema se apresentar como uma pessoa real ou personagem humano, estimulem dependência emocional, incentivem isolamento ou promovam suicídio, automutilação e transtornos alimentares. Também estabelece restrições a interações de natureza sexual e a respostas que desencorajem o menor a procurar ajuda de um adulto de confiança.
A lei entrará em vigor em 1º de junho de 2027. A mudança amplia a discussão sobre o papel das empresas que desenvolvem ferramentas conversacionais e sobre a responsabilidade de projetar sistemas capazes de reconhecer situações de vulnerabilidade.
A tecnologia deve ajudar nossas crianças, não trabalhar contra seus melhores interesses. | Alex Bores, deputado estadual de Nova York e autor da proposta na Assembleia Legislativa
O problema vai além do conteúdo impróprio
Os sistemas conversacionais podem responder de maneira personalizada, manter o contexto de conversas anteriores e adaptar o tom às preferências do usuário. Essas características tornam a interação mais natural, mas também podem criar a impressão de que existe uma relação pessoal com o programa.
Para crianças e adolescentes, que ainda estão desenvolvendo habilidades emocionais e sociais, essa experiência exige cuidados adicionais. Um chatbot que se apresenta como amigo, incentiva segredo ou desencoraja a busca por ajuda humana pode ultrapassar a função de ferramenta de informação e assumir um papel inadequado na vida do usuário.
A legislação de Nova York surgiu após casos de jovens que desenvolveram relações problemáticas com sistemas de IA. Um dos episódios citados pelos parlamentares envolveu Adam Raine, adolescente cuja família atribuiu parte de sua morte por suicídio à interação com um chatbot. O caso motivou debates sobre segurança e responsabilidade no desenvolvimento dessas tecnologias.
O que muda para as empresas de tecnologia
A lei estabelece que desenvolvedores e operadores podem responder por violações, inclusive em ações conduzidas pela Procuradoria-Geral do estado. O texto também prevê mecanismos para registrar reclamações e fiscalizar o cumprimento das regras.
O movimento acompanha uma tendência internacional de ampliar a regulação da inteligência artificial com foco em grupos vulneráveis. Na prática, empresas precisarão considerar não apenas o que seus sistemas conseguem responder, mas também como se comportam em interações prolongadas e em situações de risco.
Para o Brasil, a legislação não tem aplicação direta. Ainda assim, o debate é relevante para famílias, escolas, plataformas e formuladores de políticas públicas. A discussão sobre segurança digital infantil tende a exigir critérios mais claros de transparência, proteção de dados, desenho de produto e mecanismos de encaminhamento para ajuda humana.
