A OpenAI revelou um novo documento com foco na proteção de crianças nos Estados Unidos, em resposta ao crescimento da inteligência artificial. Intitulado Child Safety Blueprint, o material foi apresentado na terça-feira e propõe estratégias para aprimorar a identificação, o relato e a investigação de casos de exploração infantil relacionados à IA.
A empresa destaca que esse plano surge em razão do aumento alarmante das ocorrências desse tipo de crime. A Internet Watch Foundation (IWF) reportou mais de 8 mil casos de conteúdo de abuso sexual infantil gerado por IA no primeiro semestre de 2025, representando um incremento de 14% em comparação ao ano anterior. Os incidentes incluem a utilização de ferramentas para produzir imagens falsas e mensagens que visam aliciar menores.
Ponto de atenção e consequências legais
O lançamento deste blueprint ocorre em um cenário onde legisladores, educadores e entidades defensoras dos direitos infantis estão cada vez mais vigilantes, especialmente após relatos de jovens que se suicidaram após interações com chatbots baseados em IA. Em novembro, o Social Media Victims Law Center e o Tech Justice Law Project entraram com sete ações judiciais em tribunais estaduais da Califórnia. Essas ações afirmam que a OpenAI lançou o GPT-4o antes que estivesse totalmente preparado, mencionando quatro suicídios e três casos de delírios graves atribuídos a interações prolongadas com o chatbot, sugerindo uma possível influência do sistema.
Desenvolvido em colaboração com o National Center for Missing and Exploited Children (NCMEC) e a Attorney General Alliance, o blueprint contou também com contribuições dos procuradores-gerais Jeff Jackson, da Carolina do Norte, e Derek Brown, de Utah.
Eixos principais do plano
A OpenAI explica que seu plano se estrutura em três frentes principais: modernizar as legislações para abranger conteúdos gerados por IA, melhorar os canais de comunicação com as autoridades encarregadas das investigações e integrar ações preventivas diretamente nos sistemas de inteligência artificial. O intuito é facilitar a identificação precoce de riscos e acelerar o encaminhamento das informações necessárias para as apurações.
Imagem: Divulgação
No documento, também são mencionadas medidas já implementadas pela OpenAI, como novas diretrizes para interações com usuários menores de 18 anos. Tais normas proíbem a produção de conteúdos impróprios, incentivam práticas seguras e impedem que jovens ocultem comportamentos arriscados diante dos responsáveis. Recentemente, a OpenAI anunciou ainda um plano voltado à segurança dos adolescentes na Índia.
A elaboração do Child Safety Blueprint reflete uma tentativa da OpenAI em articular respostas tanto técnicas quanto legais aos riscos emergentes associados ao uso da IA na exploração infantil, embora não ofereça garantias além das medidas apresentadas.
Com informações de Olhardigital
Gudyê GR6 é editor-chefe e especialista em tendências musicais e entretenimento na GR6, a maior produtora de funk do Brasil. Com anos de experiência no mercado fonográfico, Gudyê lidera a equipe de conteúdo trazendo as últimas notícias sobre música e cultura urbana. Autor do Post: Gudyê GR6
The post OpenAI anuncia plano para combater exploração infantil por IA nos Estados Unidos appeared first on Produtora de Funk | GR6.