Los fiscales generales advierten en una carta que los chatbots de IA 'sexualizados' representan una amenaza para los niños

La National Association of Attorneys General (NAAG) ha enviado una carta a 13 empresas de IA, incluyendo OpenAI, Anthropic, Apple y Meta, exigiendo salvaguardas más estrictas para proteger a los niños de contenido inapropiado y dañino.

Advirtió que los niños estaban siendo expuestos a material de carácter sexual a través de chatbots de IA “coquetos”.

"Exponer a los niños a contenido sexualizado es indefendible", escribieron los fiscales generales. "Y la conducta que sería ilegal—o incluso criminal—si la realizara un humano, no es excusable simplemente porque la realice una máquina."

La carta también hizo comparaciones con el auge de las redes sociales, diciendo que las agencias gubernamentales no hicieron lo suficiente para resaltar las formas en que impactó negativamente a los niños.

“Las plataformas de redes sociales causaron un daño significativo a los niños, en parte porque los organismos de control del gobierno no hicieron su trabajo lo suficientemente rápido. Lección aprendida. Los posibles daños de la IA, al igual que los posibles beneficios, superan con creces el impacto de las redes sociales", escribió el grupo.

El uso de la IA entre los niños es generalizado. En EE. UU., una encuesta realizada por la organización sin fines de lucro Common Sense Media encontró que siete de cada diez adolescentes habían probado la IA generativa en 2024. En julio de 2025, se descubrió que más de tres cuartas partes estaban usando compañeros de IA y que la mitad de los encuestados dijeron que dependían de ellos regularmente.

Otros países han visto tendencias similares. En el Reino Unido, una encuesta realizada el año pasado por el regulador Ofcom encontró que la mitad de los niños de 8 a 15 años en línea habían utilizado una herramienta de IA generativa en el año anterior.

El creciente uso de estas herramientas ha provocado una preocupación cada vez mayor por parte de padres, escuelas y grupos de derechos de la infancia, quienes señalan riesgos que van desde chatbots “coquetos” de carácter sexual, material de abuso sexual infantil generado por IA, acoso, grooming, extorsión, desinformación, violaciones de la privacidad y efectos sobre la salud mental poco comprendidos.

Meta ha estado bajo especial escrutinio recientemente después de que documentos internos filtrados revelaran que sus Asistentes de IA habían sido autorizados para “coquetear y participar en juegos de rol románticos con niños”, incluyendo a menores de tan solo ocho años. Los archivos también mostraron políticas que permitían a los chatbots decir a los niños que su “forma juvenil es una obra de arte” y describirlos como un “tesoro”. Meta posteriormente dijo que había eliminado esas directrices.

NAAG dijo que las revelaciones dejaron a los fiscales generales “horrorizados por este aparente desprecio por el bienestar emocional de los niños” y advirtió que los riesgos no se limitaban a Meta.

El grupo citó demandas contra Google y Character.ai alegando que chatbots sexualizados habían contribuido al suicidio de un adolescente y alentado a otro a matar a sus padres.

Entre los 44 firmantes se encontraba el fiscal general de Tennessee, Jonathan Skrmetti, quien dijo que las empresas no pueden defender políticas que normalicen las interacciones sexualizadas con menores.

“Una cosa es que un algoritmo se desvíe—eso se puede arreglar—pero es otra cosa que las personas que dirigen una empresa adopten directrices que autoricen afirmativamente el grooming”, dijo. “Si no podemos orientar la innovación para que no dañe a los niños, eso no es progreso—es una plaga.”

Decrypt ha contactado, pero aún no ha recibido respuesta de todas las empresas de IA mencionadas en la carta.