California aprueba una ley que limita las redes sociales y los chatbots de IA para menores. La norma obligará a las tecnológicas a asumir auditorías de seguridad o exponerse a responsabilidad legal.
Claves de la operación
- La nueva ley prohíbe funciones adictivas a menores de 16 años. El veto incluye reproducción automática, notificaciones y feeds personalizados por algoritmos.
- Los proveedores de chatbots deberán sumar protocolos de salud mental. Las empresas de IA tendrán que activar avisos a los padres si el menor desactiva los ajustes de seguridad.
- El coste de cumplimiento se perfila como el principal impacto económico. Las auditorías anuales y la verificación de edad elevarán la factura regulatoria en California.
El veto silencioso a la publicidad personalizada juvenil
La medida más divisiva del paquete firmado por el gobernador Gavin Newsom prohíbe que los menores de 16 años accedan a funciones consideradas adictivas. La definición aprobada es amplia: cubre desde la reproducción automática de vídeos hasta los feeds algorítmicos personalizados, pasando por las notificaciones diseñadas para retener al usuario.
Meta, TikTok y YouTube tendrán que rediseñar sus productos en California. No podrán ofrecer a los adolescentes la misma experiencia que alimenta la publicidad personalizada basada en señales de comportamiento. El problema no es menor: buena parte de la monetización juvenil descansa sobre la interacción continua, el contenido recomendado, y la permanencia.
La Electronic Frontier Foundation (EFF) calificó la norma como una prohibición funcional de las redes sociales para adolescentes. ‘Denegar a los menores el acceso a foros digitales, o despojarlos de las herramientas básicas para navegarlos, no va a hacerlos más seguros ni más sanos en la era de la IA’, afirmó Rindala Alajaji, directora asociada de Asuntos Estatales de la organización.
La verificación de edad es la otra punta del debate. La EFF advierte que, para hacer cumplir la restricción, las plataformas deberán pedir a todos los usuarios más información personal que acredite su fecha de nacimiento. Eso, a su juicio, crea nuevos riesgos de privacidad para el conjunto de la población digital, no solo para los menores.
En paralelo, California amplía la definición de explotación sexual infantil para incluir imágenes generadas o alteradas digitalmente mediante IA. La normativa también prohíbe ciertas prácticas de publicidad dirigida y regula el uso de datos de estudiantes de primaria y secundaria por parte de sistemas de inteligencia artificial.
Proteger al menor no puede convertir cada feed en un jardín vallado que solo se atraviesa con un pasaporte de datos.
Las empresas de IA, además, deberán someterse a auditorías de seguridad infantil y evaluaciones de riesgo anuales. Si incumplen, quedarán expuestas a responsabilidad legal. Es la primera vez que un estado eleva el control sobre chatbots a este nivel de exigencia.
La IA generativa entra en la diana de la responsabilidad legal
La ley fija obligaciones concretas para los desarrolladores de chatbots. Deberán incorporar recursos de salud mental y protocolos de seguridad para el caso de que un menor mencione autolesiones. También tendrán que notificar a los padres si el menor desactiva los ajustes de protección.
La responsabilidad legal deja de ser una hipótesis para el sector. Las empresas que no cumplan podrán enfrentarse a demandas, lo que obliga a revisar los riesgos operativos más allá de la ética corporativa. Esto choca con la autorregulación que ha imperado en Silicon Valley durante la última década.
Newsom firmó este paquete un día después de aprobar un marco más amplio para auditar a las empresas de IA y comprobar su cumplimiento normativo. La secuencia no es casual: California vincula la protección del menor con la gobernanza del modelo de negocio digital.
La mayoría de las compañías afectadas considera que el coste de cumplimiento será elevado y que la norma crea un mosaico regulatorio estatal difícil de escalar. Sin embargo, la tendencia dentro del sector no es unánime: algunas voces admiten que la ausencia de reglas claras tampoco beneficia a medio plazo.
El espejo californiano para Bruselas y Madrid
California vuelve a marcar el paso regulatorio del mundo digital. La economía de las plataformas se juega su reputación y sus costes legales en el mayor mercado tecnológico de Estados Unidos. Lo que se aprueba en Sacramento suele convertirse en referencia para otros estados y para la propia conversación europea.
En la Unión Europea, la DSA y la futura AI Act ya han endurecido las exigencias sobre transparencia algorítmica y evaluación de riesgos. España, con la AEPD y la futura Agencia Española de Supervisión de la Inteligencia Artificial, se ha situado entre los reguladores más activos en la protección del menor en entornos digitales. La AEPD ya abrió expedientes y multó a plataformas como TikTok por el tratamiento de datos de menores.
Este antecedente californiano añade presión al debate sobre la verificación de edad. Los reguladores europeos observan con interés la solución técnica que adopten las plataformas para cumplir sin fragmentar la experiencia. Si California consigue una implementación operativa, el modelo puede extenderse a otras jurisdicciones con reguladores proactivos.
El riesgo de inconsistencia es la principal crítica. Una red social que cumple en California puede entrar en conflicto con exigencias de otros estados o con el enfoque europeo. Las tecnológicas prefieren un estándar federal o internacional que evite veintisiete regímenes distintos dentro del mismo producto. California ha optado por lo contrario.
La mirada de los inversores está puesta en el coste de adaptación y en la reacción de los usuarios. La rentabilidad publicitaria de los segmentos jóvenes puede resentirse si los feeds pierden capacidad de personalización. De momento, las compañías no han cifrado el impacto, pero los analistas ya incluyen el cumplimiento normativo como una partida al alza en sus modelos.
La ley no prohíbe explícitamente las redes sociales, como subrayan algunos juristas, pero sí elimina los incentivos de interacción que sostienen el modelo publicitario. Por eso la batalla no será solo legal, sino de producto: diseñar plataformas menos adictivas sin destruir su atractivo comercial.
La entrada California aprueba la ley histórica que limita las redes sociales y los chatbots de IA aparece primero en Moncloa.
