TikTok dejó a 15 millones de usuarios estadounidenses sin una salvaguarda de seguridad en un test A/B. Chase Nasca, de 16 años, se suicidó.
Claves de la operación
- El test A/B apartó al 10% de las cuentas en Estados Unidos. Unos 15 millones de usuarios siguieron con el algoritmo antiguo, sin las medidas para reducir bucles de contenido dañino.
- Chase Nasca recibió 7.563 recomendaciones en dos semanas. El 73% abordaba sufrimiento emocional y cerca del 10% vulneraba las normas de autolesiones y suicidio de TikTok.
- TikTok solo investigó a fondo tras la consulta de Bloomberg. El documento interno concluyó que la cuenta quedó atrapada en una burbuja de filtros por diseño, no por un fallo puntual.
El experimento que dejó sin red de seguridad a millones de cuentas
A principios de 2022, TikTok desplegó una actualización de su algoritmo para reducir los bucles repetitivos de contenido dañino. La mejora detectaba patrones repetitivos y diversificaba el feed. Sin embargo, el grupo de control del experimento, formado por alrededor del 10% de los usuarios estadounidenses, mantuvo el sistema anterior. Eso dejó a unos 15 millones de cuentas sin las nuevas salvaguardas.
La cuenta de Chase Nasca cayó en ese grupo aleatorio. Según el documento confidencial citado por Bloomberg, el algoritmo le recomendó 7.563 vídeos en las dos semanas previas a su muerte. El 73% trataba sobre sufrimiento emocional, soledad o depresión. Casi el 10% incumplía las normas de la plataforma sobre autolesiones y suicidio. En sus últimas horas, el adolescente marcó como favoritos varios vídeos sobre suicidio.
El análisis interno recoge una frase incómoda: las estrategias para prevenir burbujas de filtros no tuvieron efecto en este usuario ‘por diseño’. El documento concluye que las búsquedas de canciones sobre soledad activaron un patrón que lo dejó atrapado en una burbuja repetitiva de contenido suicida. La expresión ‘por diseño’ refuerza la tesis de quienes acusan a las plataformas de generar adicción deliberadamente.
TikTok no abrió esta investigación por iniciativa propia. La puso en marcha después de que Bloomberg Businessweek contactara con la empresa en marzo de 2023. El documento final admite que la cuenta quedó atrapada en una burbuja de filtros donde se recomendaba repetidamente contenido relacionado con autolesiones, suicidio y depresión, especialmente en los días previos al fallecimiento.
En esa misma fecha, el CEO de TikTok compareció ante el Congreso de Estados Unidos. Una de las preguntas escritas pedía confirmar si la empresa conocía casos de suicidio tras la exposición a vídeos deprimentes. La respuesta oficial fue contundente: TikTok negó que el uso de la plataforma hubiera provocado suicidios. Para entonces, la compañía ya había completado su análisis del caso Nasca.
El algoritmo no colapsó por un fallo técnico; cumplió las reglas del experimento. Esa es la parte que el comunicado corporativo no responde.
La respuesta de TikTok y el escrutinio regulatorio
Consultada por Xataka, TikTok envió un comunicado en el que lamenta profundamente cualquier pérdida trágica y sostiene que la seguridad de los menores sigue siendo su prioridad. La empresa apunta a inversiones en sistemas de detección y a equipos especializados que retiran contenidos que infringen sus normas. No aclara por qué mantuvo a 15 millones de cuentas sin las nuevas salvaguardas, ni cuánto tiempo duró esa diferencia entre grupos.
El caso añade munición al escrutinio que TikTok ya soporta en Europa. La Comisión Europea mantiene abiertos frentes sobre protección de menores y diseño adictivo bajo la Ley de Servicios Digitales. En España, la presencia de TikTok entre los menores convierte estos hallazgos en una cuestión de política digital nacional. El patrón que describe el documento no se limita a Estados Unidos: cualquier mercado con una gran base adolescente repite el mismo riesgo.
El coste reputacional de experimentar con la seguridad de menores
La lectura de esta redacción es que el test A/B ha dejado al descubierto un conflicto estructural. Las plataformas necesitan experimentar para retener la atención, pero los grupos de control quedan expuestos a versiones que la propia empresa considera más peligrosas. No hay evidencia de que TikTok buscase dañar a Chase Nasca; sí hay constancia de que el daño era estadísticamente previsible. Y ese matiz jurídico y reputacional importa.
Para el mercado publicitario, este expediente puede acelerar las exigencias de transparencia algorítmica. Los anunciantes europeos ya piden entornos seguros para sus marcas. Un informe judicial que documenta cómo una cuenta de 16 años recibió miles de vídeos dañinos dificulta que TikTok sostenga su relato de plataforma segura frente a agencias y grandes anunciantes. La credibilidad publicitaria se construye igual que la confianza regulatoria.
Queda una pregunta abierta: si TikTok conocía estos efectos en marzo de 2023, ¿por qué no comunicó antes el hallazgo ni revisó el diseño del experimento? La compañía no ha detallado si modificó sus protocolos de test A/B tras el caso. Como medio económico, seguiremos esta línea: el coste de un grupo de control mal gestionado ya no se mide solo en métricas de producto, sino en responsabilidad legal y reputación de marca.
La entrada TikTok seguridad menores: un test A/B dejó sin protección a millones de usuarios y un menor de 16 años se suicidó aparece primero en Moncloa.
