Fiscalía francesa analiza el impacto psicológico del algoritmo de TikTok
La la plataforma de videos enfrenta una investigación preliminar abierta por la Fiscalía de París, que busca determinar si su algoritmo puede contribuir al desarrollo de conductas suicidas entre usuarios vulnerables.
El caso surgió tras la denuncia del diputado socialista Arthur Delaporte, quien encabezó una comisión parlamentaria que estudió los efectos psicológicos de la plataforma. Según explicó la Fiscalía, los elementos remitidos por el legislador apuntan a una moderación insuficiente y a un sistema de recomendación que “encierra a los usuarios en bucles de contenido potencialmente dañinos”.
Un algoritmo que despierta preocupación internacional
La investigación sobre la red social fue asignada a la Brigada de Lucha contra la Ciberdelincuencia (BL2C), dependiente de la Prefectura de Policía de París. Los investigadores analizarán cómo el algoritmo selecciona videos y si puede influir en usuarios con vulnerabilidad emocional, especialmente adolescentes.
El comunicado oficial de la Fiscalía señala que el objetivo es “verificar si la exposición reiterada a ciertos contenidos constituye un riesgo real para la salud mental”. Además, se revisará la eficacia de los mecanismos de moderación y el acceso de menores a videos con temáticas sensibles.
Arthur Delaporte y los antecedentes legislativos
El diputado Delaporte argumentó que la plataforma de videos“atraviesa los límites éticos de la inteligencia artificial aplicada al entretenimiento”, al promover dinámicas de consumo compulsivo. Su denuncia se apoya en informes previos del Senado francés (2023) y de Amnistía Internacional, que ya alertaban sobre el carácter adictivo de la plataforma y su falta de transparencia.
Estos estudios advertían que el algoritmo puede reforzar comportamientos negativos o de autolesión al recomendar de forma reiterada videos con temáticas de sufrimiento emocional. La investigación judicial busca establecer si existe responsabilidad directa de la empresa en la promoción involuntaria de esas conductas.
TikTok y su respuesta oficial
En un comunicado, la aplicación china aseguró que coopera con las autoridades francesas y recordó que cuenta con sistemas de moderación automatizada y revisores humanos. “La seguridad de nuestros usuarios, especialmente de los menores, es nuestra prioridad”, afirmó la empresa, propiedad del grupo chino ByteDance.
Pese a ello, organizaciones de protección digital sostienen que los filtros actuales no bastan para evitar que los algoritmos fomenten un consumo adictivo. La investigación sobre la aplicación china evaluará si el modelo de negocio basado en la retención de atención agrava los riesgos psicológicos en ciertos perfiles de usuarios.
Un debate sobre salud mental y tecnología
Las autoridades francesas recordaron que la conducta suicida no responde a una única causa, sino a una combinación de factores psicológicos, sociales y culturales. En su comunicado, la Fiscalía incluyó información sobre líneas de ayuda para personas en riesgo y destacó la necesidad de responsabilidad compartida entre plataformas, familias y gobiernos.
En Uruguay, la línea 0800 0767 ofrece apoyo gratuito y confidencial para quienes atraviesan situaciones de crisis. En Francia, la línea 3114 brinda asistencia las 24 horas.
La aplicación china ha reavivado la discusión sobre el papel de las redes sociales en la salud mental y la importancia de una regulación más estricta de los algoritmos que gobiernan la atención digital.
Ética, responsabilidad y futuro digital
El proceso judicial contra el servicio digital podría convertirse en un precedente global sobre los límites de la inteligencia artificial en plataformas de entretenimiento. Expertos en ética digital sostienen que los algoritmos, diseñados para maximizar la permanencia del usuario, deben ser evaluados con el mismo rigor que los productos médicos o farmacológicos.
¿Hasta qué punto es legítimo que una red social diseñe sistemas capaces de moldear emociones humanas con fines comerciales? La respuesta que surja de este caso podría definir el rumbo de la relación entre tecnología y salud mental en la próxima década.