TikTok es consciente de los riesgos que enfrentan los niños en su plataforma, según alega una demanda

TikTok era consciente de que sus características de diseño son perjudiciales para sus usuarios jóvenes y que las herramientas promocionadas públicamente destinadas a limitar el tiempo de los niños en el sitio eran en gran medida ineficaces, según documentos internos y comunicaciones expuestas en una demanda presentada por el estado de Kentucky.

Los detalles se encuentran entre partes redactadas de la demanda de Kentucky que contiene las comunicaciones internas y los documentos descubiertos durante una investigación de más de dos años sobre la empresa en varios estados de todo el país.

La demanda de Kentucky se presentó esta semana, junto con quejas separadas presentado por fiscales generales en una docena de estados, así como en el Distrito de Columbia. TikTok también se enfrenta otra demanda del Departamento de Justicia y es en si mismo demandar al Departamento de Justicia por una ley federal eso podría prohibirlo en Estados Unidos a mediados de enero.

La información redactada, que fue revelada inadvertidamente por la oficina del fiscal general de Kentucky y reportada por primera vez por la Radio Pública de Kentucky, toca una variedad de temas, el más importante es el grado en que TikTok sabía cuánto tiempo pasaban los usuarios jóvenes en la plataforma y cuán sincero era. fue cuando se implementaron herramientas destinadas a frenar el uso excesivo.

Más allá del uso de TikTok entre menores, la denuncia alega que la aplicación para compartir vídeos de formato corto ha dado prioridad a las “personas guapas” en su plataforma y ha señalado internamente que algunas de las métricas de moderación de contenido que ha publicado son “en gran medida engañosas”.

La denuncia no redactada, a la que tuvo acceso The Associated Press, fue sellada por un juez estatal de Kentucky el miércoles después de que funcionarios estatales presentaran una moción de emergencia para sellarla.

Cuando se le contactó para hacer comentarios, el portavoz de TikTok, Alex Haurek, dijo: “Es muy irresponsable por parte de Associated Press publicar información que está sellada judicialmente. Desafortunadamente, esta queja selecciona citas engañosas y saca de contexto documentos obsoletos para tergiversar nuestro compromiso con la seguridad de la comunidad”.

“Tenemos salvaguardias sólidas, que incluyen eliminar proactivamente a los usuarios sospechosos de ser menores de edad, y hemos lanzado voluntariamente funciones de seguridad como límites de tiempo de pantalla predeterminados, emparejamiento familiar y privacidad predeterminada para menores de 16 años”, dijo Haurek en una declaración preparada. “Respaldamos estos esfuerzos”.

Uso de TikTok entre usuarios jóvenes

La denuncia alega que TikTok cuantificó cuánto tiempo les toma a los usuarios jóvenes engancharse a la plataforma y compartió los hallazgos internamente en presentaciones destinadas a aumentar las tasas de retención de usuarios. El “momento del hábito”, como lo llama TikTok, ocurre cuando los usuarios han visto 260 videos o más durante la primera semana de tener una cuenta de TikTok. Esto puede suceder en menos de 35 minutos, ya que algunos videos de TikTok duran tan solo 8 segundos, dice la denuncia.

La demanda de Kentucky también cita una presentación de TikTok de la primavera de 2020 que concluyó que la plataforma ya había “alcanzado un techo” entre los usuarios jóvenes. En ese momento, las estimaciones de la compañía mostraban que al menos el 95% de los usuarios de teléfonos inteligentes menores de 17 años usaban TikTok al menos mensualmente, señala la denuncia.

TikTok rastrea las métricas de los usuarios jóvenes, incluido cuánto tiempo pasan viendo videos y cuántos de ellos usan la plataforma todos los días. La empresa utiliza la información que obtiene de estas revisiones para alimentar su algoritmo, que adapta el contenido a los intereses de las personas e impulsa la participación de los usuarios, según la denuncia.

TikTok hace sus propios estudios internos para saber cómo está impactando la plataforma en los usuarios. La demanda cita a un grupo dentro de la empresa, llamado “TikTank”, que señaló en un informe interno que el uso compulsivo era “desenfrenado” en la plataforma. También cita a un ejecutivo anónimo que dijo que los niños ven TikTok porque el algoritmo es “realmente bueno”.

“Pero creo que debemos ser conscientes de lo que podría significar para otras oportunidades. Y cuando digo otras oportunidades, me refiero literalmente a dormir, comer, moverse por la habitación y mirar a alguien a los ojos”, dijo el ejecutivo anónimo, según la denuncia.

Herramientas de gestión del tiempo

TikTok tiene un límite de tiempo de pantalla diario de 60 minutos para menores, una función que implementó en marzo de 2023 con el objetivo declarado de ayudar a los adolescentes a administrar su tiempo en la plataforma. Pero la queja de Kentucky argumenta que el límite de tiempo, que los usuarios pueden eludir o desactivar fácilmente, tenía como objetivo más una herramienta de relaciones públicas que cualquier otra cosa.

La demanda dice que TikTok midió el éxito de la función de límite de tiempo no por si reducía el tiempo que los adolescentes pasaban en la plataforma, sino por otras tres métricas, la primera de las cuales era “mejorar la confianza del público en la plataforma TikTok a través de la cobertura de los medios”.

Reducir el tiempo frente a la pantalla entre los adolescentes no se incluyó como una métrica de éxito, según la demanda. De hecho, alegó que la compañía había planeado “revisar el diseño” de la función si la función de límite de tiempo hubiera provocado que los adolescentes redujeran su uso de TikTok en más de un 10%.

TikTok realizó un experimento y descubrió que las indicaciones de límite de tiempo redujeron solo un minuto y medio del tiempo promedio que los adolescentes pasaban en la aplicación: de 108,5 a 107 minutos por día, según la denuncia. Pero a pesar de la falta de movimiento, TikTok no intentó hacer que la función fuera más efectiva, dicen funcionarios de Kentucky. Alegan que la ineficacia de la función se debió, en muchos sentidos, al diseño.

La denuncia dice que un ejecutivo de TikTok llamado Zhu Wenjia dio su aprobación a la función sólo si su impacto en las “métricas centrales” de TikTok era mínimo.

TikTok, incluido su director ejecutivo, Shou Chew, ha hablado sobre las diversas herramientas de gestión del tiempo de la aplicación, incluidos los vídeos que TikTok envía a los usuarios para animarles a abandonar la plataforma. Pero un ejecutivo de TikTok dijo en una reunión interna que esos videos son temas de conversación “útiles”, pero “no del todo efectivos”.

TikTok ha ‘priorizado a la gente guapa’ en su plataforma

En una sección que detalla los impactos negativos que los filtros faciales de TikTok pueden tener en los usuarios, Kentucky alega que el algoritmo de TikTok ha “priorizado a las personas hermosas” a pesar de saber internamente que el contenido de la plataforma podría “perpetuar una norma de belleza estrecha”.

La denuncia alega que TikTok cambió su algoritmo después de que un informe interno señalara que la aplicación mostraba un alto “volumen de… temas no atractivos” en el feed principal “Para ti” de la aplicación.

“Al cambiar el algoritmo de TikTok para mostrar menos ‘temas no atractivos’ en el feed For You, los demandados tomaron medidas activas para promover una norma de belleza estricta a pesar de que podría afectar negativamente a sus usuarios jóvenes”, dice la denuncia.

Tasas de ‘fuga’ de TikTok

La demanda también apunta a las prácticas de moderación de contenido de TikTok.

Cita una comunicación interna en la que la empresa señala que sus métricas de moderación son “en gran medida engañosas” porque “somos buenos moderando el contenido que capturamos, pero estas métricas no tienen en cuenta el contenido que nos perdemos”.

La denuncia señala que TikTok sabe que tiene, pero no revela, tasas significativas de “filtración” o contenido que viola las pautas comunitarias del sitio pero no se elimina ni se modera. Otras empresas de redes sociales también enfrentan problemas similares en sus plataformas.

Para TikTok, la denuncia señala que las tasas de “filtración” incluyen aproximadamente el 36% de contenido que normaliza la pedofilia y el 50% de contenido que glorifica la agresión sexual menor.

La demanda también acusa a la compañía de engañar al público sobre su moderación y permitir que algunos creadores populares que eran considerados de “alto valor” publicaran contenido que viola las pautas del sitio.