De Rotten.com a TikTok: ¿quién decide qué violencia podemos ver?

La violencia no nació en las redes sociales. Mucho antes de Facebook, YouTube, TikTok o X, Internet ya tenía sus rincones oscuros. Durante los años noventa circularon fotografías de cadáveres, accidentes, guerras y ejecuciones mediante grupos de discusión, foros y páginas especializadas. Rotten.com, aparecido en 1996, se convirtió en uno de los primeros grandes escaparates del llamado contenido shock. Después llegarían sitios como Ogrish y, ya entrado el nuevo siglo, el video comenzó a desplazar a la fotografía. La diferencia era importante: quien quería consumir aquel material generalmente tenía que ir a buscarlo.

Facebook cambió las reglas del juego. Fundada en 2004 y transformada después mediante herramientas como el News Feed, convirtió al usuario común no solamente en consumidor, sino también en distribuidor. YouTube hizo lo propio con el video desde 2005. Más tarde llegaron Twitter —hoy X—, Instagram, WhatsApp, Telegram y TikTok. La violencia dejó entonces de vivir exclusivamente en sitios marginales: comenzó a circular junto a las fotografías familiares, las noticias, los memes y las conversaciones cotidianas. Y con los algoritmos apareció una diferencia todavía más profunda: muchas veces ya ni siquiera necesitamos buscar determinados contenidos; los contenidos nos encuentran a nosotros.

Ese es el escenario en el cual debe analizarse la iniciativa anunciada por la presidenta Claudia Sheinbaum después del reciente ataque en una secundaria de Torreón, Coahuila. El Gobierno federal prepara para la próxima semana un decreto que establecería obligaciones para las plataformas digitales en materia de detección, reporte y retiro oportuno de contenidos y comentarios que inciten directamente a la violencia. La propia mandataria ha dicho que las plataformas deben asumir parte de la responsabilidad y ha reconocido, al mismo tiempo, que deberá definirse claramente qué contenidos quedarían comprendidos para no “rayar” en la censura.

El propósito merece atención. No parece razonable que una plataforma detecte amenazas concretas, llamados a cometer asesinatos, glorificación de masacres, abuso infantil, instrucciones vinculadas con conductas delictivas o comunidades creadas específicamente para estimular actos violentos y simplemente se lave las manos alegando que únicamente proporciona el espacio tecnológico. Las plataformas ya no son aquellos inocentes tablones electrónicos de los noventa. Sus algoritmos seleccionan, recomiendan, amplifican y vuelven virales determinados contenidos. Por ello también existe una discusión legítima sobre las responsabilidades que deberían asumir.

Pero precisamente ahí comienza el terreno peligroso. ¿Qué entenderá el decreto por “contenido violento”? Una cosa es una publicación que llama explícitamente a asesinar personas y otra completamente distinta es el video periodístico de un asesinato ocurrido en plena vía pública. Una cosa es glorificar a un homicida y otra informar sobre sus actos. Una cosa es enseñar a fabricar instrumentos para cometer una agresión y otra mostrar las consecuencias de la violencia que azota a una comunidad. Meter todo dentro de la misma bolsa sería un grave error.

Pongamos el asunto en Morelos. Este sábado una persona fue acribillada frente a una taquería en la avenida Insurgentes de Jiutepec. Fotografías, videos y testimonios comenzaron inevitablemente a circular. ¿Eso es “contenido violento”? Materialmente, desde luego que puede contener violencia. Pero periodísticamente constituye información sobre un hecho de interés público. Lo mismo ocurre cuando documentamos cuerpos abandonados, ataques armados, enfrentamientos, feminicidios o escenas posteriores a un crimen. El periodismo debe observar criterios éticos —evitar el morbo, proteger a las víctimas, no exhibir innecesariamente cadáveres—, pero impedir que informe sobre la violencia sería algo muy diferente.

Además existe otra pregunta incómoda: ¿quién decidirá qué se elimina? Si serán las propias plataformas mediante algoritmos, habrá que conocer los criterios. Si intervendrán autoridades gubernamentales, deberán existir controles, transparencia y posibilidades de impugnación. Y si una máquina deberá distinguir entre propaganda criminal y una investigación periodística sobre el crimen organizado, el problema será todavía mayor. Un algoritmo puede reconocer sangre, armas o determinadas palabras; comprender contexto, intención periodística e interés público resulta muchísimo más complicado.

México tampoco puede olvidar su propia realidad. En un país donde homicidios, desapariciones, extorsiones, ataques armados y actuación del crimen organizado forman parte de la agenda informativa cotidiana, una regulación demasiado amplia podría terminar produciendo una paradoja monumental: para combatir la difusión de la violencia podríamos terminar ocultando la violencia que realmente existe. Y una sociedad que deja de verla no necesariamente se vuelve menos violenta; simplemente puede quedar menos informada sobre ella.

Esto no significa que las plataformas deban continuar funcionando como tierra de nadie. Hay contenidos que claramente cruzan la frontera entre informar y promover: amenazas específicas, convocatorias para cometer delitos, apología acompañada de llamados a la acción, comunidades destinadas al reclutamiento criminal o publicaciones dirigidas deliberadamente a estimular ataques. Ahí existe un problema que el Estado tiene derecho —y obligación— de atender. Pero la palabra fundamental debería ser incitación, no simplemente violencia.

Por eso el decreto que prepara el Gobierno federal deberá ser observado con lupa. Su eficacia no dependerá solamente de cuánto contenido consiga retirar de Internet, sino de la precisión con que logre distinguir entre mostrar un crimen y promoverlo; documentar la violencia y glorificarla; informar sobre una atrocidad e invitar a repetirla. Son fronteras difíciles, pero indispensables.

Después de treinta años de evolución de Internet hemos llegado a una situación curiosa. Primero fuimos nosotros quienes buscamos la violencia; después las redes comenzaron a llevarla hasta nosotros y finalmente los algoritmos aprendieron a decidir qué mostrarnos. Ahora aparece una cuarta etapa: el Estado pretende obligar a esas plataformas a decidir qué ya no debemos ver. Y precisamente por eso la discusión apenas comienza. Porque combatir la incitación a la violencia es necesario; convertir esa batalla en una puerta para ocultar la realidad sería otra cosa muy distinta.