Un niño de cinco años ha fallecido la pasada noche y su madre y su hermana de tres años se encuentran graves al colisionar con un vehículo en el que viajaban cinco jóvenes que participaban, según las primeras investigaciones, en un reto viral difundido en las redes y que consiste en conducir ininterrumpidamente durante 50 horas. Son nuevas víctimas de desafíos absurdos, como tomar drogas para tener alucinaciones o ver quien se duerme el último tras consumirlas o aguantar más inhalando desodorantes o insecticidas. El suceso reabre el debate por la responsabilidad de estos retos, sobre el que existe un vacío legislativo y ninguna estadística fiable.

El accidente, según informa Efe, se ha producido la noche de este miércoles en el barrio periférico romano de Casal Palocco. Los cinco jóvenes viajaban en un todoterreno de lujo que impactó con un pequeño vehículo ocupado por los tres miembros de la familia víctima del accidente.

Los cinco jóvenes, cuatro chicos y una chica de unos 20 años, utilizaban las redes para ganar popularidad con grabaciones en coches de lujo y los indicios apuntan a que, esta vez, participaban en el reto de conducir 50 horas sin descanso. Su canal de YouTube, que promueve los retos en línea, acumula 600.000 suscriptores y 152 millones de visualizaciones desde 2020.

Este suceso reabre el debate de la responsabilidad sobre las consecuencias, a veces mortales, de los retos virales difundidos en las redes. Aunque no hay estadísticas fiables, el goteo de casos es constante y la legislación presenta vacíos sobre cómo abordarlos, más allá del suceso en sí.

Gabriel González, fiscal delegado de Criminalidad Informática del Ministerio Fiscal en Sevilla, durante el encuentro sobre seguridad CSI Radar, que se celebra esta semana en la capital andaluza, ha planteado: “¿Qué se hace con los retos virales, qué ocurre cuando una persona menor de edad sufre daños por un desafío de delgadez o pasarse un condón por los agujeros de la nariz o quién traga más desodorante?” “Hay que ir viendo si debe estar penado. En el mundo real no es el fabricante de armas el que responde de un asesinato, sino el que lo comete con ella”, advierte.

Ante estos casos, González admite que, “en el ámbito penal, lo que no está en el Código no se puede perseguir por esta vía”. “Hay que ir a base de reformas y las últimas van encaminadas a introducir nuevos delitos que no están configurados como tales o que no encajan perfectamente en la regulación”, sostiene.

Vacío legal

Cecilia Danesi, abogada especializada en responsabilidad en el uso de inteligencia artificial, profesora en varias universidades internacionales y autora de El imperio de los algoritmos (recién publicado por Galerna), coincide con el fiscal en el vacío legislativo actual y apunta que la propuesta europea de inteligencia artificial, dentro de la lista de los riesgos inaceptables, va a prohibir “los sistemas que se utilicen para manipular el comportamiento de las personas”. “Imagine que soy un perverso y quiero que se suiciden niños, para lo que utilizo mis recursos como humano. Pero imagine que, además, utilizo un modelo de inteligencia artificial generativa para que me ayude a llevarlo a cabo y que ese modelo se replique. La viralización de un contenido en redes sociales también implica a los algoritmos porque son los que se encargan de decidir absolutamente todo lo que vemos.”.

En este sentido, Yieng Xie, investigadora de la Universidad de Texas y autora de un trabajo sobre redes sociales, afirma que “las compañías de estas deberían considerar cómo sus políticas de recomendación estimulan la formación de lazos de amistad y aumentan la actividad en el sitio. Por ejemplo, las funciones de sugerencias de Facebook son generadas por algoritmos basados en contenido en el que los usuarios han expresado previamente interés y acciones que han tomado en la plataforma”.

Al igual que el fiscal, Danesi explica que, en el área penal, “la conducta ilícita tiene que cuadrar al 100%. No hay margen a la interpretación”. De esta forma, si no está contemplado en la norma, no se puede perseguir ni juzgar. “En el área civil”, añade, “sí se podría pedir una reparación”.

En el caso de los fallecidos por retos virales, la cuestión es a quién: ¿a la persona que crea el reto o a la plataforma que lo difunde? “La persona que crea el reto”, responde Danesi, “sí es responsable porque su conducta se traduce en un daño a otra persona. El problema principal es el nexo de causalidad. Se puede alegar que al crear el reto nunca se pensó que acabaría en muerte”. La plataforma también tiene su responsabilidad porque, según explica, debe supervisar el contenido que se difunde, pero con los sistemas actuales es imposible el seguimiento de todo lo que se publica y, en especial, según apunta la abogada, cuando el desafío no despierta recelos al comienzo, pero se va haciendo peligroso con el tiempo y es más difícil de detectar.

Por qué se viralizan los retos

Francesc Núñez, sociólogo de las emociones y profesor de Humanidades de la Universitat Oberta de Catalunya (UOC), explica en una información de la institución académica por qué se siguen y viralizan estos retos. “Muchos tienen una dimensión de desafío, ya sea competir contra alguien o contra uno mismo, o conseguir algo que requiere agilidad, inteligencia o destreza. A la dimensión que tiene el reto le añadimos el estímulo personal, de diversión y, también, de proeza”.

Para la profesora de Psicología de la UOC, Mireia Cabero, hay tres grandes razones para que alguien participe en un reto viral: por solidaridad (en el caso de los desafíos para concienciar sobre un problema), la sensación de pertenencia a un colectivo o imitación y el entretenimiento grupal, ya que muchos se deben hacerse en equipo, como es el caso del accidente mortal en Italia.

El problema viene con los retos peligrosos que ponen en riesgo la integridad de una persona o de terceros. “Estos están muy bien construidos, funcionan igual que un juego por etapas”, advierte Silvia Sivera, profesora de los Estudios de Ciencias de la Información y de la Comunicación de la UOC. “Escogen de manera natural un tipo de público, más joven, sobre todo adolescente, que comparte de forma orgánica y de igual a igual los desafíos en sus redes”.

No hay estadísticas sobre estos retos. Un estudio de la Universidad Internacional de La Rioja (UNIR) y la del País Vasco (UPV/EHU), determinó, tras encuestar a 417 menores de tres autonomías, que uno de cada 10 adolescentes españoles reconoce haber realizado retos virales peligrosos.