Operar quinientas cuentas electrónicas con identidades inventadas no supone ejercer quinientas veces la libertad de expresión. La ejerce una vez y usurpa 499 veces la de nadie, simulando la relevancia pública de un asunto sin que se corresponda con la realidad y alterando, en consecuencia, el debate público. El problema no está en lo que dice sino en la alteración del debate, incluyendo en la agenda pública un tema y en unas condiciones que no se corresponden con la realidad.
Es un comportamiento que refleja la inadecuación de la legislación a la era de la digitalización y las formas de incidir en el debate público.
Cómo funcionan las granjas de bots.
En el imaginario colectivo, una granja de bots es, siguiendo alguna imagen que se vio hace años en los medios de comunicación, una habitación llena de teléfonos móviles apilados. Esa es hoy la versión artesanal y antigua del negocio. Hoy se hace con un puñado de servidores en la nube, un conjunto de cuentas compradas y una línea de automatización. Una inversión limitada que tiene unos réditos reputacionales considerables.
El objetivo no es, en realidad, convencer a nadie; lo que también cambia las reglas de juego. Al contrario, sirve para manipular los algoritmos de recomendación y, en consecuencia, alteran aquello a lo que se presta atención. Es un mecanismo simple. Veinte cuentas coordinadas publican el mensaje y otras quinientas lo republican; con lo que entra en tendencias y, con ello, es amplificado por personas reales que creen participar en una conversación espontánea. Es una forma de crear un consenso inexistente.
Sirve para cualquier cosa que necesite respaldo o reputación: un producto, un servicio, una empresa, una persona, una candidatura política. Si se analiza el impacto político, hay un factor que es preciso tener en cuenta: estas operaciones pueden tener un efecto de destrucción del oponente, más que de apoyo a un partido o candidato identificado.
Existe un mercado con proveedores conocidos. En 2023, una investigación periodística internacional dio a conocer a Team Jorge, una organización dirigida desde Israel que decía haber intervenido en decenas de procesos electorales y que gestionaba miles de avatares con identidad completa, correo, tarjeta y antigüedad en las redes.
Del bot al enjambre: las consecuencias de la Inteligencia Artificial
Todo esto empieza a ser historia antigua, aplicando mecanismos derivados de la Inteligencia Artificial. Y es que la tecnología ha permitido dar un paso más.
A comienzos de este año, se publicó en la revista Science un artículo firmado por un grupo de investigadores que ponía en alerta sobre lo que denominan enjambres maliciosos de inteligencia artificial. Es un salto cualitativo.
Mientras que el bot repite los mensajes en el enjambre se construyen. El enjambre mantiene identidades persistentes, con memoria, coordina objetivos comunes variando el argumento de cada cuenta gestionada, ajusta el mensaje en función de la respuesta que se recibe. La supervisión humana es mucho menor que en el caso de los bots.
Lo que hace que la detección sea mucho más compleja: el bot se detecta más fácilmente por su sincronía y por la repetición del mensaje. El enjambre es mucho más sofisticado, ya que redacta cada mensaje como si fuera nuevo, le da un ritmo diferente; es capaz de ejecutar micropruebas para examinar el efecto. Con ello, el enjambre pasa bajo el radar de los grupos de moderación y participa de forma permanente en el debate público. No es un actor de campaña sino uno estable.
Los autores del artículo de Science recuerdan, además, la función que pueden cumplir en el entrenamiento del sistema, con lo que el discurso y su forma acaban incorporados a la siguiente versión del modelo.
Un riesgo actual
Los enjambres no se deben ver como un riesgo futuro, sino presente. Hay países en los que han ocurrido estos fenómenos de campañas masivas de bots y enjambres, en los que se han iniciado procedimientos legislativos para su castigo.
En Chile se ha presentado un proyecto que modifica la Ley 21.459 de delitos informáticos para tipificar el uso coordinado de redes de cuentas automatizadas, con penas de quinientos cuarenta y un días a cinco años. En Perú se registró ya un proyecto para sancionar penalmente la manipulación electoral mediante granjas de bots. En Brasil se tramita otro que criminaliza los deepfakes electorales con penas de dos a seis años.
Ahora bien, una cosa es regular y otra bien distinta es que sea eficaz.
El Tribunal Superior Electoral brasileño, en el artículo 9º-C de su Resolución 23.610/2019, requiere la confluencia de tres elementos para que se considere ilícito: i) que el hecho sea falso o gravemente descontextualizado, ii) que exista potencial lesivo acreditado y iii) que el conjunto sea calificable como propaganda electoral. Más aún, el propio Tribunal ha añadido que su intervención debe ser mínima y excepcional, y ha desestimado demandas en las que el material difundido reproducía una noticia publicada en la prensa sin descontextualización que subvirtiera su sentido. Por así decirlo, hay un desistimiento de la función de protección de la democracia.
En efecto, si aplicamos este sistema al procedimiento de los enjambres, veremos que no se castiga a nadie. Se podría decir que quien ha simulado un consenso no comete infracción alguna, a pesar de que el impacto de los falsos consensos es mucho mayor que el de la publicidad electoral fuera de plazo.
Por ello, podemos afirmar que la normativa no está adaptada a estos problemas, que se van a incrementar cada vez más y sólo se encuentran resquicios en algunas disposiciones sectoriales. El ejemplo de Cambridge Analytica y su participación en el proceso electoral es claro: sólo se le pudo castigar por la normativa de protección de datos y protección de consumidores.
Hay que adoptar un planteamiento diferente a la hora de analizar la simulación de la pluralidad.
Qué bien jurídico se lesiona
El problema al que hacemos frente es la garantía de la integridad del proceso de formación de la voluntad colectiva. O, dicho de otro modo, hay que garantizar que, al igual que una persona tiene un voto, una persona tiene una única voz. Es lo que garantiza la integridad del sistema.
Nótese bien: la garantía contra la simulación no elimina ninguna voluntad ni ninguna capacidad de ejercicio de la libertad de expresión. De ahí que la medida carezca de efecto silenciador.
Puede pensarse que es un planteamiento novedoso, aunque no es así.
En el ordenamiento jurídico, se castigan, por ejemplo, las reseñas ficticias de hoteles, la manipulación de mercado para simular un interés bursátil (incluso aunque el manipulador pueda perder dinero) o la manipulación de avales en un proceso electoral.
La calificación jurídica
Si se crean 500 cuentas con identidades inventadas ¿se está vulnerando algún precepto del Código penal? La realidad es que no. Desde la derogación del artículo 322 del Código penal de 1973, que castigaba el uso público de nombre supuesto no existe ningún tipo penal que recoja una conducta como la que es objeto de este artículo. Posiblemente se consideró anacrónico, aunque hoy parece que habría que reconstruirlo a los ojos de la inteligencia artificial y la computación en la nube.
Una regulación similar está recogida en el artículo 494 del Código penal italiano (que los tribunales han aplicado a los perfiles falsos en redes sociales cuando suplantan a una persona real, con una pena que no pasa del año) o en la BOT (Bolstering Online Transparency) Act de California, de 2018, que obliga a revelar la condición de bot cuando se comunica con alguien para influir en una venta o en un voto.
El artículo 50.4 del Reglamento de Inteligencia Artificial camina en la misma dirección para el contenido sintético
La prueba, que es lo difícil
Posiblemente, lo más complicado no estriba en la hipotética definición del tipo sancionable, sino la prueba necesaria para la condena ya sea penal o administrativa. Chocamos con dos tipos de problemas:
Por un lado, tomado aisladamente, cada uno de los elementos de la conducta puede ser conforme a derecho. La ilegalidad radica en el conjunto, de tal manera que se ha de construir el tipo sobre el conjunto y sobre la apariencia deliberada.
Esto obliga a importar elementos de otros sectores del ordenamiento, por ejemplo, del Derecho de la competencia, donde no se exige la prueba directa del acuerdo, sino que se trabaja con indicios objetivos y presunciones, que admiten la prueba en contrario.
Por el otro, en los comportamientos derivados de los enjambres, la mayor parte de los datos reposan en el servidor de una empresa extranjera: registro, sesión, dispositivo y medio de pago. Esto obliga a una estructuración diferente y muy compleja de la inspección en donde habría que utilizar medios intermedios, no siempre eficaces.
El operador que se muda
Supongamos resuelto el problema de la prueba y bien tipificada la infracción. Nada impide al operador desmontar la granja e instalarla en un tercer Estado donde la conducta es lícita, y seguir trabajando allí en su alteración del consenso. Será lo habitual.
Nuestro Derecho resuelve la cuestión de la ley aplicable con el criterio del efecto: el Reglamento de Inteligencia Artificial se aplica cuando el resultado se utiliza en la Unión, y el Reglamento de Servicios Digitales cuando el servicio se dirige a destinatarios europeos. Lo que falla es la ejecución, cuando el operador y todos sus medios están fuera del territorio afectado.
El destinatario eficaz de la norma hay que cambiarlo y las obligaciones deben recaer, entonces, sobre quienes sí están dentro: la plataforma que aloja las cuentas está sometida al Reglamento de Servicios Digitales y el proveedor de nube y el intermediario de pagos tienen establecimiento o clientela europea. Ser una infraestructura básica también supone asumir obligaciones de interés general.
Quién decidiría sobre las infracciones
El problema radica en que a través de los enjambres se está modificando la opinión pública en procesos electorales y en otros ámbitos reputacionales. No estamos ante mecanismos de Derecho de la competencia, aunque la conducta de los enjambres pueda tener impacto competitivo en los ámbitos no políticos.
Por ello, atribuirlo a la Comisión Nacional de los Mercados y la Competencia, aunque actúe como Coordinador de Servicios Digitales, sitúa la decisión sobre la integridad del proceso político en una institución de cultura económica. Frente a este problema habría que atribuir los problemas en el ámbito político, generados por los enjambres, a la Junta Electoral, que debería, para ello cambiar la estructura del personal de apoyo, dotándole de personas de inspección y de peritaje.
Conclusiones
El camino que se ha recorrido muestra las dificultades que tiene en la actualidad la lucha contra lo que se podría denominar el consenso fabricado a través de granjas de bots y cómo se produce la falsificación de la pluralidad. El problema deriva de la inadaptación de la normativa a los nuevos retos que está haciendo aparecer la digitalización.
Por ello, habría que progresar en cuatro ámbitos: a) un tipo que castigue la simulación de pluralidad; b) la prueba por indicios con acceso a los datos de las plataformas; c) las obligaciones sobre los intermediarios establecidos en la Unión; y d) el reparto de funciones entre el Coordinador y la Junta Electoral Central.
Llevamos dos siglos discutiendo cómo contar bien los votos y apenas hemos empezado a preguntarnos cómo contar las voces, a pesar del impacto político, social y económico que tienen.