Vivimos rodeados de intermediarios. Plataformas que deciden qué información aparece frente a nosotros, algoritmos que ordenan conversaciones, sistemas que administran procesos y tecnologías a las que confiamos cada vez más decisiones que antes dependían exclusivamente de personas e instituciones. Lo hacemos porque nos permiten alcanzar dimensiones que serían imposibles de otra manera y porque, bien utilizadas, amplían extraordinariamente nuestras capacidades. El problema comienza cuando esa intermediación también nos permite construir una cómoda distancia frente a las consecuencias y, cuando algo falla, descubrimos que todos participaron, pero nadie parece dispuesto a responder.
Durante las últimas semanas esa pregunta ha aparecido en dos discusiones aparentemente distintas. Por un lado, el ejercicio de Derecho de Réplica presentado desde la Consejería Jurídica del Ejecutivo Federal para explicar cómo determinadas narrativas se originan y amplifican en redes sociales; por el otro, las investigaciones alrededor del examen de admisión a distancia de la UNAM y la infraestructura tecnológica proporcionada por Territorium. No pretendo equiparar ambos casos, porque sus circunstancias y consecuencias son completamente diferentes, pero sí utilizarlos para formular una misma pregunta: cuando delegamos una función en una plataforma, ¿delegamos también nuestra responsabilidad sobre aquello que ocurre en ella?
El análisis presentado desde Derecho de Réplica identificó cuentas, comportamientos y distintas capas de difusión hasta llegar a cientos de miles de perfiles asociados a la propagación de determinados mensajes. El Estado tiene derecho a estudiar cómo circula la información y también a responder cuando considera que una versión es falsa, incompleta o descontextualizada; particularmente en una época en la que distinguir una conversación espontánea de una amplificación artificial resulta cada vez más difícil. Sin embargo, mientras observaba aquella representación regresé a una pregunta que dejamos pendiente hace unas semanas, cuando San Luis Potosí decidió derogar las disposiciones con las que había intentado responder penalmente a algunos riesgos derivados del uso de inteligencia artificial: ¿dónde quedó la plataforma?
Porque una narrativa puede comenzar en un periodista, un medio, un político o cualquier ciudadano; después puede ser retomada, deformada o magnificada por cuentas auténticas y automatizadas, pero nada de ello ocurre en el vacío. Existe una infraestructura que recibe esos contenidos, observa nuestras reacciones, determina su visibilidad y decide cuáles tienen mayores posibilidades de aparecer nuevamente frente a nosotros. Las plataformas no necesariamente producen aquello que circula en ellas y responsabilizarlas por cada palabra sería tan absurdo como peligroso para la libertad de expresión, pero tampoco son simples espectadores: diseñaron el piso sobre el que ocurre la conversación y buena parte de las reglas que determinan su alcance.
Ahí quizá exista una oportunidad mucho más importante que elaborar listas de quienes originan o reproducen determinadas narrativas. Si el Estado mexicano ha desarrollado la capacidad para identificar quién publica, quién replica, qué cuentas magnifican y cómo un mensaje termina adquiriendo dimensiones muy distintas de aquellas con las que comenzó, también podría dirigir parte de esa capacidad hacia la responsabilidad del distribuidor. No para convertir a las plataformas en árbitros de la verdad ni para entregarles la facultad de decidir qué podemos decir, sino para exigirles transparencia sobre aquello que verdaderamente les pertenece: la arquitectura que administran, sus mecanismos de recomendación, la identificación de comportamientos automatizados y las condiciones mediante las cuales determinados contenidos adquieren una capacidad extraordinaria de propagación.
Aquella discusión legislativa sobre inteligencia artificial dejó precisamente abierta la posibilidad de construir algo mejor. Academia, sociedad, empresas y gobierno tienen ahora la oportunidad de pensar una regulación que no se limite a perseguir al último eslabón visible de una cadena, sino que distribuya responsabilidades de acuerdo con la capacidad real que cada actor tiene para intervenir en ella. El usuario deberá responder por aquello que publica; el periodista, por el rigor con el que informa; el Estado, por el poder con el que replica y señala; y las plataformas, por la arquitectura tecnológica que diseñan, administran y de la que también obtienen beneficios.
La pregunta cambia de escenario cuando observamos lo ocurrido con el examen de admisión de la UNAM, pero no necesariamente de fondo. Las investigaciones deberán determinar qué sucedió con Territorium, cuáles fueron las vulnerabilidades y dónde estuvieron las responsabilidades. Anticipar esas conclusiones sería cometer precisamente el error que estamos intentando analizar. Lo que sí podemos preguntarnos desde ahora es qué sucede cuando una institución encomienda a un tercero la infraestructura mediante la cual ejerce una de sus responsabilidades.
Durante años hemos confundido digitalización con modernización. Trasladamos trámites, clases, evaluaciones y certificaciones a una pantalla convencidos de que cambiar el medio representaba, por sí mismo, transformar el proceso. Sin embargo, una plataforma puede administrar miles de exámenes simultáneamente, incorporar mecanismos sofisticados de supervisión y procesar enormes cantidades de información sin responder la pregunta fundamental de qué estamos evaluando y por qué decidimos hacerlo de esa manera. La tecnología puede ejecutar una decisión con enorme eficiencia; no puede sustituir el criterio con el que esa decisión fue concebida.
Tampoco puede absorber la responsabilidad de la institución que decidió utilizarla. Si una universidad encomienda a un proveedor la operación tecnológica de un proceso, el proveedor deberá responder por aquello que contractualmente le corresponda y las investigaciones determinarán si cumplió con ello; pero la responsabilidad institucional sobre el proceso no desaparece porque exista un intermediario. Exactamente por eso resulta tan importante investigar antes de señalar y corregir antes de concluir que la tecnología misma fue el problema.
Porque regresar simplemente al modelo anterior también puede convertirse en otra forma de evitar la pregunta. Si una herramienta falla, debemos entender por qué falló; si una implementación fue incorrecta, corregirla; si el modelo de evaluación dejó de ser pertinente, atrevernos a transformarlo. Lo que no deberíamos hacer es utilizar una experiencia problemática para concluir que innovar fue el error, del mismo modo que tampoco deberíamos utilizar la innovación como argumento para dejar de exigir responsabilidades.
Quizá ésa sea una de las contradicciones de nuestro tiempo. Hemos construido intermediarios extraordinariamente poderosos para distribuir información, administrar procesos y ampliar nuestras capacidades, pero todavía estamos aprendiendo a distribuir correctamente las responsabilidades que nacen de utilizarlos. Cuando todo funciona, celebramos la eficiencia de la tecnología; cuando algo falla, comenzamos a recorrer la cadena buscando a quién corresponde responder.
Tal vez deberíamos hacerlo al revés.
Preguntarnos quién responderá antes de delegar, qué responsabilidad conserva cada actor y qué parte jamás podrá transferirse, por sofisticada que sea la herramienta que coloquemos entre nosotros y la decisión. Porque una plataforma puede distribuir un mensaje y otra puede ejecutar un examen; pueden hacerlo mejor, más rápido y a una escala imposible para nosotros. Lo único que no pueden hacer es liberarnos de las consecuencias de haber decidido utilizarlas.
Delegar una función nunca debería significar delegar la responsabilidad.
Si no cambió, no fue pensado.
✍️Néstor Eduardo Garza Álvarez
Maestro en Derecho Internacional y Administración Pública
