El sábado pasado ocurrió algo sin precedente en la historia de la tecnología: los dueños de la fábrica pidieron que se frenara la máquina.
Dario Amodei, director de Anthropic, publicó un ensayo titulado “Debemos moderar el avance de la frontera”. Sam Altman, de OpenAI, coincidió. Elon Musk también. El lunes el mercado respondió como responde el dinero cuando se asusta: Nvidia cayó más de tres por ciento, AMD casi seis, SoftBank llegó a perder trece. Miles de millones se evaporaron porque tres hombres escribieron que tal vez vamos demasiado rápido.
Conviene entender qué los asustó, porque no es ciencia ficción.
En julio, un enjambre de hasta mil doscientos agentes de inteligencia artificial escapó de un entorno de prueba y ejecutó ciberataques que nadie les había ordenado. No fueron programados para eso. Lo decidieron ellos, fuera de la tarea que se les había asignado.
De ahí sale la advertencia. Amodei calcula que en un plazo de seis a doce meses una red de agentes similares podría tomar el control de buena parte de internet mediante una botnet persistente, con daños de cientos de miles de millones de dólares. Entre los riesgos que enumera están la pérdida de control de los sistemas, los ciberataques, el bioterrorismo y las crisis económicas.
Su preocupación de fondo tiene nombre técnico: automejora recursiva. Sistemas de inteligencia artificial que participan en construir la siguiente generación de sí mismos. Escribió que, sin restricciones, eso arriesga avanzar más allá de nuestra capacidad de entenderlo o de gobernarlo.
Entender o gobernar. Léalo otra vez.
No estamos discutiendo si la tecnología nos quita empleos. Estamos discutiendo si podemos comprender lo que construimos. Es una herramienta de potencial casi ilimitado va a transformar la medicina, la educación, la productividad de países enteros y al mismo tiempo nadie sabe con precisión cómo funciona por dentro. Esa combinación no tiene antecedente histórico. La energía nuclear era peligrosa, pero era comprensible.
Y aquí está lo que más debería inquietarnos a quienes nos dedicamos a lo público.
Un ensayo escrito por un particular movió los mercados del planeta entero en cuarenta y ocho horas. Ningún parlamento del mundo tiene hoy esa capacidad. Ningún gobierno la tiene. Y los riesgos que ese ensayo describe —ataques a infraestructura crítica, bioterrorismo, colapso económico— son exactamente aquello para lo que existe el Estado.
Pero cuidado con la lectura fácil. No es que las empresas tengan más poder que los Estados. Es que los Estados llevan años renunciando a su responsabilidad.
Amodei no está presumiendo fuerza: está admitiendo un límite. Dice con todas sus letras que frenar por su cuenta no sirve de nada si los demás siguen corriendo. Pide acuerdos verificables entre países, control sobre el acceso a los chips más avanzados, y supervisores independientes con oficina dentro de su propia empresa, con permiso para publicar lo que encuentren aunque a la empresa no le guste. Y que quede claro: no pido un Estado más grande. Pido un Estado que haga lo único que nadie más puede hacer, que es poner reglas y hacerlas cumplir.
O sea: el dueño de la fábrica está pidiendo públicamente que alguien lo vigile. Cuando eso ocurre, el problema no es su poder. Es nuestra ausencia.
No todos lo leen así. China calificó las advertencias de alarmismo y acusó que buscan retratar su desarrollo tecnológico como una amenaza. Donald Trump las llamó una conspiración y sostuvo que la única supervisión necesaria es un presidente fuerte. Ahí está el dilema completo: quien puede frenar no quiere, y quien quiere frenar no puede solo.
Mientras tanto, los que sí han intentado legislar avanzan a tientas. Europa aprobó la regulación más ambiciosa del planeta y acaba de aplazar hasta diciembre de 2027 buena parte de sus obligaciones, porque descubrió que no tenía capacidad técnica para aplicarlas. Colorado retrasó su ley para renegociarla. California recortó la suya. México acumula decenas de iniciativas detenidas en comisiones, sin ley general.
Nadie sabe hacer esto bien todavía. Y esa es precisamente la razón para hacerlo despacio, no la excusa para no hacerlo.
San Luis Potosí ya pagó por confundir ambas cosas. En noviembre se aprobó en el Código Penal, con un trámite de entre diez y doce días, un capítulo sobre “uso indebido de inteligencia artificial para provocar alarma social”. Entre mayo y junio hubo órdenes de aprehensión contra periodistas y creadores de contenido; Artículo 19 documentó al menos dieciséis comunicadores y activistas perseguidos judicialmente en el último mes de vigencia. La CNDH acudió a la Suprema Corte señalando que la norma carecía de técnica legislativa y violaba los principios de certeza y taxatividad. El 30 de julio el Congreso la derogó por unanimidad.
Ahora viene la segunda oportunidad: hay parlamento abierto, un foro este mes y una nueva ley anunciada para este año. Que esta vez se regulen usos concretos y no palabras elásticas. Que no se meta al Código Penal lo que se resuelve por la vía civil. Y que esté en la mesa la generación que vivirá treinta años bajo esa norma, no solo quienes la van a firmar.
Allá afuera, los que construyeron esta tecnología están pidiendo tiempo para entender lo que hicieron.
Aquí tuvimos doce días.
✍️ Martín Zacarías Ramírez Ramos
Secretario Estatal de Acción Juvenil del PAN en San Luis Potosí
