Entre los profesionales de la ciberseguridad, el buen humor escasea. Según Alex Kantrowitz, en la newsletter Big Technology, quienes trabajan en el sector están agotados y desanimados, hasta el punto de haber bautizado el último mes como "Black October". El motivo: las vulnerabilidades detectadas por IA surgieron a un ritmo sin precedentes, más rápido de lo que muchos podían parchear.
Para el autor, es lo que ocurre cuando una tecnología mucho más potente que las anteriores se suelta en una sociedad cuyas defensas se construyeron para otra época. Protecciones que parecían sólidas ahora parecen vulnerables y, para mucha gente del sector, una gran catástrofe impulsada por la IA se ha convertido en una cuestión de cuándo, no de si.
El texto hace una distinción importante. El ataque a Hugging Face atribuido a OpenAI captó la atención del mundo porque recordaba a la ciencia ficción de una IA que se rebela y comete delitos. Kantrowitz, sin embargo, considera más probable otro guion: personas que usan la IA para provocar el caos, ya sea con un ataque informático catastrófico, con la creación de un nuevo patógeno o con una guerra iniciada a partir de una señal manipulada por IA.
La ciberseguridad es, a juicio del autor, el frente más preocupante, ya que las herramientas de programación con IA han llegado a manos de delincuentes. Los ejemplos citados son concretos. Un joven de 26 años habría atacado varios bancos de Corea del Sur con una herramienta de código abierto desarrollada en China y Claude Code. Otro grupo usó modelos de Anthropic, SpaceX y Moonshot AI contra más de 400 objetivos financieros en América Latina, obteniendo contraseñas, claves de API y puertas traseras. Un tercero recurrió a la tecnología de Anthropic para atacar instituciones gubernamentales y fabricantes de productos químicos antes de ser descubierto.
Ninguno de estos ataques ha derribado una institución fundamental. Pero, con las capacidades de programación avanzando a un ritmo vertiginoso y difundiéndose mediante el código abierto, Kantrowitz no cree prudente apostar a que nunca ocurrirá.
El riesgo militar aparece en el texto con un episodio inquietante. Un informe del mes anterior, poco atendido según el autor, relata que tropas estadounidenses armadas estuvieron a punto de abordar un buque chino, con aviones militares en el aire. La operación se canceló en el último segundo, cuando los militares se dieron cuenta de que actuaban basándose en una respuesta incorrecta de un chatbot. Más allá del descuido, Kantrowitz advierte de que actores malintencionados podrían simular ataques o activar defensas capaces de llevar a varios países a intercambiar disparos.
En el ámbito biológico, el autor reconoce que fabricar un arma con ayuda de la IA es difícil, porque exige un laboratorio y ciertos conocimientos técnicos. Aun así, cita un informe reciente de Anthropic según el cual un científico usó Claude para planificar investigaciones que podrían introducir mutaciones en el virus de la gripe aviar y hacerlo más transmisible.
La paradoja, para Kantrowitz, es que buena parte de lo que se sabe sobre estos riesgos procede de los propios laboratorios de IA, elogiados por su transparencia. Aun así, las promesas de controlar el ritmo de la frontera tecnológica se han quedado, en gran medida, en papel mojado: ha habido algunos retrasos breves, pero todos siguen corriendo, sin voluntad aparente de coordinar una estrategia colectiva más segura. El subtítulo del texto resume la crítica: "Primero llegará el desastre y después la acción para prevenirlo." En opinión del autor, quizá el mundo necesite vivir una catástrofe para despertar, y ver venir el peligro solo para contemplar cómo ocurre es algo que probablemente se recordará con perplejidad.