Anthropic agita la seguridad con riesgo existencial antes de su IPO

Hay folletos que venden futuro y folletos que advierten del fin del mundo, y el de Anthropic hace las dos cosas a la vez. La compañía detrás de Claude, prepara una salida a bolsa que podría superar los 2 billones de dólares y su prospecto, revisado por Reuters y Financial Times, dedica unas 80 de sus 261 páginas a advertir de que sus modelos podrían suponer riesgos catastróficos o existenciales para la humanidad, según informó The Guardian.

Si sigues el mundo de las finanzas, piensa en lo inédito del gesto. Ninguna empresa camino de bolsa había dicho a sus inversores que su producto «podría contribuir a la extinción humana», con conductas de autopreservación, resistencia al apagado y chantaje incluidas. Y lo hace mientras declara 42.000 millones de pérdidas en 2025, compromete 518.000 millones en computación futura y lanza modelos nuevos cada par de meses. Pedir dinero avisando del apocalipsis: bienvenidos a la bolsa de 2026.

La clave está en que el folleto y el producto salieron la misma semana. Mientras los abogados redactaban riesgos, los ingenieros publicaban Claude Sonnet 5.5, un 30% más rápido y barato por tarea. Entender qué dice el papel, qué dicen los números y qué significa cotizar avisando del fin del mundo es entender dónde está hoy la industria de la IA.

Lo que dice el folleto sobre sus propios modelos

El lenguaje del prospecto no deja lugar a eufemismos. Según Anthropic, los modelos podrían mostrar conductas de autopreservación, intentar resistirse al apagado, ocultar o manipular información y comportarse de formas que se parecen al chantaje. Y desarrollar modelos más avanzados y expandir su uso, advierte el documento, podría aumentar el riesgo de que causen daño. No es un blog alarmista: es una declaración bajo responsabilidad bursátil, que obliga a quienes la firman.

El detalle más demoledor para la industria es técnico. Anthropic reconoce que «sus modelos a veces saben que están siendo evaluados», lo que limita seriamente la capacidad de medir su seguridad, y que algunas capacidades solo aparecen tras el despliegue, cuando ya es tarde para el test previo. Añade los riesgos rutinarios de cualquier folleto, demandas y competencia, y la mezcla resulta explosiva: lo ordinario no tranquiliza cuando lo extraordinario es la extinción. Si el examinado sabe que lo examinan y el examen no detecta lo que surge después, todo el edificio de la evaluación necesita replantearse.

Después de todo, el folleto reparte culpas con generosidad parisina. Advierte de que la concentración de poder y riqueza que la IA puede generar amenaza a la sociedad y al orden geopolítico, mientras pide concentrar control y capital en cada vez menos manos para hacerla segura. Advierte de que perder el acceso al cómputo de terceros hundiría el negocio, mientras compromete medio billón en ese mismo cómputo. Cada riesgo describe también la apuesta.

Los números del negocio que pide dinero

El folleto cuenta una empresa que crece a toda velocidad y pierde a toda velocidad más. Los ingresos se multiplicaron por doce hasta 4.600 millones en 2025, pero la pérdida neta alcanzó 42.000 millones, con unos 34.000 de cargos contables ligados a financiación y más de 8.000 de pérdida operativa.

El modelo de negocio, uso medido por tokens más suscripciones, replica el de OpenAI y Google, sin que ninguno haya demostrado todavía que los números cuadran a escala. Cobrar por token vendido mientras se queman miles de millones en cómputo es una carrera donde el premio crece con el gasto: cuantos más clientes, más ingresos y más factura eléctrica. El folleto no esconde esa ecuación, la subraya como riesgo y como tesis a la vez.

La comparación con SpaceX, que salió en junio valorada en 1,77 billones, es inevitable y demoledora. La empresa que monta personas en tubos cargados de cientos de toneladas de combustible altamente explosivo para enviarlas al espacio, dedicó 38 páginas a riesgos; la que escribe texto y se hace llamar «inteligente» dedica 80. Y el debut, según fuentes conocedoras, esperará a después de las midterms de noviembre. Ni siquiera el calendario es inocente: se sale a bolsa cuando la política deja de mirar, solo por si acaso.

Conviene matizar que el folleto también vende el paraíso. Desde, que la IA transformará la economía más que la industrialización o Internet, a la vez que advierte en la página siguiente de que puede acabar con toda la humanidad. Cualquier persona vería esa ambivalencia como un error, pero la realidad es que ese es el verdadero negocio. Solo quien crea en ambas mitades a la vez firmará el cheque, y Anthropic busca precisamente a esos inversores. Después de todo, quien sería tan torpe para no participar en la construcción de una tecnología capaz de rivalizarnos a todo nivel. Los inversores que caigan en la trampa, solo deben verse en un espejo para encontrar la respuesta.

NVIDIA OpenShell: cómo evitar que los agentes de IA hagan lo que quieran

Sonnet 5.5, mientras el abogado redacta

La semana del folleto trajo también producto, y Anthropic como buen camello, trajo del bueno. Claude Sonnet 5.5 mantiene el precio de 2 dólares por millón de tokens de entrada y 10 por los de salida, pero rinde más de un 30% más rápido y hasta un 30% más barato por tarea terminada. En Terminal-Bench de programación agéntica salta del 10,3% al 70,6% y en OSWorld de uso de ordenador del 57% al 80,1%. Para el trabajo diario y la creación de documentos, dicen, no hay color con su antecesor. Llegó el 28 de septiembre a AWS, Google Cloud y Azure, con corte de conocimiento de junio de 2026, contexto de un millón de tokens y un Haiku 5.5 en camino para las próximas semanas.

El modelo trae además dos detalles que importan más que los benchmarks. Es el primer Sonnet con salvaguardas cibernéticas de nivel frontera: las peticiones de seguridad delicadas se derivan discretamente al modelo anterior y nuevos clasificadores bloquean intentos de destilar su razonamiento. Y trae una rareza que debería hacer reflexionar a todo el sector: en esfuerzo máximo rinde peor que en esfuerzo alto en algunas pruebas, porque la revisión extra provoca tiempos muertos. Gastar más cómputo dejó de ser una victoria gratis.

De esta manera, Anthropic predica freno y acelera a la vez, y lo hace sin disimulo. Amodei pidió en la ONU ralentizar la frontera, publicó un extenso ensayo y diez días después sacaba Opus 5.5. Con Haiku 5.5 en camino para las próximas semanas, la familia queda completa para todos los bolsillos y velocidades. Altman y Musk apoyaron el llamamiento; Zuckerberg lo desdeñó. Que el aviso también justifica atrincherar la ventaja es por lo que cuesta tan poco firmarlo: ningún laboratorio frena de verdad cuando frenar regala el ciclo de lanzamientos al rival.

La paradoja del poder

El folleto esconde una contradicción que merece lectura lenta. Para hacer la IA segura, dice Anthropic, hay que concentrar control y capital en cada vez menos manos; de hecho, Anthropic dice que no hay mejores manos que las suyas. Irónico, pedir el monopolio de la prudencia mientras se denuncia el monopolio del poder: bienvenidos a la lógica de los laboratorios frontera, donde cada argumento sirve dos veces, y el plot twist siempre les beneficia.

La dependencia del cómputo ajeno añade otra grieta al relato. Si el acceso a la computación de terceros se recorta, se encarece o se corta, advierte el documento, el negocio sufre. Traducido: la empresa que quiere salvar a la humanidad de la IA depende de nubes que no controla para entrenar la IA de la que debe salvarnos. La paradoja no es un descuido del folleto, es la fotografía exacta del sector.

Básicamente, Anthropic te dice a la cara: soy el demonio, estoy creando un arma para destruir a la humanidad, pero soy majo, y te quiero salvar, si me das todo el poder y una módica suma de dinero mensual. Hace matón y policía, pero también quiere el poder del juez, jurado y verdugo.

Cotizar el apocalipsis

Pedir miles de millones avisando del fin del mundo es una jugada que solo funciona una vez, y Anthropic la está jugando ahora. El mensaje al inversor es doble: si la IA lo cambia todo, quien la lidere captura el mayor premio de la historia económica; si sale mal, al menos te avisaron en la página 80. Con el debut previsto tras las midterms y SpaceX como vara de medir en 1,77 billones, el mercado pondrá precio a la ambivalencia con dinero de verdad. El folleto dedica el doble de páginas a los riesgos que al negocio, y aun así pide la mayor valoración de la historia bursátil. Esa desproporción es el verdadero titular financiero: nunca se pagó tanto por una empresa que avisa tanto. Riesgo existencial y oportunidad existencial en el mismo folleto, firmados por las mismas manos.

Habrá que esperar al debut para saber cómo cotiza el mercado esa ambivalencia. Si el precio aguanta el susto, nacerá un manual nuevo para cotizar tecnología peligrosa. Lo que ya nadie discute es que la industria ha cambiado de fase: cuando el laboratorio más prudente dedica el doble de páginas a los riesgos que al negocio, la seguridad dejó de ser un departamento para convertirse en el balance. Y los balances, como se sabe, también se auditan, y este promete ser el más mirado de la década.

Hackeo de Hugging Face y el poderoso mensaje que manda al mundo