La semana después de que el gobierno de Estados Unidos aprobara un plan para invertir medio billón de dólares en la construcción de la infraestructura informática más poderosa del mundo, los precios de las acciones tecnológicas se han desplomado.
Esto se debe a que una pequeña empresa en China ha demostrado que podría haber otro camino, y ha aterrorizado a los defensores más acérrimos de la IA.
Mientras la tecnología estadounidense está atrapada en una guerra por la computación y por quién puede implementar el centro de datos más grande, DeepSeek de China ha lanzado un chatbot R1 barato que parece ser tan bueno como los últimos modelos o1 de OpenAI.
El modelo DeepSeek-V3 de código abierto de la empresa se construyó sobre una base de entrenamiento que costó 5,6 millones de dólares (aunque hay muchas salvedades que analizaremos) y se utilizó un hardware inferior a las implementaciones estadounidenses.
Debido a las sanciones, DeepSeek afirma haber utilizado 2.048 GPU H800, la versión exclusiva para China del H100, que tiene el 50 por ciento de la tasa de transferencia. Los documentos publicados por la empresa muestran que también tiene 10.000 GPU A100.
Esto, de ser cierto, trastoca la actual filosofía de Silicon Valley de construir centros de datos cada vez más grandes y costosos, y plantea la pregunta de cuán necesario es invertir 500 mil millones de dólares en Stargate y cientos de miles de millones más en centros de datos, chips y equipos de red.
Como siempre, la situación tiene más matices. Incluso si DeepSeek dice la verdad, la realidad es que el modelo no costó 5,6 millones de dólares, sino solo el coste de la ejecución final. La creación de modelos requiere mucha iteración y experimentación, a veces con diferentes clústeres ejecutándose simultáneamente, por lo que es probable que el coste total sea mucho mayor. La cifra de 5,6 millones de dólares también se basa en un precio de alquiler de la nube supuesto, cuando se cree que DeepSeek utiliza sus propios sistemas.
Mientras tanto, los críticos y escépticos de DeepSeek están convencidos de que la compañía está mintiendo sobre sus capacidades computacionales y ocultando un clúster H100 más grande que introdujo de contrabando en China.
Dylan Patel, el respetado analista de SemiAnalysis, afirma que la empresa tiene un clúster H100 de 50.000 GPU, una cifra que también afirma el director ejecutivo de Scale AI, Alexandr Wang. Eso costaría miles de millones, sin tener en cuenta los costes del mercado negro, lo que elevaría mucho los costes del proyecto.
Sin embargo, ninguno de los dos ha aportado pruebas de tales afirmaciones. La existencia de un clúster de este tipo tampoco significa necesariamente que se haya utilizado para estos modelos: la empresa matriz High-Flyer inicialmente diseñó su sistema de cómputo para el trabajo cuantitativo de los fondos de cobertura. Dado que la empresa gestiona 8.000 millones de dólares en activos, no hay señales de que haya trasladado por completo su cartera a los LLM.
Una tercera versión de los hechos podría ser que se entrenó un modelo más grande en un clúster H100 oculto y luego, a través del proceso de destilación, se desarrolló un modelo más pequeño para el sistema H800.
El científico jefe de IA de Meta, Yann LeCun, tiene otra sugerencia sobre cómo los modelos terminaron siendo tan baratos: los beneficios del código abierto, que alguna vez fue fundamental para la misión de OpenAI, pero que ahora ha sido descartado hace mucho tiempo.
DeepSeek "se ha beneficiado de la investigación abierta y del código abierto", afirmó LeCun. "Se les ocurrieron nuevas ideas y las desarrollaron a partir del trabajo de otras personas. Como su trabajo está publicado y es de código abierto, todo el mundo puede beneficiarse de él".
Independientemente de si DeepSeek utilizó más recursos informáticos de los que afirmaba o no, es casi seguro que utilizó menos que sus rivales estadounidenses. Sus esfuerzos parecen deberse al viejo dicho de que la necesidad es la madre de todos los inventos. Las sanciones y una creciente hostilidad hacia China han obligado a los desarrolladores del país a centrarse en la optimización.
Si bien Sam Altman siempre puede recaudar otros mil millones y construir otro centro de datos, lo que hace que OpenAI se centre en la escala, DeepSeek y otros desarrolladores chinos han tenido que aprender a aprovechar al máximo lo que tenían.
Esta es, al menos, la percepción que se tiene. Esto ha trastocado por completo la narrativa actual de la IA generativa: si nos dan suficiente dinero, computación, datos y tiempo, crearemos una inteligencia sin precedentes.
Todo este concepto se basa en una promesa: que sólo unas cuantas mentes brillantes reunidas en el área de San Francisco serán capaces de crear algo que valga incontables billones de dólares.
Microsoft ya ha demostrado que no está seguro y ha decidido no participar en la financiación de Stargate. Nvidia ya está cubriendo sus apuestas, impulsando el uso de GPU para cargas de trabajo de CPU tradicionales y promocionando la robótica como el próximo gran avance.
Bien podría ser que el modelo de Silicon Valley sea correcto, que si se permite, se imponga el gasto y la construcción de más, pero estas empresas sólo podrán hacerlo si los inversores están dispuestos a asumir la costosa apuesta.
Ganarlos se ha vuelto mucho más difícil, lo que podría provocar que la financiación se agote y el impulso disminuya, el asesino definitivo de cualquier ola de publicidad.
Para que una burbuja perdure y se transforme en un modelo de negocio sostenible, los inversores deben ser apaciguados por una interminable oleada de anuncios y promesas. Todo el edificio debe sentirse constantemente al borde de alcanzar la tierra prometida, y cualquier dato que demuestre lo contrario puede hacer que todo se desmorone rápidamente.
Las dudas sobre la viabilidad del modelo de negocio de la IA generativa son anteriores a DeepSeek, pero su aparición como un competidor viable y asequible ha permitido que esas preocupaciones salgan a la luz.
Es de esperar que OpenAI y otros que impulsan el modelo "construirlo en grande" incrementen sus promesas en los próximos días y semanas para contrarrestar esta narrativa.
Probablemente señalarán la paradoja de Jevons: una mayor eficiencia en el uso de los recursos puede llevar a un mayor consumo de los mismos. Argumentarán que también son eficientes, pero preguntarán: si alguien puede hacer eso con GPU limitadas a 2k, ¿Imagínense lo que podemos hacer con un millón de GPU más potentes?
La pregunta, sin embargo, es si la comunidad inversora les dará tiempo para demostrarlo o si la era dorada está llegando a su fin.
Comments