El CEO de Tesla, Elon Musk, ha informado que la compañía gastará más de mil millones de dólares durante el próximo año en su supercomputadora Dojo.
La supercomputadora utiliza la arquitectura de chip Dojo D1 personalizada diseñada por la compañía automotriz para entrenar sistemas de vehículos autónomos.
"Durante el próximo año, se invertirán más de mil millones en Dojo", dijo Musk en una llamada de ganancias. "Tenemos una cantidad realmente asombrosa de datos de video para entrenar. Y esto es otra cosa: para copiarnos, también deberán gastar miles de millones de dólares en cómputo de entrenamiento".
"Dojo está siendo diseñado para optimizar para el entrenamiento en video. No está optimizado para IA generativa.", agregó.
En la llamada, el director financiero de Tesla, Zachary Kirkhorn, aclaró más tarde que la inversión de mil millones de dólares incluirá costos de investigación y desarrollo, por lo que podría incluir I+D de chips, así como gastos en centros de datos. Cuando Tesla comenzó a instalar Dojo el año pasado, afirmó que creó una unidad de distribución de refrigeración diseñada totalmente a la medida para soportar densidades de más de 200kW por gabinete. Esos armarios, decía, también eran personalizados.
En ese momento, la compañía dijo que Dojo contaría con alrededor de 3000 chips D1 personalizados, para un total de 1,1 exaflops (BF16/CFP8) de rendimiento.
Junto con Dojo, se sabe que Tesla tiene una huella de GPU significativa: a partir de 2021 tenía 10.000 GPU en tres clústeres de HPC, y Musk dijo que ese número solo crecerá. "Usaremos el hardware de Nvidia tan rápido como Nvidia nos lo entregue", dijo. "Un gran respeto por Jensen [Huang, CEO y fundador] y Nvidia. Han hecho un trabajo increíble.
Entre las implementaciones de Dojo y GPU, Musk afirmó que la compañía "puede alcanzar una capacidad de entrenamiento de red neuronal interna de 100 exaflops para fines del próximo año". El punto de referencia utilizado para hacer esa afirmación no ha sido compartido. Musk tiene un historial de prometer grandes objetivos y no cumplirlos, por lo que el pronunciamiento debe tomarse con cautela.
En el pasado, Musk dijo que podría ofrecer Dojo a otras empresas como un recurso en la nube, pero aún no lo ha hecho.
Al mismo tiempo, Musk adquirió alrededor de 10 000 GPU para Twitter (rebautizadas como X Corp) y lanzó una nueva empresa de inteligencia artificial (conocida como X.AI), que requerirá recursos sustanciales de GPU.