SambaNova Systems ha presentado un nuevo chip de Inteligencia Artificial capaz de ejecutar modelos con hasta 5 billones de parámetros.
El SN40L está diseñado para entrenamiento e inferencia, pero solo está disponible a través de la plataforma más amplia de la compañía, 'SambaNova Suite', una oferta combinada de software y hardware.
Fabricado por TSMC, SN40L admite una longitud de secuencia de más de 256 k posible en un solo nodo SN40L.
"Hoy en día, SambaNova ofrece la única plataforma completa de LLM [modelo grande de lenguaje] especialmente diseñada, SambaNova Suite, ahora con un chip de inteligencia artificial inteligente; es un punto de inflexión para Global 2000", dijo Rodrigo Liang, cofundador y director ejecutivo de SambaNova Systems.
"Ahora podemos ofrecer estas dos capacidades dentro de un chip (la capacidad de gestionar más memoria, con el núcleo informático más inteligente), lo que permite a las organizaciones capitalizar la promesa de una IA generalizada, con sus propios LLM para rivalizar con GPT4 y más allá".
SambaNova presenta su Suite como una oferta local o basada en la nube para permitir a las empresas entrenar sus propios modelos de IA generativa basados en modelos básicos populares. En junio, el gigante consultor Accenture implementó una suite de tres racks en su centro de datos para el trabajo de IA generativa.
"Hemos empezado a ver una tendencia hacia modelos más pequeños, pero cuanto más grande mejor y los modelos más grandes empezarán a ser más modulares", afirmó Kunle Olukotun, cofundador de SambaNova Systems.
“Los clientes solicitan un LLM con el poder de un modelo de un billón de parámetros como GPT-4, pero también quieren los beneficios de poseer un modelo ajustado a sus datos. Con el nuevo SN40, nuestro chip de IA más avanzado hasta la fecha, integrado en una plataforma LLM de pila completa, brindamos a los clientes la clave para ejecutar los LLM más grandes con mayor rendimiento para entrenamiento e inferencia, sin sacrificar la precisión del modelo”.
Fundada en 2017, SambaNova, con sede en San Francisco, ha recaudado más de mil millones de dólares de inversores como Google Ventures, Intel, SoftBank y el fondo patrimonial de Singapur GIC. El cofundador Christopher Ré fundó anteriormente la empresa de datos Lattice, que fue adquirida por Apple en 2017.