Casi todo el mundo está tratando de obtener una parte de la acción generativa de la IA en estos días. Si bien la mayor parte de la atención se centra en los proveedores de modelos como OpenAI, Anthropic y Cohere, o en las empresas más grandes como Microsoft, Meta, Google y Amazon, de hecho, hay muchas nuevas empresas que intentan atacar el problema de la IA generativa de diversas formas. de maneras.
Fireworks.ai es una de esas startups. Si bien carece del reconocimiento de marca de algunos de estos otros jugadores, cuenta con el modelo de API de código abierto más grande con más de 12.000 usuarios, según la empresa. Ese tipo de tracción del código abierto tiende a atraer la atención de los inversores, y la empresa ha recaudado 25 millones de dólares hasta ahora.
La cofundadora y directora ejecutiva de Fireworks, Lin Qiao, señala que su empresa no está entrenando modelos básicos desde cero, sino que más bien ayuda a ajustar otros modelos a las necesidades particulares de una empresa. “Pueden ser modelos disponibles en el mercado, de código abierto, o los modelos que nosotros ajustamos o los modelos que nuestros clientes pueden ajustar por sí mismos. Las tres variedades se pueden servir a través de la API de nuestro motor de inferencia”, dijo Qiao a TechCrunch.
Al ser una API, los desarrolladores pueden conectarla a su aplicación, capacitar el modelo de su elección en sus datos y agregar capacidades de IA generativa, como hacer preguntas muy rápidamente. Qiao afirma que es rápido, eficiente y produce resultados de alta calidad.
Otra ventaja del enfoque de Firework es que permite a las empresas experimentar con múltiples modelos, algo que es importante en un mercado que cambia rápidamente. “Nuestra filosofía aquí es que queremos capacitar a los usuarios para que iteren y experimenten con múltiples modelos y tengan herramientas efectivas para infundir sus datos en múltiples modelos y probar con un producto”, dijo.
Quizás lo más importante es que mantienen bajos los costos al limitar el tamaño del modelo a entre 7 mil millones y 13 mil millones de tokens, en comparación con más de 1 billón de tokens en ChatGPT4. Si bien eso limita el universo de palabras que el modelo de lenguaje grande puede entender, permite a los desarrolladores centrarse en conjuntos de datos mucho más pequeños y enfocados, diseñados para trabajar con casos de uso empresarial más limitados.
Qiao está excepcionalmente calificado para construir un sistema de este tipo, ya que trabajó anteriormente en Meta, liderando el equipo de desarrollo de la plataforma de IA con el objetivo de construir un motor de desarrollo rápido y escalable para impulsar la IA en todos los productos y servicios de Meta. Pudo aprovechar este conocimiento de su trabajo en Meta y crear una herramienta basada en API que pone ese tipo de poder al alcance de cualquier empresa sin requerir el nivel de recursos de ingeniería de una empresa del tamaño de Meta.
La compañía recaudó 25 millones de dólares en 2022 liderada por Benchmark con la participación de Sequoia Capital e inversores ángeles, incluidos Databricks y Snowflake. Los dos últimos son inversores estratégicos particularmente interesantes, dado que ambos son herramientas de almacenamiento de datos y Fireworks permitirá a los usuarios poner esos datos a trabajar.