Etiquetas: inference-speed

• 

  Intenté igualar nuestros modelos de Anthropic y OpenAI con pesos abiertos. El pipeline importó más.

  Durante un mes intenté igualar nuestro preset propietario — una combinación de modelos de Anthropic y OpenAI — con modelos baratos de pesos abiertos: GLM, Kimi, DeepSeek, Qwen. El producto final salió casi idéntico, porque el pipeline descompone el trabajo en tareas diminutas. Lo que no salió igual fue el precio y la velocidad — y los tokens baratos se los iban comiendo los retries, dejando una brecha real de 5x.

  Leer más →