Etiqueta: inference-speed
-
Cuaderno del fundadorPasé un mes intentando sustituir los modelos que escriben nuestro código
Durante un mes probé modelos de pesos abiertos en nuestro pipeline de desarrollo. Los límites de razonamiento, los formatos de respuesta y el comportamiento de los proveedores hicieron que el cambio diera más trabajo del que esperaba. Son notas de junio, sin benchmark de costes.
Actualizado el
Leer más →