Schlagwort: inference-speed
-
GründernotizenEinen Monat lang habe ich versucht, unsere Coding-Modelle zu ersetzen
Ich habe Open-Weight-Modelle einen Monat lang in unserer Entwicklungspipeline ausprobiert. Grenzen beim Reasoning, Antwortformate und das Verhalten der Anbieter machten den Wechsel aufwendiger als erwartet. Das hier sind Notizen vom Juni, ohne Kosten-Benchmark.
Aktualisiert am
Weiterlesen →