Тег: inference-speed
-
Записки основателяЯ месяц пытался заменить модели, которые пишут нам код
Месяц я пробовал модели с открытыми весами в нашем конвейере разработки. Из-за лимитов на рассуждения, форматов ответов и поведения провайдеров переход потребовал больше работы, чем я ожидал. Это июньские заметки, без бенчмарка по стоимости.
Обновлено
Читать далее →