Тег: inference-speed
-
Записник засновникаЯ місяць намагався замінити наші моделі для програмування
Протягом місяця я пробував моделі з відкритими вагами в нашому конвеєрі розробки. Через обмеження на міркування, формати відповідей і поведінку провайдерів перехід вимагав більше роботи, ніж я очікував. Це нотатки з червня, без бенчмарку вартості.
Оновлено
Читати далі →