Jeff – Jev-compatible 0.8B decision models, trained at home, ~30 ms

Модель Jeff размером 0.8B отвечает примерно за 30 миллисекунд. Её создатель обучил модель дома и заявляет о совместимости с Jev.

По данным Hacker News, пост набрал 287 очков и 117 комментариев. Это привлекло внимание к проекту.

Если скорость подтвердится, модель может быть полезна для задач с низкой задержкой. Но деталей в описании пока нет.