Может ли локальная 27B-модель расследовать продакшен-инцидент как Claude? Две RTX 5090, около 40 прогонов и одна гонка

Пул соединений забит, активных запросов дюжина, рестарт помогает — и Claude нашёл причину меньше чем за двадцать минут.

Тот же реальный продакшен-инцидент прогнали через локальную модель на 27 миллиардов параметров. Железо — две RTX 5090, около сорока прогонов и одна гонка.

Обычный человек в этой точке просто обновил бы библиотеку и пошёл дальше.

Дело не в деньгах: локальный запуск ничего не стоит, а платить приходится временем и числом попыток. Такой тест может повторить любой, у кого есть две такие карты и реальный баг под рукой.