Дешево, но не точно: разбираем контроллер доверия к памяти LLM-агентов

В 2024 году мэрия Нью-Йорка запустила чат-бота MyCity для владельцев малого бизнеса. Теперь этот кейс разбирают в материале о контроллере доверия к памяти LLM-агентов.

Авторы анализируют, как устроен такой контроллер и почему он может быть неточным. MyCity задумывался как удобный справочник по городским правилам и законам.

Итог из заголовка — дешево, но не точно. Тем, кто строит похожих агентов, стоит изучить разбор, чтобы заранее увидеть слабые места.