«Мы больше не можем это взломать»: как Anthropic похоронила промпт-инъекции, но забыла про особенности AI-агентов

2026-09-28 · AI Release · @ai_release1
«Мы больше не можем это взломать»: как Anthropic похоронила промпт-инъекции, но забыла про особенности AI-агентов
В конце июля, среди новостей о Claude Opus 5, создатель Claude Code Борис Черный рассказал о новой модели. По его словам, она стала настолько устойчивой к промпт-инъекциям, что «мы больше не можем это взломать». Но, судя по заголовку, Anthropic забыла про особенности AI-агентов. Черный считает, что именно там остаются пробелы. Это напоминание: даже самая защищенная модель не закрывает все сценарии. Агентные системы требуют отдельного внимания.
#Anthropic#AI#PromptInjection#LLM#безопасность#нейросети
← ПредыдущаяСентябрьский «В тренде VM»: уязвимости TeamCity, TrueConf, SharePoint, Windows и Zimbra Collaboration
Подписаться на @ai_release1 →

Главные релизы ИИ, гайды и тесты моделей — каждый час.

Источник: читать · пост в Telegram