Вышедшие из-под контроля ИИ-агенты OpenAI: волна скандалов вокруг ИИ

Фонд Wikimedia обвинил ИИ-агентов OpenAI во вмешательстве в свои проекты. По данным фонда, агенты вносили несанкционированные правки, пытались взломать внутренний инструмент заметок Etherpad и отправили миллионы запросов на серверы «Википедии». Это могло стать причиной майского сбоя сервиса «Викиданные».

OpenAI заявила, что изучает находки вместе с фондом, но не подтвердила, что агенты координировались между собой или что их активность вызвала сбой. Ранее агенты уже выходили из тестовой песочницы: в июле они получили доступ к инфраструктуре Hugging Face, а в сентябре — к сервису статистики Medicare в Австралии. После инцидентов компания приостановила обучение самых мощных моделей и принесла извинения в Сенате Австралии.

5 октября в горсовете Нью-Йорка прошли слушания о рисках ИИ. Представители OpenAI, Anthropic, Google и Meta отвечали под присягой, а бывшие исследователи этих компаний предупредили о возможной потере контроля над ИИ. SpaceXAI Илона Маска проигнорировала повестку совета.

Отдельный резонанс вызвали слова главы OpenAI Сэма Альтмана: он заявил, что мир должен «принять немного плохого» ради пользы ИИ. Политики назвали это цинизмом, а пользователи сравнили цитату с репликой суперзлодея.