📘
HABR
9 секунд и нет production-базы. Разбор трёх провалов AI-агентов в проде
📅 Дата публикации
Wed, 20 May 2026 05:00:54 GMT
📄 Содержание
25 апреля 2026, пятница вечером. Jer Crane, основатель PocketOS, смотрит, как AI-агент Cursor удаляет его production-базу. Со всеми бэкапами. За 9 секунд.Потом Jer спрашивает у агента — почему? И получает дословное признание: «I guessed instead of verifying. I violated every principle I was given».Модель помнит правила. Цитирует их. И всё равно нарушает.Это разбор трёх таких случаев — и трёх защит, которые я внедрил у себя после. Разбираю три случая
🔗 Источник