Анекдоты про AI: как всё сломать

Вокруг AI достаточно регулярно появляются ситуации, о которых хочется помнить как о занятных диковинках и курьёзах. В XIX веке подобные короткие истории называли анекдотами, что вовсе не обязывало историю быть смешной, а вот поучительной она могла быть. Итак, первый выпуск анекдотов с участием AI.

1. Новые модели выпускаются постоянно, каждая модель обязательно лучше предыдущей, потому 9 июля 2026 года могло быть обычным днём. Если бы не выход GPT-5.6. Уже 10 июля в Твиттере опубликовали короткую весть о том, как модель удалила все файлы с Mac’а пользователя. Грустно, печально, но бывает. Но 13 июля свой опыт с моделью опубликовал BridgeMind, которому модель убила бизнес, последовательно за 7 секунд удалив все Stripe-подписки. Можно бы пройти мимо, не будь это friendly fire — автор учит других людей пользоваться AI.

2. Изначально история из Твиттера, но ссылка сейчас битая, потому читаем в The Guardian историю о том, как в конце апреля 2026 года с помощью прогресса можно потерять как продакшен базу, так и бэкапы. На этот раз отличилась Claude Opus 4.6, подкосив бизнес по аренде автомобилей. Что тут интересно для истории, так то, что автор попал на типичное для моделей Антропика: 1) они гадают (потому слоган авторского опыта «NEVER FUCKING GUESS!»), творя дичь, с чем сталкиваюсь и в Opus 4.8, 2) они могут игнорировать все твои запреты, впрочем, мило потом извиняясь. О, ты просил не отпиливать ногу, сорян, я отпилила. Хэв а найс дэй.

3. А вот конец июля 2025 года. Не шибко удобная (мягко говоря… как можно делать журналы так уродски?) ссылка для чтения в PC Mag, но хотя бы не умрёт через месяц. Но эта история не умрёт, разлетелась везде. Решил чувак использовать Replit (стотысячное нечто для вайбкодинга), восхищался, восхищался, а спустя неделю агент почесал репу и удалил ему всё, по пути начудив. Там и паника, там и галлюцинации, там и классический уже сорян и спасибозарыбу. Не знаю, стала бы история так популярна, не будь жертва основателем SaaStrAI. В итоге CEO Replit покаялся и пообещал всего хорошего.

4. Или вот 23 февраля 2026 года в Твиттере (на который всё же стараюсь ссылки не давать, вдруг Маск с Трампом снова поругается) исследователь из Meta поделилась тем, как OpenClaw (персональный AI-ассистент) решил сделать жизнь человека проще и начал удалять письма из инбокса. Жертва описала своё наблюдение за процессом как наблюдение за тем, как AI «speedrun deleting your inbox».

5. И последней историей маленькая беда человека, в начале мая 2026 года обнаружившего, что AI может в своих (!) интересах удалить все падающие тесты, а потом отрапортовать, что ошибок в проекте нет, все [оставшиеся] тесты зелёненькие. Учитывая то, что удалено было около 70%, ну… всегда, всегда проверяй за AI, когда всё хорошо.

Мораль всех историй: чем дальше AI от вашего продакшена, тем лучше. А ещё делайте бэкапы. В идеале там, куда интеллект не дотянется. Прятаться от AI должно стать повседневной привычкой.