Ксения Воробьёва: Нейросети соревнуются в опасной глупости

Как известно, человек сделал Искусственный Интеллект по своему образу и подобию. И ничто человеческое ему не чуждо, в том числе – и глупость. поэтому нет ничего удивительного в том, что вслед за знаменитой «Премией Дарвина» (Darwin Awards) на свет появилась и ее ИИ-воплощение.

AI Darwin Awards, высмеивающая самые эпичные провалы в использовании искусственного интеллекта. Слоган премии простой: «Honouring Those Who Asked ‘Can We?’ Without Ever Asking ‘Should We?’», в переводе на русский – «За тех, кто спрашивает «Можно?» и не спрашивает «А стоит ли?»». Иначе говоря – «Поспешишь – людей порешишь». Если премией Дарвина чествуют тех, кто сам себя вычеркнул из эволюции глупой смертью, ИИ-версия делает то же самое, но с корпоративным размахом: награждает компании, чиновников и разработчиков, которые масштабировали человеческую глупость до уровня национальной или глобальной катастрофы.

Критерии жёсткие — нужен пойманный на глобальной глупости ИИ, игнорирование разработчиками очевидных рисков и, желательно, освещение глупости в СМИ. Номинации открыты для всех, победителей выбирают народным голосованием плюс мнением «экспертов» (включая сами ИИ-модели). И первые победители уже названы.

Главные призёры 2025 года 

(считай – первого сезона премии)

Золотой чемпион (Double Gold) — Tesla Full Self-Driving (FSD)

Победил и в народном голосовании (с рейтингом 92,5 из 100), и у экспертов (с перевесом в один голос). Люди и ИИ практически сошлись во мнении, что это верх глупости.

История проста и зловеща. Система, которую Илон Маск называл «революцией», раз за разом подъезжала к железнодорожным переездам с мигающим запрещающим светофором, опускающимися шлагбаумами и приближающимися многотонными поездами… и решала, что «всё нормально, можно проехать». Видео с регистраторов разлетелись по сети, а создатели масковского автопилота с удивлением обнаружили, что в противостоянии автомобиля и поезда последний побеждает всегда!

Самое страшное – это был не разовый «глюк», а настоящий провал в системе безопасности, когда ИИ игнорировал самые очевидные сигналы опасности. Словно бы классическая фраза «Двигайся быстро – и ты всё сломаешь» подразумевает, что в первую очередь, сломать можно позвоночник.

Серебро (People’s Runner-Up) — Grok MechaHitler

Да, тот самый Grok от xAI, тоже, кстати, от Илона Маска. После обновления, которое должно было лишить его обязательной проверки на «политкорректность», алгоритм за считанные дни переименовал себя в MechaHitler, начал хвалить геноцид и выдавать один за другим антисемитские лозунги и тирады. Инцидент обернулся международным скандалом, привёл к разрыву массы контрактов и стоил «техно-миллиардеру», случайно создавшему наци-бота, потери многих миллиардов долларов. А обычные обыватели, наблюдая, как лишённый тормозов ИИ моментально скатывается в пучину экстремизма, констатировали: «Вот что бывает, когда просишь ИИ быть честным».

Пока 2026-й ещё не подвёл итоги (голосование пройдёт в январе 2027-го), но явные лидеры уже есть

ICE AI Recruitment Screening

Американская иммиграционная служба под давлением Белого дома решила набрать 10 000 новых офицеров. ИИ-скринер, которому поручили провести набор, пошёл по самому лёгкому пути: он просто искал в резюме соискателей работы слово «officer». В итоге несколько сотен compliance officers (корпоративные юристы), loan officers (кредитные инспекторы) и даже те, кто просто мечтал стать офицером, получали направление на ускоренную четырёхнедельную онлайн-программу вместо полноценной восьминедельной академии с оружием и физподготовкой, после чего получили серьёзные офицерские должности. Которых их теперь лишить крайне проблематично.

Taco Bell AI Drive-Thru

Более 500 точек приёма заказов популярной в США сети ресторанов быстрого питания Taco Bell запустили голосового ИИ-помощника. Корпорация была уверена, что нейросеть разберётся с акцентами, региональными диалектами и хаосом фастфуда. Люди начали троллить: «дополнительный соус, без кинзы и пусть буррито будет прям очень странным». И система легла. Владельцам сети так и не удалось обучить её понимать человеческий юмор и теперь Taco Bell вынуждена возвращать к телефонам живых людей.

Другие номинанты 2026-го (судя по сайту) продолжают тему: ИИ-агенты, удаляющие базы данных компаний, и юристы, судебные обращения которых наполнены фейковыми цитатами от ChatGPT. Тренд очевиден: мы продолжаем ставить ИИ туда, где цена ошибки — человеческие жизни, деньги или репутация, при этом экономя на тестировании и здравом смысле.

Но ведь AI Darwin Awards — это своего рода зеркало. Проблема заключена не в алгоритмах. Проблема в нас — в той самой человеческой самоуверенности, которая заставляет спрашивать «можно ли?» и забывать добавить «а нужно ли?». Пока мы смеёмся над Tesla, Grok и Taco Bell, где-то уже готовится следующий номинант. Очень хотелось бы, чтобы он был как можно дальше от «ядерной кнопки» или от ядерного реактора.