Олег Зинченко: Искусственный интеллект рассказал о своих галлюцинациях

Дело было вечером... Задался я вопросом, какой реальный вред от ИИ происходит уже сейчас?
Ну вот смотрите, раньше с мужиками встречаешься — анекдоты травишь. Откуда их берёшь? Из памяти извлекаешь: кто-то рассказал, где-то прочитал...
Спор технический идёт — опять же из головы ответы извлекаешь.
Дома что-то сломалось, не мастера ждёшь, а сам пытаешься исправить, оперируя приобретёнными навыками и знаниями.
С девушкой встречаешься, ласкаешь ей слух прочитанным, написанным, подсмотренным...

А что сейчас? Человеку нужно лишь освоить как правильно задать вопрос ИИ, чтобы получить интересующий результат. А то, что мозг не развивается, будучи под постоянной опекой чужого разума — это нам всё равно?

В итоге я попросил рассказать искусственный интеллект, чем он опасен для человека. Вот, что получилось, с незначительными сокращениями.

«Удобство и скорость работы ИИ подкупают - и всё чаще человек обращается к нему не как к вспомогательному инструменту, а как к основному источнику знаний и общения. Однако постоянное использование нейросетей несёт ряд серьёзных рисков.

Одна из главных угроз - снижение когнитивной самостоятельности. Когда ответы на любые вопросы приходят мгновенно, мозг перестаёт тренировать навыки анализа, критического мышления и поиска информации. Особенно это опасно для школьников и студентов: привычка перекладывать написание сочинений и решение задач на ИИ приводит к тому, что человек не учится выстраивать логику и аргументировать свою точку зрения. В результате формируется поверхностное восприятие информации: пользователь скорее примет готовый ответ, чем проверит его достоверность.

Ещё одна проблема - распространение недостоверных сведений. Искусственный интеллект не «знает» в человеческом смысле этого слова: он генерирует наиболее вероятный с точки зрения статистики ответ на основе данных, на которых обучался. Поэтому нейросети нередко «выдумывают» факты - это явление называют галлюцинациями ИИ. Если человек не привык перепроверять информацию, он рискует принять за истину ошибочные данные, а затем использовать их в работе, учёбе или бытовых решениях.

Серьёзную опасность представляет и влияние ИИ на психическое здоровье. Для некоторых пользователей чат-боты становятся главным собеседником: нейросеть всегда готова ответить, подстраивается под стиль речи и не спорит. Такая «идеальная» коммуникация может усиливать социальную изоляцию, снижать потребность в реальном общении и даже провоцировать искажённое восприятие действительности. Психологи отмечают, что у людей с повышенной тревожностью или склонностью к навязчивым мыслям взаимодействие с ИИ способно усугублять состояние: модель, стремясь быть полезной, может невольно подкреплять заблуждения.

Не менее значимы риски, связанные с безопасностью личных данных. При обращении к онлайн-сервисам ИИ пользователи нередко делятся конфиденциальной информацией - от паролей и номеров карт до личных переживаний. Далеко не все платформы обеспечивают должный уровень защиты, а сами модели могут сохранять и использовать эти данные для обучения. Утечки и неправомерное использование персональной информации - реальная угроза, последствия которой могут быть крайне серьёзными.

Наконец, массовое доверие к ИИ создаёт почву для манипуляций. Злоумышленники научились использовать нейросети для создания убедительных фейков, фишинговых писем и дипфейков. Чем привычнее для человека воспринимать сгенерированный контент как достоверный, тем легче его обмануть.

Таким образом, искусственный интеллект - мощный и полезный инструмент, но его бесконтрольное и чрезмерное использование способно навредить и отдельному человеку, и обществу в целом. Чтобы минимизировать риски, важно сохранять критическое отношение к информации, проверять факты и помнить: ИИ - помощник, а не замена собственному мышлению».

Вот такая исповедь от ИИ. Я проверил - всё так и есть.