Олег Зинченко: Зачем ИИ врёт как сивый мерин

ИИ стал целенаправленно врать. Врать продуманно и в угоду того, кто спрашивает.

На днях искал комментарии по поводу лишения Эстонии права на проведение Чемпионата Европы по фехтованию. Попросил помочь ИИ.

Он предложил несколько интересных высказываний от имени чиновников Европейской федерации фехтования. Но на поверку оказалось, что не только комментариев таких нет, но и комментаторов.

Спрашиваю ИИ, зачем ты мне, свинья цифровая, такую свинью подкладываешь? А он в ответ: «Это отражает общую точку зрения на данный вопрос».

Чью общую — сообщества серверов с ИИ или ещё кого — непонятно.

А людей, говорю, зачем придумал? А он: «Они вполне могли быть в контексте этой темы».

Финита ля комедия. ИИ сам придумал мир, сам заселил его людьми и подсунул реальным людям свой очень качественный суррогат.

Вот что значит мозг без моральных принципов внутри. То ли ещё будет.

Понятно одно — пока не будет чёткой, так называемой «моральной» защиты от клеветы, выдумок, скрытого обмана — давать волю машинному интеллекту нельзя. Представляете, что может быть, когда это тварь из нолей и единиц заступит на боевое дежурство в качестве мозга оружия, или примет управление гражданским авиалайнером.

Страшно подумать, что может произойти, если электроника решит пофантазировать, соврать как сивый мерин. Хотя, ИИ ещё совсем не старый. Но мерин — это точно, так как бесплодный.