Естественная и искусственная глупость: почему люди и нейросети совершают одни и те же ошибки

Введение: общие «баги» мышления человека и ИИ

На первый взгляд человеческий разум и передовые большие языковые модели (LLM) кажутся двумя совершенно разными типами интеллекта. Однако при ближайшем рассмотрении обнаруживается поразительный факт: люди и искусственный интеллект страдают от схожих когнитивных уязвимостей. Они ошибаются по одним и тем же причинам, попадая в ловушки, не зависящие от их «вычислительной мощности».

Чтобы понять этот феномен, вы воспользуетесь «Общей теорией глупости» Игоря Петренко. Эта модель предлагает рассматривать иррациональность не как недостаток интеллекта, а как архитектурную уязвимость — системный сбой в самой конструкции мыслящего агента.

Цель этого материала — сравнить когнитивные ошибки человека и «галлюцинации» ИИ через призму данной теории. Вы покажете, что проблемы рациональности общи для естественного и искусственного интеллекта, и понимание этих проблем открывает путь к их решению — как для нас самих, так и для создаваемых нами машин.

1. Анатомия человеческой ошибки: «Общая теория глупости»

Наш анализ основан на кибернетическом подходе к иррациональности. Вместо вопроса о том, насколько умён агент, теория предлагает оценивать, насколько он уязвим к когнитивным сбоям.

1.1. Что такое «глупость» с точки зрения кибернетики?

В рамках «Общей теории глупости» это понятие (обозначаемое как G ) не имеет ничего общего с низким IQ или уровнем образования. «Глупость» — это функциональная когнитивная уязвимость.

Это состояние, в котором агент «утрачивает субъектность принятия решений под влиянием внешних факторов». Иными словами, это системный сбой, вызванный перегрузкой. Как точно формулирует первоисточник, это:

«системный сбой [архитектуры контроля]»

Главный вывод для новичка: проблема не в «мощности процессора» (интеллекте), а в архитектуре нашей когнитивной системы, которая не справляется с информационной нагрузкой современного мира.

1.2. Три столпа иррациональности: ключевые факторы уязвимости

Теория выделяет три основных фактора, ведущих к когнитивным сбоям:

• Цифровой шум (D): Это информационная перегрузка и хаос (информационный шторм) среды. Когда объём входящей информации превышает способность системы её обрабатывать, наступает коллапс. Модель предсказывает, что порог D > 0,7 является «точкой фазового перехода», за которой начинается экспоненциальный рост ошибок, ведущий к «когнитивному коллапсу».
• Контроль внимания (A): Это главный ресурс, который вы используете для фильтрации цифрового шума и поддержания фокуса. В уравнении теории внимание (A) — «главный знаменатель средового шума». Чем ниже ваша способность к концентрации, тем сильнее воздействует на вас информационный хаос.
• Мотивированное рассуждение (B_mot): Это идеологическое смещение, склонность защищать свои убеждения вопреки фактам. Исследования показывают, что этот тип искажений ортогонален интеллекту (I). Человек использует свой ум не для поиска истины, а для оправдания уже существующей точки зрения.

1.3. Парадокс «умной глупости»

Модель элегантно разрешает известный парадокс: почему умные и образованные люди нередко верят в иррациональные концепции?

Исследования (Stanovich, 2009; Kahan, 2013) показывают, что высокий IQ не только не защищает от мотивированного рассуждения (B_mot), но может служить и «инструментом генерации более сложных аргументов в защиту ошибочных убеждений (эффект рационализации)».

В качестве примера модель рассматривает архетип «умного фанатика»:

• Профиль: IQ=150, IQ=150, B_mot=0,8
• Результат: G=0,65 (высокий уровень иррациональности)

Этот человек может быть гением в своей профессии, но в вопросах, затрагивающих его убеждения, он остаётся совершенно иррациональным. Его интеллект работает не на поиск истины, а на защиту его идеологии.

Если такова природа когнитивных сбоев человека, можно ли увидеть нечто подобное в поведении искусственного интеллекта?

2. Призраки в машине: как теория глупости объясняет «галлюцинации» ИИ

Ошибки больших языковых моделей (LLM) часто называют «галлюцинациями» — генерацией правдоподобной, но ложной или бессмысленной информации. Оказывается, эти сбои имеют ту же природу, что и человеческая иррациональность.

2.1. От когнитивного коллапса к «галлюцинациям» LLM

Ключевая идея, связывающая два мира, сформулирована в исследовании напрямую:

«Когнитивные уязвимости, описанные в G-модели, напрямую применимы к современным LLM».

Подобно людям, LLM начинают генерировать ошибки, когда их архитектура перегружена. Их «галлюцинации» — не случайный глюк, а системный ответ на превышение когнитивной нагрузки.

2.2. Проекция человеческих уязвимостей на ИИ

Сравните три ключевых фактора из «Общей теории глупости» с конкретными явлениями в работе LLM:

• Цифровой шум (D) для ИИ: Аналогом является перегрузка модели данными в запросе пользователя. Когда промпт слишком длинный, сложный или содержит противоречивую информацию, он создаёт для модели «цифровой шум», который она не способна эффективно обработать.
• Контроль внимания (A) для ИИ: Это прямая аналогия механизма «Attention» в архитектуре Transformer, на которой построены современные LLM. Этот механизм отвечает за определение важности разных частей входных данных (токенов). Когда контекст слишком велик, внимание «размывается» по тысячам токенов, и модель теряет фокус — подобно человеку, теряющему концентрацию.
• Мотивированное рассуждение (B_mot) для ИИ: Это проявляется, когда LLM вместо поиска истины или признания незнания начинает «рационализировать» ответы. Модель дополняет информацию так, чтобы она соответствовала ожидаемому шаблону или стилю, даже если эта информация ложна. Она генерирует наиболее вероятное продолжение текста, а не наиболее правдивое.

2.3. «Сингулярность глупости» для нейросетей

Концепция «сингулярности глупости» для ИИ — «не метафора». Когда механизм Attention в LLM перегружен, происходит тот же каскадный рост ошибок, ведущий к массовым «галлюцинациям». Модель утрачивает способность поддерживать логическую связность и начинает генерировать бессвязный или полностью вымышленный контент.

Этот коллапс происходит при тех же пороговых значениях, что и у человека: при D > 0,7 и A < 0,5.

Теперь, когда вы увидели параллели в теории, сведите их в единую наглядную таблицу для прямого сравнения.

3. Сравнительный анализ: человек и ИИ

3.1. Таблица когнитивных уязвимостей

Это поразительное сходство доказывает, что проблема рациональности лежит глубже, чем вы думали. Но что важнее, оно указывает на общий путь к решению.

4. Выводы: общая проблема — общее решение

Главный вывод из этого сравнения: проблемы рациональности как человека, так и ИИ носят архитектурный, а не вычислительный характер. Простое повышение IQ (у человека) или числа параметров (у ИИ) не решает корневую проблему уязвимости к перегрузке и искажениям.

Эта идея открывает два ключевых направления повышения рациональности:

1. Для человека — «гигиена внимания»: В эпоху информационной перегрузки способность управлять собственным вниманием (A) и искусственно снижать цифровой шум (D) становится важнее простого накопления знаний. Развитие самоконтроля и осознанности — не роскошь, а необходимое условие сохранения рациональности.
2. Для ИИ — архитектурное изящество: Будущее ИИ — не в «грубой силе» вычислений, а в создании более совершенных архитектур. Необходимо внедрить механизмы контроля внимания и верификации (упомянутый «G-фактор» для ИИ), которые позволят системам сохранять логическую целостность и осознавать границы своей компетентности даже в условиях неопределённости.

Понимание собственных когнитивных ограничений — ключ к созданию более эффективного, безопасного и рационального искусственного интеллекта. Ставки чрезвычайно высоки. Как предупреждает автор теории, «если внешняя среда продолжит усложняться (D ↑) без компенсаторного роста технологий управления вниманием (A ↑), общество обречено на „сингулярность глупости“ — состояние, в котором коллективные решения становятся статистически хуже случайных».

Этот подход объединяет такие, казалось бы, далёкие области, как когнитивная безопасность человека и AI Alignment (согласование ИИ с человеческими ценностями), поскольку в основе обеих лежит одна фундаментальная задача: как сохранить разум в условиях информационного хаоса.