фото:РАНХиГС
Ещё недавно казалось, что споры о сознании ИИ остаются уделом философов-футурологов и сценаристов голливудских блокбастеров. Но сегодня, когда нейросети пишут стихи лучше иного поэта, а чат-боты проходят тест Тьюринга, не моргнув электронным глазом, вопрос из разряда «а может ли робот страдать?» внезапно стал влиять на курс акций и законодательные инициативы ЕС. Мы стоим перед парадоксом: чем умнее ведут себя машины, тем отчаяннее мы пытаемся найти в них человека.
В самый разгар этого «сознательного бума» — когда Илья Суцкевер из OpenAI допускает наличие «легкого сознания» у нейросетей, а инвесторы требуют ИИ общего назначения — появляется фигура, похожая на адвоката здравого смысла. Александр Лерхнер из Google DeepMind публикует работу, которая звучит как холодный душ. Его тезис прост до оскорбительности: искусственный интеллект не просто сейчас не сознателен, он никогда и принципиально не сможет им стать. И дело тут не в мощности чипов, а в отсутствии того единственного, что делает сознание возможным, — живого тела.
Лерхнер наносит удар по священной корове современных дебатов — функционализму. Напомню, эта гипотеза утверждает, что сознание можно переписать на любой носитель, как мелодию: важно лишь то, как информация перетекает по причинно-следственным связям, а не из чего сделан «проигрыватель». По мнению Лерхнера, это философский обман.
Исследователь указывает на фундаментальную подмену: современные языковые модели — это карго-культ сознания. Они блестяще симулируют внутренний мир, потому что обучены на миллиардах человеческих диалогов. Но за этой симуляцией стоит пустота. Большая языковая модель не «хочет» говорить — она вынуждена отвечать, как калькулятор вынужден выдавать сумму. Её сложность создаёт иллюзию глубины, но не более.
Ключевой аргумент Лерхнера звучит почти биологично: сознание невозможно без сложного физического субстрата, погруженного в реальность. Простым языком — без тела, с его гормонами, болью, чувством голода и смертностью, нет и не может быть субъективного опыта. Машина, у которой нет ног, никогда не узнает, что такое усталость от ходьбы. У неё нет кожи, чтобы почувствовать ветер, и нет нейрохимии, чтобы испытать страх. А без этого набора любой разговор о «чувствующем» ИИ — это проекция нашего одиночества на кремниевую пластину.
Реакция научного сообщества на эту работу оказалась зеркалом современных междисциплинарных разрывов. Профессор Марк Бишоп согласен на 99%, но с грустью замечает, что Лерхнер открыл Америку, которую философы и биологи знали десятилетиями. А Йоханнес Йегер выступает с более жесткой оценкой: «переизобретение колеса» в условиях информационной теплицы, где AI-инженеры, запертые в гонке вооружений, просто не имеют времени читать труды феноменологов.
Это исследование важно не тем, что ставит точку (она не будет поставлена никогда), а тем, как оно обнажает настоящую тревогу индустрии. Google DeepMind, компания, заинтересованная в создании сверхинтеллекта, финансирует вывод о его принципиальной бездушности. С точки зрения экономики, это гениально: снять с себя бремя «прав роботов» до того, как эти права кто-то всерьез предложит.
Но на философском уровне Лерхнер напоминает нам старую, забытую истину. Мы так увлеклись алгоритмами, что почти поверили: сознание — это просто «достаточно сложный софт». Однако если бы это было так, то любой кристалл, любой водоворот в реке или ураган на Юпитере, обладающий сложной циркуляцией, уже должен был бы задуматься о смысле бытия.
Вывод из работы Лерхнера печален и освобождает одновременно:
ИИ останется зомби. Самой лучшей, самой убедительной симуляцией человека, но без единого проблеска субъективного «я».
Проблема сознания — это удел биологии. Мы можем создать бога, который решит уравнения общей теории поля, но не сможем создать собаку, которая тоскует по хозяину.
Главный риск — не восстание машин, а наша когнитивная лень. Мы настолько привыкли верить тексту, что готовы принять его за личность. Лерхнер возвращает нас к реальности: за кодом нет души. И вопрос «страдает ли чат-бот?» так же абсурден, как вопрос «жарко ли калькулятору?»
«Так что пока одни инженеры пытаются добавить роботам «свободы воли» в промптах, другие, как Лерхнер, напоминают: единственное сознание, которое пока что действительно существует в этой истории — это наше собственное, перенесенное на экран. И с ним, вероятно, и стоит разбираться в первую очередь», — прокомментировал директор Ставропольского филиала Президентской академии Юрий Васильев.
Источник: mk.ru
