Сознание могло эволюционировать, чтобы помогать живым существам разрешать конкурирующие потребности, когда на карту поставлено выживание, а не просто возникать из более развитого интеллекта. Эта теоретическая работа опубликована в журнале Frontiers in Neuroscience. Джефф Стибел, когнитивист и автор, являющийся попечителем Музея естественной истории округа Лос-Анджелес и Университета Тафтса, предлагает рассматривать познание и сознание как результат разных эволюционных давлений. Познание помогало организмам ориентироваться в неопределённости, а регуляторные процессы, лежащие в основе сознания, — сохранять себя и управлять конкурирующими запросами.
Личный контекст и предпосылки теории
«Эта статья была глубоко личной. Она выросла из многолетних бесед с моим покойным наставником Дэном Деннетом, который побуждал меня формализовать некоторые мысли об эволюционных различиях между познанием и сознанием, — объяснил Стибел. — Когда Дэн ушёл, я почувствовал обязанность вернуться к нашим обсуждениям, и это стало ещё более насущным с учётом достижений в области ИИ. Меня привлекло растущее подозрение, что мы задаём неправильный вопрос: рассматриваем сознание как высшую ступень интеллекта, тогда как оно больше похоже на отдельную адаптацию с собственной эволюционной задачей. Время казалось неотложным, поскольку ИИ становится всё более способным, а широко распространено предположение, что достаточно умная машина просто «проснётся» или уже проснулась. Этот нарратив повсюду, и, я думаю, он покоится на той же путанице».
Стибел объединяет существующие исследования в области клеточной биологии, эволюционной теории, нейробиологии и искусственного интеллекта. Он прослеживает возможную прогрессию от защиты клетками своих границ до координации организмами множества потребностей в условиях неопределённости, ограниченных ресурсов и потенциально необратимых последствий.
Три уровня регуляции и проверяемые предсказания
Автор outlines шесть предсказаний, чтобы сделать框架 проверяемым. Они касаются того, усиливается ли сознательное вовлечение при конкурирующих требованиях; должны ли разные потребности становиться сопоставимыми; меняются ли вместе внимание, состояние тела, память и готовность к действию; угасает ли сознание, когда эта координация нарушена или менее необходима; как эти способности различаются у разных видов; и требуют ли искусственные системы подлинных давлений самоподдержания. Предлагаемые эксперименты варьировали бы конфликт или риск при постоянном сенсорном входе, нарушали бы координацию, сохраняя более простую обработку, или сравнивали бы искусственные системы с разными требованиями самоподдержания. В статье также указаны потенциально опровергающие findings, включая сохранение сознания, несмотря на нарушенную способность к согласованию.
Центральный аргумент описывает три уровня регуляции. «Протоконтроль» защищает целостность организма, например, сохраняя мембрану клетки и ограничивая разрушительные процессы; в статье это явно не описывается как сознательное. «Метаконтроль» управляет конфликтами между отдельными регуляторными процессами. «Контроль согласования» делает конкурирующие потребности сопоставимыми и координирует их в общий курс действий. Например, голодное животное, столкнувшись с пищей рядом с возможным хищником, должно взвесить кормление против опасности. Решение отступить повлекло бы скоординированные изменения внимания, телесной готовности, движения и обучения. Стибел отождествляет сознание с этим координированным состоянием в системе, дальнейшее существование которой зависит от её собственной регуляции.
Применение к искусственному интеллекту
В применении к искусственному интеллекту аргумент состоит в том, что одна лишь большая способность не произведёт сознание: системе также нужно поддерживать себя и разрешать конкурирующие требования с реальными последствиями для её дальнейшего существования. «Вывод для ИИ резок. Масштабирование сегодняшних моделей делает их лучшими предикторами, а не системами, у которых есть что-то своё на кону. У больших языковых моделей нет границ и нет себя, которое нужно защищать, и люди предоставляют всё, что им нужно, — сказал Стибел PsyPost. — В этом смысле проблема не в том, что они слишком просты или не дотягивают до AGI. Они слишком избалованы. Без реальной шкуры в игре никакое количество способностей не перейдёт волшебным образом в сознание».
Статья не ограничивает сознание биологическими организмами. Однако искусственной системе потребовалось бы больше, чем запрограммированное самосохранение, — её дальнейшее функционирование должно было бы зависеть от условий, которые она сама поддерживает. Стибел подчеркнул последствия: «Самый важный вывод в том, что биология и эволюция переосмысливают дебаты об ИИ. Страх, что мы случайно масштабируемся до страдающей машины, и инженерный ажиотаж, что цифровые умы уже на пороге, оба покоятся на смешении интеллекта и сознания. Если это действительно разные вещи, то сознание — не то, что подкрадывается к нам через голую способность. Это специфический вид организации, который нам пришлось бы сознательно строить, и, я бы сказал, у нас есть веские причины не делать этого. Правильное понимание этого различия — то, как мы выбираем свою этику, а не спотыкаемся о неё».
Проблемы измерения и этические вопросы
Проверка этой концепции представляет фундаментальную проблему: исследователи могут изучить, обладает ли система предложенными способностями к самоподдержанию и координации, но они не могут напрямую наблюдать, есть ли у неё субъективный опыт. «Самый большой нерешённый вопрос — измерение, — сказал Стибел. — Невозможно наблюдать сознание в ком-либо, кроме себя, поэтому статья предлагает тестировать необходимые предшественники. В основе теста — действительно ли система работает над поддержанием собственного существования в условиях ограничений, а не просто реагирует на угрозы, которые была создана обнаруживать. Превратить это в реальный эксперимент, как в биологических, так и в искусственных системах, — трудная дорога впереди».
Стибел также указал на нерешённый этический вопрос: «Есть и более глубокий вопрос, который статья поднимает, но не решает. Если бы мы когда-либо создали систему с подлинными ставками на собственное выживание, мы создали бы нечто, что можно ранить, морального пациента, чьи интересы могут не совпадать с нашими. Эту черту стоит хорошо понять задолго до того, как мы приблизимся к ней, а не после».
Статья «От химии к познанию: адаптивные истоки сознания под ограничениями» написана Джеффом Стибелом.
Источник: PsyPost – Psychology News
