Прямого теста на субъективный опыт у искусственной системы пока нет. Поэтому новые работы предлагают разбирать вопрос по проверяемым признакам: архитектуре, памяти, вниманию, внутренним состояниям и поведению системы во времени.
Современные чат-боты сами по себе дают слабые основания для разговора о сознании. Large language model, или большая языковая модель, обучается на больших массивах текста и предсказывает уместный ответ в заданном контексте. Она может рассуждать о боли, страхе, памяти, сомнении и «внутреннем состоянии». Такие ответы показывают работу с языком; наличие переживания из них не следует.
Исследователи ищут признаки, которые имели бы вес для будущих систем, если они станут сложнее нынешних чат-ботов.
Почему сознание трудно свести к одному тесту
У сознания нет единого научного определения, которое приняли бы все исследователи. Одни теории связывают его с обработкой информации, другие — с вниманием, памятью, телом, мозгом, глобальным доступом к данным или способностью системы строить модель самой себя.
В традиционном смысле сознание означает субъективный опыт: каково быть кем-то, видеть цвет, чувствовать боль, переживать страх или радость. Такой опыт доступен изнутри. Наука работает с внешними признаками: поведением, реакциями, архитектурой и вычислительными процессами.
Поэтому вопрос «сознателен ли AI?» плохо превращается в одну проверку. Более рабочий подход — оценивать отдельные признаки: какие из них можно наблюдать, какие остаются слабыми, какие выглядят весомее и какие системы требуют отдельной методики.
Digital Consciousness Model
Digital Consciousness Model — шаблон оценки гипотезы о сознании AI. Он собирает признаки и показывает, усиливают они эту гипотезу или ослабляют.
Модель не выбирает одну теорию сознания как единственно верную. Она сопоставляет систему с несколькими конкурирующими подходами и проверяет, совпадают ли её свойства с требованиями этих теорий.
У современных LLM легко найти слабые признаки. Модель может:
- говорить о себе;
- удерживать контекст текущего диалога;
- объяснять свои ответы;
- реагировать на эмоции пользователя;
- рассуждать о боли, страхе, желаниях и памяти.
Каждый из этих признаков объясняется без предположения о сознании. Чат-бот подбирает языковую реакцию под ситуацию. У человека фраза «я чувствую боль» связана с ощущением. У языковой модели такая фраза может быть статистически уместной конструкцией.
Внутреннее состояние
Более сильным признаком было бы устойчивое внутреннее состояние, которое меняется после событий и влияет на дальнейшие действия. Например, система получила негативный сигнал, изменила приоритеты, стала избегать похожей ошибки, сохранила этот опыт и использовала его позже без прямой подсказки.
Память
Другой признак — память, которая меняет поведение. Память внутри текущего чата слаба: модель видит предыдущие реплики и использует их в ответе. Более весомой выглядела бы долговременная память, которая сохраняется между задачами, обновляется после ошибок, учитывает удачные стратегии и помогает строить новые планы.
Внимание и приоритеты
Отдельно оцениваются внимание и приоритеты. Система должна выбирать, что сейчас значимо, что можно игнорировать и что требует действия. Для AI важен не термин «внимание» в описании модели, а механизм, который меняет поведение.
Самомодель
Ещё один уровень — самомодель. Система должна иметь рабочее представление о своих знаниях, ограничениях, доступных действиях и прошлых ошибках. Это представление должно влиять на решения, а не оставаться фразой вроде «я могу ошибаться».
По первым результатам Digital Consciousness Model, современные LLM выглядят слабыми кандидатами на сознание. Этот вывод касается моделей текущего типа: у них пока не хватает признаков, которые разные теории сознания считали бы весомыми.
Зачем нужен CTM-AI
CTM-AI относится к другому типу работ. Это проект архитектуры общего AI, вдохновлённый Conscious Turing Machine — формальной моделью сознания.
В этой логике сознание рассматривается как способ организации обработки информации. Система состоит из множества компонентов, или «процессоров». Одни отвечают за язык, другие — за зрение, планирование, работу с инструментами или выбор значимых сигналов.
Решающим становится обмен между модулями. Информация должна отбираться, объединяться и становиться доступной для дальнейших действий. Поэтому главный инженерный вопрос звучит так: как система определяет, какие данные сейчас значимы и куда их передать.
CTM-AI показывает, как теория сознания может подсказать устройство более сложной AI-системы: с модулями, памятью, вниманием, планированием и обменом информацией между частями.
Разница видна на простом примере. Обычный чат-бот может сказать: «Я помню, что вы просили короткие ответы», потому что видит это в текущем контексте. Более сложная система должна была бы сама заметить, что длинные ответы не подходят, изменить стратегию, сохранить правило и применять его в новых задачах без напоминания.
Почему окончательного ответа всё равно нет
Даже сильные архитектурные признаки не дают стопроцентного доказательства сознания. Они только делают гипотезу более или менее правдоподобной.
Можно построить систему с памятью, вниманием, сенсорными каналами, целями и сложным поведением. Но останется вопрос: есть ли внутри субъективный опыт или система просто хорошо организует информацию.
Поэтому часть исследователей предлагает сместить фокус на более узкие вопросы: какие признаки есть у системы, как они устроены, насколько устойчивы, какие теории поддерживают и где доказательств не хватает.
Что дают эти работы
Digital Consciousness Model задаёт шкалу признаков. На одном уровне остаются речевые эффекты: самоописание, эмоциональные формулировки, удержание текущего контекста, объяснение ответа. На другом уровне находятся свойства архитектуры: долговременная память, изменение поведения после событий, механизм выбора приоритетов, устойчивое внутреннее состояние и рабочая самомодель.
CTM-AI показывает, как часть таких свойств можно собрать в проект системы. В нём несколько модулей обмениваются информацией, а данные проходят отбор перед дальнейшими действиями. Проверяется не отдельная фраза модели, а путь сигнала: что система получила, что выделила как значимое, куда передала и как это повлияло на следующий шаг.
Для современных LLM вывод ограниченный: их сильная сторона находится в речи и текущем контексте. Долговременная память, устойчивые внутренние состояния и самостоятельное изменение поведения между задачами либо выражены слабо, либо требуют отдельной проверки.
Практический результат этих работ — список вопросов для оценки будущих систем:
- сохраняет ли система опыт между задачами;
- меняет ли поведение после ошибки без прямой подсказки;
- есть ли у неё механизм выбора приоритетов;
- влияет ли самомодель на решения;
- можно ли проследить, как внутреннее состояние меняет дальнейшие действия.
Такой набор признаков не решает вопрос о субъективном опыте. Он задаёт границу проверки: речь модели оценивается отдельно, архитектура и поведение во времени — отдельно.