По результатам опроса победила … сюрреалистическая теория сознания Ника Хамфри. Он считает, что сознание – это искусство, создаваемое нашим мозгом. Сознание – это дребезг, музыка, шум, пятна, линии, узоры… В общем, Хамфри постепенно превращается в Гиренка. Философское кафе на днях опубликовало мнение Хамфри по поводу Чалмерса и философии. (ФК можно поругать за то, что в канале было опубликовано мнение Хамфри, высказанное в присутствии многих, но, всё же, не публично. Но теперь оно стало достоянием интернета, так что можно спокойно его комментировать.) Хамфри утверждает, что Деннет вообще не был философом. Дни философии прошли. Вместо философии теперь сюрреализм. Я бы назвал это своего рода тёмным куайнианством. У меня есть мысли насчёт того, почему натурализм такого толка всё равно не может обойтись без метафизики, требующие довольно обстоятельного изложения. Обещаю их рано или поздно представить.

Telegram

Философское кафе

Еще о конференции Центра исследования сознания Ник Хамфри высказал на полях конференции такое мнение: для науки было бы лучше, если бы Дэвид Чалмерс никогда не занимался философией. Почему? Ник считает, что талант и страсть Чалмерса завели философию и, самое…

Пример использования системы координат

Оттолкнёмся от такого тезиса: мы более-менее согласны, что у некоторых животных сознание есть, а у современных систем ИИ нет (быть может, это и не так). Приведённая выше таблица показывает, что животные и ИИ различаются по субстрату и по наличию эволюционной истории. Предположим, что животное проходит поведенческий тест Т. Этот же тест проходит воплощенная система ИИ. Но сознание мы приписываем только животному. Значит дело не в самом прохождении теста, а в биологии и/или эволюции. То есть, тест Т показывает наличие сознания только у существа, имеющего определённую биологию и/или эволюционную историю.

Я пишу «и/или», потому что мы пока не знаем, важны ли в данном случае оба фактора или только один. Для того, чтобы это узнать, нам нужно их разделить. С одной стороны, исследовать органоид или искусственный организм в сравнении с животным. Под такими искусственными организмами я имею в виду не просто, например, клонированных животных. Клонированная овца – это та же овца, несущая всю овечью эволюционную историю. Я имею в виду создание организмов «с нуля». (Не уверен, что создание органоидов или тем более искусственных организмов будет когда-нибудь возможно, по этическим соображениям. Думаю, у некоторых моих читателей уже от самой этой идеи волосы зашевелились.) С другой стороны, нужно сравнить (ещё не существующий) эволюционно развивающийся ИИ и животных. И мы можем получить разные выводы: что сознание есть только у животных и органоидов (тогда важна биология, но не эволюция), у животных и эволюционирующих систем ИИ (тогда важна эволюция, но не биология), только у животных (важна и эволюция, и биология). Таким образом мы решим, где присутствует сознание как естественный вид, а где только окрошка, показывающая те же эффекты, что и сознание.

Эта методология кажется мне достаточно ясной. Понятно, что пока мы не можем взять животное и сопоставить его с «мозгами в бочке» или эволюционирующими роботами, потому что у нас пока нет ни «мозгов в бочке», ни таких роботов. Однако при исследовании сознания животных полезно иногда задавать себе вопрос: что значили бы эти результаты, если бы (а) это существо не имело эволюционной истории и (б) не состояло бы из живых клеток. Кстати, подобный вопрос можно задать и с другой стороны. Представьте себе, что завтра вдруг выяснится, что LLM реализованы не на компьютерах, а на огромных мозговых органоидах, состоящих из живых нейронов, находящихся в питательном растворе. Мне представляется, что это будет довольно сомнительный с моральной точки зрения кейс. Но, в то же время, я не ринусь кричать, что у этого супермозга точно есть сознание: всё-таки эта куча нейронов появилась не в результате естественного отбора, не взаимодействует со средой, не решает задачи, связанные с выживанием. Хотя…

Классификация 1: другие сознания как естественный(-ые) вид(ы)

Можно ли однозначно утверждать, что во всех перечисленных выше случаях мы сталкиваемся с одним и тем же феноменом, называемым «сознание»? Тим Бейн не устает повторять, что сознание должно исследоваться как естественный вид. Это, в принципе, является условием возможности научного исследования сознания. Поясню, почему это так.

Классический пример естественного вида — это вода. Много веков назад кто-то показал пальцем на воду и сказал: «Вода». Этот человек ничего не знал о химическом составе воды. Двести лет назад мы узнали, что вода имеет формулу H2O. Теперь мы называем водой только вещество с такой формулой. Если где-то мы столкнёмся с прозрачной жидкостью без вкуса и запаха, пригодной для питья, химическая формула которой не H2O, то мы не назовём её водой.

Уже несколько веков философы указывают разными способами на своё сознание и говорят: «Сознание». Пока мы находимся в положении человека, не знающего формулу воды: то есть, я предполагаю, что мы пока не знаем, что такое сознание. Да мы и не знаем, обозначается ли этим словом что-то одинаковое во всех случаях. Сравните слово «вода» со словом «суп». Борщ, гаспачо и том ям – это супы, однако они не составляют естественного вида. Они объединяются нами в одну группу, потому что нам так удобно. Может быть, когда разные люди (или даже один и тот же человек в разное время) говорят о своём сознании, то иногда речь идёт о борще, в другом – о гаспачо, а в третьем – о том яме? Допустим. В этом случае научное изучение сознания – это уже не изучение единого феномена, а разбор на составляющие той мешанины, которую принято обозначать словом «сознание».

Я предполагаю, что научное изучение сознание в случае с человеком, заслуживающее такого названия, возможно только в том случае, если сознание – это естественный вид. Вполне возможно, что не всё то, что обозначается словом «сознание», относится к этому естественному виду. Например, феноменальное сознание – это естественный вид, а самосознание – уже нет. Или в случае с человеческим сознанием мы можем иметь дело с несколькими сопутствующими друг другу естественными видами. В этом случае нам нужно уточнить, состояния какого именно естественного вида мы будем искать у других существа.

Исследуя другие сознания, мы должны исходить из того, что в случае в нашем исходном человеческом случае сознание представляет собой естественный вид. И вот какие результаты мы можем получить:
1. У других существ есть сознание того же естественного вида, что и у нас.
2. У других существ есть квази-сознание, относящееся к другому естественному виду. Как если бы мы обнаружили на другой планете какую-нибудь квази-воду: прозрачную жидкость без вкуса и запаха, пригодную для питья, но формула которой не H2O.
3. У других существ нет сознания как естественного вида. Те признаки, которые у человека связаны с сознанием, у других существ соответствуют мешанине из совершенно разных явлений.

Так что же в сухом остатке? Мы считаем, что у многих животных есть сознание. Мы должны ответить на вопрос, какие именно животные обладают сознанием, а какие нет. И мы должны дать ответ на этот вопрос научными средствами. Без захода в область морали. Ничего личного, только ~~бизнес~~ наука.

К выводам. Если мы хотим обнаружить сознание у ИИ, то нам нужны не просто критерии сознания в вакууме, а конкретные критерии синхронически и диахронически единых состояний сознания, применимые к физическим системам. Можно с натяжкой признать, что используемые Батлином и соавторами критерии говорят что-то о синхроническом единстве, но вот единству сознания во времени они внимания не уделяют совсем. (Я ещё напишу о том, что эти авторы говорят о темпоральности сознания, это отдельная песня.) Если у нас будут такие критерии, то мы сможем сделать вывод о том, что какая-то система находится в сознательном состоянии, и только те её части составляют субъекта сознания, которые одновременно участвуют в произведении единого состояния сознания (синхроническое единство), и этот субъект существует ровно столько, сколько длится это состояние сознания (диахроническое единство). Таким образом, бессмысленно спрашивать, обладает ли сознанием GPT или Claude как таковой. Вопрос должен касаться объекта в мире, куска материи, который можно пощупать (хотя разные его части могут находиться далеко друг от друга). И вопрос этот должен звучать так: является ли определённый фрагмент мира (мы ещё не имеем права называть его объектом) субъектом единого сознательного состояния в силу того, что на нём реализуются определённые вычисления (функции, процессы), которые составляют часть работы системы ИИ GPT, Claude и т.п.? И только в этом смысле можно говорить о сознании ИИ.

Единство сознания бывает синхроническим и диахроническим. Примером синхронического единства сознания будет одновременное осознанное восприятие цвета и звука. Примером диахронического единства является восприятие мелодии: вы слышите последовательно три звука и воспринимаете их как гармоничные или негармоничные. В диахроническом плане субъект единого состояния сознания существует по крайней мере столько времени, сколько длится это единое состояние. В случае с человеком диахронически единые состояния сознания длятся сотни миллисекунд. Гэлен Стросон, чьими идеями вдохновлены эти мои рассуждения, утверждает, что и люди как субъекты опыта существуют столько же. Каждые полсекунды появляется новый субъект. Я не думаю, что Стросон прав в этом. Быть живым существом — это уже быть единой вещью, поэтому я могу оставаться тем же самым субъектом, даже если моё сознание диахронически разделено на такие маленькие кусочки или если оно прерывается сном без сновидений, наркозом или обмороком. И я знаю, что, проснувшись утром после сна без сновидений, это тот же самый я, который засыпал вечером. (Можно привести кучу скептических аргументов против этого, но давайте оставаться на каких-то более-менее приемлемых позициях здравого смысла. Я не полезу в болото скептицизма, через него нет дороги и нельзя никуда прийти.)

Вернемся к сознанию ИИ. Предположим, что некоторой системе присуще диахронически единое состояние сознания. Это означает, что данная система представляет собой единый объект. Этот объект будет состоять по крайней мере из тех элементов, которые реализуют это диахронически единое сознательное состояние. Будет ли этот объект включать какие-то другие части? Вполне возможно, но мы не знаем, какие именно. В случае с человеком это работает так: допустим, мое теперешнее сознательное состояние реализуется какой-то частью моего мозга; тогда я могу с уверенностью сказать, что эта часть мозга является частью меня как субъекта сознания, но я сам — это не только эта часть мозга, а живое существо, которому она принадлежит. В случае с ИИ такой ответ нам недоступен. Один транзистор может составлять часть субстрата диахронически единого состояния сознания, но соседний с ним, не участвующий в произведении этого состояния, может и не составлять. Мы этого не знаем, потому что у нас нет принципа единства искусственных субъектов, подобного биологической жизни в случае с естественными субъектами. Всё, что мы можем сказать, — это что искусственный субъект включает в себя те элементы, на которых реализуется единое сознательное состояние, и существует он по крайней мере столько, сколько длится это состояние. У нас нет оснований предполагать его дальнейшее существование.

Допустим, мы выключили компьютер, на котором реализовывалось единое сознательное состояние, а потом снова включили и воспроизвели то же состояние на той же самой материальной базе. Разве мы не можем сказать, что это будет тот же искусственный субъект? Я думаю, что нет. Представим себе, что некий человек умер, а потом какие-то супер-учёные из будущего взяли те частицы, из которых он состоял, расположили их в том же порядке и снова запустили процесс жизни. Моё мнение таково, что это будет новый человек, поскольку старый уже умер. (Представьте такую невозможную ситуацию, что вы сейчас состоите ровно из тех же самых частиц, из которых состоял в какой-то момент своей жизни давно умерший человек. Это же не делает вас им. Да, именно за такие мысленные эксперименты мы все любим философию.) То же с искусственными субъектами: один и тот же субстрат в разное время может быть реализатором нумерически разных единых сознательных состояний. Из этого не следует, что это будет один и тот же субъект.

Переписка Ло и Кокбёрн интересна тем, что в ней представлены два противоположных взгляда представления Локка об ассоциации. Ло (1703–1787), который ещё даже не родился в то время, когда вышла «Защита» Троттер (это 1702 год), утверждает, что страсти порождаются именно ассоциацией идей. В этом контексте он ссылается на Гартли. К тому же Ло полагает, что такой же точки зрения придерживался и сам Локк. Кокбёрн не находит у Локка ничего подобного. По аналогии с младо- и старогегельянцами можно сказать, что Троттер-Кокбёрн — это старолоккианец. Она застала Локка живым, даже, можно сказать, состояла с ним в переписке (Локк написал ей письмо в связи с публикацией «Защиты»), и её взгляд на этого философа, предположительно, ближе к собственному локкианскому духу. Ло — младолоккианец, философ следующей эпохи, он видит в философии Локка потенциал для развития, новые идеи, которые стоят на повестке дня прямо сейчас. При этом он искренне полагает, что эти самые новые идеи уже присутствуют в доктрине автора «Опыта».

Ло не может не согласиться с тем, что в тексте «Опыта» Локк не придаёт ассоциации того значения, которое приписывает Гартли. Но не всё так просто: «Я не могу не заключить, что этот великий человек, когда выпалывал врождённые принципы, в особенности практические, гораздо очень хорошо видел происхождение наших страстей и т.п., но мир не мог принять это открытие в то время». То есть, Локк полагал, что ассоциация идей должна объяснять аффекты, но не посчитал нужным это объяснять (всё равно бы никто не понял). Кокбёрн резонно замечает: «Я думаю, он [Локк] не даёт ни малейшего намёка на то, что мы обязаны нашими наиболее рациональными и (как мы их называем) естественными аффектами и т.п. тому же источнику [ассоциации], но он говорит об идеях, соединённых природой, и делом разума является сохранение такого их соединения». В другом письме: «Что есть ассоциация идей, как не правильное или неправильное рассуждение? Или, по крайней мере, не должен ли рассудок определять ассоциированы идеи истинно или ложно?» Кокбёрн не против объяснения «плохих» аффектов при помощи ассоциации, но считает, что «хорошие» аффекты (такие как привязанность, благодарность и т.п.) имеют рациональное объяснение.

В конце концов, Ло объясняет, почему, по его мнению, мы должны принять объяснение аффектов при помощи ассоциации идей. Аффекты связаны со страданием и удовольствием. Локк считал, что все моральные принципы могут быть сведены к некоторым самоочевидным положениям наподобие «человек должен избегать страдания». Но не все аффекты можно свести к таким рациональным принципам (ещё нужно помнить, что для успеха редукции требуется, чтобы эти принципы не были пустыми тавтологиями). С другой стороны, основания наших аффектов сами не могут быть предметом ощущения (эта оговорка направлена против теоретиков морального чувства, «некоторых последователей доктора [Сэмюэля] Кларка», которые полагали, что мы буквально видим добро и зло). Поэтому мы должны допустить работу ассоциации идей по производству аффектов, «которая служит большой части человечества главным интеллектуальным подспорьем [furniture]».

Вместо резюме. В переписке несколько раз упоминается Гартли, но ни разу не упоминается Юм. Точнее, почти не упоминается. Во втором письме Ло пишет о некоем кембриджском профессоре, который утверждает, что «мы суть ничто иное как пучки ассоциаций». Юм в «Трактате» утверждал, что Я – это пучок восприятий, да и кембриджским профессором Юм точно не был. Но кому ещё может быть атрибутировала такая точка зрения, кроме Юма? Издательница переписки не смогла обнаружить такого человека. Так что я не исключаю, что Юм каким-то образом мог превратиться в этого профессора. Либо у него был какой-то неизвестный последователь в Кембридже.