Все, что может сказать и сделать андроид, полностью задается его программным обеспечением. Здесь не существует объяснительного зазора, который пришлось бы заполнять сознанию машины. Когда андроид говорит «я вижу цвета и чувствую эмоции, как люди», мы знаем, что эти слова порождены детерминированными строками программного обеспечения, которое прекрасно функционирует без всякого вмешательства сознания. Именно поэтому эмоции андроида не обеспечивают ни малейших доказательств внутренней психической жизни. Все внешние признаки эмоций оказываются подделанными, и программист во всех подробностях знает, каким образом они подделаны.
Этот момент систематически не принимается в расчет математиками и инженерами, приходящими в восторг от искусственного интеллекта. Вам нужно в следующую дверь, на кафедру философии, если вы ищите людей, которые придадут этому обстоятельству должное значение. Даже если каким-то неизвестным способом андроид и обрел бы сознание, он никогда бы не рассказал нам об этом. Как мы видели, все сказанное андроидом определяется его программным обеспечением. Даже если где-то в глубине его схемных плат мелькнет призрачный проблеск сознания или воли, он никогда не повлияет на речь и поступки андроида.
Может ли статься так, что информация в компьютере и есть искомый сознательный опыт? Этот аргумент пользуется популярностью у инженеров, специализирующихся на проектировании прикладных информационных систем, поскольку, судя по всему, он затушевывает саму проблему разума и тела. Но этот довод страдает недостатками, потому что информация и сознательный опыт имеют разную логическую структуру: информация существует только в качестве артефакта интерпретации, однако опыт не нуждается в интерпретации для того, чтобы вы его осознали. Если я дам вам диск с числовыми данными (21, 250, 11, 47; 22, 250, 15, 39 и т. д.), эти числа могут означать все что угодно. В одной программе они являются результатами метеорологических измерений, то есть обозначают температуру, влажность, количество осадков, в другой — результатами медицинских измерений и показывают пульс, кровяное давление, степень ожирения. У интерпретации нет независимой реальности, числа сами по себе не обладают врожденным смыслом. Сознательный опыт кардинально отличается от информации. Если вы прищемили дверью большой палец руки, вам не нужно сначала интерпретировать свои ощущения как боль. Вы чувствуете боль сразу. Точно так же вы не можете истолковать эти ощущения как нечто другое, — например, благоухающие розы. Осознанные переживания обладают реальными, субъективными, засвидетельствованными качествами, существование которых не зависит от того, будут ли они проинтерпретированы так или эдак. По сути дела, осознанным переживаниям присуще какое-то иное свойство по сравнению с голой информацией.
Еще один популярный аргумент — ссылка на «происхождение». Говорят, что системы более высокого уровня «произошли» от систем более низкого уровня. Простой классический пример: термодинамические свойства, такие как тепло и температура, являются результатом статистического поведения молекулярных ансамблей. И все-таки концепция «температуры» не опирается на изолированную молекулу, хотя в совокупности миллиарды этих молекул и создают температуру. По аналогии с этим примером было высказано предположение о том, что сознание возникает из совокупного поведения миллиардов нейронов, которые в отдельности никогда бы не смогли обладать собственным сознанием. Однако на самом деле эмерджентные свойства являются искусственным следствием того нашего описания окружающего мира и не существуют объективно за пределами математических теорий. Группу молекул можно описать либо через траекторию движения отдельных молекул, либо через их совокупные свойства, но последние изобретены людьми ради упрощения. Внешняя реальность состоит лишь из молекул: статистические свойства, такие, как средняя кинетическая энергия, существуют только в голове у физика. Подобно этому любые динамические свойства совокупного поведения клеток головного мозга существуют лишь в моделях ученых, занимающихся изучением мозга. Внешняя реальность заключает в себе лишь клетки мозга. В то же время, как вам известно, когда вы прищемите свой палец дверью, ощущаемая вами боль будет реальной и возникнет в один момент, и это не теоретическое построение, существующее в мозгу ученого.
Итак, имеются веские причины полагать, что машины не обладают сознанием. Однако нельзя ли те же самые аргументы применить к мозгу? Разве он не является биоэлектрохимической машиной? Он выполняет строго заданные программы, закодированные в его генетических и нервных проводках. И все же, если наш аргумент в пользу того, что машины лишены сознания, можно использовать и по отношению к мозгу, тогда он становится ошибочным, ведь мы доподлинно знаем, что наш собственный мозг наделен сознанием!
Ответ на эту загадку состоит в том, что в ткани головного мозга протекают определенные процессы, затрагивающие недетерминированные квантовомеханические явления. И, пробираясь через хаотическую динамику мозга, эти бесконечно малые явления могут развиваться в открытое поведение. Отсутствие заданности открывает сознанию ворота, через которые оно оказывает влияние на деятельность мозга.
Как мы видели выше, вы можете говорить лишь об осознанных переживаниях, которые находятся в случайном цикле, порождающем речевые акты. Если вы можете сказать, что вам больно, значит, ощущение боли должно оказать случайное воздействие на какой-то участок последовательности нейрологических событий, который управляет вашей устной и письменной речью. Не детерминированный физически шаг обеспечивает удобный момент для вмешательства сознания в случайную последовательность. Поэтому, будучи людьми, мы знаем, что мы действительно выражаем свое осознанное восприятие, и можем сделать вывод о том, что в мозгу где-то должна присутствовать подобная незаданность. Пока что лишь квантовомеханические явления подходят на эту роль. К примеру, Роджер Пенроуз и Стюарт Хаммерофф сформулировали подробную теорию о том, каким образом квантовые действия в микроканальцах клеток головного мозга могли справиться с этой задачей. Эксперты все еще спорят насчет того, в действительности ли микроканальцы являются местом, где сознание вторгается в последовательность причин и явлений.
У стандартного детерминированного компьютера нет подобного входа в сознание. Поэтому андроиды и виртуальные воплощения, которые управляются компьютерами подобного рода, не могут выражать осознанное понимание, и, следовательно, их поведение не может служить доказательством присутствия сознания. Однако если бы машину пришлось строить с использованием квантовых вычислений так, как это делает мозг, тогда не остается никакой философской причины считать, что машина не может иметь тот же самый вход в сознание, который есть у живого существа. И не потому, что квантовый модуль позволит машине проводить такие расчеты, которые не в состоянии выполнить классический компьютер. Все, что может делать квантовый компьютер, по зубам и классическому, разве что скорость у него будет медленней. Тут дело, скорее, в том, что квантовый компьютер снабжен специфической реализацией, которая обеспечивает переход к сознательным процессам.
«Матрица» не дает оснований считать, что машины в фильме оснащены своеобразными квантовыми механизмами, необходимыми для реализации сознания. Квантовые явления в фильме не упоминаются; с другой стороны, в нем имеются косвенные доказательства того, что Матрица и ее агенты лишены сознательного мышления.
Поэтому агенты — программные модули, работающие внутри Матрицы, — обладая интеллектом, похожи на глупые автоматы. Большую часть времени агенты действуют, не проявляя воображения, и мы можем наивно решить, что это обстоятельство подтверждает недостаток интеллекта, которым они страдают. В то же время агент Смит проявляет инициативу и, похоже, в своей речи, обращенной к Морфеусу, демонстрирует сознательную неприязнь по отношению к человеческому роду. Но действительно ли он наделен сознанием или всего лишь подражает людям? На самом деле Смит выдает себя с головой, когда говорит о мире людей: «Это запах, если такая вещь вообще существует… Я чувствую вашу вонь, и каждый раз я боюсь, что она как-нибудь меня заразит». Собственная логическая цельность Смита обязывает его сомневаться в существовании этого невычислимого качества, о котором говорят люди, в осознанном переживании запаха. Когда Смит говорит «…запах, если такая вещь вообще существует», он проявляет характерную черту автомата. Это подтверждается следующей фразой насчет того, что он может «чувствовать вонь». Отсюда вытекает, что Смит просто не понимает разницы между ощущениями, существующей для человеческого разума. Для компьютера информация — вещь взаимозаменяемая, но для человека вкус, запахи, цвета, звуки и другие ощущения непреодолимо различны. Этот факт ускользает от агента Смита.
