сооруженная из кубиков лего, будет делать, нужно пошагово разобраться в том, как она работает, используя при этом законы, которым кубики подчиняются. Однако зачем так заморачиваться, если вместо этого можно просто проследить за самими вычислениями? Но вдруг кто-то расскажет вам, по каким правилам нужно общаться со входом и выходом компьютера, однако откажется объяснить его физическое устройство? Ничего страшного, все у вас будет хорошо — поскольку вам
и не нужно знать его устройство.
Таким образом, если то, что происходит в сложной физической системе, лучше всего описывается словом «вычисления», тогда, возможно, предсказать ее поведение намного, намного легче, чем это может показаться: мы и не должны понимать поведение каждого атома — нам нужно только понять, какие вычисления система в действительности выполняет.
Является ли ваш мозг такой же вычислительной машиной? Разумеется, человеческий мозг способен делать вычисления: мы можем выполнять все операции машины Тьюринга или предсказывать результат действия системы логических операторов AND/NOT/OR. Однако мы в этом не очень сильны — дешевенький калькулятор на солнечных батареях превзойдет тут любого человека. Мы должны сильно напрягаться, чтобы заставить свой мозг производить вычисления по четко определенным алгоритмам. При стандартных операциях наши мозги работают скорее как эффективная бюрократическая машина или, возможно, как современная сложная система программного обеспечения. В нашем мозгу можно функционально — а иногда и физически — идентифицировать отдельные ячейки для обработки и интегрирования сенсорных данных, управления моторикой, контроля процессов внутри тела, регулирования гормонального обмена и других химических процессов, для образования и восстановления воспоминаний, визуализации и предсказания будущих действий, и так далее.
Мы привыкли чувствовать себя на вершине иерархии, подобно императору Мин, и в определенном смысле это соответствует действительности: из решения совершить что-то, соответствующее ощущению «я решаю», следует совершенно очевидная ответственность за все действие. Если вы решаете закрыть мою книгу, эта стандартная команда приводит в движение целую цепочку мыслительных и физических процессов (почти все они слишком сложны, чтобы проследить детально каждый из них, даже если бы вы попытались это сделать), последним звеном в которой является закрытие книги. В большинстве случаев система работает прекрасно, и обычно вы вспоминаете о ней, только когда по той или иной причине ваше указание не дает желаемого результата.
В то же время вы можете спросить: «Откуда взялось мое решение закрыть книгу?» На это может быть много причин, скорее всего вами не осознанных. Может быть, вы устали, или в комнате произошло нечто такое, что отвлекло вас от чтения, или вам потребовалось срочно выполнить какие-то обязательства, или вас охватили голод либо жажда, или возникла срочная необходимость воспользоваться интернет-поиском либо электронной почтой, или появился какой-то физический дискомфорт, или же вы ощутили боль. Все эти причины, каждая из которых обладает собственным весом, бросаются на чашу весов, накапливаются там — и в какой-то момент перевешивает чаша с надписью «сейчас нужно на время закрыть книгу». Тогда это решение всплывает в вашем сознании и, возможно, оформляется в виде некоей истории — типа «что-то мне захотелось сварить кофе». Эта придуманная причина может частично перекрываться реальными причинами и мотивами, но может и не иметь с ними ничего общего. Ну, и кто здесь в действительности решает — император или бюрократия?
Как и работа императорской бюрократии, результаты работы сознания в чем-то непредсказуемы и могут меняться. Член правительства Мин может чувствовать себя совершенно бессильным изменить правительственную политику, но если ему сложно принять какое-то политическое решение, то урегулирование может зависеть от докладов чиновников более низкого уровня. Их доклады содержат решения, основанные, в свою очередь, на справках, составленных чиновниками еще более низкого уровня — и так далее. Таким образом, изменения в работе мелких бюрократов могут сильно повлиять на решения на самом верху. Наш разум тоже работает похожим образом, однако со значительной поправкой на случайную компоненту, которая появляется в наших мыслях и влияет на них[55]. Решения высокого уровня во многих отношениях стабильны: нормальный, здравомыслящий человек редко когда решает «спонтанно» броситься под мчащуюся машину или устроить кровавую бойню. Но трудные решения могут зависеть от довольно тонких деталей работы сознания на низком уровне. И если вдруг мы попытаемся воспроизвести поток мелких решений (вроде тех, которые мы принимаем, когда составляем фразу), то потерпим неудачу. Мы можем составить множество разных фраз (и, если попросят, непременно сделаем это), выражающих по существу одно и то же, но различающихся синтаксическими деталями. Эта разница в деталях «случайна» в том смысле, что мы не сумеем предсказать или воспроизвести их, и, возможно, они зависят от переменных случайных процессов в сознании, отфильтрованных от процессов более низкого в иерархии сознания уровня. Но и они не по-настоящему случайны — ведь все эти фразы осмысленные!
Вот какова, возможно, большая часть нашего мыслительного процесса.
Как бы сильно ни отличалась работа человеческого мозга от работы машины Тьюринга, мы все же можем задаться вопросом, насколько он по существу ею является. К примеру, операционная система планшетника может проделать многие сложные вещи, имеет подмодули для хранения и извлечения данных, организации сенсорного ввода и создания выходных данных, и так далее. Не очевидно, что планшетник функционирует, как обычная машина Тьюринга. (Если у вас найдется немного свободного времени, попробуйте сами написать для него простенькую программу.) Однако мы знаем наверняка, что он точно исполняет программу (мы можем посмотреть на ее исходные коды), и в принципе может быть промоделирован машиной Тьюринга. У него имеются явные правила высокого уровня, которые позволяют с прекрасной точностью предсказать, что будет происходить в определенной ситуации с множеством «сенсорных» входных данных (например, вводимых касанием пальцем экрана), не углубляясь при этом в законы Максвелла и подробности поведения электронов.
И что, человеческий мозг работает так же? Если да, то, возможно, джинн не так уж безумен, когда говорит, что способен предсказать все, что вы будете делать. Ему просто надо быстро предсказать результат разных вычислений вашего нейронного компьютера при заданных входных данных еще до того, как вы выполните эти действия в реальности. Вроде бы довольно легкое дело… или, по крайней мере, не невероятное, правда?
18. Проблема зависания
(Проклятая арабская пещера, 1610 год)
«Ты собираешься когда-нибудь меня отпустить?» — взмолился ты, обращаясь к джинну. «Ну, — ответил он важно, — это зависит от того, как ты будешь себя вести. Я решу, заслуживаешь ли ты свободы». Ты не хочешь сердить джинна, но тревога не покидает тебя, и ты спрашиваешь: «Но ты ведь уже знаешь, что я собираюсь делать, разве не
