был выпустить ракеты по мировым столицам. И нам пришлось беседовать с компьютером, как с ребёнком, стоящим с зажженной зажигалкой в бензиновой луже. Насколько я понимаю, ваша РСМ не будет иметь никаких программ, в этом и заключается суть эксперимента. Итак, каким же будет поведение «чистого сознания»? Что оно будет делать? Чем будет руководствоваться при выборе целей и будет ли руководствоваться чем либо вообще? «Чистое сознание» робота не имеет опыта, сравнимого с человеческим, поэтому я называю его чистым. Робот будет действовать согласно той логической модели мышления, которая в нем заложена, базовая операция «если – то» будет залогом правильного выбора. Что здесь называется правильным выбором? Такая цель, которая даст роботу благо. Мы подошли к ключевой части доклада. У РСМ должно быть понятие блага. Итак, что есть благо? Это совокупный результат ряда действий, который даёт возможность достичь ещё большего блага, поделиться благом, пользоваться благом неограниченный промежуток времени. Следовательно, необходимо всегда действовать так, чтобы любое действие было направлено на достижение блага и не позволяло блага лишиться. Я полагаю, что этот этический конструкт должен быть заложен в основе основ модели мышления РСМ. Следующее: поскольку РСМ будет осознанно стремится к достижению блага, она должна будет иметь мотивацию, то есть побудительную причину такого стремления и это есть ключевой момент. Таковой причиной должны стать некоторые свойства человеческого сознания, а именно эмоциональные переживания. Я убеждён, что если машина не будет обладать эмоциями, она не будет стремиться к благу. Иначе говоря, она не станет ничего делать и будет просто изваянием. РСМ должна чувствовать радость от пользы дела и горе из-за неудач. Она должна иметь побуждение к действию, чтобы не стать жертвой второго закона термодинамики. Конечно, эмоциональный фон машины будет совсем не таким как у человека, скажем так, он будет подкорректирован. Мы не дадим машине права любить, поскольку не должны очеловечивать ее, мы не научим ее ненавидеть, завидовать, обманывать, обижаться. Машина должна остаться инструментом и не более того, мыслящим инструментом, но таким, который никогда не захочет выйти из под власти человека. Идеальным инструментом или, если хотите – идеальным человеком.
7.
На дне рождения у Чарльза Чаррингтона я был по приглашению.
На открытке был написан адрес офиса «ЧаррингтонКомпани», и я понял, что Чарльз хочет встретиться со мной до мероприятия. Я прилетел к нему в Филадельфию с западного побережья. Такси остановилось, и пока я шел ко входу, то задрал голову, полюбовавшись вонзающимся в закатное небо шпилем башни, принадлежащей одной из самых малоизвестных информационных компаний в мире, не уступающей при этом в могуществе Гуглу и Амазону.
«Кто владеет информацией, тот владеет миром», вспомнил я старинный лозунг и даже не знал, что над главным входом, большими латунными буквами выложена фраза на латыни: «Когито эрго сам».
Меня проводили в кабинет к Чаррингтону и я увидел хозяина за столом в его большом офисе. Он обрадовался, увидев меня, поднялся, строгий, подтянутый, сухой, в белой рубашке и черных брюках, невысокий, с прекрасной осанкой, совсем уже седой но с хорошими зубами и здоровым цветом лица, быстрый и ловкий в движениях. Он усадил меня в кресло и принялся хлопотать у большой японской машины для приготовления напитков, рассказывая одновременно о самых разных вещах. «Сейчас я приготовлю тебе китайский чай, ты такого не пробовал, я тебе гарантирую. Слышал про ЮнионТекнолоджис? Они распродали активы фабрики, построенной ещё дедом Майерса. Завели дело о банкротстве…»
Он всегда такой был – интересовался всем на свете, был страшно увлеченный человек, никто и никогда не видел его без дела, а еще Чарльз категорически не признавал роботов, в его доме в Вашингтоне, где жила его семья, не было и тени мыслящих машин. Он все делал своими руками и запрещал детям пользоваться даже смартфонами. Убежденный консерватор, он продавал миру технологии, которые освобождали человека от необходимости мысленного труда. В чем была его идеология? Этого я не знал доподлинно, но то, что он был противником информационных технологий – это я хорошо знал. Как же так вышло, что он у встал у руля одного из мощнейших в мире производств компьютерного «железа»? Этого я тоже не знал. Он вообще по образованию был врач-эпидемиолог, а кресло директора «ЧаррингтонКомпани» досталось ему в наследство.
Мне нравился его кабинет, я не видел больше ни у кого из топ-менеджеров крупных компаний подобной обстановки, почти домашней – лаконичный, строгий дизайн, никакой помпезности и роскоши, простой ковёр на полу, скромный кожаный диван, торшеры, журнальный столик, заваленный прессой, какие-то картонные коробки в углу, множество самых разных безделушек – пластмассовые фигурки и миниатюрные бюсты на стеллажах и столе, фото детей в рамке, книжная стенка с несколькими сотнями томов и аккуратно расставленными досье в толстых цветных папках, стол огромный и весь завален бумагами, папками, книгами. На столе Чарльз убирался по воскресеньям, разгребая завалы и наводя идеальный порядок. У него редко бывали выходные. Сегодня кажется был четверг, разгар рабочей недели.
Наконец Чарльз принес чай, поставил стаканы на стол и сел в свое кресло, спиной к огромным окнам, за которыми алел закат. Как и всегда он без умолку тараторил, а я рассеянно слушал его, ожидая, когда он перейдет к делу.
– Подумать только! – произнес он. – Мне недавно заказали десять тысяч ячеек по пять тысяч терабайт. Мы продаем такие ячейки только военным. Это сумасшедшие объемы данных, там поместится половина Интернета, черт те что! То ли дело: на днях та же контора прислала аналогичный заказ, только уже на двадцать тысяч! Можешь вообразить? Да у меня при всем желании просто напросто не хватит производственной мощности! И кому это нужно? Мы выяснили, что фирма, через которую приходили заказы, подставная. Вот я и думаю…
Я уже смекнул, что похоже Чарльз перешёл к делу и стал слушать внимательнее. В этот момент дверь открылась и в кабинет вошел профессор Артур Шаломбери.
– Джерджи! И ты здесь. Рад тебя видеть!
Мы пожали руки и он устроился в кресле. Чарли сразу принялся хлопотать над еще одной порцией чая, продолжая при этом прерванный разговор:
– Вот я и думаю – кто же это скупает? Спрашиваю у Артура, он ведь должен быть в курсе всех проектов, но Артур только руками разводит! Что за диво? У тебя есть соображения, Джордж?
Я пожал плечами. Мне уже было совершенно ясно, зачем Чарльз вызвал меня, руководителя Интерпола, сюда, к себе в кабинет, да еще и Артура прихватил. Чарльз чертовски
