Она не шутила, и то, что началось как способ успокоить разгневанную старую леди, разрослось в дело, достаточно юридически запутанное, чтобы сделать его интересным. Как старший партнер фирмы «Фейнголд и Чарни», Джордж разрабатывал стратегию, но оставлял черновую работу младшим партнерам, в том числе солидную ее часть своему сыну Полу, который тоже был членом фирмы, и почти ежедневной обязанностью которого стало докладывать обо всем бабушке. Та, в свою очередь, каждый день обсуждала дела с Эндрю.
Сам Эндрю тоже был глубоко вовлечен. Его работа над книгой о роботах была снова отложена, потому что теперь он продирался сквозь дебри различных толкований законов, и даже иногда давал робкие советы.
Однажды он сказал:
- Джордж говорил мне в тот день, что люди всегда боялись роботов. Пока такая боязнь останется, судьи и юристы вряд ли будут стараться в их пользу. Не следует ли что-нибудь сделать для создания нужного общественного мнения?
С этого момента Пол работал с судьями, а Джордж взялся за публику. Это давало ему преимущества неофициального лица, и он даже зашел настолько далеко, что несколько раз облачался в новомодную просторную одежду, которую обозвал драпировкой. Пол сказал ему:
- Только не появляйся в ней на людях, папа.
- Попробую этого не делать, - уныло отозвался Джордж.
При случае он обратился к участникам ежегодного сбора редакторов голографического телевидения, и, в частности, сказал:
- Если, согласно второму закону, мы можем требовать от любого робота неограниченного подчинения во всех отношениях, кроме нанесения вреда человеку, то в таком случае любой человек имеет опасную власть над любым роботом. Кроме того, поскольку второй закон приоритетнее третьего, любой человек может использовать закон подчинения для преодоления закона самосохранения. Он может приказать любому роботу повредить или даже уничтожить себя по любому поводу, или даже безо всякого повода.
Разве это справедливо? Разве мы обращаемся так с животными? Даже неодушевленный предмет, который хорошо нам служит, имеет право на бережное обращение. А робот не бесчувственный предмет, и даже не животное. Он достаточно хорошо мыслит, чтобы с нами разговаривать, спорить и шутить. Можем ли мы обращаться с ними, как с друзьями, можем ли работать вместе с ними, и не предоставить им хотя бы часть плодов этой дружбы, часть выгоды от сотрудничества?
Если человек имеет право дать роботу приказ, который не подразумевает причинение вреда другому человеку, то он должен обладать и таким достоинством, чтобы не отдавать роботу приказ, наносящий вред роботу, если только этого абсолютно не требует безопасность человека. С большей властью приходит и большая ответственность, и если у роботов есть три закона, защищающие людей, разве чрезмерна просьба о том, чтобы и у людей были один-два закона, защищающие роботов?
Эндрю оказался прав. Именно борьба за общественное мнение оказалась ключевым моментом при рассмотрении дела в суде и легислатуре, и в конце этого рассмотрения был принят закон, запрещающий при определенных условиях отдавать приказы, вредящие роботам. В него все время вносились бесконечные поправки, а наказание за его нарушение со-
вершенно не соответствовало последствиям, но принцип был установлен. Окончательное рассмотрение закона во Всемирном суде проходило в день смерти Маленькой Мисс.
Это не было совпадением. Маленькая Мисс отчаянно боролась за жизнь, пока шли последние дебаты, и скончалась лишь после того, как узнала о победе. Ее последняя улыбка была обращена к Эндрю. Ее последние слова были: «Мы любили тебя, Эндрю».
Она умерла, держа его за руку, а ее сын, невестка и внуки стояли в почтительном отдалении.
12
Секретарь вышел во внутреннее помещение офиса, и Эндрю принялся терпеливо ждать. Секретарь мог бы воспользоваться голографическим видеофоном, но для него, несомненно, было бы не по-человечески (или, возможно, не по-роботски) иметь дело с другим роботом, а не с человеком.
Эндрю убивал время, обдумывая этот вопрос. Можно ли выражение «по-роботски» использовать как аналог выражения «по-человечески», если «по-человечески» стало метафорическим термином, сильно отличающимся от своего исходного буквального смысла по отношению к роботам - или, скажем, к женщинам?
Подобные проблемы часто возникали при работе над книгой о роботах. Обдумывание предложений для выражения всех сложных мыслей, несомненно, обогатило его словарь.
Время от времени кто-нибудь заходил в комнату посмотреть на него, и он не отводил глаз. Он спокойно глядел на вошедшего, и каждый из них после этого начинал смотреть в сторону.
Наконец к нему вышел Пол Чарни. Он выглядел удивленным, вернее, должен был бы выглядеть, если бы Эндрю мог уверенно различать выражения лиц. Пол обильно пользовался косметикой, употребление которой мода диктовала для обоих полов, и хотя она и придавала четкость и твердость несколько мягким чертам его лица, Эндрю не одобрял этого. Он обнаружил, что выражение неодобрения к людям, если не высказывать его словами, не вызывает в нем большого смущения. Он мог даже выразить это неодобрение письменно. Он был уверен, что не был на это способен всегда.
- Заходи, Эндрю, - сказал Пол. - Извини, что заставил тебя ждать, но было одно дело, которое нужно было обязательно закончить. Заходи. Ты передал, что хочешь поговорить со мной, но я не знал, что ты имел в виду разговор здесь, а не дома.
- Если ты занят, Пол, я готов подождать еще.
Пол взглянул на игру движущихся теней на настенном диске, служившем часами, и сказал:
- У меня есть немного времени. Ты пришел пешком?
- Нанял автомобиль.
- Проблем не было? - спросил Пол с искренней озабоченностью.
- Я не ожидал никаких проблем. Мои права защищены. Пол еще больше встревожился.
- Эндрю, я же объяснял, что наличие такого закона не обязывает к его применению, по крайней мере в большинстве случаев... и если ты настаиваешь на том, чтобы носить одежду, то когда-нибудь нарвешься на неприятность - как в тот первый раз.
- И единственный, Пол. Мне очень жаль, что ты огорчен.
- Хорошо, посмотри на это с другой стороны. Ты уже стал буквально живой легендой, Эндрю, и во многих отношениях представляешь слишком большую ценность, чтобы иметь право рисковать собой... Как придвигается книга?
- Уже приближаюсь к концу, Пол. Издатель очень доволен.
- Отлично!
- Не знаю, доволен ли он книгой самой по себе. Мне кажется, он надеется продать много экземпляров оттого, что она написана роботом. И именно это его радует.
(adsbygoogle = window.adsbygoogle || []).push({});
