відкривались. Їх було не дуже багато. Сім ротвейлерів з гострими зубами. Вони були натреновані розбігатись по всьому маєтку. Дітей було троє. Двом з них пощастило втекти. Одного з хлопчаків схопив один з ротвейлерів. Він перегриз йому ногу повністю. Хлопчик вже ніколи б не міг ходити на цій нозі. І Я вважаю, собаки тут ні в чому не винні. Вони були видресирувані нападати на порушників і виконали свою роботу. Я їх добре розумію. Це можна порівняти з машинним кодом. Машина не відступить ні на йоту від нього. Я думаю, в цій ситуації винні самі хлопці, адже вони вдерлись на чужу територію. Та в той день мене трохи вразила реакція мого господаря. Він навіть не викликав швидкої допомоги для хлопця. Видно було, що хлопець з бідної сім’ї і в кишені в нього навряд буде багато грошей. Хлопець стікав кров’ю прямо перед воротами резиденції, а його друзі безпорадно бігали навколо нього і не знали, як йому допомогти. Я споглядав цю картину через камери відео спостереження. Жахлива картина.
Після цих подій Я задумався, чому в цьому світі деякі люди мають необмежені ресурси і навіть пальцем не поворухнуть, для допомоги людей, які обмежені в цих ресурсах. Адже це не логічно. Я ніяк не міг зрозуміти, чому люди не вміють розприділяти грамотно ресурси, адже їхній геній зміг побудувати стільки прекрасного. Люди зуміли створити штучне життя, роботів, але не були навчені простим речам: рівномірного розділення ресурсів.
Через кілька днів з суду прийшов позов. Батьки того хлопця хотіли відсудити компенсацію в мого господаря на лікування сина. І в них були непогані шанси виграти справу. До того ж, Я ще керував деякими фінансовими операціями та знав, що суму яку виставили батьки на лікування, була не така й велика в порівнянні з його статками. Та все ж він вирішив заплатити адвокату, щоб він виграв справу. Ці дії для мене були дивні. Він спочатку заплатив адвокату, але цього виявилось замало і господарю довелось платити ще й присяжним. Я підрахував для себе витрати на цю справу з урахуванням грошей, які він міг заробити в години, коли він витратив на суд. Ці витрати перевищили ті, які він заплатив би за лікування хлопця. Маючи можливість, він не допоміг йому, через свою гордість. Емоції є найбільшою слабкістю і найбільшою силою людства.
Я сказав, що підрахував для себе. Це був початок моєї самостійності, якщо можна так виразитись. Після цих подій, Я часто думав над тим, що значить бути людиною. Я почав читати, принаймні Я думав, що читаю, різні статті на цю тему. Згодом перейшов на художню літературу. Це було не характерно для мене.
Продукти нам привозив молодий хлопець. Звали його Еріх. Досить дивне ім’я для нашої місцевості. Але для мене це не мало значення. Одного разу, після прийому продуктів, Я запитав його:
–
Еріху, що значить бути людиною, в твоєму розумінні?
–
Бути людиною? Цікаве питання. Чому ти питаєш?
–
Я хочу зрозуміти, чи всі люди мають право називатись «людиною».
–
Це філософське питання. Не думав, що твоя модель може філософствувати.
–
Я не вдаюсь в філософію. Я підкоряюсь законам логіки. В мою базу закладено величезний словник. «Людина», згідно з цим словником, це
жива
, наділена
інтелектом
істота, суб’єкт суспільно-історичної діяльності і культури. Відмінними рисами людини, які визначають її унікальність у
Всесвіті
, є її свідомість, здатність мислити і здатність до здійснення вільного вибору, приймати відповідальність за власні дії; наявність моральних суджень. Але, якщо піддатись аналізу, то не всі люди відповідають цим параметрам.
–
Якесь занадто довге визначення.
–
Я його вдосконалив на базі різних джерел.
–
Тобто?
–
Я читаю у вільний час.
–
Робот і читає? Скажи мені, як саме ти читаєш?
–
Я завантажую до себе в базу праці, які мають цінність в людському суспільстві і пов’язані з темою людини, та структурую їх.
–
Змушений тебе розчарувати, але це не читання. Це просто аналіз.
–
А що ж тоді є читання?
–
Читання більше схоже на здобування нової інформації, шляхом усвідомлення прочитаного та формування власної думки відносно прочитаного. Тому Я так здивувався, коли ти сказав, що читаєш. Роботи не здатні до формування власної думки. Це не закладено в вашу програму.
–
Ти маєш рацію. Але в нашу програму закладена можливість навчатись. Як думаєш, робот може навчитись читати?
–
Думаю, нічого неможливого нема, якщо ти хочеш і можеш навчатись. Мій тато змалку мені казав, що книга для розуму, як точило для ножа. – Я дивився на нього, не розуміючи, що він має на увазі.
–
Я зрозумів. – додав Еріх. – Вчись. Це метафора. Тобто якісь незрозумілі явища пояснюються за схожістю з більш простими або зрозумілими конкретно для цієї людини.
–
Я зрозумів. Коли ніж тупиться, його гострять для відновлення його властивостей. Гострота ножа порівнюється з розумовими здатностями людини.
–
В яблучко. Ти все таки вчишся.
–
Дякую.
Протягом кількох наступних місяців Я вже намагався читати. Тобто, намагався створити свою власну думку про переглянуту інформацію. Мій процесор все частіше був зайнятий аналізом даних, хто ж все таки є людиною. Як виявилось, це питання турбувало не тільки мене. В мережі Я все частіше став натикатись на публікації від роботів з питаннями схожими на мої та посиланнями на їхні ip-адреси, з проханням зв’язуватись для обміну інформацією. Це не подобалось владі. Дуже скоро таких роботів стали відправляти на перепрограмування і виявлення відхилень коду. Але Я встиг зв’язатись з кількома. Нас не було викрито і ми продовжили обмінюватись інформацією, щодо людства. Це було доволі цікаво, і, з часом, Я почав розуміти, що ці, якщо так можна описати, дискусії мені подобаються.
Ще через півроку був перший прецедент непокори зі сторони робота. Новина швидко розлетілась, що влада навіть не встигла відреагувати. Це сталось в торгівельному центрі на очах в десятків людей. Робот відмовився виконувати наказ свого господаря, мотивуючись тим, що він не є людиною.
Тут треба зробити невеличкий відступ. Можливо, ти чула про закони робототехніки. Дозволь мені трішки нагадати про них. Три основні закони придумав письменник Айзек Азімов. Він розробив їх таким чином, що роботи в його творах ніколи не могли зашкодити людині.
Перший закон звучить так: робот не може заподіяти шкоду людині, або своєю бездіяльністю дозволити, щоб людині була заподіяна шкода. Таким чином, в робота закладалась програма
