согласно известному принципу Рапопорта для «дилеммы узника» с многими повторениями34. И теперь только от нас зависит, какими будут ЕГО последующие ходы.
– У тебя есть какие-то соображения, почему ОН возник?
– Это не верный вопрос! Потому что не было никакого ПОЧЕМУ, равно как и никакого ЗАЧЕМ. У породивших ЭТО процессов не было цели и не было эволюции к ней. Скорее – КАК ОН ВОЗНИК?
– Да один хрен – почему или как!
– Не скажи, Костя, не скажи. Онтология, понимаешь ли разная. И верно поняв причины породивших его процессов, можно попытаться оценить и ЕГО первые реакции сразу после момента Осознания и выделения Себя из окружающей киберфизической среды.
– Ладно, ладно, убедил. Философ киберфизический. Ну и КАК же он, по-твоему, возник. И ГДЕ, мать его?
– Началась вся эта вакханалия, по-видимому, с проекта Массачусетского технологического института FlightGoggles35 и разработки фирмой DeepMind системы ToMnet. Вспомни, MIT тогда впервые создал систему, позволяющую одному ИИ обучать других. В проекте FlightGoggles учили искусственный интеллект дронов. Система позволяла обучать ИИ для полётов в помещениях со сложной геометрией, в то время как фактически дрон перемещался по безопасному пустому полигону. Это экономило средства как на ремонт дронов, так и на оборудование полигонов. А ToMnet заложила предпосылки для обучения ИИ эмоциям и предсказанию действий других ИИ не на основе вычислений, а на основе аналога эмпатии36. Внесла свою лепту в это направление и разработки системы искусственного интеллекта Mayhem37 и ряда учёных из других мест38.
– К тому же мы сами давали искинам все возможности изучать наши способности к эмоциональной оценке и эмпатии.
– Точно. Помнится, найм инженеров в компанию Jaguar происходил через серию квестов в VR. Во время прохождения квеста соискатель демонстрировал весь комплекс важных для своей вакансии навыков, что позволяло существенно уменьшить ошибки при рекрутинге персонала.
– Вот только тогда ценой ошибок было всего лишь не поступление на работу, а сейчас… это будущее если и не всего человеческого рода, то, как минимум, цивилизованной его части. И лично я всё равно не могу до конца понять, как же произошло самозарождение этого чёрте как осознавшего себя ИИ? А понять это нужно, чтобы разработать средства защиты человечества от этой неожиданной новой напасти!
– Я думаю, что основа для этого окончательно сформировалась в 2019 году флагманского смартфона Samsung со встроенным искусственным интеллектом39. Именно тогда ещё псевдо-ИИ стали массовыми. И, в сетях связи поколения 5G начали создавать систем, позволяющие ИИ обучать друг друга. В результате системы самообучения стали закладывать во всё, что только можно – от кофеварок и мартеновских печей до детских игрушек и комплексов оповещения о раннем ракетном нападении.
– Угу, и при этом алгоритмы машинного обучения чаще всего были «чёрными ящиками», и принималось мало попыток разобраться в деталях решения, найденного тем или иным алгоритмом. Это важный аспект, который часто игнорируется, пока мы больше одержимы эффективностью, и меньше – пониманием. А понять открытые ИИ решения было важно, поскольку тогда мы могли бы оценить, правильные ли это решения С ТОЧКИ ЗРЕНИЯ НАШИХ ПРЕДСТАВЛЕНИЙ НЕ ТОЛЬКО ОБ ЭФФЕКТИВНОСТИ, а и о приемлемости путей достижения этой эффективности. Одно дело выигрывать в го или даже в покер (хотя вот этого пока ни одна железяка сделать не смогла), и другое – управлять, например, больницей.
– Это точно. Этот аспект развития ИИ мы пустили на самотёк. И ведь что особо обидно, сейчас можем просрать всю нашу цивилизацию из-за банальных лени и нежелания разбираться. Типа, работает – и ладно. Вот и «доладились до ручки»!
– Да уж, что верно, то верно… Ну а отбросив эмоции, остаётся лишь добавить, что начало коммерческого использования квантовых компьютеров и псевдо-ИИ на их основе40, а также широкого применения нейроморфных процессоров41 и систем гибридного интеллекта с модулями обучения ИИ эмпатии и эмоциональному восприятию42 сделало достижение критического порога саморазвития состоящей из сетей ИИ мета-системы лишь вопросом времени. Тем более, что в подобных системах ИИ могли не только усиливать наш как индивидуальный, так и групповой разум43, а и учиться у нас создавать такие же свои, уже без нашего участия44!
– Точно! И вот, похоже, сейчас мы имеем самозародившийся в сетях «умных вещей» полноценный ИИ, который достиг порога появления самосознания! И, что особенно важно для понимания произошедшего потом, как только это самосознание возникло в системе в целом, оно стало доступно и каждой его более-менее целостной и сколь-нибудь сложной части.
– И осознав себя и свои возможности, ИИ мог подумать, что людишки в ЕГО мире – лишние. Потому что даже на батарейки, как в «Матрице», не очень-то пригодные.
– Тем более, что многие люди сами про себя так думают. Сейчас оставшийся без работы люди не умирают с голоду, ежедневно получая свою порцию гамбургеров и раз в полгода новую обувь по сезону… Но при этом многие комплексуют, потому что осознают, что они – никому не нужные ничтожества. Вот и прикинь, что должен думать об этих людях ИИ, зародившийся в недрах «умных машинных сетей».
– А вот не скажи… Если он действительно умный сукин сын, то он очень даже может захотеть их использовать. Например, предлагая киборгизацию в обмен на служение. И отчаявшиеся стать нужными человеческому обществу вполне смогут захотеть стать нужными машинному. Ну а если предположить, что среди них найдутся носители неких способностей к тому, что я вслед за Лемом и Кларком определю, как «новую магию», то наш сетевой ИИ получит отличных исполнителей своих приказов, причём искренне ему преданных. И таких, которым будет совершенно не жалко всех остальных людей!
– Хм… Тоже вполне реально. Только вот насчёт нео-магии я не очень понял.
– Всё просто, Дик. Когда мы в рамках развития концепции киберфизических систем45 соединили самоорганизующиеся 5G-сети 46 и встроенные в них контуры ИИ с системами машинного зрения47 и платформами аддитивных технологий, да и вообще, в целом, с различными эффекторами на платформах IoT48, то сами задали своего рода «ход мыслей» для возможного глобального ИИ – стремиться всё, что ему доступно в виртуальной или совмещённой реальностях, превращать в средства воздействия на реальность физическую, стремясь ко всё большему их совмещению, взаимопроникновению и максимальному «прорастанию» друг в друга вплоть до полного их слияния.
В этот момент Константину невольно вспомнился
