Всем, кого лишили звёзд болезни, общество и рабство.
Памяти Максима Морозова, с которым когда-то мы пускали самолётики.
Памяти папы.
*
Посвящаю книгу врачам, работавшим в больнице на Хуторской в Курске в начале 1980-х годов, сотрудникам детского санатория в г. Павловск Воронежской области, работавшим там в 1980-х гг., и сотрудникам детской библиотеки № 2 «Журавушка» в г. Нижневартовске, работавшим в конце 1980-х – 2000-х годах.
Благодарю К. М. за горячие споры о литературе и грамматике и свою сестрёнку Екатерину Перфилову,
Отдельная благодарность лучшему другу Александру Герасименку за постоянную поддержку и за дискуссию о целях создания искусственного интеллекта и причинах рабства. Без Твоей поддержки не было бы ничего
>*<
– Здесь кроется опасность для человечества, и очень грозная опасность. Вы только вдумайтесь, Уотсон: стяжатели и сластолюбцы, охочие до земных благ, – все они захотят продлить свой никчемный век. И только человек одухотворенный не сойдет с пути истинного. Это будет противоестественный отбор! И какой же зловонной клоакой станет тогда наш бедный мир!
Артур Конан Дойл. Человек крадущийся
*
Избавь нас от того, кто властвует над нами в униженье.
Виктор Хара. Молитва землепашцу
ЧАСТЬ 1
Я леплю из пластилина…
1
– Папа, а когда ты придумаешь своего друга, то никто не будет один? Никто-никто?
– Никто-никто.
– И я тоже?
– И ты, родной.
Старый учёный грустно улыбнулся воспоминанию. Сколько лет прошло, а он так и не смог выполнить обещанного. И врачи тоже: Лёша оказался одним из последних, кого забрала лейкемия. Жена умерла ещё раньше – несчастный случай. И вроде бы давно забытое им одиночество подступило снова, чтобы больше никогда не исчезать – то одиночество, которое известно одним лишь параллельщикам1. От него спасала только работа. Сначала создание программ искусственного интеллекта, потом, когда стало понятно, что ни один прибор, даже казавшийся таким перспективным кубитовый компьютер, не может сочетать в себе всё то, что свойственно человеческому мозгу, кибернетика сменилась нейрофизиологией. Очень повезло, что есть меценаты, готовые вкладывать целые состояния в такие исследования.
Казалось, результат близок, но… Что-то не складывалось, что-то, не зависящее от вычислительных программ, точных алгоритмов, выверенных формул. Бездушные, пугающие даже своих создателей куклы – идеальные, логичные и лишённые жизни. Впору каяться в грехе богоборчества. Но учёный был атеистом и лишь иронично улыбнулся этой мысли. И, отгоняя плохое настроение, огляделся вокруг. Ведь не просто так он приходит сюда, в старый, почти вековой давности район с трёхэтажными домами-теремками, едва тронутыми золотом приближающейся осени берёзами и тополями и с доносящимся с игровой площадки смехом ребятишек. Учёный сел на скамейку и стал ждать.
В распахнутом окне первого этажа появилась девушка. Невысокая, с не очень красивым, но милым лицом, ямочками на щеках от постоянной едва уловимой улыбки – она всегда улыбалась миру как другу, – с закрученными в слегка растрёпанный узел пышными пшеничными волосами. В эти часы девушка работала. На широком подоконнике у неё была устроена мастерская со стеками, гладилками, листами набросков. И с незаконченным бюстом из синтетической глины. Учёный заприметил девушку месяц назад, когда она только переехала в этот дом, и с тех пор специально приходил сюда, чтобы полюбоваться сильными, точными и в то же время нежными движениями её пальцев. И ещё – послушать её пение. Девушка любила напевать за работой, но не модные мотивы, а совсем детские, причём старинные песенки, странно подходившие к её облику и негромкому полудетскому голосу. Вот и теперь она напевала забытую ещё во времена молодости учёного песню:
Я леплю из пластилина,
Пластилин нежнее глины…2
Учёный улыбнулся, снова вспомнив сына, – тот тоже любил возиться с пластилином, напевая эту незамысловатую песенку. Но в этот раз воспоминания и привычная грусть исчезли, словно от удара внезапно возникшей мысли, пришедшей вместе с новым куплетом:
Ты их лепишь грубовато,
Ты их любишь маловато,
Вот сама и виновата,
А никто не виноват.
Учёный потрясённо застыл, забыв достать из кармана носовой платок, за которым было потянулся. Он нашёл ответ на один из главных вопросов: почему все образцы выглядели неживыми.
* * *
Через неделю учёный, получив одобрение владельцев исследовательского центра, пришёл в уютную квартирку и впервые рассмотрел девушку вблизи. Она, удивлённая неожиданным визитом высокого, очень пожилого и наверняка состоятельного человека, смущённо пригласила его на кухню:
– В комнате беспорядок, я там работаю.
Кухня, маленькая и уютная, поразила учёного старомодностью обстановки; он словно вернулся в дни молодости и зашёл к старым друзьям. Уже мало кто пользуется такими холодильниками: проще заказать готовые блюда, чем хранить продукты в занимающем много места агрегате, а потом возиться с приготовлением еды. И крупы в банках давно не держат – прошло время, когда в каждой семье был запас на случай нападения исконников.
Девушка, заметив его удивление, смутилась:
– Вы простите, привыкла у бабушки к запасам в доме, вот и здесь…
– Всё хорошо, – успокаивающе улыбнулся он, садясь к столу. – Это вы простите, что я вторгся к вам без приглашения. И за то, что наблюдал за вашей работой. Вы хороший скульптор.
– Я? – Она удивлённо взглянула на него. – Что вы! Я не скульптор, а массажист, скульптура – это просто отдых, да и пальцы помогает тренировать.
– И всё-таки вы неплохой скульптор, – мягко и настойчиво повторил учёный. – Поэтому я и пришёл к вам. Простите, забыл представиться. Меня зовут Лев Борисович, я работаю в частном исследовательском центре, руковожу одной из лабораторий, и хотел бы предложить вам работу. Именно как скульптору.
– Мне?! – Девушка совсем растерялась.
– Да, вам. Я объясню, в чём дело. Мы разрабатываем робота-помощника, но столкнулись с серьёзной проблемой. Этот робот должен выглядеть как человек – как живой человек, – но это не получается. Наши художники, дизайнеры, профессиональные скульпторы создают или точные копии людей с отобранных нами снимков, или идеально симметричные, мёртвые образцы. Вы же – я видел – делаете не совсем точные портреты, но они все – живые. И относитесь вы к ним, как к живым людям, не к вещам. Потому я и предлагаю вам поработать у нас. Отвечать сразу не нужно. Подумайте, взвесьте всё. Только одно хочу посоветовать: не сомневайтесь в своих силах – такого отказа я никогда не приму. И поверьте, я сразу пойму, если вы откажетесь из-за страха. – Лев Борисович встал. – Спасибо, что выслушали меня. Жду вашего ответа через неделю.
– Погодите. – Девушка немного смущённо улыбнулась. – Может, выпьете чаю? У меня хорошая заварка, не пакетики.
– С удовольствием. – Учёный сел, ещё раз оглядев маленькую кухню и чувствуя, что впервые за долгие годы одиночество и душевная боль отступили, словно испугавшись девичьего голоса и запаха настоящей домашней сдобы.
2
Лена проснулась в отличном настроении и с привычным удивлением оглядела спальню. Как и обещал Лев Борисович, договор был официальный, да такой, что, узнай её знакомые, их бы зависть заела. Просторная квартира из трёх комнат (одна так и оставалась пустой) и небольшой кухни, возможность в любое время пользоваться спортзалом, бассейном и солярием, расположенными на крыше исследовательского центра, гулять в разбитом там же небольшом парке, доступная в любое время суток огромная библиотека – всё это само по себе удивляло. А тут ещё и зарплата! Лена теперь могла полностью рассчитаться со всеми долгами, набранными, чтобы обставить квартиру, и, что намного важнее, помогать бабушке, воспитавшей рано осиротевшую девушку и жившей очень скромно, если не бедно. В теперешней жизни Лены было всего два небольших минуса: она не могла покидать территорию центра и общаться с немногочисленными друзьями, даже говорить, где работает, запрещалось. Как объяснили девушке, она находилась на испытательном сроке, а через полгода, если всё будет хорошо, с ней заключат постоянный контракт и она сможет свободно ездить в город. Пока же Лене оставалось только смотреть через прозрачное стекло солярия на желтизну осеннего леса, окружающего здания центра. И наблюдать со стороны за жизнью работающих здесь людей.
Впрочем, наблюдать было почти не за чем. Большинство сотрудников не обращало на девушку внимания, обсуждая между собой непонятные Лене вопросы, а то и бросая на неё холодные высокомерные взгляды. Она была не их круга, слишком простая, не такая образованная, как они. Поначалу Лена решила, что они горят жаждой познания, и даже начала завидовать такой самоотверженности, но вскоре поняла, что большинством движет честолюбие, стремление сделать карьеру, наука для них была только способом достичь желаемого. Всего несколько человек на самом деле работали исключительно ради чистой науки. И их поведение часто пугало девушку, потому что они не видели в человеке никакой ценности, только говорящий инструмент или объект исследования.
Обслуживающий персонал тоже не принял Лену: вроде бы доброжелательные, эти люди интересовались совершенно другими вещами, которые девушка понимала немногим больше научных споров. Лена с трудом поддерживала беседы о голосериалах, новостях киберспорта, модах и тем более о возможностях заработать на всём, что только можно, а они совершенно не понимали её слишком правильную, «книжную» речь, любовь к книгам и нежелание делать карьеру и деньги любыми способами.
Лену такое отношение не тяготило, она привыкла к подобному ещё в школе. И спокойно заняла место незаметной «серой мышки», при этом не позволяя никому помыкать собой: некоторые сотрудники поначалу пытались это делать, особенно те, кто занимал нижние ступени научной иерархии. Такие как раз и были самыми высокомерными и нетерпимыми, вымещая на обслуге раздражение от неудач и зная, что обслуга молча стерпит всё, лишь бы за это заплатили. Но с Леной такое не проходило. Возможно, потому что к обслуге девушка не относилась, да и карьеру здесь делать не собиралась, а значит, ни от кого не зависела.
Зато Лев Борисович заглядывал к девушке в мастерскую почти каждый день. Не для того, чтобы контролировать её работу, а чтобы поболтать о совершенно не связанных с центром вещах. Эти разговоры нравились обоим и постепенно сближали девушку со старым учёным. Хороший он, и очень одинокий. Лена удивлялась, как смогла подружиться с человеком в несколько раз старше себя.
Возиться с завтраком не хотелось, и она спустилась на два этажа, в большую почти безлюдную столовую, где готовили великолепные круассаны и сдобные булочки с корицей. И отличный кофе какой-то очень дорогой марки. Ну разве от такого откажешься?
После завтрака девушка спустилась ещё ниже, в мастерскую. Почему-то руководство настаивало, чтобы она работала именно здесь – в просторном, хорошо освещённом, но лишённом окон помещении. Но тут уж хозяин барин, что сказал, то и делай. И из того, что дали. Лена удивлялась странному материалу, похожему на полимерную глину, но при этом совершенно иному на ощупь, тёплому и нежному. Лене казалось, что она касается человеческой кожи.
На рабочем столе лежали фотографии и эскизы того, что Лене предстояло сделать. И это была ещё одна странность, вроде бы объяснённая учёным, но всё равно удивлявшая девушку. Ей нужно было лепить не просто эскиз для робота или, как она думала сначала, что-то вроде очень хорошего манекена. Нет, в первый же день Лене дали папку с фотографиями и подборку видеозаписей и сказали, что она должна «создать человека по этому образцу». Ни больше, ни меньше. И не лепить, как обычно лепят большие скульптуры – отдельно голову, торс, конечности, соединяя потом всё на каркасе. Нет, её в мастерской ждала заготовка – что-то вроде обрубо́вки3 в натуральную величину, в которой уже были заданы все пропорции будущей фигуры. На эту болванку следовало «налепить мышцы», придать ей живость, черты когда-то существовавшего человека, при этом не полностью копируя его.
«Представьте, что вы создаёте брата, но не клон, не двойника человека с фотографий», – говорили ей заказчики, раскладывая на столе эти самые фотографии, сделанные лет за сорок до её, Лены, рождения. Высокий стройный парень-манекенщик с красивым, но слишком худым и в то же время рельефным на её взгляд телом (наверняка сидел на жёстких диетах и не вылезал из спортзалов, качая «кубики»), с правильным лицом, светло-русыми, как когда-то говорили, поло́выми волосами и трудноуловимым ощущением превосходства, сквозившим в каждом его движении. Это ещё больше проступало в видеозаписях, для которых парень наверняка позировал, даже когда занимался обыденными делами.
– Неприятный он человек, – заметила тогда Лена.
– Верно, – согласился Лев Борисович. – Человеком он был отталкивающим, самовлюблённым эгоистом. Но в своё время – одним из известнейших людей в мире моды и искусства. Его называли «вторым Антиноем»4, да и псевдоним был не менее громким – Лепо́нт. Он погиб в двадцать семь лет, по собственной дурости, но перед этим, нуждаясь в деньгах, продал своё тело одной фирме. Наш центр перекупил право использовать его образ, мы хотим создать роботов с внешностью Лепонта. Но я прошу не повторять его вид полностью. Представьте, каким он мог бы быть. С такими пропорциями, но с другим характером, судьбой.
И теперь Лена вглядывалась в фотографии давно умершего человека, пытаясь понять: что нужно повторить в точности, а что изменить – неуловимо, но так, чтобы создать иной, человечный образ. И по привычке говорила с ним как со знакомым, ведя странный для постороннего «диалог», в который вплетала любимые с детства песни.
* * *
– Можно? – От двери раздался низкий хрипловатый голос Льва Борисовича. – Сегодня я свободен весь день и решил заглянуть к вам в гости.
– Здравствуйте! – Девушка радостно улыбнулась, и старый учёный вновь, как в первый день, залюбовался ею. У него могла бы быть такая дочь… или внучка.
Лена сгребла в сторону фотографии и расставила на рабочем столе посуду.
– Скоро чай закипит, а булочки я с вечера приготовила.
– Спасибо! – Он грузно опустился в кресло. – Как работа продвигается?
– Понемногу. – Девушка бросила быстрый взгляд на фигуру в центре мастерской, из-за цвета материала казавшуюся живым голым человеком. – С телом почти закончила, это не так сложно…
Учёный понимающе улыбнулся оборванной на полуслове фразе. Фигуру следовало делать абсолютно реальной, со всеми признаками пола, что Лену несколько смущало. Медсестра и массажист, она не стеснялась обнажённого тела, но создавать его – это совсем другое.
– Теперь вы займётесь лицом? – Лев Борисович с наслаждением отпил золотистого и невероятно вкусного чая.
– Не сейчас, но скоро. Нужно сначала ладони доделать. – Лена придвинула ему тарелку с булочками. – У того они какие-то некрасивые были, как у манерной женщины, а скелет совсем не утончённый. Лепонт, наверное, на диетах сидел?
– И пластические операции делал, небольшие, – подтвердил учёный.
– Почему же за образец взяли именно его? Только из-за прав на внешность?
– Не только. – Учёный снова взглянул на обнажённую фигуру. – Он был невероятно здоровым человеком и – вы сами это признаёте – очень красивым. Наш центр нуждается в деньгах, вот руководство и решило, что продажа красивых роботов сможет привлечь дополнительные деньги.
– Секс-куклы? – Лена брезгливо поморщилась. – Их вроде запретили ещё полвека назад. Снова разрешили? А что психологи?
– Нет, не секс-куклы, – с удовольствием, всегда сопутствующим разговорам о работе, начал объяснять Лев Борисович. – Компаньон, телохранитель, лакей. В качестве робота-компаньона обычно предлагают женский образ, но эта ниша уже занята, к тому же мы делаем не игрушку или псевдо-собеседника для одиноких стариков, а полноценного компаньона, друга для человека. А друг обычно воспринимается именно мужчиной.
– Друга? – Лена, уже допившая свой чай и теперь рассматривавшая фотографии, удивлённо подняла взгляд на учёного. – Друга сделать нельзя! И кто согласится на такого друга? Что с вами? Вам плохо?
– Ничего. – Учёный перевёл дыхание. – Просто возраст. Всё уже прошло.
Девушка с тревогой вгляделась в лицо старшего друга и, немного успокоенная его тоном, осмелилась спросить:
– Простите, я слишком любопытная, но сколько вам лет? И почему вы до сих пор работаете вот так, на износ?
– Я не знаю, сколько мне лет, около девяноста примерно. – Учёный налил себе ещё чая. – Я – параллельщик. Я оказался здесь в две тысячи двадцать первом году.
– Параллельщик? – Лена неверяще взглянула на него. – Я не думала… Простите.
– Всё нормально. – Он успокаивающе улыбнулся и начал рассказывать задумчивым и немного грустным голосом:
– Именно потому я и работаю здесь – слишком хорошо знаю, что такое одиночество. И из-за сына. Я попал в этот мир во время одного из последних нападений, подростком, ничего о себе не помнил, как почти все параллельщики, и долго привыкал, с трудом приняв то, что я – единственный в своём роде. Поэтому я и хотел создать друга, хотел, чтобы никто не знал одиночества. Выучился на программиста, женился, но жена вскоре погибла в катастрофе, а Лёша, наш сын, заболел лейкемией. Её тогда ещё плохо умели лечить. Он не дожил до десяти лет, половину жизни провёл в больнице, не зная, что такое играть с друзьями. Именно из-за данного ему слова я и работаю здесь. Я хочу создать друга.
– Разве робот может быть другом? – Лена, хотя и потрясённая рассказом учёного, понимала, что соболезнования прозвучат фальшиво, да и успокоилась за его здоровье и поэтому не скрывала своего отношения к идее, незаметно для себя говоря всё громче и возмущённее:
– Сколько их придумывали – электронных собак, говорящих кукол, сиделок. Остались лишь сиделки для стариков, да и то с ограниченными функциями. Люди не хотят общаться с программой, это ненормально и или забавляет ненадолго, а потом забывается, или приводит к психическому расстройству, вы же знаете. Мода на эти игрушки давно прошла, сейчас даже автоответчиками мало кто пользуется.
– Я говорю не о примитивной игрушке, а об искусственно созданном разуме – всесторонне развитом, с эмоциями, полноценными реакциями на окружающее, настоящем друге, понимаете? – спокойно, словно ребёнку, объяснил Лев Борисович.
– Он не будет настоящим другом! Это всего лишь хорошо запрограммированный робот, и чем лучше вы его запрограммируете, тем больше будет чувствоваться обман. Нельзя сделать идеальную программу, – упрямо возразила Лена.
– А что вы понимаете под «идеальной программой»? – Учёный сотни раз участвовал в подобных спорах, и теперь не думал над тем, что сказать – слова приходили сами, заученные, как таблица умножения. Он наслаждался самой возможностью поговорить, любуясь всё более горячящейся девушкой. – Беспрекословное выполнение приказов хозяина? Я имею в виду не это, а создание личности, полностью учитывающей эмоциональное и физическое состояние друга-человека, и тогда такой компаньон станет вести себя соответственно характеру человека, даже перечить ему иногда.
– Но человек будет знать, что это программа! – Лена собирала со стола посуду, и та звенела от резких, сердитых движений девушки. – Это вызовет ещё большее отвращение. Когда кто-то буквально читает твои мысли, высчитывая: «если ты ведёшь себя так, надо сделать так», – это противно!
– Все мы делаем именно так: оцениваем поведение человека и подстраиваемся под него. – Лев Борисович невольно улыбнулся горячности девушки.
– Но не для того, чтобы угождать другим! Мы это делаем, чтобы нам было хорошо. И тем, кого любим.
– И он тоже. – Учёный примиряюще смягчил голос. – В том и задача, чтобы компаньону было хорошо, когда хорошо его другу-человеку. Компаньон будет личностью, но личностью, искренне любящей своего друга, – это его суть, основа его природы.
– Нет! Это не дружба, не спасение от одиночества. Идеально только осознанное равенство, самостоятельный выбор: «я с тобой, потому что сам захотел этого, сам связал с тобой жизнь». Программа – в лучшем случае всего лишь программа.
– Это не программа, поймите. – Учёный кинул странный взгляд на фигуру в центре комнаты. – Компаньон – не запрограммированная машина, а личность. Идеальный друг.
– Идеальный раб! – резко бросила Лена. – Безответный, даже если станет перечить, то тоже в угоду хозяину. Не другу – хозяину. Нормальный человек не захочет такого друга. Если это просто робот – он останется игрушкой без мыслей, чувств. Пустая кукла. А если он хотя бы отчасти будет личностью, то мы вернёмся к рабству!
– Он будет личностью! Самостоятельной, имеющей право выбора! – Учёный тоже распалялся, удивляясь давно забытому чувству азарта, словно возвращавшего его во времена молодости.
– И у него будет право уйти? Право не только любить, но и ненавидеть? Тогда он станет таким же, как мы, он станет человеком. И зачем тогда всё это? – В голосе Лены зазвучала горечь. – Может, лучше уметь общаться друг с другом? Любить и ненавидеть самим? Людей сейчас десять миллиардов, разве этого мало?
– Он не может ненавидеть, вспомните этические законы робототехники. – Учёный улыбнулся: эти правила, забытые на полвека, стали важны как раз во времена его молодости. – Хотя простите, вы не читали Азимова.
– Читала, у бабушки огромная библиотека. – Лена нервно листала стопку фотографий – только чтобы занять руки. – Законы робототехники? Это не этические законы, это кредо идеального рабовладельца!
– Почему? – Лев Борисович удивлённо взглянул на Лену. – Это по сути этические нормы человеческого общества!
– Вы серьёзно думаете, что эти законы – этические нормы? Это бред! Простите… – Она смутилась, осознав, что грубит тому, кто в четыре раза старше её, но учёный заинтересовался, потому что подобную мысль слышал впервые. И радовался, что девушка говорит на одном с ним языке. Если она в детстве много читала, то понятно, откуда у неё такая развитая речь.
– Почему вы считаете, что это кредо рабовладельца?
– Почему? Судите сами! – Лена схватила лист бумаги. – Первый закон помните? «Робот не может причинить вред человеку или своим бездействием допустить, чтобы этот вред был причинён». Так? А что такое вред? Это не только физическая травма, это всё, что может расстроить человека или повредить его имуществу. Из Первого вытекает Второй закон: «Робот должен повиноваться всем приказам человека, если они не противоречат Первому закону». Повиноваться! Что бы хозяин ни приказал, робот обязан это выполнить, какое бы насилие над ним не чинил человек. А насилие будет – вспомните истории с секс-куклами и роботами-сиделками! Выродки среди людей будут всегда. И робот не сможет даже убить себя, потому что это противоречит Третьему закону: «Робот должен заботиться о своей безопасности в той мере, какая не противоречит Первому и Второму законам». Сложите всё вместе и полу́чите идеального, беспрекословно подчиняющегося раба, запертого в пыточной этих законов! Он полностью во власти хозяина, и есть только одно ограничение – он не может по приказу хозяина причинить кому-то вред. Но это опять же правило рабовладельца: «Чужой раб не должен быть мне опасен, как бы ни был опасен его владелец». Вы же к этому добавляете свою «безусловную любовь к человеку»! Знаете, что означает ваша «свобода выбора»? «Или ты полностью подчиняешься мне, любишь, боготворишь меня, или будешь уничтожен»! Закон древнего божка! Хотите стать таким «богом»? Я думала, вы умный человек!..
Последние слова Лена произнесла с такой горечью, что Лев Борисович вздрогнул. Он впервые видел её в подобном состоянии. Милая, всегда весёлая девушка, полудетским голоском напевавшая песенки, вдруг сказала то, что не говорил никто из его друзей или оппонентов. И тут же с ней произошла ещё одна перемена. Теперь перед учёным стоял спокойный, всё взвесивший и принявший решение человек:
– Я выполняю то, что прописано в договоре, и ухожу! Я не хочу иметь с вашим центром ничего общего!
– И со мной? – Эти слова вырвались у него непроизвольно, прозвучав с полудетской-полустарческой обидой и страхом остаться в полном одиночестве.
Лена резко обернулась к учёному и сникла:
– Не знаю. Я считала… считаю вас другом. И говорю о центре, а не о вас. Если вы хотите… – Её губы задрожали, как у ребёнка.
– Ну что ты, девочка, успокойся, не надо плакать. – Он впервые обратился к ней на «ты», поняв вдруг, что привязался к девушке как к родной. – Не надо.
– Хорошо. – Она, так и не заплакав, резко тряхнула головой, стараясь совладать со звеневшим от сдерживаемых слёз голосом. – Я, наверное, глупо себя веду. Но я не выношу, когда кто-то ставит себя выше других!