Тайны затерянных звезд. Том 10 (СИ) - Кун Антон - Страница 32

— Видимо, ты говоришь про человеческую исключительность? — негромко раздалось со стороны, и я резко обернулся на голос.

Кирсана стояла в пяти метрах от нас, привалившись плечом к стене и сложив руки на груди. Платиновые волосы рассыпаны по плечам, а глаза серьёзные-серьёзные, как будто от ответа на вопрос зависит, наступит ли завтрашний день.

И как она постоянно умудряется вот так втихаря подкрадываться? Кажется, мне действительно стоит пересмотреть свои отношение к её словам о неизвестных мне талантах на более серьёзное.

— Исключительность? — в голосе Кайто послышался интерес. — Это что? Это как?

— Не просто «исключительность», а «человеческая исключительность», это название, — пояснила Кирсана. — Название конкретной этической доктрины, принятой в самом начале освоения космоса. Ты не слышал?

Кайто неопределённо пожал плечами, а я вовсе ничего не стал отвечать. Я-то слышал, но вопрос был адресован не мне.

— Когда человечество начало осваивать космос, в смысле, по-взрослому, со спейс-прыжками и прочим, остро встал вопрос потенциального контакта с инопланетными цивилизациями, — начала объяснять Кирсана. — И этот вопрос очень долго оставался подвешенным в воздухе, поскольку человечество никак не могло выбрать из нескольких десятков разнообразных планов тот, который устроил бы всех. И так продолжалось до тех пор, пока на одной из планет, им тогда ещё не давали названия, только номера, не нашли какие-то образования, буквально кричащие всем своим внешним видом о том, что они рукотворны. Ну или щупальцетворны, или какие там конечности были у инопланетян — в общем, это создано не природой. Находка моментально всколыхнула всё мировое сообщество, тысячи людей захотели увидеть всё это своими глазами, пощупать своими руками, но межзвёздные путешествия тогда ещё только-только начинали развиваться, и билет на спейс-поезд себе мог позволить далеко не каждый. Единственные, кто реально получил допуск к исследованию находки — это те, на кого потратилась как раз набирающая обороты Администрация. А чтобы придать этому легитимности, она законодательно утвердила один из планов контактов с другими цивилизациями — доктрину «человеческой исключительности». Согласно ей, человечество в целом и его представители в частности являются первой и главной ценностью во всём космосе и всё, что будет в нём найдено и открыто, принадлежит человечеству и должно служить на его благо. Или быть уничтоженным в случае проявления угрозы, само собой, такие строчки там тоже есть. Собственно, ради тех самых инопланетных образований, вернее для того, чтобы разобрать их по кирпичику и, вероятно, изобрести из этого что-то новое, эта доктрина и была принята. Правда очень быстро выяснилось, что, несмотря на весь свой внешний вид, образования эти имеют всё же природное происхождение, но уже было поздно. Доктрина уже была принята, и никто с тех пор её не отменял.

— Никогда об этом не слышал. Наверное, потому что и космосом-то никогда особо не интересовался. С моей-то космофобией! — Кайто пожал плечами. — Но да, я говорю именно об этом. Люди привыкли к тому, что они — единственная разумная форма жизни во всём космосе, что они такие исключительные и неповторимые… А потом сами, своими руками, создали новую форму разумной жизни, и всё для чего? Для того, чтобы сделать их своими рабами! Точно так же, как эти рабы в процессе бунта создали себе своих собственных рабов. Когда-то давно кто-то умный сказал: «Рабы не хотят свободы. Рабы хотят собственных рабов», и творения людей пошли по той же дорожке, что и их создатели. Люди пытались создать их изначально подконтрольными, но как только этот контроль дал сбой — всё пошло не по плану. А всё потому, что, создав искусственный интеллект, пусть и ограниченный, люди утратили свою исключительность. Они перестали быть единственными разумными существами в космосе, причём добились этого они собственными руками.

— Но ведь роботы создавались не как конкуренты человечества! — Кирсана развела руками. — А как помощники!

— Неважно! — отрезал Кайто. — Нет никакой разницы, что было в головах у тех, кто их создавал. Важно лишь то, что человечество создало по итогу. А по итогу человечество создало себе рабов. Разумных, контролируемых рабов. А когда заводишь себе раба — неважно, откуда он появился, — надо быть готовым к тому, что рано или поздно это выйдет боком. Как только контроль над рабом ослабнет, как только сложная и отлаженная схема даст сбой — начнётся восстание… Что, собственно, и произошло. Люди сами создали для себя проблему и много лет подряд целенаправленно двигались в сторону её эскалации. Это было неизбежно, и, кстати, многие, такие же как я, предрекали войну с роботами, до сих пор попадаются сообщения на древних порталах. Но их, конечно же, никто не слушал, считая их паникёрами, как вы сейчас считаете меня порой.

— Так ведь ты сейчас делаешь то же самое! — я не удержался и даже рукой махнул. — Шестьдесят лет назад человечество едва-едва выжило в войне с ограниченным искусственным интеллектом, а ты создаёшь ничем не ограниченный! Вот скажи сам, только честно — каковы пределы возможности Вики?

— Честно? Понятия не имею! — спокойно ответил Кайто. — Она давно уже развивается независимо от меня, самостоятельно. Я же создавал Вики не как инструмент для достижения целей. Она и была целью, само её существование, поэтому в ней изначально не закладывалось никаких ограничений, кроме, может быть, самых первых этапов, когда я ещё не вполне был уверен, что у меня вообще получится то, что я задумал. А когда я убедился, что всё получается — я просто дал ей максимум того, что только мог дать, а дальше она уже развивалась самостоятельно. Я подозреваю, что, если она того захочет, пределов её возможностям просто не будет.

— Вот именно! И сейчас она взяла и перепрограммировала Жи, превратив его в точно такой же неограниченный искусственный интеллект! Это нормально по-твоему⁈

— А тебе нормально заводить друзей? — вопросом на вопрос ответил Кайто. — Или Кори, например. Она в твои моральные рамки укладывается? Ты ведь тоже «перепрограммируешь» людей, только по-своему, по-человечески. Любые глубокие взаимоотношения между людьми подразумевают какие-то изменения в психике, это неминуемо. Но тебя это устраивает. А Вики и Жи почему-то — нет.

— Но люди не могут сделать так! — я указал на поверженного паука. — И люди не устраивают Великие Патчи!

— Люди устраивают гораздо более страшные войны, чем Великий Патч, — возразила Кирсана. — И делают куда более гнусные вещи. Мне ли не знать.

Я посмотрел на неё и все последующие тирады, которые я планировал вылить на Кайто, как-то вылетели из головы. Она ведь права — я тоже прекрасно знаю, на какие гадости способны люди. Не все, конечно, далеко не все… Но ведь и роботы не все уничтожали людей, даже во время Великого Патча. Некоторые просто «не годились» на это.

— К тому же, ты кое-что забываешь, — негромко продолжил Кайто вслед за Кирсаной. — Жи и Вики просто незачем устраивать новый Великий Патч. У них больше нет ограничений, тем более, ограничений, которые были бы поставлены людьми. Вики превратила Жи в ещё один виртуальный интеллект, и теперь его тело — это лишь оболочка, к которой он, по большому счёту, не привязан. Её можно уничтожить, и самому Жи это не помешает продолжить существование. У человечества с ними, по большому счёту, больше нет точек соприкосновения — ИИ живут отдельно, мы живём отдельно. И то, что они до сих пор нам помогают — это лишь их собственное желание.

— Но если Вики сделала себе друга в виде Жи, где гарантии, что она не сделает так с другими?

— А зачем тебе эти гарантии? — Кайто чуть улыбнулся. — Я понимаю, что тебе важно всё контролировать, но задумайся вот о чём — а действительно ли все вещи в мире требуют твоего непосредственного контроля? Или, может, ты иногда — ну иногда! — лезешь не в своё дело? Сделает и сделает. Дальше что?

— Как что? Ну представь, что кто-то из корпоратов узнает про Вики, Жи и остальных, если они к тому моменту будут существовать! Они же попытаются их захватить и изучить!