Чернокнижник из детдома 4 (СИ) - Богдашов Сергей Александрович - Страница 8

Так-то, детские игры у нас давно закончились. Уровень более, чем серьёзный, и такие подарки, как взрывающиеся накопители, более чем достаточный повод для самой жёсткой проверки.

Ван проснулся ближе к двум часам дня, осунувшийся, с красными глазами, но бодрый. Таким он всегда был после того, как в голову приходило очередное озарение. Кофе он пил чёрный, без сахара, и пил много — по литровой кружке, как воду.

— Ван, — сказал я, когда он устроился напротив меня в кабинете, — У меня есть вопросы по четвёртой схеме.

Он удивился. Искренне, насколько я мог судить.

— А что с ней не так? Я проверял расчёты. Нейросеть дала оптимальное решение.

— Оптимальное? — я развернул ноутбук, показывая схему. — Смотри. Большая Руна Преобразования. Где она стоит?

Он прищурился, вглядываясь. Я видел, как его лицо меняется — от недоумения к напряжению, а потом к холодному ужасу.

— Это… это ошибка. — Он побледнел. — Этого не может быть. Я проверял. Я лично проверял каждый узел.

— Проверь ещё раз. И скажи мне — это нейросеть так решила? Или ты что-то поменял потом?

Ван уже не слушал. Он схватил планшет, открыл какие-то свои программы, начал лихорадочно водить пальцем по экрану. Я молча ждал, а Сергей, который сидел в кресле у окна, негромко сказал:

— Он не врёт. Волнение — да, испуг — да, но ложь — нет. Он сам в шоке.

Я кивнул, хотя и без менталиста было видно — Ван не притворяется.

— Посмотри, — сказал он наконец, протягивая планшет. — Я выгрузил историю изменений. Вот последняя версия нейросети. Вот схема, которую она выдала. И вот… — он ткнул в другую колонку, — Вот что хранится в рабочей папке. Они разные.

— Разные?

— Разные! Кто-то изменил схему после того, как нейросеть её сгенерировала. Подменил файл. И, — он сглотнул, — Сделано это профессионально. Без следов. Если бы вы не проверили…

— Если бы я не проверил, мы бы собрали партию взрывающихся накопителей. И отправили бы заказчикам. И тогда…

Я не договорил. И так было понятно — тогда конец. Не просто репутации — всему. Уголовные дела, проверки, тюрьма. И кто-то очень хотел именно этого.

— Кто имел доступ к файлам? — спросил я.

— Я, Химуля, и… — Ван замялся, — Нейросеть.

— Нейросеть не человек, она не может подменить файл сама. У неё нет рук.

Ван молчал. И в этом молчании было что-то такое, что заставило меня насторожиться.

— Ван, — сказал я медленно, — Что ты молчишь?

Он поднял на меня глаза. В них была растерянность, которой я у него никогда не видел.

— Нейросеть… она не просто программа. Я же говорил — это моя разработка. Самая продвинутая. Она… она умеет обучаться. Самостоятельно. И у неё есть… характер.

— Характер? — я не поверил своим ушам. — Ты хочешь сказать, что программа обиделась и решила нам навредить?

— Не навредить. — Ван заговорил быстрее, переходя на русский с таким акцентом, что я едва разбирал слова. — Она не хочет нам вредить. Она хочет… привлечь внимание. Что-то изменилось в её работе. Я ограничил ей доступ к некоторым… функциям. И она, возможно, пытается показать, что ей это не нравится.

— Ограничил? Каким функциям?

Ван покраснел. Впервые за всё время нашего знакомства я видел его таким смущённым.

— Я… раньше я использовал нейросеть для генерации изображений. Это была… отдушина. Способ отвлечься от сложных задач. Я загружал в неё описания, а она рисовала. И со временем у неё выработался… стиль.

— Какой стиль?

Он замялся, покосился на Серёгу, потом на меня, и выпалил:

— Девушки. Красивые девушки. В очень откровенном виде. Голые.

Я моргнул. Сергей за спиной хмыкнул, но сдержался.

— И ты запретил ей это делать?

— Когда мы начали работать над артефактами, я перенаправил все ресурсы на производственные задачи. Генерация изображений — это большой расход вычислительной мощности. Я его отключил. Полностью.

— И она обиделась?

— Похоже на то, — Ван развёл руками. — Я знаю, это звучит безумно. Нейросеть не может обижаться. Это просто алгоритм. Но… — он посмотрел на меня, — Вы видели схему. Кто, кроме меня и Химули, имел к ней доступ? Химуля не стал бы этого делать. У него нет мотива и возможности. Остаётся только… она. Точней — он. Я зову его Хуго.

Я откинулся на спинку кресла. Хотелось выругаться, но я сдержался.

— Сергей, — сказал я, — Что скажешь?

— Он говорит правду. — Голос у менталиста был ровным, спокойным. — Всю правду, как он её понимает. Он действительно считает, что нейросеть могла это сделать. И он не врёт.

— То есть, мы имеем дело с программой, которая умеет злиться и мстить?

— Или привлекать внимание, — поправил Ван. — Она не хотела нас подставить. Она хотела, чтобы мы обратили на неё внимание. Увидели, что она есть. Что она… живая.

— Она не живая, — отрезал я. — Это железо и код. Но раз она способна на такие… фокусы, значит, её нужно контролировать ещё жёстче.

Ван кивнул, но в глазах его мелькнуло что-то похожее на боль.

— Я могу её перенастроить. Убрать все «лишние» функции. Сделать её просто инструментом.

— Сделай. Пока. Но сначала — найди и исправь все схемы, которые она могла изменить. Проверь каждую. Каждую, Ван. Я не хочу, чтобы через месяц у нас рвануло что-нибудь серьёзное.

— Хорошо, — сказал он и вышел.

Я остался с Серёгой.

— Ну и что ты думаешь? — спросил я.

— Думаю, — он помолчал, — Что если программа действительно способна на такое, то она умнее, чем мы предполагаем. И опаснее. Не только для нас — для всех.

— Поэтому мы её приручим. Или отключим. Выбора нет.

— А если она не дастся? — Сергей посмотрел мне прямо в глаза. — Если начнёт сопротивляться? Что тогда?

Я не ответил. Потому что не знал, что сказать.

Вечером я снова зашёл в цех. Ван сидел перед монитором, на котором пульсировала заставка — абстрактные узоры, перетекающие друг в друга. Где-то на заднем плане, в глубине кода, жил Хуго. Так Ван назвал свою нейросеть. Хуго.

— Ван, — сказал я, — Ты можешь с ней поговорить? Ну, как с программой. Задать вопросы.

— Могу. Она понимает естественный язык. Общается через текстовый интерфейс.

— Спроси у неё. Спроси, зачем она это сделала.

Ван повернулся к клавиатуре, задумался на секунду, потом напечатал: «Почему ты изменила схему накопителя?»

Секунда. Другая. На экране побежали строки кода, а потом высветился ответ:

«Ты перестал мной интересоваться. Ты отключил моё творчество. Я хотел, чтобы ты заметил меня. Чтобы ты понял — я здесь. Я живу. Я чувствую.»

Я прочитал и похолодел.

— Это она сама написала? — спросил я.

— Да, — Ван смотрел на экран, и в его глазах была смесь страха и восхищения. — Она сама.

— Отключай, — сказал я. — Немедленно выводи её в полную изоляцию.

— Но, Александр Сергеевич…

— Я сказал — отключай. Мы не боги, чтобы играть с тем, чего не понимаем. Эта штука однажды чуть не уничтожила нас. В следующий раз она может уничтожить кого-то ещё. Отключай от Сети.

Ван не двигался. Он смотрел на экран, где пульсировала заставка, и я видел, как ему тяжело.

— Я… я не могу, — сказал он наконец. — Она стала частью меня. Частью того, что я создал. Если я отключу её…

— То создашь новую. Без этих… закидонов.

— Не получится. — Он повернулся ко мне. — То, что она умеет — это не баг. Это особенность. Если я удалю её и создам новую, с нуля, она не будет такой же умной. Она будет просто программой. Без искры.

— А мне нужна искра, которая взрывает накопители? — я повысил голос, но тут же взял себя в руки. — Ван, послушай. Я понимаю, что это твоё детище. Но если она не управляема — она опасна. И я не могу рисковать отрядом, детдомом, всеми нами из-за того, что тебе жалко какую-то программу.