Саймон говорит - Виталий Алексеевич Чижков

– А программирование?

Демид вздрогнул и замялся. Взгляд его бегал по мне, проспекту и невидимому конвейеру между кофейней и НИИ, по которому шли уставившиеся друг другу в затылки сотрудники.

– Может быть, программировать вообще не придется, – наконец изрек Галкин, кашлянув.

– В смысле?

– Ты только не говори никому, окей? Зуб даешь?

– Вот тебе крест! – Я перекрестился.

– Короче, у нас тут искусственный интеллект весь код отжал. Мы же роботов никогда не подпускали к нашей базе. Славик строго-настрого запретил. Ну понятно, что иногда спрашивали советов у текстовых ботов. Но что-то больше – табу. А тут Славы нет, сам знаешь… дела интимные, – Галкин нервно захихикал. – Пришел к нам джуниор. Самая худшая их разновидность – «джун инициативный». И голоса в голове, видимо, приказали ему пустить под своей учеткой оптимизирующую нейронную сеть на наши сервера. И она, короче, за ночь переписала весь наш код. Все то, что мы последние три года пилим…

– Ну и что? Запретите доступ этой нейросетке, делов-то.

– Не все так просто: ИИ обфусцировал все файлы исходного кода. Они идут через нативно скомпилированный метакомпилятор, а сам код нечитаем для человека.

– А откатить всю базу разве нельзя? У вас есть эти, как их…

– Системы контроля версий, – подсказал Галкин. – Есть. Только вот нейросеть дропнула всю историю камитов.

– А начальство что говорит?

– Начальство не знает. Понимаешь, робот уже весь октябрьский релиз поставил клиентам. И все идеально работает. Нейросеть каждый день новые фичи внедряет. Узнай руководство, что это не мы, – сошлет нас на модерацию контента.

Лютый ужас кольнул нас. Не было более недостойной работы, чем модератор. Чтобы научить ИИ цензуре, эти несчастные целыми днями копались в изображениях гениталий и трупов, в сценах убийств, извращенном порно и снафф-видео[4]. А слова, что возникали при этом в голове, тщательно фиксировали в словарях мата. Мы видели этих ребят в «Ультима Туле». Они никогда не ели, только пили коньяк среди бела дня. У них был взгляд людей, вернувшихся из горячей точки. Текучка в этом отделе была страшная, мы боялись спросить, куда так быстро исчезают их сотрудники, седые до тридцати. Как в Спарте, начальство сбрасывало туда всех больных, хромых и неугодных. Это был билет в один конец, и страх оказаться среди модераторов действовал сильнее, чем страх лишиться премии. Но остаться без работы было еще страшнее.

– В общем, мы сейчас просто изображаем деятельность, – прошептал Демид.

Работа Шрёдингера, ага.

– Я думал, что программисты всегда изображают деятельность, – подколол я.

– Сказал чувак, распыливший хомяка, – огрызнулся Галкин.

Это был удар ниже пояса.

– Морскую свинку, вообще-то… – поправил я. – Ее звали Роберт Полсон!

Минуту мы курили молча.

– Так, значит, ты будешь теперь строгать суперинтеллект для военных? – спросил Демид наконец.

– Я полагал, это секрет.

– Угу, Полишинеля, блин.

Я дотронулся рукой до носа. Не почувствовал ни руки, ни носа. Только махровое холодное движение по коже.

– И что ты решил? – спросил Галкин настойчиво, глядя мне в глаза.

– Соглашаться надо. – Мой голос осип и дребезжал. – А куда я денусь с подводной лодки? Модератором так-то быть не хочется.

Демид цокнул языком, покачал головой и сплюнул под ноги.

– Ты что, осуждаешь? – спросил я.

Парень кивнул.

– Странно, я думал, ты патриот. – У меня не было ни единого довода, чтобы отстоять свое решение. Поэтому я просто вбросил самое очевидное. То, что всегда работает.

– Але! – Демид потряс перед моим носом самокруткой.

Ну да.

Мог бы не спрашивать.

Галкин был таким ура-патриотом, что звезды краснели, когда он выходил ночью в курилку и затягивался «Русским стилем». Тем сильнее был шок Демида, когда он узнал, что «Русский стиль» производится японцами. Испытав кризис веры, мой друг перешел на махорку.

Других ходов у меня не было. Цугцванг.

Да и должен ли я что-то объяснять ему? Он мне что, начальник?

Но в глубине души я понимал, что не хочу участвовать в проекте квантовых вычислений. Не хочу суперинтеллекта. Не так, как его не хотят в МинИИ, которое глушит Интернет и связь по всему городу, чтобы нейросети вдруг не переплелись в клубок, породив Скайнет. А так, как его не хочет человек, который считает, что роботам не уготовано хотя бы минимально важное место в мире будущего.

– Патриотизм тут ни при чем, – грубо сказал Демид. – Вот скажи мне, Семен, что такое суперинтеллект, по-твоему?

– Не знаю, – угрюмо ответил я. Это было правдой. – Плавающее абстрактное понятие. – Я попробовал перевести в шутку: – Городская легенда, монстр под кроватью министра ИИ.

– Вот я считаю, что настанет момент, когда нейросети научатся бесконтрольно порождать другие нейросети. Жестянки лучше нас во многом: новые жестянки у них выйдут лучше, чем у нас. Вот тут-то и настанет эра суперинтеллекта.

– Ты тоже боишься этого? – спросил я с издевкой, приготовив шутку про шапочки из фольги.

– А знаешь, что еще люди любят делать? – Галкин раскраснелся и, казалось, впал в неистовство. – Убивать друг друга! Выходит, это ИИ тоже будет делать намного лучше? Утилизировать нас?

– Это единственное, в чем нас никто не превзойдет, – спокойным тоном сказал я. – Да и зачем роботам уничтожать нас?

– Затем, что это логично, – выпалил Демид и выкинул сигарету. – Вот ты бы на месте роботов не сделал так?

Он шмыгнул носом и достал машинку.

– Да может, и не получится суперинтеллекта никакого? – примирительно сказал я. – Ну подумаешь, квантовые вычисления… Сто лет их уже развивают – и ничего. Это же просто теория, не более…

– Вообще-то, замдиректора уже две недели как нагнал толпу электроников с кафедры реверс-инжиниринга. Они ночуют с паяльниками! ПАПИКи словно лягушек препарируют и изучают. Архитектуру готовят, блин.

– А при чем тут ПАПИКи? – удивился я.

– А куда, по-твоему, Елдунов планирует вкорячить квантовые процессоры?

– Он же не совсем идиот? – Я перешел на шепот: – За такое и посадить могут.

– Елдунов-то не идиот?

Несмотря на регалии, в черепной коробке замдиректора было пусто, как в магазине после черной пятницы. Когда он не гримасничал, его лицо становилось дебиловатым: взгляд хаотично блуждал, рот приоткрывался, а верхняя губа подергивалась в ожидании, когда из-под нее выпадет какая-нибудь плоская шутка или канцеляризм.

Это совсем меняло расклад.

Нужно отдать должное, министерские сообразили, что развитие ИИ упирается в аппаратные ресурсы, и ограничили радиус соединения ПАПИКов до одного метра. Так что, породи вдруг крупная ферма «зажигалок» суперинтеллект, достаточно просто физически расформировать ее – да хотя бы вынуть один модуль, – и человечество будет спасено. По новому закону ПАПИКи производились только аккредитованными госкорпорациями, их оборот строго регулировался – и откуда Елдунов только достал экземпляры для своей аферы?

Но если замдиректора под дудку военных разгонит «зажигалки» аппаратно через квантовые вычисления, то суперинтеллект там появится, это вопрос времени. И не факт, что защитный механизм МинИИ сработает, настолько стихийным все