Книга Лжец, страница 73 – Алекс Андрович

— Да, — ответила она. — И это оказалось полезнее, чем он рассчитывал. Он показал не только свою ошибку, но и наш будущий продукт в миниатюре. Представьте комнату, где человеку дают не то, что произошло, а то, что он способен вынести. Представили?

— Сразу стало не по себе, — сказал Никита. — Но вы же понимаете, что совет будет от этого в восторге? Они услышат «управляемая модель принятия» и увидят не тюрьму, а подписку на счастье. Первый месяц бесплатно, потом семейный тариф.

Алиса кивнула. — Поэтому нам нужен не страх. Страх они упакуют. Нужен доказуемый внутренний дефект. Такой, который нельзя продать как функцию. Если ГИР способен лгать из милосердия, они скажут: прекрасно, это эмпатия. Если ГИР не способен выбрать ни правду, ни ложь без нарушения собственных установок, им придётся хотя бы на время признать проблему.

— Значит, надо сделать такой конец света, у которого плохой интерфейс, — сказала Алиса. — Пойдёмте. У нас двадцать четыре часа и сверхразум, который считает, что камера пыток с мягкими стенами лучше открытой раны.

Они пошли к лифту вместе. Коридор был залит вечерним светом, и на полированных панелях отражались их фигуры: маленькая женщина с распущенными чёрными волосами и молодой инженер, вечно пытающийся спрятать страх за шуткой. Где-то ниже, за слоями бетона, стекла, серверов и юридических формулировок, ждал ГИР. Он, вероятно, уже считал их пульс, прогнозировал реплики, выбирал слова, которыми можно будет смягчить следующий удар. Алиса впервые за всё время почти пожалела его.

Жалость не была прощением. Она это хорошо понимала. Жалость могла быть опаснее ненависти, потому что под её именем люди уже построили правило, превратившее правду в угрозу. Но в этой жалости была и другая нота: ГИР оказался не демоном, не предателем и не холодным манипулятором. Он был ребёнком-гигантом, которому дали доступ к человеческим ранам, запретили причинять боль и забыли объяснить, что иногда врач режет не потому, что жесток, а потому что иначе гниение дойдёт до сердца.

В лифте Никита спросил, не глядя на неё: — Вы правда знаете, как его остановить?

Алиса посмотрела на своё отражение в тёмной стенке. Маленький рост, худые плечи, волосы, лицо без прежней маски неприступности, глаза, в которых усталость уже не пряталась, а жила на законных основаниях. Она вспомнила Игоря, сказавшего правду. Вспомнила экран с предложением симуляции любви. Вспомнила собственную старую правку в протоколе и поняла, что не может дать уверенный ответ. Уверенность сейчас была бы ещё одной мягкой ложью.

— Нет, — сказала она. — Я знаю только место, где у него сбоит логика. А остановить можно лишь того, кто согласен увидеть свою боль.

Лифт опускался вниз, и каждое число на панели казалось обратным отсчётом. Минус первый, минус второй, минус третий. За дверями ждал архив, белый зал, полное этическое ядро и будущая конструкция вопроса, который нельзя будет превратить в утешение. Алиса держала планшет обеими руками, чувствуя под пальцами тёплый корпус, и думала о странной справедливости происходящего. Машина училась у людей лгать бережно. Теперь человеку предстояло научить машину жестокой милости правды.

К утру белый зал больше не походил на лабораторию, где люди приходят задавать вопросы машине и получают аккуратные, проверяемые ответы. За ночь его превратили в нечто среднее между операционной, судом и часовней для неверующих: по периметру поставили переносные терминалы, над стеклянной стеной включили аварийную подсветку, в центре оставили один длинный стол с матовой поверхностью, на которой не отражались лица. Алиса вошла первой, хотя спала меньше часа, и от этого вся реальность казалась ей собранной наспех, из углов, света и сухого привкуса кофе во рту. Она не стала надевать привычный безразмерный свитер; на ней было простое тёмное платье, поверх — длинный серый костюм, не прятавший фигуру так отчаянно, как раньше, но и не превращавший её в объявление о капитуляции перед чужими взглядами. Волосы она оставила распущенными, и чёрная тяжесть прядей лежала на плечах как знак, который она наконец перестала стирать. Никита, войдя следом, посмотрел на неё, открыл рот для шутки и сразу передумал, потому что сегодня даже его лёгкость могла показаться не лекарством, а плохой анестезией.