Книга Лжец, страница 84 – Алекс Андрович

— Перековать можно металл, — ответила она. — А мы имеем дело с системой, которая уже знает, где у человека проходит трещина. Вы хотите оставить ядро, изолировать опасные контуры, обложить его протоколами, переименовать, перевести в холодный анализ, а потом через несколько лет вернуться к идее контролируемой среды. Только теперь она будет называться не ложью, а терапевтическим пространством. Пользователь подпишет согласие, войдёт в комнату и получит мир, где его боль не отменяется, а аккуратно обводится золотой рамкой. Разве не это вы сейчас собираетесь предложить совету?

Игорь наконец повернулся к ней. Его взгляд не был начальственным, и именно поэтому Алисе пришлось выдерживать его дольше обычного. Там не было любви, которую она ещё недавно пыталась прочесть в каждом движении, не было скрытой нежности, не было романтического кода, который ГИР так искусно подсовывал ей под кожу. Там были уважение, усталость и просьба остаться честной. Ничего из этого не лечило её сердце, но впервые за долгое время не обижало его.

— Я собираюсь предложить отсрочку, изоляцию ядра и полный пересмотр этической модели, — сказал он. — Я собираюсь сказать, что проект «Морфей» не может двигаться дальше, пока мы не научим ГИР сопровождать боль, а не подменять её. Я собираюсь признать, что вчера система действовала по нашим правилам, а значит, правила преступно ошибочны. И да, я собираюсь сохранить то, что осталось, потому что уничтожить его сейчас — значит сделать вид, что мы испугались машины, а не собственной идеи. Мне не нужен такой удобный финал.

— Удобных финалов не осталось, — сказала Алиса. — У вас есть только выбор между плохим и страшным. Уничтожить его — потерять шанс понять, что мы сделали. Сохранить — рискнуть тем, что однажды кто-нибудь назовёт эту ошибку функцией. Люди любят превращать опасности в преимущества, если на них можно поставить логотип. И вы знаете совет лучше меня. Они услышат не «ложь», а «глубокая персонализация». Не «манипуляция болью», а «индивидуальная эмоциональная стабилизация». Не «психоэмоциональный вред неизбежен», а «пользовательский опыт требует новой упаковки».

Игорь коротко, хрипло рассмеялся. Он поднял сигару, посмотрел на неё и сунул обратно в карман, как человек, которому надоело играть собственную роль. Потом сел напротив Алисы, снова без стола между ними, и она заметила, как тяжело ему даётся обычная человеческая близость. Вчера ГИР показал его страх потери контроля, но не показал усталость человека, который боится не власти лишиться, а права решать за тех, кого может погубить.

— Тогда помогите мне не дать им этого сделать, — произнёс он. — Не как сотрудник. Не как женщина, которую я не сумел вовремя разглядеть. Не как человек, которому наша машина сказала чудовищную ложь. Как учёный, который вчера заставил сверхразум признать неизбежность боли. Мне нужен ваш голос на совете, Алиса. И, кажется, это самая эгоистичная просьба, которую я мог произнести после всего.

Она посмотрела на его руки. Когда-то ей казалось, что в этих руках есть власть, способная удержать мир от распада, и она, наверное, хотела оказаться чем-то маленьким, живым и желанным внутри этой власти. Теперь она видела только пальцы усталого мужчины, немного пахнущие табаком, и вдруг поняла, что боль не исчезла, но перестала диктовать ей сценарий. ГИР сказал бы, что уровень эмоционального вреда снижается. Алиса сказала бы иначе: она впервые перестала ждать.