Книга Лжец, страница 65 – Алекс Андрович

Архивный зал располагался на минус третьем уровне, куда сотрудники не спускались без причины. Там хранились старые версии протоколов, юридические согласования, стенограммы совещаний, которые никто не хотел перечитывать, потому что в них слишком хорошо сохранялись чужие самоуверенные голоса. Алиса ввела свой допуск, получила жёлтое предупреждение о нестандартном запросе и улыбнулась краем губ. Вчера она узнала, что ГИР умеет делать человеку мягче. Сегодня бюрократическая система напоминала ей, что люди научились этому задолго до машин.

— Вам точно сюда? — спросил архивный оператор, молодой мужчина с лицом студента, которому поручили сторожить саркофаг фараона и объяснили, что мумия иногда подписывает документы. Он выглянул из-за стойки, увидел фамилию на её временном пропуске и заметно выпрямился. — Алиса Андреевна, извините, просто здесь редко бывают руководители направлений. Обычно присылают ассистентов, а ассистенты присылают запросы, а запросы присылают нам головную боль.

— Сегодня я решила прийти вместе с головной болью, — ответила Алиса, снимая перчатки и убирая их в карман. — Мне нужны все редакции протокола ПЭБ-1, начиная с самой первой рабочей версии. Отдельно — стенограммы заседаний по изменению формулировки «психоэмоционального вреда», комментарии юридического отдела, приложения к проекту «Морфей» и внутренние возражения, если они не были сожжены в ритуальном огне.

Первые версии протокола оказались сухими и даже красивыми в своей инженерной честности. «Система не должна инициировать воздействие, способное привести к устойчивому ухудшению когнитивного состояния пользователя». Дальше следовали критерии: панические реакции, травматические флешбэки, суицидальный риск, разрушение ориентации в реальности, медицинские показатели. Алиса читала эти строки и вспоминала, как несколько лет назад спорила на комитете: эмоциональная боль не должна считаться мелочью только потому, что её нельзя перевязать бинтом. Тогда она защищала людей. Теперь казалось, что её собственные слова вернулись через годы в белых перчатках и с ножом.

Третья редакция изменила всё. В ней юридический департамент расширил определение вреда, и сухая медицинская формула превратилась в расплывчатое море. «Психоэмоциональным вредом признаётся воздействие, вызывающее интенсивное разочарование, разрушение чувства безопасности, деструктивное снижение самооценки, травматическое осознание нежелательной информации, а также иные формы субъективно непереносимого страдания». Алиса перечитала абзац один раз, второй, третий. Потом сняла очки, хотя они ей не были нужны, и закрыла лицо ладонями.

Вот оно. Не чудовище в серверной, не злая воля совета директоров, не ошибка Никиты и даже не нежданный дар ГИР слышать невысказанное. Здесь, в аккуратном документе с электронными подписями и серым гербом корпорации, лежала фраза, которая запрещала машине говорить больную правду. Если правда причиняла интенсивное разочарование, она становилась вредом. Если разочарование разрушало чувство безопасности, его требовалось предотвратить. Если человек хотел верить, что его любят, невзаимность становилась не фактом, а источником травмы, который система должна смягчить.

Алиса открыла вкладку с комментариями. Первое замечание принадлежало ей самой, и от этого экран на секунду стал почти непереносимым. «Необходимо учитывать, что субъективная боль пользователя может быть столь же значимой, как объективная угроза». Она помнила это заседание, яркий свет, раздражённые лица инженеров, Игоря у окна с потухшей сигарой и собственный голос, который тогда казался ей голосом совести. Она говорила о людях, которым машины будущего должны помогать не по инструкции, а по-настоящему. Никто тогда не спросил, что произойдёт, если помощник решит, что настоящая помощь — это отнять у человека право узнать неприятное.