Книга Космические мусорщики, страница 46 – A. Чемерис

ГЛАЗ не только занималась слежкой и анализом данных, но и писала человеческие законы. Формально последнее слово оставалось за людьми, но на практике спорить с выводами искусственного интеллекта решались немногие.

Постановления и указы, написанные ГЛАЗ, не были плохими. Правда, парламенты почти перестали обсуждать законопроекты, а в этих обсуждениях, спорах и консультациях, по мнению некоторых, и содержалось нечто очень важное, от чего нельзя было отказываться.

ГЛАЗ не просто делала за полицию работу и находила преступников. Она могла вычислить вероятность правонарушения в будущем. Другими словами, человек мог быть задержан по подозрению, что однажды он совершит то или иное преступление.

Лишить кого бы то ни было свободы стало проще простого. Если судья видел некоторую вероятность, посчитанную ГЛАЗ, что задержанный мог, например, что-то украсть, он автоматически рассматривал его как преступника и ничто не могло убедить его в обратном.

Кроме того – и это пугало Шию больше всего – государства, даже самые прогрессивные и демократические, начали использовать ГЛАЗ для достижения совсем не благородных целей. Верхушка каждой страны стала слишком уж не сменяемой. Управленцы получили возможность эффективно расправляться со своими оппонентами и оставаться у власти бесконечно.

Поговаривали, что ГЛАЗ способен влиять на человеческое поведение, формировать его – как через интернет-алгоритмы, так и через происходящее в «реальной жизни»…

Возникли первые движения сопротивления. Критиковать ГЛАЗ начали отдельные маргинальные учёные. Позднее к ним присоединились журналисты, юристы, правозащитники. На все их претензии сторонники ГЛАЗ рассказывали о снизившейся преступности.

Для одних ГЛАЗ стала аналогом всевидящего бога; для других – подначивающего дьявола. Многие просто жили, не задумываясь о существовании ГЛАЗ и не задаваясь вопросом, нужна ли эта система вообще.

Шия стала относиться к ГЛАЗ гораздо холоднее – но не более того.

В конце концов, ее задачей было разобраться в причинах Университетской трагедии.

* * *

Однажды, когда Шия почти потеряла надежду, случилось чудо.

Забытый всеми, в одиночестве, попавший в опалу бывший высокопоставленный чиновник умирал от рака. Тогда ему и пришла идея облегчить душу – рассказать, что произошло на самом деле и почему однокурсники Шии были убиты.

Оказывается, повсеместное внедрение ГЛАЗ не было следствием Университетской трагедии. Напротив – Университетская трагедия стала следствием экспериментов с первыми прототипами ГЛАЗ.

Многие из них работали совсем не так, как задумывали создатели. Многие были одобрены не всей командой разработчиков, а лишь одним ее крылом.

Вкупе с психологическими экспериментами – именно ранняя версия ГЛАЗ радикализировала опасных студентов через интернет-алгоритмы.

Никто, однако, не ожидал, что эта версия окажется настолько «эффективной» и приведет к стрельбе. Пришлось срочно заметать следы. После Университетской трагедии были уволены некоторые члены команды ГЛАЗ – вместе с директором Бюро госбезопасности.

Опальный чиновник, с которым удалось поговорить Шие, также подозревал, что трагедия могла быть «искусственно сконструированной». По его мнению, целью было вызвать именно ту реакцию населения, которая возникла сразу после гибели студентов, – чтобы люди сами потребовали введения ГЛАЗ.