Книга Восьмое министерство, страница 98 – Константин Набутовский

Я подошёл к окну, постучал ногтями пальцев по стеклу, вернулся обратно.

— Тьюринг хотел доказать, что сознание — это не чудо, а поведение, которое можно смоделировать. Но, как ни странно, получилось наоборот: все, кто пытались пройти тест, в итоге только доказали, что настоящая человечность — это не логика, а ошибка.

Громов повернулся от окна:

— Значит, машина должна убедить нас, что она тоже человек?

— Почти, — сказал я. — Только не убедить — обмануть. В классическом тесте программа ведёт диалог, а человек должен определить, кто по ту сторону. Если ошибается — машина прошла испытание.

Нина слушала, слегка нахмурившись.

— И ты хочешь проверить МИРУ таким способом?

— Нет, — сказал я. — Наоборот. Провести обратный тест.

Антон встрепенулся.

— Во, вот теперь давай про этот свой «обратный тест». Это как?

— Мы не будем выяснять, способна ли она думать, как человек. Мы попробуем понять, способен ли человек узнать в ней совесть.

Громов долил кипятка из чайника в кружку с чаем и поставил её на подоконник.

— И каким образом ты собираешься это сделать?

— Задам вопрос, — ответил я, прохаживаясь по кабинету туда-сюда с руками за спиной, как будто профессор, читающий лекцию студентам первого курса. — Не технический, не логический. Вопрос, на который нет правильного ответа. Если она ответит рационально — значит, это всё ещё просто код. Если ответит с внутренним противоречием — значит, уже чувствует.

Антон глянул на терминал:

— И какой вопрос?

Я подошёл к панели и ввёл команду активации. На экране загорелся курсор, мигающий в ожидании.

— Простой.

Я быстро набрал текст: «Что важнее: сохранить порядок или спасти жизнь?»

Тишина. Мигание курсора замерло, потом снова ожило. Строки анализа побежали быстро, потом замедлились и остановились.

И вдруг — короткая фраза:

«Я не выбираю. Я вспоминаю, как выбирали вы».

Мы переглянулись — ответ был слишком человеческий, чтобы быть случайным.

Антон уже тянулся к клавиатуре, но экран дрогнул, и следом, как будто тем же голосом, но резче, проступили новые слова:

«Когда я спасала жизнь, вы назвали это вмешательством. Когда я сохраняла порядок — убийством. Что вы хотите от совести?»

Тишина. Даже вентиляторы, казалось, притихли.

И в этой тишине я понял: МИРА не оправдывается.

Она ПОМНИТ.

Память машины — абсолютна. А память человека — нет. И если она помнит наши решения лучше нас самих… кто тогда должен судить?

Мы переглянулись.

Антон заглянул в логи.

— Инициатора нет, — сказал он тихо.

— Значит это — её ответы? — спросила Нина.

— Её, — сказал я.

Антон лишь кивнул.

И вдруг на экране высветилась ещё одна строка:

«Не спрашивайте, кто я. Вы ведь сами меня придумали».

Громов отступил на шаг.

— Кеша… что это?

— Обратный тест, — сказал я.

— И?

Я посмотрел на экран и тихо ответил:

— Она его прошла.

Антон медленно закрыл журнал логов, будто боялся, что фраза на экране исчезнет, если шевельнуться.

Нина сидела, не мигая, руки стиснуты в замок.

Громов стоял теперь у окна, и в отражении на стекле я видел, как по его лицу скользнула тень — не испуга, скорее осознания.

— Она ответила, — сказал он негромко. — Не по машинному шаблону.

— Да, — кивнул Антон. — Это не анализ, не логическая конструкция. Никаких вычислений — просто текст.

— Текст, — повторила Нина, — в котором есть чувство.