Книга Метамышление. Как нейронауки помогают нам понять себя, страница 96 – Стивен М. Флеминг

Опасения, связанные с чрезмерным доверием технологиям, не новы. Сократ рассказывает миф о египетском боге Тефте^[244], который считается изобретателем письменности. Когда Тефт предложил ее в дар Фамусу, царю Египта, тот отнюдь не впечатлился и даже обеспокоился тем, что письменность приведет к ухудшению человеческой памяти, а это повлечет за собой эпидемию забывчивости. Он возмутился, что люди, использующие этот дар, «будут многое знать понаслышке, без обучения, и казаться всезнающими, оставаясь в большинстве невеждами, общаться с ними будет невыносимо, ведь они преисполнятся напускной мудрости вместо настоящей»^[245].

К счастью, этим опасениям по поводу письменности и чтения не суждено было сбыться. Но в случае с искусственным интеллектом и машинным обучением ситуация может оказаться иной. Интеллектуальный прорыв, который обеспечивает письменность, или типографский станок, или даже компьютер, интернет или смартфон, – это результат работы прозрачных систем. Они послушно выполняют наши просьбы: мы устанавливаем определенный печатный шаблон, и он систематически воспроизводит одну и ту же книгу, снова и снова. Каждый раз, нажимая клавишу Return^[246] на ноутбуке, я перехожу на новую строку. Машинное обучение автоматизируется по-другому. Зачастую оно непрозрачно: мы не только не всегда знаем, как оно работает, но и не знаем, будет ли оно работать так же завтра, послезавтра или еще через день. В каком-то смысле системы машинного обучения обладают собственным разумом, но это разум, который пока не в состоянии объяснить, как он решает ту или иную проблему. Удивительные достижения в области искусственного интеллекта пока не сопровождаются сопоставимым развитием искусственного самосознания.

На самом деле по мере того, как технологии становятся все умнее, важность нашегосамосознания может снизиться. Мощная комбинация информации и машинного обучения со временем может научиться понимать наши желания и потребности лучше, чем мы сами. Рекомендательные системы Amazon и Netflix предлагают нам новые фильмы для просмотра; алгоритмы знакомств берут на себя работу по поиску идеальной пары; виртуальные помощники записывают нас к парикмахеру еще до того, как мы понимаем, что пора стричься; онлайн-консультанты по покупкам предлагают одежду, о которой мы и не знали, что хотим ее.

В таком мире нам, потребителям, возможно, больше и не нужно знать, как мы решаем проблемы или принимаем решения, поскольку эти задачи будут отданы на откуп искусственному интеллекту. В итоге мы можем сохранить лишь слабый метакогнитивный контакт с помощниками-машинами, недостаточный для того, чтобы вмешаться, когда они займутся не тем, для чего были созданы. Даже если в какой-то момент мы забьем тревогу, вероятно, уже будет поздно что-либо предпринимать. Кроме того, машинам не нужно будет объяснять, как они решают проблемы или принимают решения, – такой необходимости у них не было изначально. Аутсорсинг интеллекта может привести к тому, что осмысленное самосознание в технологически зависимом обществе постепенно отойдет на второй план.

Ну и что? – скажем мы. Убежденный футурист может рассматривать слияние разума и машины как следующий логический шаг в эволюции человечества, а перемены в том, как мы думаем и чувствуем, – как небольшую плату за технологические достижения. Но я думаю, что тут нам надо проявить осторожность. Мы уже выяснили, что любому виду разума – хоть биологическому, хоть электронному – не помешала бы определенная степень метапознания, чтобы решать глобальные научные и политические вопросы.