Книга Метамышление. Как нейронауки помогают нам понять себя, страница 97 – Стивен М. Флеминг

Я вижу два общих решения этой проблемы.

• Попытаться наделить машины формой самосознания (но с риском потерять собственную автономию).

• Обеспечить такое взаимодействие с будущими разумными машинами, которое полагалосьбы на человеческое самосознание, а не сдвигало его на второй план.

Давайте рассмотрим каждый из этих путей.

С тех пор как в 1937 году Алан Тьюринг изготовил чертежи первого универсального компьютера, наше положение как обладателей уникального разума выглядит все более и более шатким.

Сегодня искусственные нейронные сети способны со сверхчеловеческой скоростью распознавать лица и объекты, управлять самолетами или космическими кораблями, принимать медицинские и финансовые решения, а также с успехом осваивать занятия, традиционно связываемые с развитостью человеческого интеллекта, такие как шахматы и компьютерные игры. Машинное обучение настолько широко и стремительно развивается, что я не возьмусь оценивать текущее состояние дел в этой области и вместо этого отошлю читателей к отличным книжным новинкам по этой теме в примечаниях. Но давайте попробуем выделить несколько ключевых принципов, рассмотрев связь машинного обучения с некоторыми структурными элементами метапознания, о которых мы узнали в первой части^[247].

Для начала полезно будет разобрать, что необходимо роботу, чтобы начать воспринимать окружающую среду. Затем мы увидим, какие дополнительные компоненты могут понадобиться для создания самосознания машины. Назовем нашего робота Вал, в честь кибернетика Валентино Брайтенберга, чья замечательная книга «Машинки» («Vehicles») стала одним из источников вдохновения для этой главы. Вал изображена ниже. Это игрушечная машинка с камерой на передней панели и ведущими колесами по бокам. Перед ней расположены две лампочки: справа – синяя, слева – зеленая. Пока что Вал – не более чем камера. Ее глаза работают, но внутри пусто. Чтобы Вал увидела мир вокруг, мы должны дать ей мозг^[248].

Вал без мозга

Искусственная нейронная сеть – это программное обеспечение, которое принимает входящие данные, например цифровое изображение, и пропускает их через смоделированные слои «нейронов». На самом деле каждый нейрон выполняет очень простую работу: он оценивает взвешенную сумму данных, которые поступают от нейронов, расположенных ниже, и воспроизводит полученный результат в форме нелинейной функции, чтобы вызвать собственную «активацию». Затем это значение передается на следующий слой и так далее. Самое интересное в нейронных сетях то, что вес данных, соединяющий слои, можно регулировать методом проб и ошибок, чтобы начать классифицировать поступающую информацию. Например, можно демонстрировать нейронной сети изображения кошек и собак и попросить ее давать ответ «кошка» или «собака». Но сначала ей придется каждый раз сообщать, когда она права, а когда ошибается. Это известно как контролируемое обучение: человек контролирует нейронную сеть, помогая ей лучше справляться с задачей классификации кошек и собак. Со временем веса между слоями подстраиваются таким образом, что сеть начинает самостоятельно давать все более точные ответы^[249].

Нейронные сети давно находятся в фокусе исследований искусственного интеллекта, однако первые из них были слишком простыми, чтобы приносить хоть какую-то пользу. Все изменилось в 1980‐х и 1990‐х годах с ростом вычислительной мощности, увеличением количества данных и появлением умных способов обучения сетей. Современные искусственные нейронные сети могут классифицировать тысячи изображений со сверхчеловеческой производительностью. Одним из самых продуктивных подходов является использование глубинных нейронных сетей, которые, подобно зрительной системе человеческого мозга, состоят из нескольких слоев^[250].