Книга Метамышление. Как нейронауки помогают нам понять себя, страница 104 – Стивен М. Флеминг

Однако не стоит игнорировать и будущее нашего собственного самосознания. Парадоксально, но согласно нейронауке метапознания, слившись с искусственным интеллектом (второй путь), мы можем сохранить бóльшую автономию и способность к объяснению, чем продолжив двигаться к созданию разумных, но бессознательных машин. Этому парадоксу уделяется особое внимание в текущих дебатах об объяснимом искусственном интеллекте. Решения парадокса часто основаны на измерениях или интуитивной визуализации внутреннего механизма «черного ящика» ^[269]. Изначальная идея состоит в том, что если мы способны проанализировать внутреннее устройство машины, то можем лучше понять, почему она принимает те или иные решения. Такой подход может сработать в случае простых систем, но вряд ли принесет пользу, когда дело касается сложных. Это все равно что попытаться объяснить, почему я принял решение съесть бутерброд на обед, с помощью записи фМРТ-сканирования или, что еще хуже, с помощью карты возбуждения нейронов префронтальной коры в высоком разрешении. Это не будет объяснением в привычном смысле этого слова и не будет, разумеется, признано таковым в суде. Зато, к счастью или к сожалению, люди играючи используют самосознание, чтобы объяснить друг другу, почему мы сделали то, что сделали, а формализованный судебный анализ таких объяснений закладывает основу нашего чувства автономии и ответственности^[270].

Подозреваю, что на практике нам стоит ждать слияния двух подходов. Машины приобретут специфические для конкретной области способности отслеживать неопределенность и осуществлять мониторинг собственных действий, что позволит им эффективно сотрудничать и выстраивать доверительные отношения друг с другом и со своими операторами-людьми. Сохранив свое положение, мы сможем использовать уникальную способность к построению метанарративов, чтобы объяснять действия машин на человеческом языке. Полагаю, что именно это метакогнитивное значение сознания имел в виду историк Юваль Ной Харари, когда писал, что «на каждый доллар и каждую минуту, вложенные в совершенствование искусственного интеллекта, было бы разумно тратить по одному доллару и одной минуте на развитие человеческого сознания»^[271]. Будущее самосознания может заключаться в том, что мы познаем не только себя, но и свою машину^[272].

Мы прошли весь путь до конца. Наше путешествие по науке самосознания началось с древнего афинского призыва к познанию себя. Теперь мы знаем, что это не пустые слова. Напротив, человеческий мозг создан именно для этого. Мы отслеживаем неопределенность, осуществляем мониторинг своих действий и постоянно обновляем рабочую модель нашего сознания, что позволяет нам замечать сбои памяти или зрения, а также кодировать знание о наших навыках, способностях и личностных качествах. Разобравшись в работе самосознания, мы поняли, как лучше использовать его в самых разных условиях – от переговорной комнаты на работе до зала суда, – и начали понимать механизмы и алгоритмы, наделившие человеческий мозг самосознанием и способные помочь нам создать разумные устройства и взаимодействовать с ними.