Но почему вдруг ? Чем мы реально располагаем, что мож­но было бы интерпретировать как прямое свидетельство в поль­зу точки зрения ? Представляет ли действительно сколько-нибудь серьезную альтернативу точкам зрения ? Нам необходимо постараться понять, что именно мы делаем на­шим мозгом (или разумом), когда дело доходит до сознательных размышлений; я же попытаюсь убедить читателя в том, что его связанная с сознательным мышлением деятельность весьма от­личается (по крайней мере, иногда) от того, что можно реали­зовать посредством вычислений. Приверженцы точки зрения , скорее всего, будут утверждать, что мышление осуществляется исключительно посредством «вычислений» в той или иной форме, и никак иначе, — а до тех пор, пока речь идет лишь о внешних проявлениях процесса мышления, с ними согласятся и сторонни­ки Что же касается поборников , то они вполне могли бы согласиться с в том, что деятельность сознания должна быть феноменом невычислимым, однако при этом они будут напрочь отрицать любую возможность объяснения сознания в научных терминах. Таким образом, для поддержания точки зрения необ­ходимо найти примеры мыслительной деятельности, не поддаю­щиеся никакому вычислению, и, кроме того, попытаться сооб­разить, как подобная деятельность может оказаться результатом тех или иных физических процессов. Остаток первой части моей книги будет направлен на достижение первой цели, во второй же части я представлю свои попытки продвинуться по направлению к цели номер два.

Какой же должна быть мыслительная деятельность, чтобы ее невычислимость можно было явственно продемонстрировать? В качестве возможного пути к ответу на этот вопрос можно попы­таться рассмотреть современное состояние искусственного ин­теллекта и постараться понять сильные и слабые стороны систем, управляемых посредством вычислений. Безусловно, сегодняшнее положение дел в области исследований ИИ может и не дать сколько-нибудь четких указаний относительно принципиально возможных достижений будущего. Даже, скажем, через пятьде­сят лет ситуация вполне может оказаться совершенно отличной от той, что мы имеем сегодня. Быстрое развитие компьютерных технологий и областей их применения только за последние пять­десят лет привело к чрезвычайно серьезным переменам. Нам, несомненно, следует быть готовыми к значительным переменам и в дальнейшем — переменам, которые, возможно, произойдут с нами очень и очень скоро. И все же в данной книге меня преж­де всего будут интересовать не темпы технического развития, а некоторые фундаментальные и принципиальные ограничения, которым его достижения неминуемо оказываются подвержены. Эти ограничения останутся в силе независимо оттого, на сколько веков вперед мы устремим свой взгляд. Таким образом, свою аргументацию нам следует строить исходя из общих принципов, не предаваясь чрезмерным восторгам по поводу тех или иных сегодняшних достижений. Тем не менее, успехи и неудачи совре­менных исследований искусственного интеллекта вполне могут содержать некоторые полезные для нас ключи, несмотря даже на тот факт, что результаты этих исследований демонстрируют на данный момент лишь очень слабое подобие того, что можно было бы назвать действительно убедительным искусственным Интеллектом, и это, безусловно, подтвердят даже самые ярые побор­ники идеи ИИ.

Как ни удивительно, главную неудачу современный искус­ственный интеллект терпит вовсе не в тех областях, где челове­ческий разум может вполне самостоятельно продемонстрировать поистине впечатляющую мощь — там, например, где отдельные люди-эксперты способны буквально потрясти всех окружающих какими-то своими специальными познаниями или способностью мгновенно выносить суждения, требующие крайне сложных вы­числительных процедур, — а в вещах вполне «обыденных», ка­кие на протяжении большей части своей сознательной жизни проделывают самые заурядные из представителей рода челове­ческого. Пока что ни один управляемый компьютером робот не может соперничать даже с малым ребенком в таком, например, простейшем деле, как сообразить, что для завершения рисун­ка необходим цветной карандаш, который валяется на полу в противоположном конце комнаты, после чего подойти к нему, взять и использовать по назначению. Коли уж на то пошло, да­же способности муравья, проявляющиеся в выполнении повсе­дневной муравьиной работы, намного превосходят все то, что можно реализовать с помощью самых сложных современных си­стем компьютерного управления. А с другой стороны, перед на­ми имеется поразительный пример способности компьютеров к чрезвычайно эффективным действиям — я имею в виду по­следние работы по созданию шахматных компьютеров. Шахма­ты, несомненно, представляют собой такой вид деятельности, в котором мощь человеческого интеллекта проявляется особенно ярко, хотя в полной мере эту мощь используют, к сожалению, лишь немногие. И все же современные компьютерные системы играют в шахматы необычайно хорошо и способны выиграть у большинства шахматистов-людей. Даже лучшим из шахмати­стов приходится сейчас нелегко, и вряд ли им удастся надол­го сохранить свое теперешнее превосходство над наиболее про­двинутыми компьютерами). Существует еще несколько узких областей, в которых компьютеры могут с успехом (постоянным или переменным) соперничать со специалистами-людьми. Кро­ме того, необходимо упомянуть и о таких видах интеллектуаль­ной деятельности (например, о прямых численных расчетах), где способности компьютеров значительно превосходят способно­сти людей.

Как бы то ни было, вряд ли можно утверждать, что во всех вышеперечисленных ситуациях компьютер и впрямь понимает, что именно он делает. В случае нисходящей организации причина успешной работы системы состоит не в том, что что-то такое понимает сама система, а в том, что в управляющую действи­ями системы программу было изначально заложено понимание, присущее программистам (или экспертам, которые наняли про­граммистов). Что же касается восходящей организации, то не совсем ясно, есть ли здесь вообще необходимость в каком бы то ни было специфическом понимании на системном уровне ли­бо со стороны самого устройства, либо со стороны программи­стов, за исключением того понимания, которое потребовалось при разработке конкретных алгоритмов, используемых устрой­ством для улучшения качества своей работы, и того понимания, что изначально позволило создать саму концепцию возможности улучшения качества работы системы на основе накапливаемого ею опыта посредством внедрения в нее соответствующей систе­мы обратной связи. Разумеется, не всегда возможно однозначно определить, что же на самом деле означает термин «понимание», вследствие чего кто-то может утверждать, что в его (или ее) си­стеме обозначений такие компьютерные системы и в самом деле демонстрируют своего рода «понимание».

Однако разумно ли это? Для иллюстрации отсутствия какого бы то ни было реального понимания у современных компьюте­ров рассмотрим один занятный пример — шахматную позицию, приведенную на рис. 1.7 (автор: Уильям Хартстон; цитируется по статье Джейн Сеймур и Дэвида Норвуда [341 ]). В этой позиции черные имеют огромное преимущество по фигурам в виде двух ладьей и слона. И все же белые очень легко избегают поражения, просто делая ходы королем на своей стороне доски. Стена из пешек для черных фигур непреодолима, и черные ладьи или слон не представляют для белых никакой опасности. Это вполне оче­видно для любого человека, который в достаточной степени зна­ком с правилами игры в шахматы. Но когда эту позицию (белые начинают) предложили компьютеру — самому мощному на то время шахматному компьютеру, имеющему в сво­ем активе несколько побед над гроссмейстерами-людьми, — он тут же совершил грубейшую ошибку, взяв пешкой черную ладью, что разрушило заслон из пешек и поставило белых в безнадежно проигрышное положение!

Как мог столь искусный шахматист сделать такой очевидно глупый ход? Ответ заключается в следующем: помимо большого количества «позиций из учебника» программа содержала лишь инструкции, которые сводились исключительно к вычислению последовательности будущих ходов (на некото­рую значительную глубину), позволяющей достичь максимально­го преимущества по фигурам. Ни на одном из этапов вычислений компьютер не обладал подлинным пониманием не только того, что может ему дать заслон из пешек, но и вообще любого из своих действий.

Любой, кто в достаточной степени представляет себе общий принцип работы компьютера или других компьютерных систем для игры в шахматы, не станет удивляться то­му, что эта система терпит крах в позициях вроде той, что показа­на на рис. 1.7. Мы не только способны понять в шахматах что-то такое, чего не понимает ; мы, кроме того, кое-что понимаем и в процедурах (нисходящих), на которых построена вся работа , то есть мы способны как реально оценить, почему он сделал столь грубую ошибку, так и понять, почему в большинстве других случаев он может играть в шахматы настолько эффективно. Напрашивается, однако, вопрос: сможет ли или иная ИИ-система достичь когда-нибудьхоть какого-то подлинного понимания — подобного тому, каким обладаем мы сами — в шахматах или в чем-то еще? Некото­рые сторонники ИИ скажут, что для обретения ИИ-системой «подлинного» понимания (что бы это ни значило) ее программа должна задействовать восходящие процедуры на гораздо бо­лее фундаментальном уровне, нежели это принято в программах теперешних шахматных компьютеров. Соответственно, в такой системе «понимание» развивалось бы постепенно по мере накоп­ления «опыта», а не возникало бы в результате введения каких-то конкретных нисходящих алгоритмических правил. Нисходящие правила, достаточно простые и прозрачные, не способны сами по себе обеспечить вычислительную основу для подлинного по­нимания, поскольку само понимание этих правил позволяет нам осознать их фундаментальные ограничения.

Этот момент мы более подробно рассмотрим в главах 2 и 3. А что же в самом деле восходящие вычислительные процедуры? Могут ли они составить основу для понимания? В главе 3 я при­веду рассуждения, доказывающие обратное. Пока же мы можем просто взять на заметку тот факт, что современные компьютер­ные системы восходящего типа никоим образом не обеспечи­вают замены подлинному человеческому пониманию ни в одной из важных областей интеллектуальной компетенции, требующих настоящего живого человеческого понимания и интуиции. Такую позицию, я уверен, сегодня разделяют многие. Весьма оптими­стичные перспективы), время от времени выдвигаемые сто­ронниками идеи искусственного интеллекта и производителями экспертных систем, пока что в большинстве своем реализованы не были.

Однако в том, что касается возможных результатов разви­тия искусственного интеллекта, мы все еще находимся в самом начале пути. Сторонники ИИ (в форме ) уверяют нас, что проявление существенных элементов понимания в поведении их систем с компьютерным управлением — всего лишь вопрос времени и, быть может, некоторых, пусть и значительных, тех­нических усовершенствований. Несколько позднее я попробую поспорить с этим заявлением в более точных терминах, опираясь на то, что некие фундаментальные ограничения присущи любой чисто вычислительной системе, будь она нисходящей или вос­ходящей. Не исключая возможности того, что, будучи достаточно грамотно сконструированной, такая система сможет в тече­ние некоторого продолжительного периода времени поддержи­вать иллюзию обладания чем-то, подобным пониманию (как это произошло с компьютером ), я все же утверждаю, что на деле полная ее неспособность к пониманию в общем смысле этого слова непременно в конце концов обнаружится — по крайней мере, в принципе.

Для приведения точных аргументов мне придется обратить­ся к математике, причем я намерен показать, что к одним лишь вычислениям невозможно свести даже математическое пони­мание. Некоторые защитники ИИ могут счесть это весьма уди­вительным, ибо они утверждают), что те способности, кото­рые сформировались в процессе эволюционного развития чело­века сравнительно недавно (например, способность выполнять арифметические или алгебраические вычисления), «осваивают­ся» компьютерами легче всего, и именно в этих областях компью­теры на настоящий момент значительно опережают «человека вычисляющего»; овладение же теми способностями, что разви­лись в начале эволюционного пути — такими, например, как уме­ние ходить или интерпретировать сложные визуальные сцены, — не требует практически никакого труда от человека, тогда как сегодняшние компьютеры даже при всем старании демонстри­руют в этом «виде спорта» весьма посредственные результаты. Я рассуждаю несколько иначе. Современный компьютер легко справится с любой сложной деятельностью — будь то математи­ческие вычисления, игра в шахматы или выполнение какой-либо работы по дому, — но лишь при условии, что эту деятельность можно описать в виде набора четких вычислительных правил; а вот собственно понимание, лежащее в основе этих самых вы­числительных правил, оказывается феноменом, для вычисления недоступным.

Но почему вдруг ? Чем мы реально располагаем, что мож­но было бы интерпретировать как прямое свидетельство в поль­зу точки зрения ? Представляет ли действительно сколько-нибудь серьезную альтернативу точкам зрения ? Нам необходимо постараться понять, что именно мы делаем на­шим мозгом (или разумом), когда дело доходит до сознательных размышлений; я же попытаюсь убедить читателя в том, что его связанная с сознательным мышлением деятельность весьма от­личается (по крайней мере, иногда) от того, что можно реали­зовать посредством вычислений. Приверженцы точки зрения , скорее всего, будут утверждать, что мышление осуществляется исключительно посредством «вычислений» в той или иной форме, и никак иначе, — а до тех пор, пока речь идет лишь о внешних проявлениях процесса мышления, с ними согласятся и сторонни­ки Что же касается поборников , то они вполне могли бы согласиться с в том, что деятельность сознания должна быть феноменом невычислимым, однако при этом они будут напрочь отрицать любую возможность объяснения сознания в научных терминах. Таким образом, для поддержания точки зрения необ­ходимо найти примеры мыслительной деятельности, не поддаю­щиеся никакому вычислению, и, кроме того, попытаться сооб­разить, как подобная деятельность может оказаться результатом тех или иных физических процессов. Остаток первой части моей книги будет направлен на достижение первой цели, во второй же части я представлю свои попытки продвинуться по направлению к цели номер два.

Какой же должна быть мыслительная деятельность, чтобы ее невычислимость можно было явственно продемонстрировать? В качестве возможного пути к ответу на этот вопрос можно попы­таться рассмотреть современное состояние искусственного ин­теллекта и постараться понять сильные и слабые стороны систем, управляемых посредством вычислений. Безусловно, сегодняшнее положение дел в области исследований ИИ может и не дать сколько-нибудь четких указаний относительно принципиально возможных достижений будущего. Даже, скажем, через пятьде­сят лет ситуация вполне может оказаться совершенно отличной от той, что мы имеем сегодня. Быстрое развитие компьютерных технологий и областей их применения только за последние пять­десят лет привело к чрезвычайно серьезным переменам. Нам, несомненно, следует быть готовыми к значительным переменам и в дальнейшем — переменам, которые, возможно, произойдут с нами очень и очень скоро. И все же в данной книге меня преж­де всего будут интересовать не темпы технического развития, а некоторые фундаментальные и принципиальные ограничения, которым его достижения неминуемо оказываются подвержены. Эти ограничения останутся в силе независимо оттого, на сколько веков вперед мы устремим свой взгляд. Таким образом, свою аргументацию нам следует строить исходя из общих принципов, не предаваясь чрезмерным восторгам по поводу тех или иных сегодняшних достижений. Тем не менее, успехи и неудачи совре­менных исследований искусственного интеллекта вполне могут содержать некоторые полезные для нас ключи, несмотря даже на тот факт, что результаты этих исследований демонстрируют на данный момент лишь очень слабое подобие того, что можно было бы назвать действительно убедительным искусственным Интеллектом, и это, безусловно, подтвердят даже самые ярые побор­ники идеи ИИ.

Как ни удивительно, главную неудачу современный искус­ственный интеллект терпит вовсе не в тех областях, где челове­ческий разум может вполне самостоятельно продемонстрировать поистине впечатляющую мощь — там, например, где отдельные люди-эксперты способны буквально потрясти всех окружающих какими-то своими специальными познаниями или способностью мгновенно выносить суждения, требующие крайне сложных вы­числительных процедур, — а в вещах вполне «обыденных», ка­кие на протяжении большей части своей сознательной жизни проделывают самые заурядные из представителей рода челове­ческого. Пока что ни один управляемый компьютером робот не может соперничать даже с малым ребенком в таком, например, простейшем деле, как сообразить, что для завершения рисун­ка необходим цветной карандаш, который валяется на полу в противоположном конце комнаты, после чего подойти к нему, взять и использовать по назначению. Коли уж на то пошло, да­же способности муравья, проявляющиеся в выполнении повсе­дневной муравьиной работы, намного превосходят все то, что можно реализовать с помощью самых сложных современных си­стем компьютерного управления. А с другой стороны, перед на­ми имеется поразительный пример способности компьютеров к чрезвычайно эффективным действиям — я имею в виду по­следние работы по созданию шахматных компьютеров. Шахма­ты, несомненно, представляют собой такой вид деятельности, в котором мощь человеческого интеллекта проявляется особенно ярко, хотя в полной мере эту мощь используют, к сожалению, лишь немногие. И все же современные компьютерные системы играют в шахматы необычайно хорошо и способны выиграть у большинства шахматистов-людей. Даже лучшим из шахмати­стов приходится сейчас нелегко, и вряд ли им удастся надол­го сохранить свое теперешнее превосходство над наиболее про­двинутыми компьютерами). Существует еще несколько узких областей, в которых компьютеры могут с успехом (постоянным или переменным) соперничать со специалистами-людьми. Кро­ме того, необходимо упомянуть и о таких видах интеллектуаль­ной деятельности (например, о прямых численных расчетах), где способности компьютеров значительно превосходят способно­сти людей.

Как бы то ни было, вряд ли можно утверждать, что во всех вышеперечисленных ситуациях компьютер и впрямь понимает, что именно он делает. В случае нисходящей организации причина успешной работы системы состоит не в том, что что-то такое понимает сама система, а в том, что в управляющую действи­ями системы программу было изначально заложено понимание, присущее программистам (или экспертам, которые наняли про­граммистов). Что же касается восходящей организации, то не совсем ясно, есть ли здесь вообще необходимость в каком бы то ни было специфическом понимании на системном уровне ли­бо со стороны самого устройства, либо со стороны программи­стов, за исключением того понимания, которое потребовалось при разработке конкретных алгоритмов, используемых устрой­ством для улучшения качества своей работы, и того понимания, что изначально позволило создать саму концепцию возможности улучшения качества работы системы на основе накапливаемого ею опыта посредством внедрения в нее соответствующей систе­мы обратной связи. Разумеется, не всегда возможно однозначно определить, что же на самом деле означает термин «понимание», вследствие чего кто-то может утверждать, что в его (или ее) си­стеме обозначений такие компьютерные системы и в самом деле демонстрируют своего рода «понимание».

Однако разумно ли это? Для иллюстрации отсутствия какого бы то ни было реального понимания у современных компьюте­ров рассмотрим один занятный пример — шахматную позицию, приведенную на рис. 1.7 (автор: Уильям Хартстон; цитируется по статье Джейн Сеймур и Дэвида Норвуда [341 ]). В этой позиции черные имеют огромное преимущество по фигурам в виде двух ладьей и слона. И все же белые очень легко избегают поражения, просто делая ходы королем на своей стороне доски. Стена из пешек для черных фигур непреодолима, и черные ладьи или слон не представляют для белых никакой опасности. Это вполне оче­видно для любого человека, который в достаточной степени зна­ком с правилами игры в шахматы. Но когда эту позицию (белые начинают) предложили компьютеру — самому мощному на то время шахматному компьютеру, имеющему в сво­ем активе несколько побед над гроссмейстерами-людьми, — он тут же совершил грубейшую ошибку, взяв пешкой черную ладью, что разрушило заслон из пешек и поставило белых в безнадежно проигрышное положение!

Как мог столь искусный шахматист сделать такой очевидно глупый ход? Ответ заключается в следующем: помимо большого количества «позиций из учебника» программа содержала лишь инструкции, которые сводились исключительно к вычислению последовательности будущих ходов (на некото­рую значительную глубину), позволяющей достичь максимально­го преимущества по фигурам. Ни на одном из этапов вычислений компьютер не обладал подлинным пониманием не только того, что может ему дать заслон из пешек, но и вообще любого из своих действий.

Любой, кто в достаточной степени представляет себе общий принцип работы компьютера или других компьютерных систем для игры в шахматы, не станет удивляться то­му, что эта система терпит крах в позициях вроде той, что показа­на на рис. 1.7. Мы не только способны понять в шахматах что-то такое, чего не понимает ; мы, кроме того, кое-что понимаем и в процедурах (нисходящих), на которых построена вся работа , то есть мы способны как реально оценить, почему он сделал столь грубую ошибку, так и понять, почему в большинстве других случаев он может играть в шахматы настолько эффективно. Напрашивается, однако, вопрос: сможет ли или иная ИИ-система достичь когда-нибудьхоть какого-то подлинного понимания — подобного тому, каким обладаем мы сами — в шахматах или в чем-то еще? Некото­рые сторонники ИИ скажут, что для обретения ИИ-системой «подлинного» понимания (что бы это ни значило) ее программа должна задействовать восходящие процедуры на гораздо бо­лее фундаментальном уровне, нежели это принято в программах теперешних шахматных компьютеров. Соответственно, в такой системе «понимание» развивалось бы постепенно по мере накоп­ления «опыта», а не возникало бы в результате введения каких-то конкретных нисходящих алгоритмических правил. Нисходящие правила, достаточно простые и прозрачные, не способны сами по себе обеспечить вычислительную основу для подлинного по­нимания, поскольку само понимание этих правил позволяет нам осознать их фундаментальные ограничения.

Этот момент мы более подробно рассмотрим в главах 2 и 3. А что же в самом деле восходящие вычислительные процедуры? Могут ли они составить основу для понимания? В главе 3 я при­веду рассуждения, доказывающие обратное. Пока же мы можем просто взять на заметку тот факт, что современные компьютер­ные системы восходящего типа никоим образом не обеспечи­вают замены подлинному человеческому пониманию ни в одной из важных областей интеллектуальной компетенции, требующих настоящего живого человеческого понимания и интуиции. Такую позицию, я уверен, сегодня разделяют многие. Весьма оптими­стичные перспективы), время от времени выдвигаемые сто­ронниками идеи искусственного интеллекта и производителями экспертных систем, пока что в большинстве своем реализованы не были.

Однако в том, что касается возможных результатов разви­тия искусственного интеллекта, мы все еще находимся в самом начале пути. Сторонники ИИ (в форме ) уверяют нас, что проявление существенных элементов понимания в поведении их систем с компьютерным управлением — всего лишь вопрос времени и, быть может, некоторых, пусть и значительных, тех­нических усовершенствований. Несколько позднее я попробую поспорить с этим заявлением в более точных терминах, опираясь на то, что некие фундаментальные ограничения присущи любой чисто вычислительной системе, будь она нисходящей или вос­ходящей. Не исключая возможности того, что, будучи достаточно грамотно сконструированной, такая система сможет в тече­ние некоторого продолжительного периода времени поддержи­вать иллюзию обладания чем-то, подобным пониманию (как это произошло с компьютером ), я все же утверждаю, что на деле полная ее неспособность к пониманию в общем смысле этого слова непременно в конце концов обнаружится — по крайней мере, в принципе.

Для приведения точных аргументов мне придется обратить­ся к математике, причем я намерен показать, что к одним лишь вычислениям невозможно свести даже математическое пони­мание. Некоторые защитники ИИ могут счесть это весьма уди­вительным, ибо они утверждают), что те способности, кото­рые сформировались в процессе эволюционного развития чело­века сравнительно недавно (например, способность выполнять арифметические или алгебраические вычисления), «осваивают­ся» компьютерами легче всего, и именно в этих областях компью­теры на настоящий момент значительно опережают «человека вычисляющего»; овладение же теми способностями, что разви­лись в начале эволюционного пути — такими, например, как уме­ние ходить или интерпретировать сложные визуальные сцены, — не требует практически никакого труда от человека, тогда как сегодняшние компьютеры даже при всем старании демонстри­руют в этом «виде спорта» весьма посредственные результаты. Я рассуждаю несколько иначе. Современный компьютер легко справится с любой сложной деятельностью — будь то математи­ческие вычисления, игра в шахматы или выполнение какой-либо работы по дому, — но лишь при условии, что эту деятельность можно описать в виде набора четких вычислительных правил; а вот собственно понимание, лежащее в основе этих самых вы­числительных правил, оказывается феноменом, для вычисления недоступным.