1.16. Доказательство на основании теоремы

Гёделя

Как можем мы быть уверены в том, что вышеописанное по­нимание не может, в сущности, быть сведено к набору вычис­лительных правил? Несколько позже (в главах 2 и 3) я приведу некоторые очень серьезные доводы в пользу того, что проявления

понимания (по крайней мере, определенных его видов) невозмож­но достоверно моделировать посредством каких угодно вычис­лений — ни нисходящего, ни восходящего типа, ни любой из их комбинаций. Таким образом, за реализацию присущей человеку способности к «пониманию» должна отвечать какая-то невычис­лительная деятельность мозга или разума. Напомним, что терми­ном «невычислительный» в данном контексте мы характеризуем феномен, который невозможно эффективно мо­делировать с помощью какого угодно компьютера, основанного на логических принципах, общих для всех современных элек­тронных или механических вычислительных устройств. При этом термин «невычислительная активность» вовсе не предполагает невозможности описать такую активность научными и, в част­ности, математическими методами. Он предполагает лишь то, что точки зрения оказываются не в состоянии объяснить, каким именно образом мы выполняем все те действия, которые представляют собой результат сознательной мыслительной дея­тельности.

Существует, по меньшей мере, логическая возможность то­го, что обладающий сознанием мозг (или сознательный разум) может функционировать в соответствии с такими невычислитель­ными законами . Однако так ли это? Представленные в следующей главе рассуждения содержат, как мне кажет­ся, весьма четкое доказательство наличия в нашем сознатель­ном мышлении невычислительной составляющей. Основаны эти рассуждения на знаменитой и мощной теореме математической логики, сформулированной великим логиком, чехом по происхо­ждению, Куртом Гёделем. Для моих целей будет вполне доста­точно существенно упрощенного варианта этой теоремы, который не потребует от читателя слишком обширных познаний в мате­матике (что касается математики, то я также позаимствую кое-что из одной важной идеи, высказанной несколько позднее Ала­ном Тьюрингом). Любой достаточно серьезно настроенный чита­тель без труда разберется в моих рассуждениях. Доказательства гёделевского типа, да еще и примененные в подобном контек­сте, подвергаются время от времени решительным нападкам. Вследствие этого у некоторых читателей может сложиться впе­чатление, что мое основанное на теореме Гёделя доказательство было полностью опровергнуто. Должен заметить, что это дале­ко не так. За прошедшие годы действительно выдвигалось множество контраргументов. Мишенью для многих из них послу­жило одно из самых первых таких доказательств (направленное в поддержку ментализма и против физикализма), предложенное оксфордским философом Джоном Лукасом [245]. Опираясь на результаты теоремы Гёделя, Лукас доказывал, что мыслительные процессы невозможно воспроизвести вычислительными метода­ми. (Подобные соображения выдвигались и ранее; см., напри­мер, [270].) Мое доказательство, пусть и построенное на том же фундаменте, выдержано все же в несколько ином духе, нежели доказательство Лукаса; кроме того, в число моих задач не входи­ла непременная поддержка ментализма. Я думаю, что моя форму­лировка способна лучше противостоять различным критическим замечаниям, выдвинутым в свое время против доказательства Лукаса, и во многих отношениях выявить их несостоятельность. Ниже (в главах 2 и 3) мы подробно рассмотрим все контр­аргументы, которые когда-либо попадались мне на глаза. На­деюсь, что мои сопутствующие комментарии не только помогут прояснить некоторые, похоже, широко распространившиеся за­блуждения относительно смысла доказательства Гёделя, но и до­полнят, по-видимому, неудовлетворительно краткое рассмотре­ние этого вопроса, предпринятое в НРК. Я намерен показать, что большая часть этих контраргументов произрастает, в сущности, из банальных недоразумений, тогда как остальные, основанные на более или менее осмысленных и требующих детального рас­смотрения возражениях, представляют собой, в лучшем случае, не более чем возможные «лазейки» в духе взглядов при этом они не дают — в чем у нас еще будет возможность убедить­ся — сколько-нибудь правдоподобного объяснения действи­тельным последствиям наличия у нас способности «понимать», да и в любом случае эти лазейки не представляют особой ценно­сти для развития идеи ИИ. Так что тем, кто по-прежнему полага­ет, что все внешние проявления процессов сознательного мышле­ния можно адекватно воспроизвести вычислительными метода­ми, в рамках положений , я могу лишь порекомендовать повнимательнее следить за предлагаемой ниже аргументацией.

Гёделя

Как можем мы быть уверены в том, что вышеописанное по­нимание не может, в сущности, быть сведено к набору вычис­лительных правил? Несколько позже (в главах 2 и 3) я приведу некоторые очень серьезные доводы в пользу того, что проявления

понимания (по крайней мере, определенных его видов) невозмож­но достоверно моделировать посредством каких угодно вычис­лений — ни нисходящего, ни восходящего типа, ни любой из их комбинаций. Таким образом, за реализацию присущей человеку способности к «пониманию» должна отвечать какая-то невычис­лительная деятельность мозга или разума. Напомним, что терми­ном «невычислительный» в данном контексте мы характеризуем феномен, который невозможно эффективно мо­делировать с помощью какого угодно компьютера, основанного на логических принципах, общих для всех современных элек­тронных или механических вычислительных устройств. При этом термин «невычислительная активность» вовсе не предполагает невозможности описать такую активность научными и, в част­ности, математическими методами. Он предполагает лишь то, что точки зрения оказываются не в состоянии объяснить, каким именно образом мы выполняем все те действия, которые представляют собой результат сознательной мыслительной дея­тельности.

Существует, по меньшей мере, логическая возможность то­го, что обладающий сознанием мозг (или сознательный разум) может функционировать в соответствии с такими невычислитель­ными законами . Однако так ли это? Представленные в следующей главе рассуждения содержат, как мне кажет­ся, весьма четкое доказательство наличия в нашем сознатель­ном мышлении невычислительной составляющей. Основаны эти рассуждения на знаменитой и мощной теореме математической логики, сформулированной великим логиком, чехом по происхо­ждению, Куртом Гёделем. Для моих целей будет вполне доста­точно существенно упрощенного варианта этой теоремы, который не потребует от читателя слишком обширных познаний в мате­матике (что касается математики, то я также позаимствую кое-что из одной важной идеи, высказанной несколько позднее Ала­ном Тьюрингом). Любой достаточно серьезно настроенный чита­тель без труда разберется в моих рассуждениях. Доказательства гёделевского типа, да еще и примененные в подобном контек­сте, подвергаются время от времени решительным нападкам. Вследствие этого у некоторых читателей может сложиться впе­чатление, что мое основанное на теореме Гёделя доказательство было полностью опровергнуто. Должен заметить, что это дале­ко не так. За прошедшие годы действительно выдвигалось множество контраргументов. Мишенью для многих из них послу­жило одно из самых первых таких доказательств (направленное в поддержку ментализма и против физикализма), предложенное оксфордским философом Джоном Лукасом [245]. Опираясь на результаты теоремы Гёделя, Лукас доказывал, что мыслительные процессы невозможно воспроизвести вычислительными метода­ми. (Подобные соображения выдвигались и ранее; см., напри­мер, [270].) Мое доказательство, пусть и построенное на том же фундаменте, выдержано все же в несколько ином духе, нежели доказательство Лукаса; кроме того, в число моих задач не входи­ла непременная поддержка ментализма. Я думаю, что моя форму­лировка способна лучше противостоять различным критическим замечаниям, выдвинутым в свое время против доказательства Лукаса, и во многих отношениях выявить их несостоятельность. Ниже (в главах 2 и 3) мы подробно рассмотрим все контр­аргументы, которые когда-либо попадались мне на глаза. На­деюсь, что мои сопутствующие комментарии не только помогут прояснить некоторые, похоже, широко распространившиеся за­блуждения относительно смысла доказательства Гёделя, но и до­полнят, по-видимому, неудовлетворительно краткое рассмотре­ние этого вопроса, предпринятое в НРК. Я намерен показать, что большая часть этих контраргументов произрастает, в сущности, из банальных недоразумений, тогда как остальные, основанные на более или менее осмысленных и требующих детального рас­смотрения возражениях, представляют собой, в лучшем случае, не более чем возможные «лазейки» в духе взглядов при этом они не дают — в чем у нас еще будет возможность убедить­ся — сколько-нибудь правдоподобного объяснения действи­тельным последствиям наличия у нас способности «понимать», да и в любом случае эти лазейки не представляют особой ценно­сти для развития идеи ИИ. Так что тем, кто по-прежнему полага­ет, что все внешние проявления процессов сознательного мышле­ния можно адекватно воспроизвести вычислительными метода­ми, в рамках положений , я могу лишь порекомендовать повнимательнее следить за предлагаемой ниже аргументацией.