1.21. Является ли невычислимым математическое

воображение?

Говоря о мысленной визуализации, мы ни разу не указали явно на невозможность воспроизведения этого процесса вычис­лительным путем. Даже если визуализация действительно осу­ществляется посредством какой-то внутренней аналоговой си­стемы, что мешает нам предположить, что должна существовать, по крайней мере, возможность смоделировать поведение такого аналогового устройства?

Дело в том, что «предметом» рассматриваемой выше «ви­зуализации» является «визуальное» в буквальном смысле этого слова, т. е. мысленные образы, соответствующие, как нам пред­ставляется, сигналам, поступающим в мозг от глаз. В общем же случае мысленные образы вовсе не обязательно носят такой бук­вально «визуальный» характер — например, те, что возникают, когда мы понимаем смысл какого-то абстрактного слова или при­поминаем музыкальную фразу. Согласитесь, что мысленные образы человека, слепого от рождения, вряд ли могут иметь прямое отношение к сигналам, которые его мозг получает от глаз. Иными словами, под «визуализацией» мы будем в дальнейшем подра­зумевать скорее процессы, связанные с «осознанием» вообще, нежели те, что имеют непосредственное отношение к системе органов зрения. Честно говоря, мне не известен ни один довод, непосредственно указывающий на вычислительную (или какую-либо иную) природу нашей способности к визуализации именно в буквальном смысле этого слова. Моя же убежденность в том, что процессы «буквальной» визуализации действительно являются невычислимыми, проистекает из явно невычислительного харак­тера других видов осознания. Не совсем понятно, каким образом можно произвести прямое доказательство невычислимости ис­ключительно для геометрической визуализации, однако если бы удалось убедительно доказать невычислимость хотя бы неко­торых форм осмысленного осознания, то такое доказательство дало бы, по меньшей мере, серьезные основания полагать, что вид осознания, ответственный за геометрическую визуализацию, также должен иметь невычислительный характер. По-видимому, нет особой необходимости проводить четкую границу между раз­личными проявлениями феномена сознательного понимания.

Переходя от общего к частному, я утверждаю, что наше по­нимание, например, свойств натуральных чисел (0, 1, 2, 3, 4,...) носит явно невычислительный характер. (Можно даже сказать, что само понятие натурального числа и есть, в некотором смысле, форма негеометрической «визуализации».) В воспользовавшись упрощенным вариантом теоремы Гёделя (см. пояснение к возражению Q15), я покажу, что это понимание невозможно описать каким бы то ни было конечным набором правил, а значит, невозможно и воспроизвести с помощью вычислительных мето­дов. Время от времени нас радуют сообщениями о том, что ту или иную компьютерную систему «обучили» «пониманию» концеп­ции натурального числа. Однако, как мы вскоре увидим, этого просто не может быть. Именно осознание того, что в действи­тельности может означать слово «число», дает нам возможность верно понять заключенную в нем идею. А располагая верным пониманием, мы — по крайней мере, в принципе — можем давать верные ответы на целый ряд вопросов о числах, буде нам таковые зададут, в то время как ни один конечный набор правил этого обеспечить не в состоянии. Имея в своем распоряжении одни только правила при полном отсутствии непосредственного осо­знания, управляемый компьютером робот (такой, например, как «Deep Thought»; см. ) неизбежно окажется лишен тех способностей, в которых ни один из людей никаких ограничений не испытывает; хотя если снабдить робота достаточно умными пра­вилами поведения, то он, возможно, поразит наше воображение выдающимися интеллектуальными подвигами, многие из которых далеко превзойдут способности обычного человека в каких-то конкретных, достаточно узкоспециальных областях. Возможно даже, что ему удастся на некоторое время одурачить нас, и мы поверим, что и он способен на осознание.

Следует отметить, что всякий раз, как мы получаем дей­ствительно эффективную цифровую (или аналоговую) компью­терную модель какой-либо внешней системы, это почти все­гда происходит благодаря глубокому пониманию человеком тех или иных основополагающих математических идей. Взять хотя бы цифровую модель геометрического движения твердого тела. Выполняемые при таком моделировании вычисления опираются, главным образом, на открытия великих мыслителей семнадцатого века — таких, например, как французские математики Декарт, Ферма и Дезарг, — которым мы обязаны идеями системы коор­динат и проективной геометрии. Существуют и модели, описыва­ющие движение куска веревки или струны. Как выясняется, гео­метрические идеи, необходимые для понимания особенностей по­ведения струны — ее так называемой «заузленности», — весьма сложны и относительно молоды. Большинство фундаментальных открытий в этой области были сделаны только в двадцатом веке. Каждый из нас без особого труда способен экспериментальным путем — т. е. посредством несложных манипуляций руками и приложения некоторого здравого смысла — убедиться в наличии либо отсутствии на замкнутой, но спутанной веревочной петле узлов; вычислительные же алгоритмы для достижения того же результата оказываются на удивление сложными и малоэффек­тивными.

Таким образом, эффективное цифровое моделирование та­ких процессов является в основе своей нисходящим и во многом определяется пониманием и интуитивными прозрениями челове­ка. Вероятность того, что в человеческом мозге при визуализа­ции происходит нечто подобное, очень и очень невелика. Более правдоподобным представляется предположение о том, что существенный вклад в этот процесс вносят те или иные восходящие процедуры, а воспроизводимые в результате «визуальные обра­зы» требуют предварительного накопления немалого «опыта». Я, впрочем, не слышал о сколько-нибудь серьезных исследова­ниях этого вопроса именно с точки зрения восходящих проце­дур (например, о разработках искусственных нейронных сетей). По всей видимости, подход, целиком основанный на процедурах восходящего типа, даст весьма скудные результаты. Сомневаюсь, что можно построить более или менее удачную модель геометри­ческого движения твердого тела или топологических особенно­стей движения куска струны при отсутствии подлинного понима­ния обусловливающих эти движения законов.

Какие же физические процессы следует считать ответствен­ными за осознание — за осознание, которое, судя по всему, необ­ходимо для всякого подлинного понимания? Действительно ли оно не допускает численного моделирования, как того требует точка зрения ? Можно ли, в таком случае, надеяться на какое бы то ни было постижение этого предполагаемого физического процесса — хотя бы в принципе? Думаю, что можно, и более чем уверен, что точка зрения представляет собой подлинно научное допущение — просто нужно приготовиться к тому, что наши науч­ные критерии и методы, возможно, претерпят не слишком замет­ные, но весьма существенные изменения. Нужно быть готовым к тому, что объекты наших исследований будут принимать самые неожиданные формы и возникать в таких областях подлинно на­учного знания, которые, на первый взгляд, никакого отношения к делу не имеют. Читателя, который намерен продолжить чтение этой книги, я прошу сохранять открытость восприятия и вместе с тем внимательно следить за рассуждениями и представляемы­ми научными свидетельствами, даже если они вдруг покажутся ему несколько сомнительными с точки зрения здравого смысла. Будьте готовы немного поразмыслить над предлагаемыми дово­дами, а я, в свою очередь, приложу все усилия к изложению их в максимально доступном виде. Уверен, что, настроившись подоб­ным образом, мы с вами преодолеем все преграды.

В оставшихся главах первой части я не буду касаться физи­ки и возможных видов биологической активности, которые спо­собны обусловить невычислимость, требуемую точкой зрения . Этими предметами мы займемся во второй части книги. Для нача­ла нам предстоит решить вопрос об общей целесообразности поисков невычислимых процессов. Пока что вся целесообразность проистекает лишь из моей уверенности в том, что при сознатель­ном понимании мы действительно выполняем какие-то невычис­лимые операции. Эту уверенность необходимо обосновать, для чего нам придется обратиться к математике.

Примечания

1.   См., в частности, [161], [262], [266].

2.   Моравек [266] основывает свои доводы в пользу такого срока на том, какая, по его мнению, часть коры головного мозга успешно ре­ализована в виде модели (речь, в основном, идет о нейронах, расположенных в сетчатке), и на оценке темпов развития компьютерной технологии в ближайшем будущем. Любопытно, что к началу 1994 года он своего мнения не изменил; см. [267].

3.   Эти четыре точки зрения были подробно описаны, например, в [214], с. 252 (следует, впрочем, отметить, что условие, называемое авто­ром статьи «тезисом Черча—Тьюринга», является, по своей сути, скорее «тезисом Тьюринга» (в том смысле, в каком я употребляю этот термин в § 1.6), нежели «тезисом Черча»).

4.   Например, Д.Деннет, Д. Хофштадтер,  М. Мински,  X. Моравек, Г. Саймон; подробнее о терминах можно прочесть в [339], [242].

5.   См. [266].

6.   [368]; см. также НРК, с. 5-14.

7.   См. [339], [340].

8.   Вопрос осложняется тем, что современная физика рассматривает, по большей части, непрерывные, а не дискретные(цифровые) про­цессы. Самый смысл термина «вычислимость» в данном контексте можно трактовать по-разному. С некоторыми рассуждениями на данную тему можно ознакомиться в [311], [345], [312], [313], [314], [315], [29], [326], [327]. К этому вопросу я еще вернусь в

9.   Этой замечательной фразой я обязан диктору ВВС Radio 4, веду­щему программу «Мысль дня».

10. Исследования в области создания ИИ начались в 1950-е годы с весьма успешного применения сравнительно элементарных нисхо­дящих процедур (например, Грей Уолтер, 1953). Распознающий об­разы «перцептрон» Фрэнка Розенблатта [322] стал в 1959 году пер­вым удачным «связным» устройством (искусственной нейронной сетью), вызвав тем самым значительный интерес к схемам восходя­щего типа. В 1969 году Марвин Мински и Сеймур Пейперт указали на некоторые существенные ограничения, присущие данному типу восходящей организации (см. [263]). Способ обойти эти ограниче­ния предложил некоторое время спустя Хопфилд [206], и в насто­ящий момент искусственными устройствами, функционирующими по типу нейронной сети, активно занимаются ученые всего мира. (О применении таких устройств, например, в физике высоких энер­гий см. [19] и [141].) Что касается ИИ нисходящего типа, то здесь важными вехами стали работы Джона Маккарти [247] и Алана Ньюэлла в сотрудничестве с Гербертом Саймоном [271]. Впечатля­ющее изложение истории исследований проблемы ИИ можно найти в [123]. Из прочей литературы порекомендую [174], [15] (относи­тельно недавние размышления о процедурах и перспективах ИИ); [97] (классическая критика идеи ИИ); [139] (свежий взгляд на про­блему от пионера ИИ); также см. статьи в сборниках[40] и [220].

11.   Описание лямбда-исчисления см. в [52] и [222].

12.   Из различных публикаций, посвященных данной проблематике, могу порекомендовать, например, [311], [345], [315], [29]. Вопрос о функционировании мозга в связи с упомянутыми проблемами рас­смотрен, в частности, в [325].

13.   В действительности Роберт Бергер доказал, что общего алгорит­мического решения не имеет лишь задача о замощении плоскости плитками Вана. Плитки Вана (названные так в честь математи­ка Хао Вана) представляют собой единичные квадраты с окра­шенными краями; при замощении цвета соседних плиток должны совпадать, сами же плитки при этом нельзя ни вращать, ни пере­ворачивать. Впрочем, для любого набора плиток Вана несложно составить такой набор полиомино, которым можно будет замостить плоскость тогда и только тогда, когда ее можно замостить соответ­ствующим набором плиток Вана. Таким образом, неразрешимость вычислительными методами задачи о замощении плоскости набо­ром полиомино непосредственно следует из неразрешимости задачи о замощении плоскости набором плиток Вана.

В связи с задачей о замощении плоскости полиомино следует отме­тить, что если каким-либо набором полиомино не удается замо­стить плоскость, то этот факт вполне возможно установить вычис­лительным путем (точно так же, как мы можем предсказать оста­новку машины Тьюринга или убедиться в наличии решения у си­стемы диофантовых уравнений), нужно лишь попытаться замостить плитками данного набора квадратную область размера п х п (по­следовательно увеличивая значение п); замостить всю плоскость не удастся уже при некотором конечном значении п. Алгоритмиче­ским путем невозможно установить как раз те случаи, когда данным набором плиток можно-таки замостить плоскость.

14.   О некоторых чересчур оптимистичных прогнозах относительно ИИ можно прочесть в [ 123].

15.   Своим знакомством с этими вопросами я обязан очень многим людям, среди которых хочу особо поблагодарить Ли Левингера. Замечательное исследование связи современной физики и вычис­лительных методов с проблемами человеческого поведения можно найти в книге [199].

16.   Сломен [343], например, пеняет мне на то, что в НРК я слишком часто прибегаю к такому неопределенному термину, как «созна­ние», в то время как сам он весьма свободно оперирует еще более неопределенным (на мой взгляд) термином «разум»!

17.   См. [339], [340].

18.   См. статью Серла [339] (ее также можно найти в сборнике [202], с. 372). Мне, правда, не совсем ясно, к какой точке зрения Серл склонился бы сейчас, к В или все же к В.

19.   Занимательное рассмотрение подобного предположения представлено в [201]; см. также НРК, с. 21-22.

20.   Суть понятия «алгоритмической сложности» доступным языком изложена в [45].

21.   См. [207].

22.   См. [123].

23.   См..например,[267].

24.   О доказательстве Лукаса см. [319], [344], [24], [162], [163], [235], [236], [201], [37]; см. также [246]. Что касается моей версии, кратко представленной в НРК, с. 416—418, то где только ее не критикова­ли: см., в особенности, [343] и многочисленные статьи в Behavioral and Brain Sciences: [36], [42], [46], [72], [73], [79], [96], [153], [198], [219], [250], [249], [252], [268], [306], [323], [365], [385]; мои ответы на критику см. в [291 ], [297] и [ 177]; см. также [94], [293].

25.   Примеры взяты из какой-то английской телевизионной програм­мы; возможно, из «Машины мечты» (The Dream Machine, декабрь 1991 г.) — четвертой из цикла программ ВВС «Мыслящая маши­на» (The Thinking Machine). О последних достижениях в области «искусственного понимания», а в особенности, о захватывающем проекте Дугласа Лената «CYC» можно прочесть в [123].

26.   Весьма живо и популярно все это описано в [388].

27.   Подобное предположение выдвинул, например, Ричард Доукинс в своих «Рождественских лекциях» (ВВС, 1992 г.).

28.   См., например, рассказ Фридмена [123] о работе Лената и других исследователей в этом направлении.

воображение?

Говоря о мысленной визуализации, мы ни разу не указали явно на невозможность воспроизведения этого процесса вычис­лительным путем. Даже если визуализация действительно осу­ществляется посредством какой-то внутренней аналоговой си­стемы, что мешает нам предположить, что должна существовать, по крайней мере, возможность смоделировать поведение такого аналогового устройства?

Дело в том, что «предметом» рассматриваемой выше «ви­зуализации» является «визуальное» в буквальном смысле этого слова, т. е. мысленные образы, соответствующие, как нам пред­ставляется, сигналам, поступающим в мозг от глаз. В общем же случае мысленные образы вовсе не обязательно носят такой бук­вально «визуальный» характер — например, те, что возникают, когда мы понимаем смысл какого-то абстрактного слова или при­поминаем музыкальную фразу. Согласитесь, что мысленные образы человека, слепого от рождения, вряд ли могут иметь прямое отношение к сигналам, которые его мозг получает от глаз. Иными словами, под «визуализацией» мы будем в дальнейшем подра­зумевать скорее процессы, связанные с «осознанием» вообще, нежели те, что имеют непосредственное отношение к системе органов зрения. Честно говоря, мне не известен ни один довод, непосредственно указывающий на вычислительную (или какую-либо иную) природу нашей способности к визуализации именно в буквальном смысле этого слова. Моя же убежденность в том, что процессы «буквальной» визуализации действительно являются невычислимыми, проистекает из явно невычислительного харак­тера других видов осознания. Не совсем понятно, каким образом можно произвести прямое доказательство невычислимости ис­ключительно для геометрической визуализации, однако если бы удалось убедительно доказать невычислимость хотя бы неко­торых форм осмысленного осознания, то такое доказательство дало бы, по меньшей мере, серьезные основания полагать, что вид осознания, ответственный за геометрическую визуализацию, также должен иметь невычислительный характер. По-видимому, нет особой необходимости проводить четкую границу между раз­личными проявлениями феномена сознательного понимания.

Переходя от общего к частному, я утверждаю, что наше по­нимание, например, свойств натуральных чисел (0, 1, 2, 3, 4,...) носит явно невычислительный характер. (Можно даже сказать, что само понятие натурального числа и есть, в некотором смысле, форма негеометрической «визуализации».) В воспользовавшись упрощенным вариантом теоремы Гёделя (см. пояснение к возражению Q15), я покажу, что это понимание невозможно описать каким бы то ни было конечным набором правил, а значит, невозможно и воспроизвести с помощью вычислительных мето­дов. Время от времени нас радуют сообщениями о том, что ту или иную компьютерную систему «обучили» «пониманию» концеп­ции натурального числа. Однако, как мы вскоре увидим, этого просто не может быть. Именно осознание того, что в действи­тельности может означать слово «число», дает нам возможность верно понять заключенную в нем идею. А располагая верным пониманием, мы — по крайней мере, в принципе — можем давать верные ответы на целый ряд вопросов о числах, буде нам таковые зададут, в то время как ни один конечный набор правил этого обеспечить не в состоянии. Имея в своем распоряжении одни только правила при полном отсутствии непосредственного осо­знания, управляемый компьютером робот (такой, например, как «Deep Thought»; см. ) неизбежно окажется лишен тех способностей, в которых ни один из людей никаких ограничений не испытывает; хотя если снабдить робота достаточно умными пра­вилами поведения, то он, возможно, поразит наше воображение выдающимися интеллектуальными подвигами, многие из которых далеко превзойдут способности обычного человека в каких-то конкретных, достаточно узкоспециальных областях. Возможно даже, что ему удастся на некоторое время одурачить нас, и мы поверим, что и он способен на осознание.

Следует отметить, что всякий раз, как мы получаем дей­ствительно эффективную цифровую (или аналоговую) компью­терную модель какой-либо внешней системы, это почти все­гда происходит благодаря глубокому пониманию человеком тех или иных основополагающих математических идей. Взять хотя бы цифровую модель геометрического движения твердого тела. Выполняемые при таком моделировании вычисления опираются, главным образом, на открытия великих мыслителей семнадцатого века — таких, например, как французские математики Декарт, Ферма и Дезарг, — которым мы обязаны идеями системы коор­динат и проективной геометрии. Существуют и модели, описыва­ющие движение куска веревки или струны. Как выясняется, гео­метрические идеи, необходимые для понимания особенностей по­ведения струны — ее так называемой «заузленности», — весьма сложны и относительно молоды. Большинство фундаментальных открытий в этой области были сделаны только в двадцатом веке. Каждый из нас без особого труда способен экспериментальным путем — т. е. посредством несложных манипуляций руками и приложения некоторого здравого смысла — убедиться в наличии либо отсутствии на замкнутой, но спутанной веревочной петле узлов; вычислительные же алгоритмы для достижения того же результата оказываются на удивление сложными и малоэффек­тивными.

Таким образом, эффективное цифровое моделирование та­ких процессов является в основе своей нисходящим и во многом определяется пониманием и интуитивными прозрениями челове­ка. Вероятность того, что в человеческом мозге при визуализа­ции происходит нечто подобное, очень и очень невелика. Более правдоподобным представляется предположение о том, что существенный вклад в этот процесс вносят те или иные восходящие процедуры, а воспроизводимые в результате «визуальные обра­зы» требуют предварительного накопления немалого «опыта». Я, впрочем, не слышал о сколько-нибудь серьезных исследова­ниях этого вопроса именно с точки зрения восходящих проце­дур (например, о разработках искусственных нейронных сетей). По всей видимости, подход, целиком основанный на процедурах восходящего типа, даст весьма скудные результаты. Сомневаюсь, что можно построить более или менее удачную модель геометри­ческого движения твердого тела или топологических особенно­стей движения куска струны при отсутствии подлинного понима­ния обусловливающих эти движения законов.

Какие же физические процессы следует считать ответствен­ными за осознание — за осознание, которое, судя по всему, необ­ходимо для всякого подлинного понимания? Действительно ли оно не допускает численного моделирования, как того требует точка зрения ? Можно ли, в таком случае, надеяться на какое бы то ни было постижение этого предполагаемого физического процесса — хотя бы в принципе? Думаю, что можно, и более чем уверен, что точка зрения представляет собой подлинно научное допущение — просто нужно приготовиться к тому, что наши науч­ные критерии и методы, возможно, претерпят не слишком замет­ные, но весьма существенные изменения. Нужно быть готовым к тому, что объекты наших исследований будут принимать самые неожиданные формы и возникать в таких областях подлинно на­учного знания, которые, на первый взгляд, никакого отношения к делу не имеют. Читателя, который намерен продолжить чтение этой книги, я прошу сохранять открытость восприятия и вместе с тем внимательно следить за рассуждениями и представляемы­ми научными свидетельствами, даже если они вдруг покажутся ему несколько сомнительными с точки зрения здравого смысла. Будьте готовы немного поразмыслить над предлагаемыми дово­дами, а я, в свою очередь, приложу все усилия к изложению их в максимально доступном виде. Уверен, что, настроившись подоб­ным образом, мы с вами преодолеем все преграды.

В оставшихся главах первой части я не буду касаться физи­ки и возможных видов биологической активности, которые спо­собны обусловить невычислимость, требуемую точкой зрения . Этими предметами мы займемся во второй части книги. Для нача­ла нам предстоит решить вопрос об общей целесообразности поисков невычислимых процессов. Пока что вся целесообразность проистекает лишь из моей уверенности в том, что при сознатель­ном понимании мы действительно выполняем какие-то невычис­лимые операции. Эту уверенность необходимо обосновать, для чего нам придется обратиться к математике.

Примечания

1.   См., в частности, [161], [262], [266].

2.   Моравек [266] основывает свои доводы в пользу такого срока на том, какая, по его мнению, часть коры головного мозга успешно ре­ализована в виде модели (речь, в основном, идет о нейронах, расположенных в сетчатке), и на оценке темпов развития компьютерной технологии в ближайшем будущем. Любопытно, что к началу 1994 года он своего мнения не изменил; см. [267].

3.   Эти четыре точки зрения были подробно описаны, например, в [214], с. 252 (следует, впрочем, отметить, что условие, называемое авто­ром статьи «тезисом Черча—Тьюринга», является, по своей сути, скорее «тезисом Тьюринга» (в том смысле, в каком я употребляю этот термин в § 1.6), нежели «тезисом Черча»).

4.   Например, Д.Деннет, Д. Хофштадтер,  М. Мински,  X. Моравек, Г. Саймон; подробнее о терминах можно прочесть в [339], [242].

5.   См. [266].

6.   [368]; см. также НРК, с. 5-14.

7.   См. [339], [340].

8.   Вопрос осложняется тем, что современная физика рассматривает, по большей части, непрерывные, а не дискретные(цифровые) про­цессы. Самый смысл термина «вычислимость» в данном контексте можно трактовать по-разному. С некоторыми рассуждениями на данную тему можно ознакомиться в [311], [345], [312], [313], [314], [315], [29], [326], [327]. К этому вопросу я еще вернусь в

9.   Этой замечательной фразой я обязан диктору ВВС Radio 4, веду­щему программу «Мысль дня».

10. Исследования в области создания ИИ начались в 1950-е годы с весьма успешного применения сравнительно элементарных нисхо­дящих процедур (например, Грей Уолтер, 1953). Распознающий об­разы «перцептрон» Фрэнка Розенблатта [322] стал в 1959 году пер­вым удачным «связным» устройством (искусственной нейронной сетью), вызвав тем самым значительный интерес к схемам восходя­щего типа. В 1969 году Марвин Мински и Сеймур Пейперт указали на некоторые существенные ограничения, присущие данному типу восходящей организации (см. [263]). Способ обойти эти ограниче­ния предложил некоторое время спустя Хопфилд [206], и в насто­ящий момент искусственными устройствами, функционирующими по типу нейронной сети, активно занимаются ученые всего мира. (О применении таких устройств, например, в физике высоких энер­гий см. [19] и [141].) Что касается ИИ нисходящего типа, то здесь важными вехами стали работы Джона Маккарти [247] и Алана Ньюэлла в сотрудничестве с Гербертом Саймоном [271]. Впечатля­ющее изложение истории исследований проблемы ИИ можно найти в [123]. Из прочей литературы порекомендую [174], [15] (относи­тельно недавние размышления о процедурах и перспективах ИИ); [97] (классическая критика идеи ИИ); [139] (свежий взгляд на про­блему от пионера ИИ); также см. статьи в сборниках[40] и [220].

11.   Описание лямбда-исчисления см. в [52] и [222].

12.   Из различных публикаций, посвященных данной проблематике, могу порекомендовать, например, [311], [345], [315], [29]. Вопрос о функционировании мозга в связи с упомянутыми проблемами рас­смотрен, в частности, в [325].

13.   В действительности Роберт Бергер доказал, что общего алгорит­мического решения не имеет лишь задача о замощении плоскости плитками Вана. Плитки Вана (названные так в честь математи­ка Хао Вана) представляют собой единичные квадраты с окра­шенными краями; при замощении цвета соседних плиток должны совпадать, сами же плитки при этом нельзя ни вращать, ни пере­ворачивать. Впрочем, для любого набора плиток Вана несложно составить такой набор полиомино, которым можно будет замостить плоскость тогда и только тогда, когда ее можно замостить соответ­ствующим набором плиток Вана. Таким образом, неразрешимость вычислительными методами задачи о замощении плоскости набо­ром полиомино непосредственно следует из неразрешимости задачи о замощении плоскости набором плиток Вана.

В связи с задачей о замощении плоскости полиомино следует отме­тить, что если каким-либо набором полиомино не удается замо­стить плоскость, то этот факт вполне возможно установить вычис­лительным путем (точно так же, как мы можем предсказать оста­новку машины Тьюринга или убедиться в наличии решения у си­стемы диофантовых уравнений), нужно лишь попытаться замостить плитками данного набора квадратную область размера п х п (по­следовательно увеличивая значение п); замостить всю плоскость не удастся уже при некотором конечном значении п. Алгоритмиче­ским путем невозможно установить как раз те случаи, когда данным набором плиток можно-таки замостить плоскость.

14.   О некоторых чересчур оптимистичных прогнозах относительно ИИ можно прочесть в [ 123].

15.   Своим знакомством с этими вопросами я обязан очень многим людям, среди которых хочу особо поблагодарить Ли Левингера. Замечательное исследование связи современной физики и вычис­лительных методов с проблемами человеческого поведения можно найти в книге [199].

16.   Сломен [343], например, пеняет мне на то, что в НРК я слишком часто прибегаю к такому неопределенному термину, как «созна­ние», в то время как сам он весьма свободно оперирует еще более неопределенным (на мой взгляд) термином «разум»!

17.   См. [339], [340].

18.   См. статью Серла [339] (ее также можно найти в сборнике [202], с. 372). Мне, правда, не совсем ясно, к какой точке зрения Серл склонился бы сейчас, к В или все же к В.

19.   Занимательное рассмотрение подобного предположения представлено в [201]; см. также НРК, с. 21-22.

20.   Суть понятия «алгоритмической сложности» доступным языком изложена в [45].

21.   См. [207].

22.   См. [123].

23.   См..например,[267].

24.   О доказательстве Лукаса см. [319], [344], [24], [162], [163], [235], [236], [201], [37]; см. также [246]. Что касается моей версии, кратко представленной в НРК, с. 416—418, то где только ее не критикова­ли: см., в особенности, [343] и многочисленные статьи в Behavioral and Brain Sciences: [36], [42], [46], [72], [73], [79], [96], [153], [198], [219], [250], [249], [252], [268], [306], [323], [365], [385]; мои ответы на критику см. в [291 ], [297] и [ 177]; см. также [94], [293].

25.   Примеры взяты из какой-то английской телевизионной програм­мы; возможно, из «Машины мечты» (The Dream Machine, декабрь 1991 г.) — четвертой из цикла программ ВВС «Мыслящая маши­на» (The Thinking Machine). О последних достижениях в области «искусственного понимания», а в особенности, о захватывающем проекте Дугласа Лената «CYC» можно прочесть в [123].

26.   Весьма живо и популярно все это описано в [388].

27.   Подобное предположение выдвинул, например, Ричард Доукинс в своих «Рождественских лекциях» (ВВС, 1992 г.).

28.   См., например, рассказ Фридмена [123] о работе Лената и других исследователей в этом направлении.