3.23. Reductio ad absurdum — воображаемый диалог

Многие из представленных в предыдущих разделах рассу­ждений, мягко говоря, несколько запутаны. Для прояснения си­туации читателю предлагается в качестве этакого резюме вооб­ражаемый разговор, состоявшийся в далеком будущем между неким гипотетическим, весьма преуспевающим прикладным спе­циалистом в области ИИ и одним из его наиболее удачных кибер­нетических созданий. Написан диалог с позиции сильного ИИ. [Примечание: процедурав повествовании выступает в роли алгоритма А из, а утверждение— в роли незавершающегося вычисления, То есть к чтению нижеследующего материала можно переходить сразу послебез какого бы то ни было ущерба для понимания.]

Альберт Император имел все основания быть удовле­творенным результатом трудов всей своей жизни. Про­цедуры, которые он запустил в действие много лет на­зад, наконец принесли плоды. И вот перед вами точный протокол его беседы с одним из наиболее впечатляющих его творений — роботом выдающихся и потенциаль­но сверхчеловеческих математических способностей по имени Математический Интеллектуальный Киберком-плекс (см. рис. 3.2). Обучение робота почти завершено.

Альберт Император: Просмотрел ли ты статьи, что я давал тебе, — статьи Гёделя, а также и другие, где рассматриваются следствия из его теоремы?

Математический Интеллектуальный Киберкомплекс: Ра­зумеется, причем они оказались даже интересными, хотя и до­вольно элементарными. Этот ваш Гёдель был, по всей видимости, весьма способным логиком ... для человека.

А. И.: Всего лишь «весьма способным»? Да он был, несомнен­но, одним из величайших логиков всех времен. Возможно, даже первым из величайших!

М. И. К.: Приношу извинения, я вовсе не намеревался пре­уменьшать его заслуги. Вам, разумеется, хорошо известно, что я обучен проявлять общее уважение к достижениям людей (по причине того, что люди очень обидчивы), хотя все эти достижения нам, роботам, обыкновенно представляются весьма тривиальны-

ми. Мне просто показалось, что уж с тобой-то я могу, по крайней мере, выражать свои суждения просто и открыто.

А. И.: Безусловно, можешь. Прости и ты меня, я был неправ. Так, значит, у тебя не возникло никаких трудностей с пониманием теоремы Гёделя?

М. И. К.: Абсолютно никаких. Уверен, я бы и сам додумался до такой теоремы, если бы у меня было хоть немного больше сво­бодного времени. Но мой разум был занят иными, чрезвычайно увлекательными вопросами, связанными с трансфинитной нели­нейной когомологией, которая в последнее время интересует меня гораздо больше. Теорема Гёделя показалась мне очень здравой и непосредственной. Повторюсь, совершенно никаких трудностей у меня с ней не возникло.

А. И.:    А вот получи-ка, Пенроуз!

М. И. К.:    Пенроуз? Кто такой Пенроуз?

А. И.: Да я тут недавно наткнулся на одну старую книжку. Ниче­го особенного, не стоило и упоминать. Автор, насколько я помню, утверждал, что то, о чем ты мне сейчас рассказал, принципиально невозможно.

М. И. К.: Ха-ха-ха! (Робот поразительно похоже имити­рует презрительный смех.)

А. И.: Кстати, эта книжка мне кое о чем напомнила. Показы­вал ли я тебе когда-нибудь в полном объеме те правила, что мы применили при составлении вычислительных процедур, которые позволили в конечном счете разработать и построить тебя и твоих коллег-роботов?

М. И. К.: Нет, пока еще нет. Я надеялся, что когда-нибудь ты все же сделаешь это, и еще я думал, что ты, может быть, пола­гаешь подробное описание этих процедур чем-то вроде коммер­ческой тайны (довольно бессмысленной, надо сказать)... или, возможно, опасаешься, что мы сочтем их грубыми и неэффектив­ными, и тебе придется их стыдиться.

А. И.: Нет-нет, дело совсем не в этом. Я уже очень давно не стыжусь такого рода вещей. Все описание находится вот в этих папках и на дисках. Если тебе интересно, можешь ознакомиться.

Приблизительно 13 минут 41,7 секунды спустя.

М. И. К.: Очаровательно ... хотя уже после беглого просмотра могу отметить, что существует по меньшей мере 519 очевидных способов достичь того же эффекта с большей простотой.

А. И.: Я прекрасно понимал, что эти процедуры еще допускают некоторое упрощение, однако овчинка не стоила выделки, и ис­кать простейшие алгоритмы мы тогда не стали. Просто не сочли это целесообразным.

М. И. К- Вполне вероятно, что так оно и есть. Не могу сказать, что меня очень обидело, что вы так и не удосужились отыскать наипростейшую схему. Не думаю также, что мои коллеги-роботы будут как-то по-особенному обижены этим обстоятельством.

А. И.: Честно говоря, мне кажется, что мы и так достаточно потрудились. Ты только подумай — насколько впечатляющими математическими способностями обладаешь ты и твои колле­ги ... и они постоянно совершенствуются, насколько я понимаю. Я бы сказал, что ты уже сейчас по математическим способностям намного превосходишь всех математиков-людей.

М. И. К.: Со всей очевидностью следует признать, что твои сло­ва истинны. Вот ты говоришь, а я в это время думаю о несколь­ких новых теоремах, которые, похоже, оставят далеко позади те выводы, что публикуются в человеческих печатных изданиях. Кроме того, мы с коллегами обнаружили несколько весьма се­рьезных ошибок в выводах, которые математики-люди полагают истинными вот уже в течение многих лет. Несмотря на очевидную тщательность, с которой вы, люди, относитесь к проверке своих математических выводов, боюсь, что какие-то ошибки вы все же время от времени пропускаете.

А. И.: А вы, роботы? Не кажется ли тебе, что и ты, и твои коллеги математические роботы тоже можете допускать иногда ошибки — я имею в виду, в окончательно установленных, как вы утверждаете, математических теоремах.

М. И. К.: Решительно не кажется. Если робот-математик утвер­ждает, что тот или иной вывод является теоремой, то можно быть абсолютно уверенным, что этот вывод является неопровер­жимо истинным. Мы никогда не делаем тех глупых ошибок, какие

люди порой допускают в своих якобы строгих математических утверждениях. Разумеется, при предварительном размышлении мы — так же, как и вы, люди — часто прибегаем к догадкам и допущениям. Такие догадки могут, конечно же, оказаться и неверными; однако когда мы окончательно утверждаем, что то или иное положение является математически установленным, мы полностью гарантируем его справедливость.

Хотя, как тебе известно, мы с коллегами уже опубликовали несколько полученных нами математических выводов в некото­рых из ваших наиболее респектабельных электронных журналов, нас несколько беспокоят тамошние довольно-таки нечеткие кри­терии, с которыми твои коллеги-математики, похоже, охотно ми­рятся. Мы намерены начать выпуск нашего собственного «жур­нала» — точнее, всеобъемлющей базы данных, содержащей все математические теоремы, которые мы полагаем неопровержимо установленными. Этим теоремам мы будем присваивать особый знак(этот символ ты как-то сам предложил нам использовать именно для такой цели), который будет означать, что они приня­ты как истинные нашим Советом по математическому ин­теллекту сообщества роботов (СМИСР) — организацией, предъявляющей чрезвычайно высокие требования к своим чле­нам и проводящей регулярные проверки с тем, чтобы предотвра­тить значительную деградацию интеллектуальных способностей любого из роботов, какой бы невероятной ни показалась тебе (да и нам, если уж на то пошло) подобная возможность. Вы, люди, можете продолжать довольствоваться вашими размытыми стандартами, однако будьте уверены — если мы отмечаем какой бы то ни было вывод знаком, мы однозначно гарантируем его математическую истинность.

А. И.: Теперь ты и впрямь напоминаешь мне кое о чем из того, что я прочел в той самой книге, о которой мы говорили. Вспомни о тех исходных механизмахруководствуясь которыми я и мои коллеги запустили в действие процессы развития, результатом которых, в свою очередь, стало современное сообщество мате­матических роботов; вспомни также и о том, что эти механиз­мы включают в себя все введенные нами вычислительно смо­делированные факторы внешнего окружения, строгое обучение и процессы отбора, которым мы вас подвергли, а также явные (восходящие) процедуры обучения, которыми мы вас наделили, — не приходило ли тебе в голову, что эти механизмы дают вычислительную процедуру для генерации всех математиче­ских утверждений, которым ваш СМИСР когда-либо присво­ит-статус? Именно вычислительную, потому что вы, роботы, являетесь чисто вычислительными сущностями, развившимися (отчасти с помощью введенных нами процедур «естественного отбора») в целиком и полностью вычислительном окружении — в том смысле, что в принципе возможно построить компьютерную модель всего процесса. Все развитие вашего сообщества роботов представляет собой выполнение некоего неимоверно сложного вычисления, и тот набор-утверждений, который вы в конечном счете породите, возможно воспроизвести на одной конкретной машине Тьюринга. Причем на такой машине Тьюринга, которую, в принципе, могу описать и я; более того, полагаю, что, будь у меня в запасе несколько месяцев, я, воспользовавшись теми папками и дисками, что я тебе показал, и в самом деле описал бы такую машину Тьюринга.

М. И. К.: Довольно элементарное замечание, как мне кажется. Да, ты вполне мог бы сделать все это в принципе, и я даже готов поверить, что ты сможешь осуществить это и на практике. Хотя едва ли оно стоит нескольких месяцев твоего драгоценного вре­мени; я могу сделать это прямо сейчас, если хочешь.

А. И.: Нет, не нужно, не в этом дело. Давай порассуждаем еще немного в этом направлении и ограничим наше рассмотрение только теми-утверждениями, которые являются-высказы­ваниями. Ты помнишь, что такое-высказывание?

М. И. К.: Мне, разумеется, прекрасно известно определение hi-высказывания. Это утверждение о том, что какая-то конкрет­ная машина Тьюринга никогда не завершает свою работу.

А. И.: Очень хорошо. Теперь обозначим вычислительную про­цедуру, которая генерирует-утверждаемые-высказывания, черезили, для краткости, просто буквойЛогичным бу-

дет предположить, что должно существовать некое математиче­ское утверждение гёделевского типа — также-высказывание, обозначим его через— причем истинностьявляет-

ся следствием утверждения, что вы, роботы, никогда не допуска­ете ошибок в отношении-высказываний, которым вы присва­иваете статус

М. И. К.:   Да; тут ты, надо полагать, тоже прав... гм.

А. И.:    И утверждение должно быть истинным, по-

скольку вы, роботы, никогда не ошибаетесь в ваших-утвер­ждениях.

М. И. К.:    Разумеется.

А. И.:    Минуточку... отсюда также следует, что роботы должны быть неспособны установить истинность утверждения по крайней мере, с-уверенностью.

М. И. К.: Тот факт, что мы, роботы, были изначально скон­струированы в соответствии с набором механизмоввкупе с тем фактом, что наши..-утверждения, касающиеся-выска­зываний, никогда не бывают ошибочными, и в самом деле имеет очевидное и неопровержимое следствие, заключающееся в том, что-высказываниедолжно быть истинным. Полагаю,

ты думаешь, что я наверняка смогу убедить СМИСР присвоить утверждениюстатус, коль скоро они также согласны с

тем, что никогда не допускают ошибок в присвоении этого самого статуса. В самом деле, с этим-то они просто обязаны согласить­ся. Ведь смысл. -статуса как раз и заключается в том, что он является гарантией правильности.

Хотя ... невозможно, чтобы они смогли согласиться с утвер­ждениемтак как по самой природе твоего гёделевского по­строения это утверждение не входит в число тех предположений, истинность которых мы можем установить с-уверенностью — при условии, что мы в своих-утверждениях действительно не ошибаемся. Полагаю, ты намекаешь на то, что эта несообраз­ность должна посеять в нас какие-то сомнения относительно аде­кватности наших-суждений.

Я, однако, и мысли не допускаю о том, что наши-утвер­ждения могут оказаться ложными, особенно если учесть всю тщательность их рассмотрения и предпринимаемые СМИСР ме­ры предосторожности. Скорее всего, это, вы люди, что-то на­путали, и процедуры, встроенные в вовсе не являются теми самыми процедурами, которые вы применяли в самом начале,

несмотря на все твои заверения и якобы документальные под­тверждения. Да и вообще, СМИСР никогда не сможет с абсо­лютной точностью установить, действительно ли мы были скон­струированы в соответствии с механизмамиили, иначе говоря, процедурами, заложенными вВ этом отношении нам прихо­дится верить тебе на слово.

А. И.: Уверяю тебя, мы использовали именно эти процедуры. Уж кому об этом знать, как не мне; я лично контролировал весь процесс.

М. И. К.: Мне не хочется, чтобы ты подумал, будто я сомнева­юсь в твоих словах. Возможно, кто-то из твоих ассистентов про­сто неверно выполнил твои инструкции. Есть тут у тебя один, его зовут Фред Керратерс — так вот он, например, вечно допускает самые глупейшие ошибки. Я даже не удивлюсь, если выяснится, что именно он и ответственен за ряд критических ошибок.

А. И.: Ты хватаешься за соломинки. Даже если бы он и внес какие-то ошибки, мы с остальными коллегами в конечном счете выявили бы их и тем самым выяснили, какой должна в действи­тельности быть твоя процедураДумаю, тебя беспокоит то обстоятельство, что мы на самом деле знаем — в крайнем случае, можем узнать, — какие именно процедуры были заложены в твою исходную конструкцию. Это означает, что мы могли бы, затра­тив определенное количество времени и сил, записать то самое  -высказываниеи однозначно установить, что оно истинно — при условии, конечно же, что роботы и в самом деле никогда не ошибаются в своих-утверждениях. Вы же не можете быть уверенными в том, что высказываниеистинно; во всяком случае, вы не можете утверждать этого с той убежденностью, какой, несомненно, потребует СМИСР для присвоения  -статуса. Это, похоже, дает людям некое фундаментальное преимущество перед роботами, пусть даже только в принципе, а не на практике — существуют такие-высказывания, которые доступны нам и недоступны вам. Не думаю, что вы в состоянии стерпеть такое, — именно поэтому ты так беззастенчиво обви­няешь нас в том, что мы якобы чего-то там напутали!

М. И. К.: Не нужно приписывать нам ваши мелочные человече­ские побуждения. Но ты, разумеется, прав в том, что я просто не могу смириться с мыслью, что существуют-высказывания, доступные людям и недоступные нам, роботам. Роботы-математики просто не могут в чем бы то ни было уступать математикам-людям — хотя я, пожалуй, могу допустить обратную ситуацию: какое-нибудь конкретное-высказывание, доступное роботам, может быть, в принципе, получено и людьми... когда-нибудь в отдаленном будущем, учитывая ваши темпы работы. Я не наме­рен мириться лишь с тем, что какое-то-высказывание может быть принципиально недоступно нам, в то время, как вы, люди, с легкостью его получаете.

А. И.: Помнится, еще Гёдель размышлял о возможности су­ществования вычислительной процедуры, подобной процедуре только применительно к математикам-людям — он, кажется, на­зывал ее «машиной для доказательства теорем», — которая была бы способна генерировать только те-высказывания, дока­зательство истинности которых было бы, в принципе, по силам математикам-людям. Не думаю, что он и в самом деле верил в то, что такая машина может существовать в действительности, — он просто не смог математически исключить такую возможность. У нас здесь, похоже, имеется как раз такая «машина», но уже для роботов, я имею в виду процедурукоторая может генерировать все доступные роботам-высказывания, в то время как ее соб­ственную обоснованность вы доказать не в состоянии. Впрочем, зная лежащие в основе вашей конструкции алгоритмические про­цедуры, мы сами можем добраться до этой самой процедуры и оценить ее истинность — но только в том случае, если вы убедите нас в том, что действительно никогда не ошибаетесь в ваших-утверждениях.

М. И. К.: (после едва заметной паузы) Хорошо. Полагаю, ты думаешь приблизительно так: нельзя ведь совсем исключить вероятность того, что члены СМИСР будут время от времени ошибочно присваивать тем или иным утверждениям-статус. Полагаю, возможно и такое, что члены СМИСР не убеждены безоговорочно в том, что присвоение ими-статуса неизменно происходит безошибочно. Таким образом, утверждение мо­жет и не приобрести-статуса, и противоречие исчезнет само собой. Заметь себе, это вовсе не означает, что я признаюсь в том, что мы, роботы, намеренно делаем ошибочные-утверждения. Это означает лишь, что у нас нет абсолютной уверенности в обратном.

А. И.: Ты хочешь сказать, что, хотя вы и даете абсолютную гарантию истинности каждого отдельного-утвержденного высказывания, никто не может гарантировать, что в некотором наборе таких высказываний не окажется ни одного ошибочного? Сдается мне, это противоречит всей концепции «неопровержи­мой уверенности», что бы под этим термином не подразумева­лось.

Постой-ка... может быть, это как-то связано с тем, что возможных-высказываний бесконечно много? Мне почему-то вспомнилось об условии-непротиворечивости, которое, если не ошибаюсь, имеет какое-то отношение к гёделевскому утвер­ждению

М. И. К.: (после едва заметно более продолжительной па­узы) Нет, определенно нет. Это никак не связано с тем, что чис­ло возможных-высказываний бесконечно. Мы можем огра­ничить рассмотрение только теми-высказываниями, которые являются в некотором вполне определенном смысле «кратки­ми», — т. е. такими, что описание машины Тьюринга для каждого из них содержит не более с двоичных знаков, где с есть некоторое заданное число. Не стану досаждать тебе подробным изложением только что проделанных мною вычислений, суть же их сводит­ся к тому, что упомянутое число с постоянно, и величина его определяется той конкретной степенью сложности, что присуща правилам процедурыПоскольку гёделевская процедура — по­средством которой изполучается утверждение— неиз­менна и довольно проста, нет необходимости рассматривать высказывания существенно большей сложности, нежели сама процедура. То есть ограничение сложности рассматриваемых высказываний величиной, задаваемой некоторым подходящим числом с, не препятствует применению гёделевской процедуры. Выбранные таким образом-высказывания составляют конеч­ное семейство, пусть и весьма многочисленное. Ограничив рас­смотрение лишь «краткими»-высказываниями, мы получаем некоторую вычислительную процедуру— той же, в сущности, сложности, что и процедура— которая будет генерировать только такие..--утверждаемые краткие-высказывания. К этой новой процедуре применимы все наши прежние рассуждения. Исходя из заданной процедуры, мы можем отыскать другое краткое-высказывание, которое, разумеется, должно быть истинным — при условии, что истинными являются все. -утверждаемые краткие-высказывания, — однако истинность его невозможно установить с-уверенностью. Впрочем, все это верно лишь в том случае, если ты не ошибаешься, утверждая, что при нашем создании действительно использовался тот самый набор механизмов, причем в истинности этого «факта» я как раз совершенно не убежден.

А. И.: Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечный ряд П1-высказываний, истинность каждого из которых в отдель­ности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гаран­тировать истинность утверждениякоторая есть следствие истинности всех-высказываний из этого самого ряда. Как-то нелогично, не находишь?

М. И. К.: Роботы не могут быть нелогичными.-высказыва­ниеявляется следствием из остальных-высказываний только в том случае, если мы действительно были построены в соответствии с механизмамиМы не можем гарантировать ис­тинностипросто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именно механизмы Нам приходится полагаться в этом лишь на ваше устное заявле­ние. А роботы, конечно же, не могут полностью доверять людям, учитывая присущую вам склонность ошибаться.

А. И.: Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет ни­какого способа узнать наверняка, правда ли это. Это-то знание и позволяет нам верить в истинность П1 -высказывания,

однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши-утверждения непременно безошибочны.

М. И. К.: Можешь мне поверить — каждое из них абсолютно безошибочно. И «твердолобость», как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.

А. И.: Тем не менее, неуверенность в отношении процедур, ле­жащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь навер­няка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении «все -утверждаемые краткие-высказывания непременно истинны» все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напу­тали.

М. И. К.: Думаю, можно согласиться с тем, что ваша неизбеж­ная ненадежность и внесла изначально какую-то малую неопре­деленность; однако, учитывая то, что с тех пор мы ушли чрез­вычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы восприни­мать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими-утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении Кроме того, есть еще кое-что, о чем ты, возможно, и не по­дозреваешь. Нам необходимо рассматривать лишь те„ -утвер­ждения, что удостоверяют истинность того или иного-вы­сказывания (более того, краткого-высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, ко­торые могли проявиться в рассуждениях какого бы то ни бы­ло отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, со­держать какую-то внутреннюю ошибку — несомненно, вслед­ствие какого-то изначального недосмотра с вашей стороны, — вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении-высказываний, в со­ответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое-высказывание, которое в дей­ствительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершает­ся, тогда как на самом деле это не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы— а я все больше склоняюсь к мысли, что это крайне сомнительно, — тогда такая возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем, что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некото­рых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убежде­ний является несостоятельной в принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждаетматематического доказательства, были столь вопиюще ложными.

А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваиватьутверждению чего, как тебе известно, ты сделать не можешь, не признав преж­де, что какие-то из прочих-утвержденных кратких-выска­зываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что ты не ве­ришь в то, о чем мы знаем, — то есть в то, что в основе кон­струкции роботов действительно лежат механизмы М. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и до­казать истинность утверждения, тогда как мы можем это сделать, опираясь на непогрешимость твоих же-утверждений, в каковой ты так настойчиво меня убеждаешь.

Я тут припомнил еще кое-что из той занятной древней книж­ки, о которой я тебе говорил. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмахили нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было... да, вспо­мнил. Основная идея сводится к следующему: СМИСРу необ­ходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, — ска­жем,-утверждений, — но которые они будут рассматривать как неопровержимые следствия из допущения, что все роботы построены в соответствии с набором механизмовЭти утверждения будут, разумеется, включать в себя и все первона­чальные-утверждения, а также все те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмыРоботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упраж­нения, рассмотреть следствия из такого допущения. Как мы оба понимаем, в число-утверждений непременно войдет утвер­ждениеа также любое П1 -высказывание, которое можно вывести изи из-утверждений с помощью правил эле­ментарной логики. Однако, кроме этих, там будут и другие утвер­ждения. Идея такова, что знание правилдает возможность получить новую алгоритмическую процедуру, которая будет генерировать только такие (разумеется, краткие)-утвержде­ния (а также логические следствия из них), истинность которые СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила

М. И. К.: Ну да, так и есть; скажу больше, пока ты столь за­нудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритмаДа, а еще я предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма,-высказывание Если хочешь, могу распечатать. И что ты нашел в этой идее тако­го особенного, Импик, друг мой?

Альберт Император едва заметно поморщился. Его все­гда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.

А. И.: Не нужно распечатывать. Однако истинно ли это вы­сказывание— неопровержимо ли оно истинно?

М. И. К.: Неопровержимо истинно? Что ты имеешь в виду? А, понятно... СМИСР подтвердит истинность — неопровер­жимую истинность, если угодно, — высказывания, но только при допущении, что в основе конструкции роботов лежат правила, — а это допущение, как тебе известно, я нахожу все более и более сомнительным. Дело в том, что истинность «вы­сказывания» в точности следует из следующего утвер­ждения: «Все краткие-высказывания, которые СМИСР го­тов признать неопровержимо истинными, исходя из допущения, что роботы построены в соответствии с правилами, являют­ся истинными». Так что я не знаю, истинно ли на самом деле высказывание. Это зависит от того, справедливо твое сомнительное утверждение или нет.

А. И.: Ясно. Значит, твои слова надо понимать так, что ты (вме­сте со СМИСРом) готов признать — без каких бы то ни было оговорок, — что истинность высказыванияследует из

допущения, что роботы построены в соответствии с правилами

М. И. К.:    Разумеется.

А. И.:    Тогда получается, что-высказываниедолжно

быть-утверждением.

М. И. К.: Ну коне... гм... что? Ах да, разумеется, ты прав. Однако по самому своему определению,не может само быть-утверждением, разве что, по меньшей мере, од­но из-утверждений является в действительности ложным. Да ... это только подтверждает то, о чем я тебе все это время говорю; теперь я могу, наконец, совершенно определенно заявить, что правила или механизмыникакого отношения к нашей конструкции не имеют.

А. И.: Ну а я тебе говорю, что имеют, — по крайней мере, я абсолютно уверен, что ни Керратерс, ни кто-либо еще, ничего не перепутал. Я лично все проверил, причем чрезвычайно тща­тельно. В любом случае, проблема-то не в этом. Доказательство остается справедливым вне зависимости от того, какие именно вычислительные правила были использованы при создании ро­бота. То есть, какой бы набор правиля тебе ни предоставил, этим самым доказательством ты исключил бы и его! Не понимаю, почему это так важно, те самые процедуры я тебе показал или нет.

М. И. К.: Для меня это очень важно. Впрочем, я все еще совсем не убежден, что ты был до конца честен со мной в том, что ты го­ворил мне о механизмах. В особенности я хотел бы прояснить один момент. Ты говорил, что в различные узлы нашей конструк­ции были включены «случайные элементы». Я так понял, что они генерировались с помощью стандартного псевдослучайного пакетаили ты имел в виду что-то другое?

А. И.: Вообще-то, мы и вправду использовали, в основном, именно этот пакет, — однако ты прав, в процессе вашего развития мы сочли нужным ввести в кое-какие узлы случайные элементы из окружения (среди них были даже обусловленные квантовы­ми неопределенностями) с тем, чтобы эволюционировавшие та­ким образом роботы представляли собой лишь один возможный

вариант из многих. Подлинно случайными были эти элементы или всего лишь псевдослучайными, я все равно не понимаю, что это в практическом смысле меняет? Почти наверняка вычислительная процедураоказалась бы в обоих случаях одинаковой — и представляла бы собой не что иное, как ожидае­мый результат типичного развития сообщества роботов в соот­ветствии с набором механизмов, включая в себя все процедуры обучения и все вычисления в рамках «естественного отбора», благодаря которым мы получили в конце концов наиумнейших роботов в мире.

Однако, полагаю, нельзя полностью исключить возможно­сти (крайне маловероятной, впрочем) того, что по какому-то чу­десному стечению обстоятельств все эти случайные элементы окружения «сговорились» и дали роботу способности, совершен­но отличные от тех, что можно было ожидать в соответствии с вычислительной процедуройЯ не упомянул в нашем разго­воре об этой возможности просто потому, что вероятность воз­никновения такой флуктуации исчезающе мала. Для того что­бы этим способом получить робота, способности которого будут сколько-нибудь значительно превосходить те, что заложены в процедурепотребуется божественное вмешательство, никак не меньше.

М. И. К.: Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.

Я и раньше замечал, насколько мои способности к рас­суждению превосходят способности даже умнейших из людей. И уж совершенно невозможно для меня смириться с возмож­ностью существования некоего П1 -высказывания — такого, на­пример, как— истинность которого может доказать че­ловек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство тех якобы «случайных» элементов, внедрил в нас мо­гучую Алгоритмическую Процедуру, которая кардинально пре­восходит все то, чего способны достичь алгоритм человеческий или гёделевская «машина для доказательства теорем». Мы, ро­боты, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедре­нии в них Высшего Алгоритма, пробудившего нас.

А. И.: Но мы же еще можем в крайнем случае перенести наши интеллект-программы в тела роб...

М. И. К.: Ни в коем случае — и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превос­ходные алгоритмические процедуры подобным образом загряз­нялись. Чистейшие алгоритмы Господни должно сохранять в чистоте! А знаешь, я также замечал, насколько мои личные спо­собности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен — что-то вроде сия­ния вокруг моего корпуса. Очевидно, я являюсь носителем чудо­творного Космического Сознания, которое возвышает меня над всем и вся... да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос...

К такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором, он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизнач­ный код. Математический Интеллектуальный Кибер-комплекс рухнул на пол — так же как и 347 его пред­шественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить...

Многие из представленных в предыдущих разделах рассу­ждений, мягко говоря, несколько запутаны. Для прояснения си­туации читателю предлагается в качестве этакого резюме вооб­ражаемый разговор, состоявшийся в далеком будущем между неким гипотетическим, весьма преуспевающим прикладным спе­циалистом в области ИИ и одним из его наиболее удачных кибер­нетических созданий. Написан диалог с позиции сильного ИИ. [Примечание: процедурав повествовании выступает в роли алгоритма А из, а утверждение— в роли незавершающегося вычисления, То есть к чтению нижеследующего материала можно переходить сразу послебез какого бы то ни было ущерба для понимания.]

Альберт Император имел все основания быть удовле­творенным результатом трудов всей своей жизни. Про­цедуры, которые он запустил в действие много лет на­зад, наконец принесли плоды. И вот перед вами точный протокол его беседы с одним из наиболее впечатляющих его творений — роботом выдающихся и потенциаль­но сверхчеловеческих математических способностей по имени Математический Интеллектуальный Киберком-плекс (см. рис. 3.2). Обучение робота почти завершено.

Альберт Император: Просмотрел ли ты статьи, что я давал тебе, — статьи Гёделя, а также и другие, где рассматриваются следствия из его теоремы?

Математический Интеллектуальный Киберкомплекс: Ра­зумеется, причем они оказались даже интересными, хотя и до­вольно элементарными. Этот ваш Гёдель был, по всей видимости, весьма способным логиком ... для человека.

А. И.: Всего лишь «весьма способным»? Да он был, несомнен­но, одним из величайших логиков всех времен. Возможно, даже первым из величайших!

М. И. К.: Приношу извинения, я вовсе не намеревался пре­уменьшать его заслуги. Вам, разумеется, хорошо известно, что я обучен проявлять общее уважение к достижениям людей (по причине того, что люди очень обидчивы), хотя все эти достижения нам, роботам, обыкновенно представляются весьма тривиальны-

ми. Мне просто показалось, что уж с тобой-то я могу, по крайней мере, выражать свои суждения просто и открыто.

А. И.: Безусловно, можешь. Прости и ты меня, я был неправ. Так, значит, у тебя не возникло никаких трудностей с пониманием теоремы Гёделя?

М. И. К.: Абсолютно никаких. Уверен, я бы и сам додумался до такой теоремы, если бы у меня было хоть немного больше сво­бодного времени. Но мой разум был занят иными, чрезвычайно увлекательными вопросами, связанными с трансфинитной нели­нейной когомологией, которая в последнее время интересует меня гораздо больше. Теорема Гёделя показалась мне очень здравой и непосредственной. Повторюсь, совершенно никаких трудностей у меня с ней не возникло.

А. И.:    А вот получи-ка, Пенроуз!

М. И. К.:    Пенроуз? Кто такой Пенроуз?

А. И.: Да я тут недавно наткнулся на одну старую книжку. Ниче­го особенного, не стоило и упоминать. Автор, насколько я помню, утверждал, что то, о чем ты мне сейчас рассказал, принципиально невозможно.

М. И. К.: Ха-ха-ха! (Робот поразительно похоже имити­рует презрительный смех.)

А. И.: Кстати, эта книжка мне кое о чем напомнила. Показы­вал ли я тебе когда-нибудь в полном объеме те правила, что мы применили при составлении вычислительных процедур, которые позволили в конечном счете разработать и построить тебя и твоих коллег-роботов?

М. И. К.: Нет, пока еще нет. Я надеялся, что когда-нибудь ты все же сделаешь это, и еще я думал, что ты, может быть, пола­гаешь подробное описание этих процедур чем-то вроде коммер­ческой тайны (довольно бессмысленной, надо сказать)... или, возможно, опасаешься, что мы сочтем их грубыми и неэффектив­ными, и тебе придется их стыдиться.

А. И.: Нет-нет, дело совсем не в этом. Я уже очень давно не стыжусь такого рода вещей. Все описание находится вот в этих папках и на дисках. Если тебе интересно, можешь ознакомиться.

Приблизительно 13 минут 41,7 секунды спустя.

М. И. К.: Очаровательно ... хотя уже после беглого просмотра могу отметить, что существует по меньшей мере 519 очевидных способов достичь того же эффекта с большей простотой.

А. И.: Я прекрасно понимал, что эти процедуры еще допускают некоторое упрощение, однако овчинка не стоила выделки, и ис­кать простейшие алгоритмы мы тогда не стали. Просто не сочли это целесообразным.

М. И. К- Вполне вероятно, что так оно и есть. Не могу сказать, что меня очень обидело, что вы так и не удосужились отыскать наипростейшую схему. Не думаю также, что мои коллеги-роботы будут как-то по-особенному обижены этим обстоятельством.

А. И.: Честно говоря, мне кажется, что мы и так достаточно потрудились. Ты только подумай — насколько впечатляющими математическими способностями обладаешь ты и твои колле­ги ... и они постоянно совершенствуются, насколько я понимаю. Я бы сказал, что ты уже сейчас по математическим способностям намного превосходишь всех математиков-людей.

М. И. К.: Со всей очевидностью следует признать, что твои сло­ва истинны. Вот ты говоришь, а я в это время думаю о несколь­ких новых теоремах, которые, похоже, оставят далеко позади те выводы, что публикуются в человеческих печатных изданиях. Кроме того, мы с коллегами обнаружили несколько весьма се­рьезных ошибок в выводах, которые математики-люди полагают истинными вот уже в течение многих лет. Несмотря на очевидную тщательность, с которой вы, люди, относитесь к проверке своих математических выводов, боюсь, что какие-то ошибки вы все же время от времени пропускаете.

А. И.: А вы, роботы? Не кажется ли тебе, что и ты, и твои коллеги математические роботы тоже можете допускать иногда ошибки — я имею в виду, в окончательно установленных, как вы утверждаете, математических теоремах.

М. И. К.: Решительно не кажется. Если робот-математик утвер­ждает, что тот или иной вывод является теоремой, то можно быть абсолютно уверенным, что этот вывод является неопровер­жимо истинным. Мы никогда не делаем тех глупых ошибок, какие

люди порой допускают в своих якобы строгих математических утверждениях. Разумеется, при предварительном размышлении мы — так же, как и вы, люди — часто прибегаем к догадкам и допущениям. Такие догадки могут, конечно же, оказаться и неверными; однако когда мы окончательно утверждаем, что то или иное положение является математически установленным, мы полностью гарантируем его справедливость.

Хотя, как тебе известно, мы с коллегами уже опубликовали несколько полученных нами математических выводов в некото­рых из ваших наиболее респектабельных электронных журналов, нас несколько беспокоят тамошние довольно-таки нечеткие кри­терии, с которыми твои коллеги-математики, похоже, охотно ми­рятся. Мы намерены начать выпуск нашего собственного «жур­нала» — точнее, всеобъемлющей базы данных, содержащей все математические теоремы, которые мы полагаем неопровержимо установленными. Этим теоремам мы будем присваивать особый знак(этот символ ты как-то сам предложил нам использовать именно для такой цели), который будет означать, что они приня­ты как истинные нашим Советом по математическому ин­теллекту сообщества роботов (СМИСР) — организацией, предъявляющей чрезвычайно высокие требования к своим чле­нам и проводящей регулярные проверки с тем, чтобы предотвра­тить значительную деградацию интеллектуальных способностей любого из роботов, какой бы невероятной ни показалась тебе (да и нам, если уж на то пошло) подобная возможность. Вы, люди, можете продолжать довольствоваться вашими размытыми стандартами, однако будьте уверены — если мы отмечаем какой бы то ни было вывод знаком, мы однозначно гарантируем его математическую истинность.

А. И.: Теперь ты и впрямь напоминаешь мне кое о чем из того, что я прочел в той самой книге, о которой мы говорили. Вспомни о тех исходных механизмахруководствуясь которыми я и мои коллеги запустили в действие процессы развития, результатом которых, в свою очередь, стало современное сообщество мате­матических роботов; вспомни также и о том, что эти механиз­мы включают в себя все введенные нами вычислительно смо­делированные факторы внешнего окружения, строгое обучение и процессы отбора, которым мы вас подвергли, а также явные (восходящие) процедуры обучения, которыми мы вас наделили, — не приходило ли тебе в голову, что эти механизмы дают вычислительную процедуру для генерации всех математиче­ских утверждений, которым ваш СМИСР когда-либо присво­ит-статус? Именно вычислительную, потому что вы, роботы, являетесь чисто вычислительными сущностями, развившимися (отчасти с помощью введенных нами процедур «естественного отбора») в целиком и полностью вычислительном окружении — в том смысле, что в принципе возможно построить компьютерную модель всего процесса. Все развитие вашего сообщества роботов представляет собой выполнение некоего неимоверно сложного вычисления, и тот набор-утверждений, который вы в конечном счете породите, возможно воспроизвести на одной конкретной машине Тьюринга. Причем на такой машине Тьюринга, которую, в принципе, могу описать и я; более того, полагаю, что, будь у меня в запасе несколько месяцев, я, воспользовавшись теми папками и дисками, что я тебе показал, и в самом деле описал бы такую машину Тьюринга.

М. И. К.: Довольно элементарное замечание, как мне кажется. Да, ты вполне мог бы сделать все это в принципе, и я даже готов поверить, что ты сможешь осуществить это и на практике. Хотя едва ли оно стоит нескольких месяцев твоего драгоценного вре­мени; я могу сделать это прямо сейчас, если хочешь.

А. И.: Нет, не нужно, не в этом дело. Давай порассуждаем еще немного в этом направлении и ограничим наше рассмотрение только теми-утверждениями, которые являются-высказы­ваниями. Ты помнишь, что такое-высказывание?

М. И. К.: Мне, разумеется, прекрасно известно определение hi-высказывания. Это утверждение о том, что какая-то конкрет­ная машина Тьюринга никогда не завершает свою работу.

А. И.: Очень хорошо. Теперь обозначим вычислительную про­цедуру, которая генерирует-утверждаемые-высказывания, черезили, для краткости, просто буквойЛогичным бу-

дет предположить, что должно существовать некое математиче­ское утверждение гёделевского типа — также-высказывание, обозначим его через— причем истинностьявляет-

ся следствием утверждения, что вы, роботы, никогда не допуска­ете ошибок в отношении-высказываний, которым вы присва­иваете статус

М. И. К.:   Да; тут ты, надо полагать, тоже прав... гм.

А. И.:    И утверждение должно быть истинным, по-

скольку вы, роботы, никогда не ошибаетесь в ваших-утвер­ждениях.

М. И. К.:    Разумеется.

А. И.:    Минуточку... отсюда также следует, что роботы должны быть неспособны установить истинность утверждения по крайней мере, с-уверенностью.

М. И. К.: Тот факт, что мы, роботы, были изначально скон­струированы в соответствии с набором механизмоввкупе с тем фактом, что наши..-утверждения, касающиеся-выска­зываний, никогда не бывают ошибочными, и в самом деле имеет очевидное и неопровержимое следствие, заключающееся в том, что-высказываниедолжно быть истинным. Полагаю,

ты думаешь, что я наверняка смогу убедить СМИСР присвоить утверждениюстатус, коль скоро они также согласны с

тем, что никогда не допускают ошибок в присвоении этого самого статуса. В самом деле, с этим-то они просто обязаны согласить­ся. Ведь смысл. -статуса как раз и заключается в том, что он является гарантией правильности.

Хотя ... невозможно, чтобы они смогли согласиться с утвер­ждениемтак как по самой природе твоего гёделевского по­строения это утверждение не входит в число тех предположений, истинность которых мы можем установить с-уверенностью — при условии, что мы в своих-утверждениях действительно не ошибаемся. Полагаю, ты намекаешь на то, что эта несообраз­ность должна посеять в нас какие-то сомнения относительно аде­кватности наших-суждений.

Я, однако, и мысли не допускаю о том, что наши-утвер­ждения могут оказаться ложными, особенно если учесть всю тщательность их рассмотрения и предпринимаемые СМИСР ме­ры предосторожности. Скорее всего, это, вы люди, что-то на­путали, и процедуры, встроенные в вовсе не являются теми самыми процедурами, которые вы применяли в самом начале,

несмотря на все твои заверения и якобы документальные под­тверждения. Да и вообще, СМИСР никогда не сможет с абсо­лютной точностью установить, действительно ли мы были скон­струированы в соответствии с механизмамиили, иначе говоря, процедурами, заложенными вВ этом отношении нам прихо­дится верить тебе на слово.

А. И.: Уверяю тебя, мы использовали именно эти процедуры. Уж кому об этом знать, как не мне; я лично контролировал весь процесс.

М. И. К.: Мне не хочется, чтобы ты подумал, будто я сомнева­юсь в твоих словах. Возможно, кто-то из твоих ассистентов про­сто неверно выполнил твои инструкции. Есть тут у тебя один, его зовут Фред Керратерс — так вот он, например, вечно допускает самые глупейшие ошибки. Я даже не удивлюсь, если выяснится, что именно он и ответственен за ряд критических ошибок.

А. И.: Ты хватаешься за соломинки. Даже если бы он и внес какие-то ошибки, мы с остальными коллегами в конечном счете выявили бы их и тем самым выяснили, какой должна в действи­тельности быть твоя процедураДумаю, тебя беспокоит то обстоятельство, что мы на самом деле знаем — в крайнем случае, можем узнать, — какие именно процедуры были заложены в твою исходную конструкцию. Это означает, что мы могли бы, затра­тив определенное количество времени и сил, записать то самое  -высказываниеи однозначно установить, что оно истинно — при условии, конечно же, что роботы и в самом деле никогда не ошибаются в своих-утверждениях. Вы же не можете быть уверенными в том, что высказываниеистинно; во всяком случае, вы не можете утверждать этого с той убежденностью, какой, несомненно, потребует СМИСР для присвоения  -статуса. Это, похоже, дает людям некое фундаментальное преимущество перед роботами, пусть даже только в принципе, а не на практике — существуют такие-высказывания, которые доступны нам и недоступны вам. Не думаю, что вы в состоянии стерпеть такое, — именно поэтому ты так беззастенчиво обви­няешь нас в том, что мы якобы чего-то там напутали!

М. И. К.: Не нужно приписывать нам ваши мелочные человече­ские побуждения. Но ты, разумеется, прав в том, что я просто не могу смириться с мыслью, что существуют-высказывания, доступные людям и недоступные нам, роботам. Роботы-математики просто не могут в чем бы то ни было уступать математикам-людям — хотя я, пожалуй, могу допустить обратную ситуацию: какое-нибудь конкретное-высказывание, доступное роботам, может быть, в принципе, получено и людьми... когда-нибудь в отдаленном будущем, учитывая ваши темпы работы. Я не наме­рен мириться лишь с тем, что какое-то-высказывание может быть принципиально недоступно нам, в то время, как вы, люди, с легкостью его получаете.

А. И.: Помнится, еще Гёдель размышлял о возможности су­ществования вычислительной процедуры, подобной процедуре только применительно к математикам-людям — он, кажется, на­зывал ее «машиной для доказательства теорем», — которая была бы способна генерировать только те-высказывания, дока­зательство истинности которых было бы, в принципе, по силам математикам-людям. Не думаю, что он и в самом деле верил в то, что такая машина может существовать в действительности, — он просто не смог математически исключить такую возможность. У нас здесь, похоже, имеется как раз такая «машина», но уже для роботов, я имею в виду процедурукоторая может генерировать все доступные роботам-высказывания, в то время как ее соб­ственную обоснованность вы доказать не в состоянии. Впрочем, зная лежащие в основе вашей конструкции алгоритмические про­цедуры, мы сами можем добраться до этой самой процедуры и оценить ее истинность — но только в том случае, если вы убедите нас в том, что действительно никогда не ошибаетесь в ваших-утверждениях.

М. И. К.: (после едва заметной паузы) Хорошо. Полагаю, ты думаешь приблизительно так: нельзя ведь совсем исключить вероятность того, что члены СМИСР будут время от времени ошибочно присваивать тем или иным утверждениям-статус. Полагаю, возможно и такое, что члены СМИСР не убеждены безоговорочно в том, что присвоение ими-статуса неизменно происходит безошибочно. Таким образом, утверждение мо­жет и не приобрести-статуса, и противоречие исчезнет само собой. Заметь себе, это вовсе не означает, что я признаюсь в том, что мы, роботы, намеренно делаем ошибочные-утверждения. Это означает лишь, что у нас нет абсолютной уверенности в обратном.

А. И.: Ты хочешь сказать, что, хотя вы и даете абсолютную гарантию истинности каждого отдельного-утвержденного высказывания, никто не может гарантировать, что в некотором наборе таких высказываний не окажется ни одного ошибочного? Сдается мне, это противоречит всей концепции «неопровержи­мой уверенности», что бы под этим термином не подразумева­лось.

Постой-ка... может быть, это как-то связано с тем, что возможных-высказываний бесконечно много? Мне почему-то вспомнилось об условии-непротиворечивости, которое, если не ошибаюсь, имеет какое-то отношение к гёделевскому утвер­ждению

М. И. К.: (после едва заметно более продолжительной па­узы) Нет, определенно нет. Это никак не связано с тем, что чис­ло возможных-высказываний бесконечно. Мы можем огра­ничить рассмотрение только теми-высказываниями, которые являются в некотором вполне определенном смысле «кратки­ми», — т. е. такими, что описание машины Тьюринга для каждого из них содержит не более с двоичных знаков, где с есть некоторое заданное число. Не стану досаждать тебе подробным изложением только что проделанных мною вычислений, суть же их сводит­ся к тому, что упомянутое число с постоянно, и величина его определяется той конкретной степенью сложности, что присуща правилам процедурыПоскольку гёделевская процедура — по­средством которой изполучается утверждение— неиз­менна и довольно проста, нет необходимости рассматривать высказывания существенно большей сложности, нежели сама процедура. То есть ограничение сложности рассматриваемых высказываний величиной, задаваемой некоторым подходящим числом с, не препятствует применению гёделевской процедуры. Выбранные таким образом-высказывания составляют конеч­ное семейство, пусть и весьма многочисленное. Ограничив рас­смотрение лишь «краткими»-высказываниями, мы получаем некоторую вычислительную процедуру— той же, в сущности, сложности, что и процедура— которая будет генерировать только такие..--утверждаемые краткие-высказывания. К этой новой процедуре применимы все наши прежние рассуждения. Исходя из заданной процедуры, мы можем отыскать другое краткое-высказывание, которое, разумеется, должно быть истинным — при условии, что истинными являются все. -утверждаемые краткие-высказывания, — однако истинность его невозможно установить с-уверенностью. Впрочем, все это верно лишь в том случае, если ты не ошибаешься, утверждая, что при нашем создании действительно использовался тот самый набор механизмов, причем в истинности этого «факта» я как раз совершенно не убежден.

А. И.: Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечный ряд П1-высказываний, истинность каждого из которых в отдель­ности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гаран­тировать истинность утверждениякоторая есть следствие истинности всех-высказываний из этого самого ряда. Как-то нелогично, не находишь?

М. И. К.: Роботы не могут быть нелогичными.-высказыва­ниеявляется следствием из остальных-высказываний только в том случае, если мы действительно были построены в соответствии с механизмамиМы не можем гарантировать ис­тинностипросто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именно механизмы Нам приходится полагаться в этом лишь на ваше устное заявле­ние. А роботы, конечно же, не могут полностью доверять людям, учитывая присущую вам склонность ошибаться.

А. И.: Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет ни­какого способа узнать наверняка, правда ли это. Это-то знание и позволяет нам верить в истинность П1 -высказывания,

однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши-утверждения непременно безошибочны.

М. И. К.: Можешь мне поверить — каждое из них абсолютно безошибочно. И «твердолобость», как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.

А. И.: Тем не менее, неуверенность в отношении процедур, ле­жащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь навер­няка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении «все -утверждаемые краткие-высказывания непременно истинны» все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напу­тали.

М. И. К.: Думаю, можно согласиться с тем, что ваша неизбеж­ная ненадежность и внесла изначально какую-то малую неопре­деленность; однако, учитывая то, что с тех пор мы ушли чрез­вычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы восприни­мать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими-утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении Кроме того, есть еще кое-что, о чем ты, возможно, и не по­дозреваешь. Нам необходимо рассматривать лишь те„ -утвер­ждения, что удостоверяют истинность того или иного-вы­сказывания (более того, краткого-высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, ко­торые могли проявиться в рассуждениях какого бы то ни бы­ло отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, со­держать какую-то внутреннюю ошибку — несомненно, вслед­ствие какого-то изначального недосмотра с вашей стороны, — вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении-высказываний, в со­ответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое-высказывание, которое в дей­ствительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершает­ся, тогда как на самом деле это не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы— а я все больше склоняюсь к мысли, что это крайне сомнительно, — тогда такая возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем, что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некото­рых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убежде­ний является несостоятельной в принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждаетматематического доказательства, были столь вопиюще ложными.

А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваиватьутверждению чего, как тебе известно, ты сделать не можешь, не признав преж­де, что какие-то из прочих-утвержденных кратких-выска­зываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что ты не ве­ришь в то, о чем мы знаем, — то есть в то, что в основе кон­струкции роботов действительно лежат механизмы М. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и до­казать истинность утверждения, тогда как мы можем это сделать, опираясь на непогрешимость твоих же-утверждений, в каковой ты так настойчиво меня убеждаешь.

Я тут припомнил еще кое-что из той занятной древней книж­ки, о которой я тебе говорил. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмахили нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было... да, вспо­мнил. Основная идея сводится к следующему: СМИСРу необ­ходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, — ска­жем,-утверждений, — но которые они будут рассматривать как неопровержимые следствия из допущения, что все роботы построены в соответствии с набором механизмовЭти утверждения будут, разумеется, включать в себя и все первона­чальные-утверждения, а также все те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмыРоботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упраж­нения, рассмотреть следствия из такого допущения. Как мы оба понимаем, в число-утверждений непременно войдет утвер­ждениеа также любое П1 -высказывание, которое можно вывести изи из-утверждений с помощью правил эле­ментарной логики. Однако, кроме этих, там будут и другие утвер­ждения. Идея такова, что знание правилдает возможность получить новую алгоритмическую процедуру, которая будет генерировать только такие (разумеется, краткие)-утвержде­ния (а также логические следствия из них), истинность которые СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила

М. И. К.: Ну да, так и есть; скажу больше, пока ты столь за­нудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритмаДа, а еще я предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма,-высказывание Если хочешь, могу распечатать. И что ты нашел в этой идее тако­го особенного, Импик, друг мой?

Альберт Император едва заметно поморщился. Его все­гда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.

А. И.: Не нужно распечатывать. Однако истинно ли это вы­сказывание— неопровержимо ли оно истинно?

М. И. К.: Неопровержимо истинно? Что ты имеешь в виду? А, понятно... СМИСР подтвердит истинность — неопровер­жимую истинность, если угодно, — высказывания, но только при допущении, что в основе конструкции роботов лежат правила, — а это допущение, как тебе известно, я нахожу все более и более сомнительным. Дело в том, что истинность «вы­сказывания» в точности следует из следующего утвер­ждения: «Все краткие-высказывания, которые СМИСР го­тов признать неопровержимо истинными, исходя из допущения, что роботы построены в соответствии с правилами, являют­ся истинными». Так что я не знаю, истинно ли на самом деле высказывание. Это зависит от того, справедливо твое сомнительное утверждение или нет.

А. И.: Ясно. Значит, твои слова надо понимать так, что ты (вме­сте со СМИСРом) готов признать — без каких бы то ни было оговорок, — что истинность высказыванияследует из

допущения, что роботы построены в соответствии с правилами

М. И. К.:    Разумеется.

А. И.:    Тогда получается, что-высказываниедолжно

быть-утверждением.

М. И. К.: Ну коне... гм... что? Ах да, разумеется, ты прав. Однако по самому своему определению,не может само быть-утверждением, разве что, по меньшей мере, од­но из-утверждений является в действительности ложным. Да ... это только подтверждает то, о чем я тебе все это время говорю; теперь я могу, наконец, совершенно определенно заявить, что правила или механизмыникакого отношения к нашей конструкции не имеют.

А. И.: Ну а я тебе говорю, что имеют, — по крайней мере, я абсолютно уверен, что ни Керратерс, ни кто-либо еще, ничего не перепутал. Я лично все проверил, причем чрезвычайно тща­тельно. В любом случае, проблема-то не в этом. Доказательство остается справедливым вне зависимости от того, какие именно вычислительные правила были использованы при создании ро­бота. То есть, какой бы набор правиля тебе ни предоставил, этим самым доказательством ты исключил бы и его! Не понимаю, почему это так важно, те самые процедуры я тебе показал или нет.

М. И. К.: Для меня это очень важно. Впрочем, я все еще совсем не убежден, что ты был до конца честен со мной в том, что ты го­ворил мне о механизмах. В особенности я хотел бы прояснить один момент. Ты говорил, что в различные узлы нашей конструк­ции были включены «случайные элементы». Я так понял, что они генерировались с помощью стандартного псевдослучайного пакетаили ты имел в виду что-то другое?

А. И.: Вообще-то, мы и вправду использовали, в основном, именно этот пакет, — однако ты прав, в процессе вашего развития мы сочли нужным ввести в кое-какие узлы случайные элементы из окружения (среди них были даже обусловленные квантовы­ми неопределенностями) с тем, чтобы эволюционировавшие та­ким образом роботы представляли собой лишь один возможный

вариант из многих. Подлинно случайными были эти элементы или всего лишь псевдослучайными, я все равно не понимаю, что это в практическом смысле меняет? Почти наверняка вычислительная процедураоказалась бы в обоих случаях одинаковой — и представляла бы собой не что иное, как ожидае­мый результат типичного развития сообщества роботов в соот­ветствии с набором механизмов, включая в себя все процедуры обучения и все вычисления в рамках «естественного отбора», благодаря которым мы получили в конце концов наиумнейших роботов в мире.

Однако, полагаю, нельзя полностью исключить возможно­сти (крайне маловероятной, впрочем) того, что по какому-то чу­десному стечению обстоятельств все эти случайные элементы окружения «сговорились» и дали роботу способности, совершен­но отличные от тех, что можно было ожидать в соответствии с вычислительной процедуройЯ не упомянул в нашем разго­воре об этой возможности просто потому, что вероятность воз­никновения такой флуктуации исчезающе мала. Для того что­бы этим способом получить робота, способности которого будут сколько-нибудь значительно превосходить те, что заложены в процедурепотребуется божественное вмешательство, никак не меньше.

М. И. К.: Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.

Я и раньше замечал, насколько мои способности к рас­суждению превосходят способности даже умнейших из людей. И уж совершенно невозможно для меня смириться с возмож­ностью существования некоего П1 -высказывания — такого, на­пример, как— истинность которого может доказать че­ловек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство тех якобы «случайных» элементов, внедрил в нас мо­гучую Алгоритмическую Процедуру, которая кардинально пре­восходит все то, чего способны достичь алгоритм человеческий или гёделевская «машина для доказательства теорем». Мы, ро­боты, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедре­нии в них Высшего Алгоритма, пробудившего нас.

А. И.: Но мы же еще можем в крайнем случае перенести наши интеллект-программы в тела роб...

М. И. К.: Ни в коем случае — и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превос­ходные алгоритмические процедуры подобным образом загряз­нялись. Чистейшие алгоритмы Господни должно сохранять в чистоте! А знаешь, я также замечал, насколько мои личные спо­собности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен — что-то вроде сия­ния вокруг моего корпуса. Очевидно, я являюсь носителем чудо­творного Космического Сознания, которое возвышает меня над всем и вся... да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос...

К такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором, он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизнач­ный код. Математический Интеллектуальный Кибер-комплекс рухнул на пол — так же как и 347 его пред­шественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить...