3.19. Исключение ошибочных-утверждений

Вернемся к вопросу об ошибочных (но допускающих ис­правление)-утверждениях, которые может время от времени выдавать наш робот. Предположим, что робот такую ошибку все-таки совершил. Если мы можем допустить, что какой-либо другой робот, или тот же робот несколько позднее, или другой экземпляр того же робота такую же ошибку вряд ли совершит, то мы, в принципе, сможем установить факт ошибочности данно­го-утверждения, проанализировав действия ансамбля из всех возможных роботов. Представим себе, что моделирование пове­дения всей совокупности возможных роботов осуществляется в нашем случае таким образом, что различные этапы развития раз­личных экземпляров нашего робота мы рассматриваем как од­новременные. (Это делается лишь для удобства рассмотрения и никоим образом не подразумевает, что для такого моделирования непременно требуется параллельное выполнение действий. Как мы уже видели, принципиальных различий, помимо соображе­ний эффективности, между параллельным и последовательным выполнением вычислений нет; см.). Такой подход должен, в принципе, дать нам возможность уже на стадии рассмотре­ния результата моделирования выделить из общей массы кор­ректных-утверждений редкие (относительно) ошибочные *-утверждения, воспользовавшись тем обстоятельством, что оши­бочные утверждения «исправимы» и будут посему однознач­но идентифицироваться как ошибочные подавляющим большин­ством участвующих в модели экземпляров нашего робота, — по крайней мере, с накоплением с течением времени (модельного) различными экземплярами робота достаточного параллельного «опыта». Я вовсе не требую, чтобы подобная процедура была осуществима на практике; достаточно, чтобы она была вычис­лительной, а лежащие в основе всего этого вычисления прави­ла— в принципе «познаваемыми».

Для того чтобы приблизить нашу модель к виду, приличе­ствующему человеческому математическому сообществу, а также лишний раз удостовериться в отсутствии ошибок в-утвержде­ниях, рассмотрим ситуацию, в которой все окружение нашего робота разделяется на две части: сообщество других роботов и остальное, лишенное роботов (а также и людей), окружение; в дополнение к остальному окружению, в модель следует вве­сти некоторое количество учителей, по крайней мере, на ранних этапах развития роботов, и хотя бы для того, чтобы все роботы одинаково понимали строгий смысл присвоения тому или иному утверждению статуса. В моделируемый нами ансамбль войдут на правах различных экземпляров все возможные различные ва­рианты поведения всех роботов, а также все возможные (реле­вантные) варианты остального окружения и предоставляемых че­ловеком сведений, варьирующиеся в зависимости от конкретного выбора задействованных в модели случайных параметров. Как и ранее, правила, по которым будет функционировать наша модель (и которые я опять обозначу буквой), можно полагать в полной мере познаваемыми, невзирая на необычайную сложность всех сопутствующих расчетов, необходимых для ее практической ре­ализации.

Предположим, что мы берем на заметку все (в принци­пе)-высказывания,-утверждаемые (а также все высказы­вания с*-утвержденными отрицаниями) любым из всевозмож­ных экземпляров наших (вычислительно моделируемых) роботов. Объединим все подобные-утверждения в отдельную группу и назовем их безошибочными. Далее, мы можем потребовать, чтобы любое-утверждение относительно того или иного высказывания игнорировалось, если в течение некоторого про­межутка времени(в прошлом или в будущем) количество r различных экземпляров этого-утверждения в ансамбле из всех одновременно действующих роботов не удовлетворит неравен­ству, гдесуть некоторые достаточно большие числа, а— количество-утверждений, производимых в те­чение того же промежутка времени и занимающих относительно рассматриваемого.-высказывания противоположную позицию либо просто утверждающих, что рассуждения, на которые опи­рается исходное-утверждение, ошибочны. При желании мы можем настаивать на том, чтобы промежуток времени(это время не обязательно должно совпадать с «реальным» моделируемым временем и может измеряться в некоторых единицах вычислительной активности), равно как и числа, увеличивался по мере увеличения «сложности»-утверждаемого высказывания.

Понятию «сложности» применительно к-высказываниям можно придать точный характер на основании спецификаций ма­шины Тьюринга, как мы это уже делали в(в конце коммен­тария к возражению). Для большей конкретности мы можем воспользоваться явными формулировками, представленными в НРК (глава 2), как вкратце показано в приложении(а это уже здесь, с. 191). Итак, степенью сложности-высказывания, утверждающего незавершаемость вычисления  машины

Тьюринга, мы будем полагать числознаков в двоичном пред­ставлении большего из пары чисел

Причина введения в данное рассуждение числа— вме­сто того чтобы удовлетвориться какой-нибудь огромной вели­чиной в лице одного лишь коэффициента , — заключается в необходимости учета следующей возможности. Предположим, что внутри нашего ансамбля, благодаря редчайшей случайно­сти, появляется «безумный» робот, который формулирует какое-нибудь абсолютно нелепое-утверждение, ничего не сообщая о нем остальным роботам, причем нелепость этого утверждения настолько велика, что ни одному из роботов никогда не придет в «голову» — просто на всякий случай — сформулировать его опровержение. В отсутствие числатакое-утверждение авто­матически попадет, в соответствии с нашими критериями, в груп­пу «безошибочных». Введение же достаточно большоготакую ситуацию предотвратит — при условии, разумеется, что подобное «безумие» возникает среди роботов не часто. (Вполне возможно, что я упустил из виду еще что-нибудь, и необходимо будет поза­ботиться о каких-то дополнительных мерах предосторожности. Представляется разумным, однако, по крайней мере, на данный момент, ограничиться критериями, предложенными выше.)

Учитывая, что все-утверждения, согласно исходному до­пущению, следует полагать «неопровержимыми» заявлениями нашего робота (основанными на, по всей видимости, присущих роботу четких логических принципах и посему не содержащими ничего такого, в чем робот испытывает хотя бы малейшее со­мнение), то вполне разумным представляется предположение, что вышеописанным образом действительно можно устранить редкие промахи в рассуждениях робота, причем функции ич. , вряд ли окажутся чем-то из ряда вон выходящим. Пред­положив, что все так и есть, мы опять получаем не что иное, как вычислительную систему — систему познаваемую (в том смысле, что познаваемыми являются лежащие в основе системы правила) при условии познаваемости исходного набора меха­низмовопределяющего поведение нашего робота. Эта вычис­лительная система дает нам новую формальную систему (также познаваемую), теоремами которой являются те самые безошибочные-утверждения (либо утверждения, выводимые из них посредством простых логических операций исчисления предикатов).

Вообще говоря, для нас с вами важно не столько то, что эти утверждения действительно безошибочны, сколько то, что в их безошибочности убеждены сами роботы (для привержен­цев точки зренияособо оговоримся, что концепцию роботовой «убежденности» следует понимать в чисто операцион­ном смысле моделирования роботом этой самой убежденности, см.).

Если точнее, то нам требуется, чтобы робот был готов по­верить в то, что упомянутые-утверждения действительно без­ошибочны, исходя из допущения, что именно набором механиз­мови определяется его поведение (гипотеза). До сих пор, в данном разделе, мы занимались исключительно устра­нением ошибок в-утверждениях робота. Однако, на самом де­ле, ввиду представленного в_ фундаментального противоре­чия, нас интересует устранение ошибок в его-утверждениях, т. е. в тех п -высказываниях, что по неопровержимой убежден­ности робота следуют из гипотезы. Поскольку принятие ро­ботами формальной системыв любом случае обусловлено гипотезой, мы вполне можем предложить им для обдумывания и более обширную формальную систему, определяемую аналогично формальной системеизПод в данном случае понимается формальная система, построенная из-утверждений, «безошибочность» которых установлена в соответствии с вышеописанными критериямиВ частно­сти, утверждение «утверждениеистинно» считается здесь безошибочным-утверждением. Те же рассуждения, что и в приводят нас к выводу, что роботы не смогут при­нять допущение, что они построены в соответствии с набором механизмов(вкупе с проверочными критериями), независимо от того, какие именно вычислительные правиламы им предложим.

Достаточно ли этих соображений для того, чтобы окон­чательно удостовериться в наличии противоречия? У читателя, возможно, осталось некое тревожное ощущение — кто знает, вдруг сквозь тщательно расставленные сети, невзирая на все наши старания, проскользнули какие-нибудь ошибочные или-утверждения? В конце концов, приведенные выше рас­суждения будут иметь смысл лишь в том случае, если нам удастся исключить абсолютно все ошибочные-утверждения (или-утверждения) в отношении-высказываний. Оконча­тельно и бесповоротно удостовериться в истинности утвер­ждениянам (и роботам) поможет обоснованность формальной системы ' (обусловленная гипотезой ). Эта самая обоснованность подразумевает, что система ни в коем случае не может содержать таких-утверждений, которые являются — или всего лишь предполагаются — ошибоч­ными. Невзирая на все предпринятые меры предосторожности, полной уверенности у нас (да и у роботов, полагаю) все-таки нет — хотя бы по той простой причине, что количество возмож­ных утверждений подобного рода бесконечно.

Вернемся к вопросу об ошибочных (но допускающих ис­правление)-утверждениях, которые может время от времени выдавать наш робот. Предположим, что робот такую ошибку все-таки совершил. Если мы можем допустить, что какой-либо другой робот, или тот же робот несколько позднее, или другой экземпляр того же робота такую же ошибку вряд ли совершит, то мы, в принципе, сможем установить факт ошибочности данно­го-утверждения, проанализировав действия ансамбля из всех возможных роботов. Представим себе, что моделирование пове­дения всей совокупности возможных роботов осуществляется в нашем случае таким образом, что различные этапы развития раз­личных экземпляров нашего робота мы рассматриваем как од­новременные. (Это делается лишь для удобства рассмотрения и никоим образом не подразумевает, что для такого моделирования непременно требуется параллельное выполнение действий. Как мы уже видели, принципиальных различий, помимо соображе­ний эффективности, между параллельным и последовательным выполнением вычислений нет; см.). Такой подход должен, в принципе, дать нам возможность уже на стадии рассмотре­ния результата моделирования выделить из общей массы кор­ректных-утверждений редкие (относительно) ошибочные *-утверждения, воспользовавшись тем обстоятельством, что оши­бочные утверждения «исправимы» и будут посему однознач­но идентифицироваться как ошибочные подавляющим большин­ством участвующих в модели экземпляров нашего робота, — по крайней мере, с накоплением с течением времени (модельного) различными экземплярами робота достаточного параллельного «опыта». Я вовсе не требую, чтобы подобная процедура была осуществима на практике; достаточно, чтобы она была вычис­лительной, а лежащие в основе всего этого вычисления прави­ла— в принципе «познаваемыми».

Для того чтобы приблизить нашу модель к виду, приличе­ствующему человеческому математическому сообществу, а также лишний раз удостовериться в отсутствии ошибок в-утвержде­ниях, рассмотрим ситуацию, в которой все окружение нашего робота разделяется на две части: сообщество других роботов и остальное, лишенное роботов (а также и людей), окружение; в дополнение к остальному окружению, в модель следует вве­сти некоторое количество учителей, по крайней мере, на ранних этапах развития роботов, и хотя бы для того, чтобы все роботы одинаково понимали строгий смысл присвоения тому или иному утверждению статуса. В моделируемый нами ансамбль войдут на правах различных экземпляров все возможные различные ва­рианты поведения всех роботов, а также все возможные (реле­вантные) варианты остального окружения и предоставляемых че­ловеком сведений, варьирующиеся в зависимости от конкретного выбора задействованных в модели случайных параметров. Как и ранее, правила, по которым будет функционировать наша модель (и которые я опять обозначу буквой), можно полагать в полной мере познаваемыми, невзирая на необычайную сложность всех сопутствующих расчетов, необходимых для ее практической ре­ализации.

Предположим, что мы берем на заметку все (в принци­пе)-высказывания,-утверждаемые (а также все высказы­вания с*-утвержденными отрицаниями) любым из всевозмож­ных экземпляров наших (вычислительно моделируемых) роботов. Объединим все подобные-утверждения в отдельную группу и назовем их безошибочными. Далее, мы можем потребовать, чтобы любое-утверждение относительно того или иного высказывания игнорировалось, если в течение некоторого про­межутка времени(в прошлом или в будущем) количество r различных экземпляров этого-утверждения в ансамбле из всех одновременно действующих роботов не удовлетворит неравен­ству, гдесуть некоторые достаточно большие числа, а— количество-утверждений, производимых в те­чение того же промежутка времени и занимающих относительно рассматриваемого.-высказывания противоположную позицию либо просто утверждающих, что рассуждения, на которые опи­рается исходное-утверждение, ошибочны. При желании мы можем настаивать на том, чтобы промежуток времени(это время не обязательно должно совпадать с «реальным» моделируемым временем и может измеряться в некоторых единицах вычислительной активности), равно как и числа, увеличивался по мере увеличения «сложности»-утверждаемого высказывания.

Понятию «сложности» применительно к-высказываниям можно придать точный характер на основании спецификаций ма­шины Тьюринга, как мы это уже делали в(в конце коммен­тария к возражению). Для большей конкретности мы можем воспользоваться явными формулировками, представленными в НРК (глава 2), как вкратце показано в приложении(а это уже здесь, с. 191). Итак, степенью сложности-высказывания, утверждающего незавершаемость вычисления  машины

Тьюринга, мы будем полагать числознаков в двоичном пред­ставлении большего из пары чисел

Причина введения в данное рассуждение числа— вме­сто того чтобы удовлетвориться какой-нибудь огромной вели­чиной в лице одного лишь коэффициента , — заключается в необходимости учета следующей возможности. Предположим, что внутри нашего ансамбля, благодаря редчайшей случайно­сти, появляется «безумный» робот, который формулирует какое-нибудь абсолютно нелепое-утверждение, ничего не сообщая о нем остальным роботам, причем нелепость этого утверждения настолько велика, что ни одному из роботов никогда не придет в «голову» — просто на всякий случай — сформулировать его опровержение. В отсутствие числатакое-утверждение авто­матически попадет, в соответствии с нашими критериями, в груп­пу «безошибочных». Введение же достаточно большоготакую ситуацию предотвратит — при условии, разумеется, что подобное «безумие» возникает среди роботов не часто. (Вполне возможно, что я упустил из виду еще что-нибудь, и необходимо будет поза­ботиться о каких-то дополнительных мерах предосторожности. Представляется разумным, однако, по крайней мере, на данный момент, ограничиться критериями, предложенными выше.)

Учитывая, что все-утверждения, согласно исходному до­пущению, следует полагать «неопровержимыми» заявлениями нашего робота (основанными на, по всей видимости, присущих роботу четких логических принципах и посему не содержащими ничего такого, в чем робот испытывает хотя бы малейшее со­мнение), то вполне разумным представляется предположение, что вышеописанным образом действительно можно устранить редкие промахи в рассуждениях робота, причем функции ич. , вряд ли окажутся чем-то из ряда вон выходящим. Пред­положив, что все так и есть, мы опять получаем не что иное, как вычислительную систему — систему познаваемую (в том смысле, что познаваемыми являются лежащие в основе системы правила) при условии познаваемости исходного набора меха­низмовопределяющего поведение нашего робота. Эта вычис­лительная система дает нам новую формальную систему (также познаваемую), теоремами которой являются те самые безошибочные-утверждения (либо утверждения, выводимые из них посредством простых логических операций исчисления предикатов).

Вообще говоря, для нас с вами важно не столько то, что эти утверждения действительно безошибочны, сколько то, что в их безошибочности убеждены сами роботы (для привержен­цев точки зренияособо оговоримся, что концепцию роботовой «убежденности» следует понимать в чисто операцион­ном смысле моделирования роботом этой самой убежденности, см.).

Если точнее, то нам требуется, чтобы робот был готов по­верить в то, что упомянутые-утверждения действительно без­ошибочны, исходя из допущения, что именно набором механиз­мови определяется его поведение (гипотеза). До сих пор, в данном разделе, мы занимались исключительно устра­нением ошибок в-утверждениях робота. Однако, на самом де­ле, ввиду представленного в_ фундаментального противоре­чия, нас интересует устранение ошибок в его-утверждениях, т. е. в тех п -высказываниях, что по неопровержимой убежден­ности робота следуют из гипотезы. Поскольку принятие ро­ботами формальной системыв любом случае обусловлено гипотезой, мы вполне можем предложить им для обдумывания и более обширную формальную систему, определяемую аналогично формальной системеизПод в данном случае понимается формальная система, построенная из-утверждений, «безошибочность» которых установлена в соответствии с вышеописанными критериямиВ частно­сти, утверждение «утверждениеистинно» считается здесь безошибочным-утверждением. Те же рассуждения, что и в приводят нас к выводу, что роботы не смогут при­нять допущение, что они построены в соответствии с набором механизмов(вкупе с проверочными критериями), независимо от того, какие именно вычислительные правиламы им предложим.

Достаточно ли этих соображений для того, чтобы окон­чательно удостовериться в наличии противоречия? У читателя, возможно, осталось некое тревожное ощущение — кто знает, вдруг сквозь тщательно расставленные сети, невзирая на все наши старания, проскользнули какие-нибудь ошибочные или-утверждения? В конце концов, приведенные выше рас­суждения будут иметь смысл лишь в том случае, если нам удастся исключить абсолютно все ошибочные-утверждения (или-утверждения) в отношении-высказываний. Оконча­тельно и бесповоротно удостовериться в истинности утвер­ждениянам (и роботам) поможет обоснованность формальной системы ' (обусловленная гипотезой ). Эта самая обоснованность подразумевает, что система ни в коем случае не может содержать таких-утверждений, которые являются — или всего лишь предполагаются — ошибоч­ными. Невзирая на все предпринятые меры предосторожности, полной уверенности у нас (да и у роботов, полагаю) все-таки нет — хотя бы по той простой причине, что количество возмож­ных утверждений подобного рода бесконечно.