3.14. Фундаментальное противоречие Предшествующая дискуссия, в сущности, показывает, что «непознаваемый и неосознаваемый алгоритм F», который, со­гласно допущению, лежит в основе восприятия математиче­ской истины, вполне возможно свести к алгоритму осознанно по­знаваемому — при условии, что нам, следуя заветам адептов ИИ,

удастся запустить некую систему процедур, которые в конечном счете приведут к созданию робота, способного на математические рассуждения на человеческом (а то и выше) уровне. Непозна­ваемый алгоритмзаменяется при этом вполне познаваемой

формальной системой

Прежде чем мы приступим к подробному рассмотрению это­го аргумента, необходимо обратить внимание на один существен­ный момент, который мы до сих пор незаслуженно игнорирова­ли — речь идет о возможности привнесения на разных этапах процесса развития робота неких случайных элементов взамен раз и навсегда фиксированных механизмов. В свое время нам еще предстоит обратиться к этому вопросу, пока же я буду полагать, что каждый такой случайный элемент следует рассматривать как результат выполнения какого-либо псевдослучайного (хаотиче­ского) вычисления. Как было показано ранее, таких псевдослучайных компонентов на практике оказывается вполне достаточно. К случайным элементам в «образовании» робота мы еще вернемся вгде более подробно поговорим о подлин­ной случайности в применении к нашему случаю, а пока, гово­ря о «наборе механизмов», я буду предполагать, что все эти механизмы действительно являются целиком и полностью вы­числительными и свободными от какой бы то ни было реальной

неопределенности.

Суть противоречия заключается в том, что на месте алго­ритма, фигурировавшего в наших предыдущих рассуждениях (например, того алгоритма, о котором мы говорили вв свя­зи с допущением), с неизбежностью оказывается формальная система Вследствие чего случайэффективно сводится

к случаюI и тем самым не менее эффективно из рассмотрения исключается. Выступая в рамках данного доказательства в роли сторонников точек зрения, мы предполагаем, что наш

робот, в принципе, способен (с помощью обучающих процедур той же природы, что установили для него мы) достичь в конеч­ном счете любых математических результатов, каких в состоянии достичь человек. Мы должны также допустить, что робот спосо­бен достичь и таких результатов, какие человеку в принципе не по силам. Так или иначе, нашему роботу предстоит обзавестись способностью к пониманию мощи аргументации Гёделя (или, по крайней мере, способностью сымитировать такое понима­ние — согласно). Иначе говоря, относительно любой заданной

(достаточно обширной) формальной системы Н робот должен оказаться в силах неопровержимо установить тот факт, что из обоснованности системыследует истинность его гёделевского5 утвержденияа также то, что утверждениене является теоремой системыВ частности, робот сможет устано­вить, что из обоснованности системынеопровержимо сле­дует истинность утвержденияэта же обоснованность предполагает, что утверждениене является теоремой системы

С помощью в точности тех же рассуждений, какими мы вос­пользовались вприменительно к человеческому математи­ческому пониманию, непосредственно из вышеизложенных со­ображений выводится, что робот никоим образом не способен твердо поверить в то, что совокупность его собственных — и, на его взгляд, неопровержимых — математических убеждений дей­ствительно эквивалентна некоей формальной системе И это несмотря на тот факт, что мы (выступая в роли соответству­ющих экспертов по проблемам ИИ) прекрасно осведомлены о том, что в основе системы математических убеждений робота ле­жит не что-нибудь, а именно набор механизмовчто автомати­чески означает, что система неопровержимых убеждений робота является полным эквивалентом системыЕсли бы робот вдруг твердо поверил в то, что все его убеждения укладываются в рамки системыто тогда ему пришлось бы поверить и в обоснованность этой самой системыСоответственно, ему также пришлось бы одновременно поверить и в истинность утверждения и в то, что упомянутое утверждение в его систему убеждений не входит — неразрешимое противоре­чие! Иначе говоря, робот никак не может знать о том, что он сконструирован в соответствии с тем или иным набором меха­низмовА поскольку об этой особенности его конструкции знаем — или по крайней мере, в состоянии узнать — мы с вами, то получается, что нам доступны такие математические истины (например, утверждениекоторые роботу оказываются не по силам, хотя изначально предполагалось, что способности робота будут равны способностям человека (или даже превы­сят их).

удастся запустить некую систему процедур, которые в конечном счете приведут к созданию робота, способного на математические рассуждения на человеческом (а то и выше) уровне. Непозна­ваемый алгоритмзаменяется при этом вполне познаваемой

формальной системой

Прежде чем мы приступим к подробному рассмотрению это­го аргумента, необходимо обратить внимание на один существен­ный момент, который мы до сих пор незаслуженно игнорирова­ли — речь идет о возможности привнесения на разных этапах процесса развития робота неких случайных элементов взамен раз и навсегда фиксированных механизмов. В свое время нам еще предстоит обратиться к этому вопросу, пока же я буду полагать, что каждый такой случайный элемент следует рассматривать как результат выполнения какого-либо псевдослучайного (хаотиче­ского) вычисления. Как было показано ранее, таких псевдослучайных компонентов на практике оказывается вполне достаточно. К случайным элементам в «образовании» робота мы еще вернемся вгде более подробно поговорим о подлин­ной случайности в применении к нашему случаю, а пока, гово­ря о «наборе механизмов», я буду предполагать, что все эти механизмы действительно являются целиком и полностью вы­числительными и свободными от какой бы то ни было реальной

неопределенности.

Суть противоречия заключается в том, что на месте алго­ритма, фигурировавшего в наших предыдущих рассуждениях (например, того алгоритма, о котором мы говорили вв свя­зи с допущением), с неизбежностью оказывается формальная система Вследствие чего случайэффективно сводится

к случаюI и тем самым не менее эффективно из рассмотрения исключается. Выступая в рамках данного доказательства в роли сторонников точек зрения, мы предполагаем, что наш

робот, в принципе, способен (с помощью обучающих процедур той же природы, что установили для него мы) достичь в конеч­ном счете любых математических результатов, каких в состоянии достичь человек. Мы должны также допустить, что робот спосо­бен достичь и таких результатов, какие человеку в принципе не по силам. Так или иначе, нашему роботу предстоит обзавестись способностью к пониманию мощи аргументации Гёделя (или, по крайней мере, способностью сымитировать такое понима­ние — согласно). Иначе говоря, относительно любой заданной

(достаточно обширной) формальной системы Н робот должен оказаться в силах неопровержимо установить тот факт, что из обоснованности системыследует истинность его гёделевского5 утвержденияа также то, что утверждениене является теоремой системыВ частности, робот сможет устано­вить, что из обоснованности системынеопровержимо сле­дует истинность утвержденияэта же обоснованность предполагает, что утверждениене является теоремой системы

С помощью в точности тех же рассуждений, какими мы вос­пользовались вприменительно к человеческому математи­ческому пониманию, непосредственно из вышеизложенных со­ображений выводится, что робот никоим образом не способен твердо поверить в то, что совокупность его собственных — и, на его взгляд, неопровержимых — математических убеждений дей­ствительно эквивалентна некоей формальной системе И это несмотря на тот факт, что мы (выступая в роли соответству­ющих экспертов по проблемам ИИ) прекрасно осведомлены о том, что в основе системы математических убеждений робота ле­жит не что-нибудь, а именно набор механизмовчто автомати­чески означает, что система неопровержимых убеждений робота является полным эквивалентом системыЕсли бы робот вдруг твердо поверил в то, что все его убеждения укладываются в рамки системыто тогда ему пришлось бы поверить и в обоснованность этой самой системыСоответственно, ему также пришлось бы одновременно поверить и в истинность утверждения и в то, что упомянутое утверждение в его систему убеждений не входит — неразрешимое противоре­чие! Иначе говоря, робот никак не может знать о том, что он сконструирован в соответствии с тем или иным набором меха­низмовА поскольку об этой особенности его конструкции знаем — или по крайней мере, в состоянии узнать — мы с вами, то получается, что нам доступны такие математические истины (например, утверждениекоторые роботу оказываются не по силам, хотя изначально предполагалось, что способности робота будут равны способностям человека (или даже превы­сят их).