3.10. Может ли окружение вносить неалгоритмический внешний фактор?

Выше мы предположили, что сама наша система (независи­мо от того, живая она или нет) представляет собой нечто вро­де робота с компьютерным управлением, т. е. все ее самомо-дификационные процедуры являются целиком вычислительны­ми. (Я пользуюсь здесь термином «робот» исключительно для того, чтобы подчеркнуть то обстоятельство, что нашу систему следует рассматривать как некую самостоятельную, целиком и полностью вычислительную сущность, находящуюся во взаимо­действии со своим окружением. Я вовсе не подразумеваю, что она непременно представляет собой какое бы то ни было меха­ническое устройство, целенаправленно сконструированное чело­веком. Такой системой, если веритьили, может оказать­ся развивающееся человеческое существо, а может и в самом деле какой-то искусственно созданный объект.) Итак, мы по­лагаем, что внутренний фактор является полностью вычисли­тельным. Необходимо установить, является ли вычислительным также и внешний фактор, вносимый окружением, — иначе го­воря, возможно ли построить эффективную численную модель этого самого окружения как в искусственном (т. е. когда окру­жение неким искусственным образом контролируется учителем-человеком), так и в естественном случае (когда высшим авто­ритетом является давление естественного отбора). В каждом слу­чае конкретные внутренние правила, в соответствии с которыми система обучения робота модифицирует его поведение, должны быть составлены так, чтобы тем или иным образом реагировать на конкретные сигналы, посредством которых окружение будет сообщать системе о том, как следует оценивать качество ее функ­ционирования в предыдущем рабочем цикле.

Вопрос о возможности моделирования окружения в искус­ственном случае (иными словами, о возможности численного мо­делирования поведения человека-учителя) представляет собой тот самый общий вопрос, ответ на который мы пытаемся найти вот уже в который раз. В рамках гипотезили, следствия из которых мы рассматриваем в настоящий момент, допускается, что эффективное моделирование в этом случае и в самом деле возможно, по крайней мере, в принципе. В конце концов, цель нашего исследования состоит именно в выяснении общего правдоподобия этого допущения. Поэтому, вместе с допущением о вычислительной природе нашего робота, допустим также, что его окружение также вычислимо. В результате мы получаем объеди­ненную систему, состоящую из робота и его обучающего окру­жения, которая, в принципе, допускает эффективное численное моделирование, т. е. окружение не дает никаких потенциальных оправданий невычислительному поведению вычислительного ро­бота.

Иногда можно услышать утверждение, что нашим преиму­ществом перед компьютерами мы обязаны тому факту, что лю­ди образуют сообщество, внутри которого происходит непре­рывное общение между индивидуумами. Согласно этому утвер­ждению, отдельного человека можно рассматривать как вычис­лительную систему, тогда как сообщество людей представляет собой уже нечто большее. То же относится и, в частности, к математическому сообществу и отдельным математикам — со­общество может вести себя невычислительным образом, в то время как отдельные математики такой способностью не обла­дают. На мой взгляд, это утверждение лишено всякого смысла. В самом деле, представьте себе аналогичное сообщество непре­рывно общающихся между собой компьютеров. Подобное «со­общество» в целом является точно такой же вычислительной си­стемой; деятельность его, если есть такое желание, можно смо­делировать и на одном-единственном компьютере. Разумеется, вследствие одного только количественного превосходства, со­общество составит гораздо более мощную вычислительную си­стему, нежели каждый из индивидуумов в отдельности, однако принципиальной разницы между ними нет. Известно, что на нашей планете проживает болеечеловек (прибавьте к этому еще огромные библиотеки накопленного знания). Цифры впечатляют, но это всего лишь цифры — если отдельного че­ловека считать вычислительным устройством, то разницу, обу­словленную переходом от индивидуума к сообществу, развитие компьютерных технологий сможет при необходимости свести на нет в течение каких-нибудь нескольких десятилетий. Очевидно, что искусственный случай с учителями-людьми в роли внешнего окружения не дает нам ничего принципиально нового, что могло бы объяснить, каким образом из целиком и полностью вычис­лительных составляющих возникает абсолютно невычислимая сущность.

Что же мы имеем в естественном случае? Вопрос теперь звучит так: может ли физическое окружение, не считая действий присутствующих в нем учителей-людей, содержать компоненты, которые невозможно даже в принципе смоделировать числен­ными методами? Мне думается, что если кто-то полагает, что в «бесчеловечном» окружении может присутствовать нечто, прин­ципиально не поддающееся численному моделированию, то этот кто-то тем самым лишает силы главное возражение против Ибо единственной разумной причиной усомниться в возможной справедливости точки зренияможно счесть лишь скептическое отношение к утверждению, что объекты, принадлежащие реаль­ному, физическому миру могут вести себя каким-то невычисли­мым образом. Как только мы признаём, что какой-либо физиче­ский процесс может оказаться невычислимым, у нас не остается никакого права отказывать в невычислимости и процессам, про­текающим внутри такого физического объекта, как мозг, — равно как и возражать против. Как бы то ни было, крайне малове­роятно, что в безлюдном окружении может обнаружиться нечто такое, что не поддается вычислению столь же фундаментально, как это делают некоторые процессы внутри человеческого тела. (См. также) Думаю, мало кто всерьез полагает, что среди всего, что имеет хоть какое-то отношение к окружению самообучающегося робота, может оказаться что-либо, принци­пиально невычислимое.

Впрочем, говоря о «принципиально» вычислимой природе окружения, не следует забывать об одном важном моменте. Вне всякого сомнения, на реальное окружение любого развиваю­щегося живого организма (или некоей изощренной робототех-нической системы) оказывают влияние весьма многочисленные и порой невероятно сложные факторы, вследствие чего любое моделирование этого окружения со сколько-нибудь приемлемой точностью вполне может оказаться неосуществимым практи че­ски. Динамическое поведение даже относительно простых фи­зических систем бывает порой чрезвычайно сложным, при этом его зависимость от мельчайших нюансов начального состояния может быть настолько критической, что предсказать дальней­шее поведение такой системы решительно невозможно — в ка­честве примера можно привести ставшую уже притчей во язы­цех проблему долгосрочного предсказания погоды. Подобные системы называют хаотическими; см. § 1.7. (Хаотические системы характеризуются сложным и эффективно непредсказу­емым поведением. Однако математически эти системы объяс­нить вполне возможно; более того, их активное изучение состав­ляет весьма существенную долю современных математических исследований.) Как уже указывалось в § 1.7, хаотические си­стемы я также включаю в категорию «вычислительных» (или «алгоритмических»). Для наших целей важно подчеркнуть один существенный момент, касающийся хаотических систем: нет ни­какой необходимости в воспроизведении того или иного реаль­ного хаотического окружения, вполне достаточно воспроизвести окружение типичное. Например, когда мы хотим узнать погоду на завтра, насколько точная информация нам в действительно­сти нужна? Не сгодится ли любое правдоподобное описание?

.

Выше мы предположили, что сама наша система (независи­мо от того, живая она или нет) представляет собой нечто вро­де робота с компьютерным управлением, т. е. все ее самомо-дификационные процедуры являются целиком вычислительны­ми. (Я пользуюсь здесь термином «робот» исключительно для того, чтобы подчеркнуть то обстоятельство, что нашу систему следует рассматривать как некую самостоятельную, целиком и полностью вычислительную сущность, находящуюся во взаимо­действии со своим окружением. Я вовсе не подразумеваю, что она непременно представляет собой какое бы то ни было меха­ническое устройство, целенаправленно сконструированное чело­веком. Такой системой, если веритьили, может оказать­ся развивающееся человеческое существо, а может и в самом деле какой-то искусственно созданный объект.) Итак, мы по­лагаем, что внутренний фактор является полностью вычисли­тельным. Необходимо установить, является ли вычислительным также и внешний фактор, вносимый окружением, — иначе го­воря, возможно ли построить эффективную численную модель этого самого окружения как в искусственном (т. е. когда окру­жение неким искусственным образом контролируется учителем-человеком), так и в естественном случае (когда высшим авто­ритетом является давление естественного отбора). В каждом слу­чае конкретные внутренние правила, в соответствии с которыми система обучения робота модифицирует его поведение, должны быть составлены так, чтобы тем или иным образом реагировать на конкретные сигналы, посредством которых окружение будет сообщать системе о том, как следует оценивать качество ее функ­ционирования в предыдущем рабочем цикле.

Вопрос о возможности моделирования окружения в искус­ственном случае (иными словами, о возможности численного мо­делирования поведения человека-учителя) представляет собой тот самый общий вопрос, ответ на который мы пытаемся найти вот уже в который раз. В рамках гипотезили, следствия из которых мы рассматриваем в настоящий момент, допускается, что эффективное моделирование в этом случае и в самом деле возможно, по крайней мере, в принципе. В конце концов, цель нашего исследования состоит именно в выяснении общего правдоподобия этого допущения. Поэтому, вместе с допущением о вычислительной природе нашего робота, допустим также, что его окружение также вычислимо. В результате мы получаем объеди­ненную систему, состоящую из робота и его обучающего окру­жения, которая, в принципе, допускает эффективное численное моделирование, т. е. окружение не дает никаких потенциальных оправданий невычислительному поведению вычислительного ро­бота.

Иногда можно услышать утверждение, что нашим преиму­ществом перед компьютерами мы обязаны тому факту, что лю­ди образуют сообщество, внутри которого происходит непре­рывное общение между индивидуумами. Согласно этому утвер­ждению, отдельного человека можно рассматривать как вычис­лительную систему, тогда как сообщество людей представляет собой уже нечто большее. То же относится и, в частности, к математическому сообществу и отдельным математикам — со­общество может вести себя невычислительным образом, в то время как отдельные математики такой способностью не обла­дают. На мой взгляд, это утверждение лишено всякого смысла. В самом деле, представьте себе аналогичное сообщество непре­рывно общающихся между собой компьютеров. Подобное «со­общество» в целом является точно такой же вычислительной си­стемой; деятельность его, если есть такое желание, можно смо­делировать и на одном-единственном компьютере. Разумеется, вследствие одного только количественного превосходства, со­общество составит гораздо более мощную вычислительную си­стему, нежели каждый из индивидуумов в отдельности, однако принципиальной разницы между ними нет. Известно, что на нашей планете проживает болеечеловек (прибавьте к этому еще огромные библиотеки накопленного знания). Цифры впечатляют, но это всего лишь цифры — если отдельного че­ловека считать вычислительным устройством, то разницу, обу­словленную переходом от индивидуума к сообществу, развитие компьютерных технологий сможет при необходимости свести на нет в течение каких-нибудь нескольких десятилетий. Очевидно, что искусственный случай с учителями-людьми в роли внешнего окружения не дает нам ничего принципиально нового, что могло бы объяснить, каким образом из целиком и полностью вычис­лительных составляющих возникает абсолютно невычислимая сущность.

Что же мы имеем в естественном случае? Вопрос теперь звучит так: может ли физическое окружение, не считая действий присутствующих в нем учителей-людей, содержать компоненты, которые невозможно даже в принципе смоделировать числен­ными методами? Мне думается, что если кто-то полагает, что в «бесчеловечном» окружении может присутствовать нечто, прин­ципиально не поддающееся численному моделированию, то этот кто-то тем самым лишает силы главное возражение против Ибо единственной разумной причиной усомниться в возможной справедливости точки зренияможно счесть лишь скептическое отношение к утверждению, что объекты, принадлежащие реаль­ному, физическому миру могут вести себя каким-то невычисли­мым образом. Как только мы признаём, что какой-либо физиче­ский процесс может оказаться невычислимым, у нас не остается никакого права отказывать в невычислимости и процессам, про­текающим внутри такого физического объекта, как мозг, — равно как и возражать против. Как бы то ни было, крайне малове­роятно, что в безлюдном окружении может обнаружиться нечто такое, что не поддается вычислению столь же фундаментально, как это делают некоторые процессы внутри человеческого тела. (См. также) Думаю, мало кто всерьез полагает, что среди всего, что имеет хоть какое-то отношение к окружению самообучающегося робота, может оказаться что-либо, принци­пиально невычислимое.

Впрочем, говоря о «принципиально» вычислимой природе окружения, не следует забывать об одном важном моменте. Вне всякого сомнения, на реальное окружение любого развиваю­щегося живого организма (или некоей изощренной робототех-нической системы) оказывают влияние весьма многочисленные и порой невероятно сложные факторы, вследствие чего любое моделирование этого окружения со сколько-нибудь приемлемой точностью вполне может оказаться неосуществимым практи че­ски. Динамическое поведение даже относительно простых фи­зических систем бывает порой чрезвычайно сложным, при этом его зависимость от мельчайших нюансов начального состояния может быть настолько критической, что предсказать дальней­шее поведение такой системы решительно невозможно — в ка­честве примера можно привести ставшую уже притчей во язы­цех проблему долгосрочного предсказания погоды. Подобные системы называют хаотическими; см. § 1.7. (Хаотические системы характеризуются сложным и эффективно непредсказу­емым поведением. Однако математически эти системы объяс­нить вполне возможно; более того, их активное изучение состав­ляет весьма существенную долю современных математических исследований.) Как уже указывалось в § 1.7, хаотические си­стемы я также включаю в категорию «вычислительных» (или «алгоритмических»). Для наших целей важно подчеркнуть один существенный момент, касающийся хаотических систем: нет ни­какой необходимости в воспроизведении того или иного реаль­ного хаотического окружения, вполне достаточно воспроизвести окружение типичное. Например, когда мы хотим узнать погоду на завтра, насколько точная информация нам в действительно­сти нужна? Не сгодится ли любое правдоподобное описание?

.