Компьютерная модель обучения

Когда кибернетики исследовали паттерны связи и управления, стремление понять «логику разума» и выразить ее математическим языком постоянно оставалось в самом центре их внимания. Так, в течение более чем десяти лет ключевые идеи кибернетики развивались как увлекательное взаимодействие между биологией, математикой и техникой. Подробные исследования нервной системы человека привели к осмыслению модели мозга как логической схемы с нейронами в качестве ее основных элементов. Эта концепция стала решающим шагом к изобретению цифровых компьютеров, что, в свою очередь, обеспечило концептуальную основу нового подхода к исследованию психики. Изобретение Джоном фон Нейманном компьютера и его же гипотеза об аналогии между работой компьютера и мозга так тесно переплетены, что трудно отдать пальму первенства одному из этих событий.

Компьютерная модель психической деятельности доминировала в когнитивной науке и в области исследований мозга на протяжении последующих тридцати лет. Основная идея заключалась в том, что человеческий интеллект подобен интеллекту компьютера до такой степени, что обучение — процесс познания — может быть определено как процесс обработки информации, т. е. как манипулирование символами, основание на некотором наборе правил27.

Прямым следствием этой концепции явились интенсивные разработки искусственного интеллекта, и вскоре литературу заполонили неистовые пророчества о наступлении эры «компьютерного разума». Так, Герберт Саймон и Аллен Ньюэлл писали еще в 1958 году:

Уже есть в мире машины, которые мыслят, обучаются и творят. Более того, эти их способности будут быстро совершенствоваться, пока — и это уже обозримое будущее — диапазон проблем, с которыми они могут справляться, не сравняется с той сферой, в которой до сих пор использовался человеческий разум28.

Это предсказание сегодня так же абсурдно, как и 38 лет назад, и все же в него повсеместно верят. Энтузиазм ученых и общественности в отношении компьютера как модели человеческого мозга являет интересную параллель с энтузиазмом Декарта и его современников в отношении часового механизма как модели человеческого тела29. Для Декарта часы были уникальной машиной. Это была единственная машина, которая функционировала автономно, т. е. работала сама по себе будучи единожды заведенной. Это были времена французского барокко, когда часовые механизмы широко использовались для разработки искусных «одушевленных» механических игрушек, которые восхищали людей магией своих якобы спонтанных движений. Как и большинство его современников, Декарт был очарован этими автоматами и считал естественным сравнивать их работу с функционированием живых организмов:

Мы наблюдаем часы, искусственные фонтаны, мельницы и другие подобные машины, которые, будучи всего лишь произведениями человека, обладают, тем не менее, способностью двигаться самостоятельно несколькими различными способами... Я не признаю никакой разницы между машинами, изготовленными ремесленниками, и различными телами, которые творит лишь одна природа30 .

Заводные часы XVII века были первыми автономными машинами, и в течение трехсот лет они оставались единственными машинами подобного рода — пока не появился компьютер. Компьютер — это опять нечто новое, неизведанная и уникальная машина. Он не только двигается автоматически (если его запрограммировать и включить в сеть); он делает нечто совершенно новое — обрабатывает информацию. И поскольку фон Нейманн и ранние кибернетики верили в то, что человеческий мозг тоже обрабатывает информацию, им представлялось естественным считать компьютер моделью мозга и даже разума, как для Декарта было естественным использовать часы в качестве модели тела.

Подобно картезианской модели тела как заводных часов, модель мозга как компьютера поначалу представлялась весьма полезной. Она сулила волнующие перспективы для нового научного понимания обучения и открывала новые, свежие направления для исследований. К середине шестидесятых, однако, изначальная модель, которая воодушевила ученых на анализ ее же ограничений и обсуждение альтернатив, затвердела до состояния догмы; это нередко случается в науке. В течение последующего десятилетия почти всюду в нейробиологии доминировала концепция обработки информации; ни истоки, ни основные предположения этой концепции уже практически не подвергались сомнению.

Ученые-компьютерщики внесли значительную лепту в бетонирование догмы об обработке информации, используя выражения типа «интеллект», «память» и «язык» для описания компьютеров, что побудило большинство людей — включая и самих ученых — думать, что эти понятия относятся к хорошо известным человеческим феноменам. Это, однако, оказалось глубоким заблуждением, которое помогает поддерживать и даже укреплять картезианский образ людей-машин.

Последние достижения когнитивной науки принесли ясность: человеческий интеллект совершенно отличается от машинного, искусственного интеллекта. Нервная система человека не обрабатывает никакой информации (в том смысле, что готовые дискретные элементы существуют во внешнем мире и отбираются познающей системой), но взаимодействует с окружающей средой, непрерывно видоизменяя свою структуру31. К тому же нейробиологи обнаружили серьезные доказательства того, что человеческий интеллект, человеческая память и человеческие решения никогда не бывают полностью рациональными, зато всегда окрашены эмоциями — как мы хорошо знаем из собственного опыта32. Наше мышление всегда сопровождается телесными ощущениями и процессами. Мы, правда, нередко стараемся подавить их, но всегда думаем вместе со своим телом; а поскольку компьютеры не обладают подобными телами, сугубо человеческие проблемы всегда будут чужды их «разуму».

Из этих соображений следует, что определенные задачи никогда не следует оставлять на откуп компьютерам, как об этом выразительно сказал Иозеф Вайценбаум в своей классической книге «Компьютерная мощь и человеческое благоразумие». К таким задачам относятся все те, которые требуют истинно человеческих качеств — мудрости, сострадания, уважения, понимания, любви. Поручив компьютерам решения и отношения, которые требуют этих качеств, мы сделаем нашу жизнь бесчеловечной. Вайценбаум пишет:

Должна быть проведена граница, разделяющая человеческий и машинный разум. Если такой границы не будет, тогда проповедники компьютеризированной психотерапии просто превратятся в глашатаев новой эры, в которой человек — не что иное, как заводной механизм... Сама постановка вопроса — «Что известно судье (или психиатру) такого, что мы не можем сказать компьютеру?» — является чудовищной непристойностью33.

Когда кибернетики исследовали паттерны связи и управления, стремление понять «логику разума» и выразить ее математическим языком постоянно оставалось в самом центре их внимания. Так, в течение более чем десяти лет ключевые идеи кибернетики развивались как увлекательное взаимодействие между биологией, математикой и техникой. Подробные исследования нервной системы человека привели к осмыслению модели мозга как логической схемы с нейронами в качестве ее основных элементов. Эта концепция стала решающим шагом к изобретению цифровых компьютеров, что, в свою очередь, обеспечило концептуальную основу нового подхода к исследованию психики. Изобретение Джоном фон Нейманном компьютера и его же гипотеза об аналогии между работой компьютера и мозга так тесно переплетены, что трудно отдать пальму первенства одному из этих событий.

Компьютерная модель психической деятельности доминировала в когнитивной науке и в области исследований мозга на протяжении последующих тридцати лет. Основная идея заключалась в том, что человеческий интеллект подобен интеллекту компьютера до такой степени, что обучение — процесс познания — может быть определено как процесс обработки информации, т. е. как манипулирование символами, основание на некотором наборе правил27.

Прямым следствием этой концепции явились интенсивные разработки искусственного интеллекта, и вскоре литературу заполонили неистовые пророчества о наступлении эры «компьютерного разума». Так, Герберт Саймон и Аллен Ньюэлл писали еще в 1958 году:

Уже есть в мире машины, которые мыслят, обучаются и творят. Более того, эти их способности будут быстро совершенствоваться, пока — и это уже обозримое будущее — диапазон проблем, с которыми они могут справляться, не сравняется с той сферой, в которой до сих пор использовался человеческий разум28.

Это предсказание сегодня так же абсурдно, как и 38 лет назад, и все же в него повсеместно верят. Энтузиазм ученых и общественности в отношении компьютера как модели человеческого мозга являет интересную параллель с энтузиазмом Декарта и его современников в отношении часового механизма как модели человеческого тела29. Для Декарта часы были уникальной машиной. Это была единственная машина, которая функционировала автономно, т. е. работала сама по себе будучи единожды заведенной. Это были времена французского барокко, когда часовые механизмы широко использовались для разработки искусных «одушевленных» механических игрушек, которые восхищали людей магией своих якобы спонтанных движений. Как и большинство его современников, Декарт был очарован этими автоматами и считал естественным сравнивать их работу с функционированием живых организмов:

Мы наблюдаем часы, искусственные фонтаны, мельницы и другие подобные машины, которые, будучи всего лишь произведениями человека, обладают, тем не менее, способностью двигаться самостоятельно несколькими различными способами... Я не признаю никакой разницы между машинами, изготовленными ремесленниками, и различными телами, которые творит лишь одна природа30 .

Заводные часы XVII века были первыми автономными машинами, и в течение трехсот лет они оставались единственными машинами подобного рода — пока не появился компьютер. Компьютер — это опять нечто новое, неизведанная и уникальная машина. Он не только двигается автоматически (если его запрограммировать и включить в сеть); он делает нечто совершенно новое — обрабатывает информацию. И поскольку фон Нейманн и ранние кибернетики верили в то, что человеческий мозг тоже обрабатывает информацию, им представлялось естественным считать компьютер моделью мозга и даже разума, как для Декарта было естественным использовать часы в качестве модели тела.

Подобно картезианской модели тела как заводных часов, модель мозга как компьютера поначалу представлялась весьма полезной. Она сулила волнующие перспективы для нового научного понимания обучения и открывала новые, свежие направления для исследований. К середине шестидесятых, однако, изначальная модель, которая воодушевила ученых на анализ ее же ограничений и обсуждение альтернатив, затвердела до состояния догмы; это нередко случается в науке. В течение последующего десятилетия почти всюду в нейробиологии доминировала концепция обработки информации; ни истоки, ни основные предположения этой концепции уже практически не подвергались сомнению.

Ученые-компьютерщики внесли значительную лепту в бетонирование догмы об обработке информации, используя выражения типа «интеллект», «память» и «язык» для описания компьютеров, что побудило большинство людей — включая и самих ученых — думать, что эти понятия относятся к хорошо известным человеческим феноменам. Это, однако, оказалось глубоким заблуждением, которое помогает поддерживать и даже укреплять картезианский образ людей-машин.

Последние достижения когнитивной науки принесли ясность: человеческий интеллект совершенно отличается от машинного, искусственного интеллекта. Нервная система человека не обрабатывает никакой информации (в том смысле, что готовые дискретные элементы существуют во внешнем мире и отбираются познающей системой), но взаимодействует с окружающей средой, непрерывно видоизменяя свою структуру31. К тому же нейробиологи обнаружили серьезные доказательства того, что человеческий интеллект, человеческая память и человеческие решения никогда не бывают полностью рациональными, зато всегда окрашены эмоциями — как мы хорошо знаем из собственного опыта32. Наше мышление всегда сопровождается телесными ощущениями и процессами. Мы, правда, нередко стараемся подавить их, но всегда думаем вместе со своим телом; а поскольку компьютеры не обладают подобными телами, сугубо человеческие проблемы всегда будут чужды их «разуму».

Из этих соображений следует, что определенные задачи никогда не следует оставлять на откуп компьютерам, как об этом выразительно сказал Иозеф Вайценбаум в своей классической книге «Компьютерная мощь и человеческое благоразумие». К таким задачам относятся все те, которые требуют истинно человеческих качеств — мудрости, сострадания, уважения, понимания, любви. Поручив компьютерам решения и отношения, которые требуют этих качеств, мы сделаем нашу жизнь бесчеловечной. Вайценбаум пишет:

Должна быть проведена граница, разделяющая человеческий и машинный разум. Если такой границы не будет, тогда проповедники компьютеризированной психотерапии просто превратятся в глашатаев новой эры, в которой человек — не что иное, как заводной механизм... Сама постановка вопроса — «Что известно судье (или психиатру) такого, что мы не можем сказать компьютеру?» — является чудовищной непристойностью33.