Д. Деннет. ВИДЫ ПСИХИКИ

- Оглавление -




Глава 4

КАК ИНТЕНЦИОНАЛЬНОСТЬ ПРИОБРЕЛА ВАЖНОЕ ЗНАЧЕНИЕ


Башня порождения и проверки*

Чтобы видеть дальше во времени, полезно смотреть дальше в пространстве. То, что в начале было внутренними и периферийными системами мониторинга, медленно эволюционировало в системы, способные осуществлять не только проксимальные (ближайшие), но и дистальные (удаленные) различения. Именно здесь вступает в свои права восприятие. Нюх, или обоняние, основывается на приносимых издалека (ветром) предвестниках, выполняющих роль ключей к местным замкам. Траектории, по которым относительно медленно движутся эти предвестники, изменчивы и неопределенны из-за случайных рассеиваний и испарений их запахов; следовательно, информация о распространяющем их источнике является ограниченной. Слух зависит от звуковых волн, попадающих на датчики системы, а поскольку эти волны более быстрые и стабильные, восприятие может продвинуться в своем приближении к "действию на расстоянии". Но звуковые волны могут преломляться и отражаться, скрывая тем самым свой источник. Зрение зависит от намного более быстрых фотонов, отражающихся от предметов в мире. И фотоны движутся по совершенно прямым траекториям, так что при обустройстве крошечного отверстия соответствующей формы (и необязательно содержащего линзу) организм может мгновенно получать информацию высокой степени точности о событиях и поверхностях вдали от него. Как произошел этот переход от внутренней к проксимальной, а затем к дистальной интенциональности? Для получения информации, поступающей на периферию тела, в ходе эволюции была создана масса специализированных внутренних агентов. В свете, падающем на сосну, закодировано столько же информации, как и в свете, падающем на белку, но белка снабжена миллионами микроагентов, специально предназначенных для приема и даже для поиска и интерпретации этой информации.

* Этот раздел взят, с некоторыми изменениями, из "Опасной идеи Дарвина".

Животные являются не только травоядными или плотоядными. Они, по удачному выражению психолога Джорджа Миллера, также информоядны. Их эпистемический голод складывается, как некое совершенное объединение, из эпистемического голода миллионов отдельных микроагентов, организуемых в десятки, сотни или тысячи подсистем. Каждого из этих крошечных агентов можно считать абсолютно минимальной интенциональной системой, жизненная программа которой состоит в том, чтобы снова и снова задавать один-единственный вопрос: "Сообщение мне поступает СЕЙЧАС?", – и сразу же выполнить небольшое, но нужное действие в случае ответа "ДА". Без эпистемического голода нет ни восприятия, ни рассудка. Философы неоднократно пытались разложить восприятие на Данное и то, что делает с Данным сознание. Данное является, конечно, Взятым, но взятие Данного – это не нечто такое, что совершает один Главный Берущий, локализованный в неком центральном штабе в мозге животного. Задача взятия Данного распределена между всеми берущими с их индивидуальной организацией. Берущими являются не только периферийные датчики (палочки и колбочки в сетчатке глаза, специализированные клетки в эпителии носа), но и все внутренние функционеры, которых они снабжают "пищей", т.е. клетки и группы клеток, соединенные в сети по всему мозгу. Эта пища поступает к ним не в виде света или давления (давления звуковых волн и тактильного давления), а в виде нейронных импульсов; но если не считать этого изменения в пище, все они играют сходную роль. Каким образом эти агенты организовались в более крупные системы, способные обеспечивать еще более совершенные формы интенциональности? Конечно, в ходе эволюции путем естественного отбора, но не в виде единого процесса.

Я хочу предложить общую схему, в которую можно включить различные варианты конструкций для мозга, с тем чтобы понять, откуда проистекают его способности. Это крайне упрощенная структура, но идеализация является ценой, которую зачастую приходится платить за суммарное представление. Я называю эту структуру Башней порождения и проверки. При возведении каждого нового этажа Башни организмы получают возможность находить все лучшие и лучшие ходы и находить их все более эффективным способом.

Тогда растушую способность организмов созидать будущее можно представить в виде последовательности шагов. Почти наверняка, эти шаги не соответствуют четко определенным переходным периодам в эволюционной истории (без сомнения, у разных биологических родов они совмещались, и в их осуществлении не было единообразия), но различные этажи Башни порождения и проверки знаменуют важные успехи в развитии познавательной способности, и как только мы увидим в общих чертах несколько ключевых особенностей каждого этажа, остальные этапы эволюции станут более понятными.

В начале была дарвиновская эволюция видов путем естественного отбора. В процессе более или менее случайных рекомбинаций и мутаций генов вслепую было создано множество различных организмов-кандидатов. Эти организмы прошли испытание в полевых условиях, и среди них выжили только сконструированные наилучшим образом. Это первый этаж башни. Давайте назовем его обитателей дарвиновскими созданиями.

Рис. 4.1

Этот процесс прошел через многие миллионы циклов, произведя на свет множество удивительных конструкций, как растительных, так и животных. В конечном счете, среди его новых созданий оказались некоторые конструкции, обладающие свойством фенотипической пластичности, т.е. конструкция отдельных организмов-кандидатов не определялась полностью при рождении; в ней присутствовали элементы, которые могли быть откорректированы событиями, происходившими во время полевых испытаний.

Некоторые из этих кандидатов, как мы можем предположить, жили не лучше своих собратьев, дарвиновских созданий с жестко фиксированной конструкцией, так как у них не было возможности предпочитать (выбирать "на бис") те варианты поведения, "для испытания" которых у них было все необходимое. Но другие, можно предположить, были более удачливы и имели вмонтированные "подкрепители", которым случалось поощрять совершение "умных" шагов, т.е. действий, которые были лучшими среди доступных для кандидатов. Таким образом, эти особи, сталкиваясь с окружающей средой, совершали разнообразные действия, опробывая их одно за другим, пока не находили то, которое срабатывало. Они обнаруживали это, только получив положительный либо отрицательный сигнал от окружающей среды, который корректировал вероятность повторного совершения этого действия в другой раз. Конечно, любые создания с неправильным монтажом – подкрепляющим совершение негативных вместо позитивных действий – были обречены. Только те, кому посчастливилось родиться с подходящими подкрепителями, обладали преимуществом. Мы можем называть этот подкласс дарвиновских созданий скиннеровскими созданиями, поскольку, как любил отмечать психолог-бихевиорист В.Ф.Скиннер, такое "оперантное научение" не является простым аналогом дарвиновского естественного отбора, а служит дополнением к нему:

"Там, где заканчивается врожденное поведение, начинается врожденная модифицируемость процессов выработки условных рефлексов" (1953, с. 83).

Рис. 4.2

Произошедшая в 1970-х годах когнитивная революция лишила бихевиоризм его господствующего положения в психологии, и с тех пор существует тенденция недооценивать возможности скиннеровского научения (или его разновидностей) в превращении набора поведенческих реакций организмов в высоко адаптивные и способные к различению структуры. Однако успешные исследования по нейросетям и "коннекционизм" в 1990-х годах заново продемонстрировали порой удивительную виртуозность простых сетей, которые начинают жизнь, имея более или менее беспорядочные соединения, а затем корректируют их при помощи простой разновидности "опыта" – пережитой ими истории подкреплений.

Основополагающая идея о том, что окружающая среда играет роль слепого отбора в формировании психики (или мозга, или системы управления), свое происхождение ведет не от Дарвина, а из более глубокого прошлого. Предшественниками сегодняшних коннекционистов и вчерашних бихевиористов были ассоцианисты, т.е. такие философы, как Дэвид Юм, который попытался в XVIII веке представить, каким образом части ума (он называл их впечатлениями и идеями) могут самоорганизовываться без помощи некоего всезнающего управляющего. Помнится, как однажды один студент сказал мне: "Юм хотел, чтобы идеи сами думали". У Юма были замечательные догадки о том, как впечатления и идеи могут соединяться друг с другом в ходе процесса, напоминающего образование химических соединений, а затем прокладывать в душе проторенные тропинки привычек, но эти догадки были слишком смутными, чтобы их можно было проверить. Однако ассоцианизм Юма напрямую вдохновлял Павлова в его знаменитых экспериментах по выработке условных рефлексов в поведении животных, которые, в свою очередь, привели к созданию несколько иных теорий условных рефлексов Э.Л.Торндайком, Скиннером и другими психологами-бихевиористами. Некоторые из этих исследователей, в частности Дональд Хебб, попытались более тесно связать свой бихевиоризм с тем, что тогда было известно о мозге.

В 1949 году Хебб предложил модели простых механизмов научения, которые могут корректировать соединения между нервными клетками. Эти механизмы (сейчас называемые хеббовскими правилами научения) и их потомки служат двигателем изменений в коннекционизме, последнем проявлении этой традиции.

Ассоцианизм, бихевиоризм, коннекционизм – их исторический и алфавитный порядок позволяет проследить эволюцию моделей одного простого вида научения, которое может быть названо ABC (или начальным*) научением. Нет сомнений в том, что большинство животных способны к АВС-научению, т.е. они могут начать видоизменять (или переконструировать) свое поведение в соответствующих направлениях в результате долгого и устойчивого процесса дрессировки или формирующего воздействия со стороны окружающей среды. Сейчас существуют хорошие модели, различающиеся своей реалистичностью и детальностью, которые показывают, как такой процесс научения и дрессировки может осуществляться отнюдь не чудодейственным образом в сети нервных клеток.

* Первые буквы английских слов "associationism", "behaviorism", "connectionism" образуют аббревиатуру ABC, которая в то же время означает "начатки", "основы" чего-либо. – Прим. ред.

Для многих жизненно важных целей (например, для распознавания образов, различения, обобщения и динамического управления передвижением) ABC-сети замечательно подходят – они эффективны, компактны, надежны в работе, отказоустойчивы и относительно легко переконструируются на ходу. Более того, такие сети придают убедительность мысли Скиннера о том, что не очень важно, где мы проведем границу между тем, что формируется путем естественного отбора и генетически передается потомству (монтаж, с которым вы родились), и тем, что формируется позднее в самой особи (окончательный перемонтаж в результате опыта или дрессировки). Природа и научение сливаются воедино. Есть, однако, некоторые когнитивные приемы, которым пока еще не могут обучаться такие ABC-сети, и (более веский аргумент) есть некоторые когнитивные приемы, которые вообще не являются результатом дрессировки. Некоторые животные, видимо, способны к "научению с первого раза"; они могут усваивать некоторые вещи, не пройдя через трудный и жестокий процесс проб и ошибок, который является признаком всякого АВС-научения.

Скиннеровское научение неплохая вещь, если только вы не погибнете из-за какой-нибудь допущенной вами ранее ошибки. Более совершенная система включает в себя предварительный отбор среди всех возможных видов поведения или действий, позволяющий отбраковывать по-настоящему глупые шаги до того, как их рискнут совершить "в реальной жизни". Мы, люди, являемся созданиями, способными к этому особому усовершенствованию, но в этом мы не одиноки. Мы можем назвать владельцев этого третьего этажа Башни попперовскими созданиями, поскольку, как однажды ясно сформулировал философ сэр Карл Поппер, это конструктивное усовершенствование конструкции "позволяет нашим гипотезам умирать вместо нас". В отличие от скиннеровских созданий, многие из которых выживают только потому, что совершают удачные первые шаги, попперовские создания выживают потому, что они достаточно умны, чтобы делать свои первые шаги, не полагаясь на удачу. Конечно, им всего лишь повезло, что они умны, но быть умным лучше, чем просто удачливым.

Рис. 4.3

Как должен происходить этот предварительный отбор у попперовских агентов? Должен существовать некий фильтр, и любой такой фильтр должен быть равнозначен чему-то вроде внутренней среды, в которой можно выполнять безопасные испытания, т.е. чему-то внутреннему, структурированному таким образом, что поощряемые им суррогатные действия чаще оказываются теми действиями, которые получили бы благословение в реальном мире, будь они совершены. Короче говоря, внутренняя среда, чем бы она ни была, должна содержать большое количество информации о внешней среде и ее регулярностях. Ничто иное (за исключением магии) не могло бы придать ценность предварительному отбору. (Всегда можно было бы подбросить монетку или обратиться к оракулу, но это ничем не лучше слепого метода проб и ошибок, если только на монетку или оракула систематически не оказывают влияния кто-либо, располагающий истинной информацией о мире.)

Привлекательность идеи Поппера подтверждают недавние разработки реалистичных авиационных имитаторов, используемых для тренировки пилотов самолетов. В условиях имитированного полета пилот, не подвергая риску свою жизнь (или дорогостоящий самолет) обучается тому, какие следует предпринять действия в критических ситуациях. Однако в одном отношении авиационные имитаторы являются обманчивым примером попперовского приема: они воспроизводят реальный мир слишком скрупулезно. Мы должны предостеречь себя от мысли, что внутренней среда у попперовского создания является простой копией внешнего мира со всеми его физическими случайностями. В таком чудотворном игрушечном мире, разместившемся в вашей голове, маленькая раскаленная печка должна была бы быть достаточно горячей, чтобы обжечь прикоснувшийся к ней маленький палец! Не нужно представлять себе ничего подобного. Там должна быть информация о последствиях прикосновения пальцем к плите, и она должна быть в таком виде, чтобы вызвать эффект предупреждения при обращении к ней во время внутренних испытаний, но этот эффект может быть достигнут и без создания копии мира. В конце концов, в равной мере попперовским было бы обучение пилотов, при котором им просто давали бы прочесть книгу, разъясняющую все непредвиденные обстоятельства, с которыми они могут столкнуться, взобравшись в кабину самолета. Это, возможно, не столь эффективный метод обучения, но он несравнимо лучше, чем пробы и ошибки в небе!

Общей чертой всех попперовских созданий является то, что в них тем или иным способом (врожденным или приобретенным) размещена информация – точная информация о мире, с которым они (вероятно) столкнутся, – и эта информация содержится в таком виде, что позволяет осуществить предварительный отбор, который служит ее raison d'etre.*

* Здесь: смысл, причина существования (франц.). – Прим. перев.

Один из способов достижения попперовскими созданиями полезной фильтрации состоит в том, чтобы отдать возможные варианты поведения на суд тела и воспользоваться мудростью, накопленной в его тканях, какой бы устаревшей и недальновидной она ни была. Если тело взбунтуется, отреагировав, например, таким типичным образом, как тошнота, головокружение или трепетание от страха, то это является не вполне надежным (но лучшим, чем подбрасывание монетки) знаком того, что предполагаемое действие может не быть удачным. Как мы видим, вместо того, чтобы перемонтировать мозг и тем самым исключить подобные действия, превратив их в абсолютно немыслимые, эволюция может просто устроить все так, чтобы ответом на любую мысль о них была столь сильная негативная реакция, что становится практически невозможной их победа в борьбе за осуществление. Та информация в теле, на которой основана эта реакция, может быть размещена там согласно генетическому рецепту либо благодаря недавнему индивидуальному опыту. Когда младенец впервые учится ползать, он испытывает врожденное отвращение к тому, чтобы выползать на стеклянную поверхность, сквозь которую он видит "визуальный обрыв". И даже если рядом его манит, уговаривает и подбадривает мать, ребенок в страхе отползает назад, несмотря на то, что он еще ни разу в своей жизни не падал. Опыт его предков заставляет его перестраховаться. Когда крыса съедает незнакомую пишу, а затем ей вкалывают вещество, вызывающее у нее рвоту, она впоследствии будет проявлять сильное отвращение к пище, которая выглядит и пахнет так же, как та, которую она ела перед рвотой. Здесь информация, заставляющая ее перестраховаться, была получена из ее собственного опыта. Ни один фильтр не совершенен – в конце концов, стеклянная поверхность безопасна, а новая пища крысы не ядовита, но лучше не рисковать, чем сожалеть.

Искусные эксперименты психологов и этологов подсказывают иные способы, при помощи которых животные могут опробовать действия "в уме" и тем самым пользоваться попперовским преимуществом. В 1930-х и 1940-х годах бихевиористы доказывали себе снова и снова, что их подопытные животные способны к "латентному научению" в окружающем их мире – научению, которое не вознаграждается в виде какого-либо обнаруживаемого подкрепления. (Их упражнения в самоопровержении сами служат превосходным примером для другой попперовской темы: наука развивается вперед, только когда выдвигает опровергаемые гипотезы.) Если крыс оставить в лабиринте, в котором нет сыра или какого-либо другого вознаграждения, они просто будут осваиваться в окружающей обстановке обычным способом; если же затем положить в лабиринт нечто ценное, то крысы, освоившиеся в лабиринте во время предшествующих вылазок, будут намного лучше находить это (неудивительно!), чем крысы из контрольной группы, видящие лабиринт в первый раз. Это может показаться ничтожным открытием. Разве и раньше не было очевидным, что крысы достаточно умны, чтобы осваиваться в окружающей обстановке? И да, и нет. Это могло казаться очевидным, но именно такого рода проверка – проверка, имеющая своим фоном нулевую гипотезу, – должна быть выполнена, если мы хотим удостовериться в том, насколько разумны различные виды животных. Как мы увидим, другие эксперименты с животными демонстрируют их удивительную глупость – почти невероятные пробелы в их знании окружающей среды.

Бихевиористы отважно старались подогнать латентное научение под свои ABC-модели. Одним из их наиболее эффектных паллиативов было постулирование такого влечения, как "любопытство", которое удовлетворялось (или, как они говорили, "ослаблялось") в процессе исследования. В конце концов, подкрепление осуществлялось и в этих не содержащих подкрепления средах. Любая окружающая среда наполнена подкрепляющими стимулами просто потому, что в ней есть чему обучаться. Как попытка спасти ортодоксальный бихевиоризм, этот шаг был совершенно бессмысленным, но сама идея вовсе не безнадежна в других контекстах; она означает признание того, что любопытство – эпистемический голод – должно побуждать к действию любую мощную обучающуюся систему.

Мы, люди, способны к ABC-научению, поэтому мы являемся скиннеровскими созданиями, но не только ими. Мы также пользуемся благами того, что является во многом генетически наследуемым и жестко вмонтированным, поэтому мы еще и дарвиновские создания. Но, сверх того, мы являемся попперовскими созданиями. Какие еще животные относятся к попперовским созданиям, а какие – к просто скиннеровским? Любимыми подопытными животными Скиннера были голуби; он и его последователи развили технологию оперантного научения до очень высокого уровня, добиваясь усвоения голубями удивительно странных и совершенных видов поведения. Примечательно, что скиннерианцам так и не удалось доказать, что голуби не являются попперовскими созданиями; исследование же множества других видов животных, от осьминогов и рыб до млекопитающих, дает веские основания предположить, что если и существуют чисто скиннеровские создания, способные обучаться только слепым методом проб и ошибок, то их можно найти лишь среди простейших беспозвоночных. Огромный морской слизень (или морской заяц) Aplysia californica до некоторой степени заменил голубя в качестве объекта внимания со стороны тех, кто изучает механизмы простого научения.

Следовательно, мы не отличаемся от остальных видов животных тем, что являемся попперовскими созданиями. Отнюдь, млекопитающие, птицы, рептилии, амфибии, рыбы и далее многие беспозвоночные проявляют способность использовать общую информацию, получаемую из окружающей их среды, для предварительной сортировки своих вариантов поведения. Каким образом новая информация о внешней среде встраивается в их мозг? Очевидно, через восприятие. Окружающая среда предоставляет слишком богатый выбор, в ней намного больше информации, чем мог бы использовать даже познающий ангел. Механизмы восприятия сконструированы таким образом, чтобы игнорировать большую часть поступающих стимулов и концентрироваться на наиболее полезной, наиболее надежной информации. Каким же образом собранная информация оказывает рефлективное влияние при "рассмотрении" животным вариантов поведения, помогая ему выстраивать все более эффективные взаимодействия с миром? Без сомнения, существует множество различных механизмов и методов, но среди них есть и такие, когда тело используется в качестве резонатора.

Поиск способности ощущать: отчет о достигнутых результатах

Мы постепенно добавляли составные части в наш рецепт разума. Имеем ли мы уже все необходимые ингредиенты для способности ощущать? Безусловно, многие из описанных нами животных в своем обычном поведении с блеском проходят найти интуитивные тесты на способность ощущать. Наблюдая за щенком или ребенком, дрожащим от страха на краю кажущейся пропасти, или за крысой, у которой вызывает гримасу отвращения запах якобы ядовитой пищи, нам трудно даже предположить, что перед нами не способные ощущать существа. Но мы также обнаружили веские основания соблюдать осторожность: мы видели, что иногда поведение, удивительно похожее на разумное, могут демонстрировать относительно простые, механические, явно не обладающими психикой системы управления. Например, наши сильные инстинктивные реакции на одну лишь скорость движения как на свидетельство жизни должны стать нам предостережением, что есть реальная (а не просто философская) возможность ошибочно наделить некоторое существо большей проницательностью и пониманием, чем позволяют обстоятельства. Признав, что наблюдаемое поведение может зачаровывать нас, мы осознаем необходимость дополнительных вопросов – о том, что стоит за этим поведением.

Рассмотрим боль. В 1986 году британское правительство внесло поправки в законы о защите подопытных животных, добавив осьминога к привилегированному кругу животных, которых запрещено оперировать без анестезии. Осьминог является моллюском, который по своей физиологии более похож на устрицу, чем на форель (не говоря уже о млекопитающих), но поведение осьминога и других головоногих (кальмара, каракатицы) настолько поражает своей разумностью и, видимо, говорит о способности ощущать, что научные крути позволили поведенческому сходству возобладать над внутренним различием: головоногие (в отличие от остальных моллюсков) официально признаны способными испытывать боль – так, на всякий случай. Макаки-резус, напротив, в физиологическом и эволюционном плане очень близки к нам, поэтому мы склонны считать их способными страдать так же, как мы, но, к нашему удивлению, при определенных обстоятельствах они демонстрируют совершенно иное поведение. Приматолог Марк Хаузер в беседе рассказал мне, что во время брачного сезона макаки-самцы яростно дерутся, и нередко можно наблюдать, что один самец, зажав другого, зубами вырывает у него один из семенников. Раненый самец не вопит и не меняет мимики, а просто облизывает рану и уходит. А через день или два раненое животное можно видеть спаривающимся! Трудно поверить, что это животное испытало что-то подобное мучениям человеческого существа, перенесшего сходное увечье (голова идет кругом при одной мысли об этом), несмотря на наше биологическое родство. Поэтому мы больше не можем надеяться получить недвусмысленные ответы благодаря удачному совпадению физиологических и поведенческих данных, так как нам уже известны случаи полного расхождения этих двух видов неотразимых, но не позволяющих сделать окончательного вывода данных. Так как же нам быть в этом случае?

Ключевой функцией боли является негативное подкрепление, т.е. "наказание", уменьшающее вероятность повторного совершения некоторого действия, и каждое скиннеровское создание можно дрессировать с помощью негативного подкрепления того или иного вида. Но любое ли подобное негативное подкрепление является болью? Ощущаемой болью? Могла бы существовать неосознаваемая или неощущаемая боль? Имеются простые механизмы негативного подкрепления, благодаря которым способность боли оказывает формирующее воздействие на поведение, но которые не имеют в качестве следствия что-то подобное психике, поэтому было бы ошибкой предполагать способность ощущать везде, где мы обнаруживаем скиннеровское научение. Другой функцией боли является срыв обычных моделей телесной активности, способных усугубить рану; например, боль заставляет животного оберегать поврежденную конечность до ее заживления, и это обычно осуществляется благодаря потоку нейрохимических веществ во время самоподдерживаемого цикла взаимодействия с нервной системой. Гарантирует ли в таком случае присутствие этих веществ появление боли? Нет, ибо сами по себе они просто ключи, плавающие в поисках своих замков; если цикл взаимодействия прервать, то нет оснований предполагать, что боль останется. Являются ли эти конкретные вещества вообще необходимыми для наличия боли? Могли бы существовать создания с иной системой замков и ключей? Возможно, ответ на этот вопрос в большей степени зависит от исторического процесса эволюции на нашей планете, чем от каких-либо внутренних свойств веществ. Пример осьминога показывает, что нам следует искать, какие имеются различия в химической реализации и в функционировании, не рассчитывая на то, что эти факты сами по себе позволят нам разрешить вопрос о способности ощущать.

Тогда как насчет других особенностей этого цикла взаимодействия? Насколько рудиментарной могла бы быть система боли, чтобы все еще включать в себя способность ощущать? Что и почему было бы существенным? Рассмотрим, например, жабу со сломанной ножкой. Ощущает ли она боль? Она является живым существом, чей нормальный образ жизни был нарушен из-за повреждения одной из частей тела, и это не позволяет ей заниматься тем, что обеспечивает ее существование. Более того, состояние, в котором она находится, имеет большой потенциал негативного подкрепления – она легко может научиться избегать таких состояний своей нервной системы. Это состояние сохраняется благодаря циклу взаимодействия, который до некоторой степени нарушает обычную склонность жабы к прыжкам, хотя в случае крайней необходимости она все равно будет прыгать. Заманчиво рассматривать все это как равнозначное боли. Но так же заманчиво наделить жабу внутренним монологом, в котором она со страхом говорит о такой крайней необходимости, молит об облегчении, сокрушается по поводу своей относительной уязвимости, горько сожалеет о своих глупых действиях, приведших к этой критической ситуации, и т.д., хотя ничто из того, что известно о жабах не дает нам права предполагать наличие этих дополнительных сопутствующих элементов. Напротив, чем больше мы узнаем о жабах, тем больше мы убеждаемся в том, что их нервная система сконструирована таким образом, чтобы позволить им жить без подобной дорогостоящей способности к рефлексии.

Так что же? Какое отношение имеет способность ощущать к таким изысканным интеллектуальным способностям? Это хороший вопрос, и, стало быть, мы должны попытаться на него ответить, а не использовать его как риторический, чтобы сменить тему обсуждения. Именно в этом случае может иметь большое значение то, как мы поставим данный вопрос, потому что мы можем сами себя обмануть и создать иллюзорную проблему. Как? Упустив из виду, где мы находимся, совершая свои прибавления и вычитания. С самого начала мы ищем х, особый ингредиент, отличающий простую чувствительность от подлинной способности ощущать, и мы разрабатываем этот проект с двух сторон. Когда мы идем вверх от простых случаев, добавляя рудиментарные варианты каждого отдельного свойства, результаты обычно не производят на нас особого впечатления: хотя есть основания считать каждое из этих свойств существенным компонентом способности ощущать, несомненно, сама эта способность не сводится только к этому – даже робот вполне мог бы проявлять это, не будучи способным ощущать! Идя вниз от нашего собственного богатого деталями (и очень ценного для нас) опыта, мы видим, что другие создания явно лишены отличительно человеческих особенностей нашего опыта, поэтому мы вычитаем эти особенности как несущественные. Мы не хотим быть несправедливыми к нашим собратьям-животным. Поэтому, хотя мы понимаем, что многое из того, о чем мы думаем, представляя себе ужасы боли (и пытаясь объяснить, почему с моральной точки зрения, важно, испытывает ли некто боль), как раз и является антропоморфными дополнениями, мы великодушно заключаем, что они лишь сопутствующие элементы, не "существенные" для самой способности ощущать (и ее морально наиболее важного проявления – боли). Вполне возможно, что, двигаясь "во мраке", мы не замечаем, как вычитаем с одной стороны именно то, что ищем с другой. Если мы так и делаем, то наше убеждение в том, что нам еще предстоит открыть х – "недостающее звено" в способности ощущать – было бы самоиндуцированной иллюзией.

Я не утверждаю, что мы действительно совершаем подобную ошибку, но мы вполне могли бы ее совершить. На данный момент этого достаточно, так как это смещает бремя доказывания. В этом случае консервативная гипотеза относительно проблемы способности ощущать такова: не существует подобного дополнительного феномена. "Способность ощущать" проявляется на всех возможных уровнях или с любой возможной интенсивностью, от простейшей и наиболее "роботообразной" до наиболее чувствительной, гиперреактивной у человека. Как мы видели в главе 1, мы действительно должны провести разграничительные линии в этом сложно переплетенном континууме случаев, поскольку этого требует наша мораль, но перспектива обнаружения некоего порога – морально значимой "ступеньки", а не просто наклонной плоскости, – не только чрезвычайно маловероятна, но и непривлекательна с моральной стороны.

Рассмотрим в этом отношении еще раз жабу. По какую сторону разделяющей линии оказывается жаба? (Если у вас нет никаких сомнений относительно того, куда отнести жабу, выберите любое другое создание, которое для вас не является столь очевидным случаем, например муравья, медузу, голубя или крысу.) Теперь предположим, что "наука подтвердила" наличие у жабы минимальной способности ощущать, например, "боль" жабы является реальной, ощущаемой болью. В этом случае жаба получает право на особое обращение, установленное для способных ощущать существ. Теперь, наоборот, предположим, что мы определили, что есть х и что жаба им не обладает. В этом случае жаба в своем статусе опускается до "простого автомата", которому мы можем причинять какой угодно вред без всяких угрызений совести. Учитывая уже известное нам о жабах можно ли считать правдоподобным существование некоторого свойства, о котором мы до сих пор не догадывались и открытие которого могло бы оправдать столь разительную перемену в нашем отношении к жабам? Конечно, если бы мы обнаружили, что в действительности жабы – это крошечные человеческие существа, заключенные в жабье тело, подобно принцессе из сказки, у нас сразу же появился бы повод для величайшей озабоченности, ибо мы поняли бы, что, несмотря на все внешние особенности поведения, жабы способны испытывать все муки и тревоги, которые мы считаем столь важными для себя. Но мы уже знаем, что жабы не таковы. Нас просят представить, что существует некий х, который ничем не напоминает человеческую принцессу, заключенную в жабье тело, но, тем не менее, налагает на нас моральные обязательства. Однако мы также уже знаем, что жаба – это не просто заводная игрушка, а удивительно сложное живое существо, способное к удивительно разнообразным действиям по самосохранению и осуществлению предначертанной ему цели – дать как можно большее потомство. Разве этого недостаточно для особого внимания с нашей стороны? Нас просят представить, что существует некий х, который ничем не напоминает это простое усовершенствование в структуре управления, но, тем не менее, в случае его открытия потребовал бы нашей моральной оценки. Полагаю, что нас просят вообразить нечто невообразимое. Но давайте продолжим наш поиск и посмотрим, что же последует дальше, ибо мы все еще далеки от человеческого сознания.

От фототаксиса к метафизике

Мы дошли до попперовских созданий – созданий, мозг которых в потенциале наделен умением осуществлять во внутренней среде предварительный отбор, так что же происходит дальше? Без сомнения, множество разных вещей, но мы сосредоточим наше внимание на одном конкретном новшестве, возможности которого мы ясно видим. Среди преемников попперовских созданий есть такие, внутренняя среда которых формируется из пригодных для этого частей внешней среды. Одна из фундаментальных идей Дарвина состоит в том, что конструирование стоит дорого, а копирование конструкций стоит дешево, т.е. создавать совершенно новую конструкцию очень трудно, а переконструировать старые конструкции относительно легко. Немногие из нас могли бы заново изобрести колесо, но нам этого и не нужно, так как мы получаем конструкцию колеса (и огромное количество других конструкций) из культуры, в которой воспитываемся. Мы можем назвать это под-под-множество дарвиновских созданий грегорийскими созданиями, поскольку британский психолог Ричард Грегори, на наш взгляд, является ведущим теоретиком в области изучения роли информации (или, точнее говоря, того, что Грегори называет потенциальным интеллектом) в создании умных действий (или того, что Грегори называет кинетическим интеллектом). Грегори отмечает, что ножницы как хорошо сконструированный артефакт, являются не просто продуктом интеллекта, но и тем, что наделяет интеллектом (внешним потенциальным интеллектом), в самом прямом и интуитивно понятном смысле: когда вы даете кому-либо ножницы, вы увеличиваете его возможности более быстро и благополучно достичь выполнения умных действий (1981, стр. 311).

Грегорийское создание берет орудия ума из окружающей среды (культуры);
они позволяют улучшить как генераторы, так и тестеры.

Рис. 4.4

Антропологи давно отмечали, что начало использования орудий сопутствовало значительному росту интеллекта. В естественных условиях шимпанзе для ловли термитов засовывают грубо сделанное удилище глубоко в их подземные норы, затем быстро вытаскивают его со всеми заползшими на него термитами и отправляют их себе в рот. Этот факт приобретает дополнительную значимость, когда мы узнаем, что не все шимпанзе научились этому приему; в некоторых "культурах" шимпанзе термиты не служат источником пищи. Это напоминает нам, что использование орудий является признаком интеллекта в двух отношениях: интеллект требуется для того, чтобы распознавать и сохранять орудие (не говоря уже об его изготовлении), но не только, ибо орудие передает интеллект тем, кому посчастливилось его (орудие) получить. Чем лучше сконструировано орудие (чем больше информации вложено в него при его изготовлении), тем больше потенциального интеллекта оно передает тому, кто его использует. К числу наиболее важных орудий, напоминает нам Грегори, относятся те, которые он называет орудиями ума, т.е. слова.

Слова и другие орудия ума предоставляют грегорийскому созданию внутреннюю среду, позволяющую ему строить еще более искусные генераторы и тестеры движений. Скиннеровские создания спрашивают себя: "Что я делаю дальше?" и У них нет ответа на этот вопрос, пока они не перенесут несколько оглушительных ударов судьбы. Попперовские создания делают большой шаг вперед, ибо прежде чем спросить себя: "Что же следует делать дальше?", они спрашивают: "Что мне следует думать о дальнейшем?" (Следует подчеркнуть, что ни скиннеровским, ни попперовским созданиям в действительности не нужно разговаривать с собой или продумывать эти мысли. Просто они сконструированы так, чтобы действовать, как если бы они задавали себе эти вопросы.) В этом проявляется как сила, так и рискованность интенциональной установки. Причина, по которой попперовские создания являются более умными, т.е. более удачливыми в своей изворотливости, чем скиннеровские создания, заключается в том, что они способны адаптивно реагировать на большую и лучшую информацию. Мы можем дать этому яркое, хотя и очень вольное описание, исходя из интенциональной установки и используя эти воображаемые монологи. Но было бы ошибкой приписывать этим созданиям все тонкости, связанные со способностью формулировать подобные вопросы и ответы, которая в качестве образца имеет откровенный анализ человеком своих побуждений.

Грегорийские создания делают большой шаг в направлении человеческого уровня умственного развития, извлекая пользу из опыта других благодаря мудрости, воплощенной в орудиях ума, которые эти другие изобрели, усовершенствовали и передали им; таким образом они учатся лучше размышлять о том, что им следует думать о дальнейшем, и уже далее возводится башня из последующих внутренних размышлений, не имеющих фиксированного или видимого предела. Как мог бы быть осуществлен этот переход на грегорийский уровень, можно лучше всего понять, если еще раз обратиться к прошлому и рассмотреть андестральные* способности, из которых должны выстраиваться эти наиболее человеческие умственные способности.

* Предшествующие, предковые, наследственные. – Прим. ред.

Одна из простейших жизнеулучшающих практик, обнаруживаемая у многих видов, – это фототаксис, способность отличать свет от темноты и направляться к свету. Свет легко преобразовывается, и если учесть способ его излучения источником и постепенное снижение его интенсивности по мере удаления от источника, то для получения надежного фототаксиса требуется достаточно простая связь между датчиками и эффекторами. В превосходной небольшой книге невролога Валентине Брайтенберга "Движущиеся средства" предлагается простейшая модель такого средства (см. рис. 4.5.) У него есть два световых датчика и их переменные выходные сигналы поступают, пересекаясь, на два эффектора (представьте себе эффекторы в виде подвесных моторов). Чем больше света преобразовывается, тем быстрее работает мотор. Датчик, находящийся ближе к источнику света, будет заставлять мотор работать немного быстрее, чем более удаленный от света датчик, и благодаря этому движущееся средство будет всегда перемещаться в направлении к свету, пока, в конце концов, не достигнет его источника или не станет кружить прямо вокруг него.

Рис. 4.5

В мире такого простого существа свет сменяется полумраком и темнотой, и оно перемещается по градиенту* световой интенсивности. Ничего другого оно не знает, да ему и не нужно знать. Распознавание света практически ничего не стоит; датчик включается лишь под воздействием света, и системе неважно, возвратился ли тот же самый свет или это новый свет. В мире с двумя лунами могло бы быть экологически важным, за какой луной вы следуете, поэтому распознавание или идентификация луны были бы дополнительной проблемой, нуждающейся в решении. В таком мире одного фототаксиса было бы уже недостаточно. В нашем же мире луна не относится к тому роду объектов, которые обычно требуют от животных повторной идентификации. Напротив, матери часто относятся к таким объектам.

* Градиент – это мера возрастания или убывания в пространстве какой-либо физической величины (в данном случае – интенсивности светового излучения) на единицу длины. – Прим. ред.

Маматаксис – движение к матери – значительно более сложная способность. Если бы мама испускала яркий свет, мог бы подойти и фототаксис, но не в том случае, если поблизости есть другие матери, использующие ту же систему. Если же мама будет испускать особый голубой свет, отличающейся от того, что испускают все другие матери, тогда размещение на каждом из ваших фотодатчиков особого фильтра, отсекающего все, кроме голубого цвета, вполне решало бы проблему. Зачастую сходный принцип применяется и в природе, но при этом используется более эффективный, с точки зрения энергозатрат, носитель. Мама распространяет запах-сигнатуру, сильно отличающийся от всех других запахов (в ближайшем окружении). Маматаксис (повторная идентификация мамы и наведение на нее) осуществляется поэтому с помощью трансдукции запаха, или обоняния. Интенсивность запахов есть функция от концентрации молекул-ключей, диффундирующих в окружающей среде – воздухе или воде. Таким образом, датчик может быть замком подходящей формы, и перемещение будет происходит в направлении возрастания концентрации этих молекул по такой же схеме, как в случае движущегося средства Брайтенберга. Подобные обонятельные сигнатуры являются древними и эффективными. У человеческого рода поверх них наложились тысячи иных механизмов, но их все еще можно различить в их основании. Несмотря на всю нашу сложную организацию, запахи движут нами, но мы не знаем, почему и каким образом это происходит, как прекрасно отметил Марсель Пруст.*

* Запахи используются не только в качестве идентификационных сигналов. Часто они играют действенную роль в привлечении особей противоположного пола и даже в подавлении половой активности или полового созревания соперников. На пути в мозг сигналы от обонятельного органа минуют таламус и, таким образом, в отличие от сигналов, поступающих от зрительных, слуховых и даже осязательных органов, они идут прямо к древним центрам управления, минуя многих посредников. Вероятно, этот более прямой путь позволяет объяснить непреодолимое, почти гипнотическое действие на нас некоторых запахов.

Этот же конструктивный принцип используется в технике с применением иного носителя: EPIRB (аварийный радиомаяк, указывающий местоположение судна) является автономным, питающимся от батарейки радиопередатчиком, повторяющим особый идентификационный код на определенной частоте. Вы можете купить его в магазине корабельных принадлежностей и взять с собой на ваше судно. Если с вами случается беда, вы его включаете. Немедленно всемирная система слежения улавливает ваш EPIRB-сигнал, и ваше местонахождение высвечивается на электронной карте. Кроме того, система осуществляет поиск вашего идентификационного кода в огромном списке кодов и таким образом идентифицирует ваше судно. Идентификация значительно упрощает поиск и спасение, так как она обеспечивает дополнительной информацией: радиомаяк можно вслепую запеленговать с помощью радиоприемников (преобразователей), но когда спасатели приблизятся, им полезно знать, ищут ли они (с помощью зрения) черный рыболовецкий траулер, маленькую темно-зеленую яхту или ярко-оранжевый резиновый плот. Другие сенсорные системы также могут быть задействованы для того, чтобы окончательное сближение происходило быстрее и меньше зависело от разного рода помех (например, если иссякнет батарейка EPIRB). У животных отыскание по запаху является не единственным способом мама-таксиса. Они также используют визуальные и слуховые сигнатуры, как это замечательно продемонстрировал этолог Конрад Лоренц в своих новаторских работах по "импринтингу" у гусят и утят. Птенцы, у которых сразу после рождения не отпечаталось, кто их настоящая мать, выбирают первый увиденный ими крупный движущийся предмет и в дальнейшем относятся к нему, как к матери.

Сигнальные маячки (и дополнения к ним в виде сенсоров) являются Прекрасным конструктивным решением, когда агенту в течение долгого времени нужно отслеживать (распознавать, повторно идентифицировать) какой-то особый объект – обычно другого агента, например мать. Вы просто заранее устанавливаете на нем сигнальный маячок и позволяете ему удалиться. (Современный пример – противоугонные автомобильные радиомаяки, которые вы прячете в своей машине и с помощью дистанционного управления включаете в случае кражи вашего автомобиля.) Но, как обычно, есть и издержки. Один из очевидных недостатков состоит в том, что этим аппаратом слежения для отыскания цели могут в равной степени воспользоваться и друзья и враги. Например, хищники обычно настроены на те же каналы обонятельных и слуховых сигналов, что и детеныши, старающиеся поддерживать связь с матерью.

Тому, кто испускает запахи и звуки нелегко держать под своим контролем область их распространения. Сигнальный маячок с более избирательным действием можно было бы получить с низкими энергозатратами, поместив особое голубое пятно (пигмент того или иного вида) на мать, чтобы благодаря отраженному солнечному свету этот маячок становился видимым только в определенных участках пространства и легко исчезал, когда мама просто перемещалась в тень. Тогда детеныши могут следовать за голубым пятном всякий раз, когда оно становится видимым. Но для этой схемы требуется более тонкий фоточувствительный механизм, например простой глаз, а не одна лишь пара фотоэлементов.

Чтобы поддерживать надежную и тесную связь с одним экологически очень важным объектом (например с матерью) не требуется способность представлять его себе как нечто конкретное и устойчивое, что может приближаться и удаляться. Как мы только что видели, надежный маматаксис достигается при помощи нескольких простых приемов. Эта способность обычно дает хорошие результаты в условиях простой окружающей среды, но создание, оснащенное такой примитивной системой, можно легко "обмануть", и когда это происходит, оно идет навстречу беде, не сознавая своей глупости. Система необязательно обладает способностью отслеживать свой успех или размышлять над тем, при каких обстоятельствах имел место успех или неудача; это более позднее (и дорогое) дополнение.

Слежение на основе сотрудничества – когда объект-цель предоставляет удобный маячок и тем самым упрощает задачу следящему – является шагом на пути к слежению на основе конкуренции, при котором объект-цель не только не предоставляет никакого маячка с уникальной сигнатурой, но всеми силами старается спрятаться, сделать слежение за собой невозможным. В противовес этому шагу со стороны жертв у хищников развиваются системы слежения общего назначения, сконструированные таким образом, чтобы любые аспекты отслеживаемого объекта становились частным и временным маячком – "поисковым образом", который создается для данного случая с помощью имеющихся у хищника детекторов свойств и используется для постоянной корреляции сигнатуры объекта-цели. По мере изменения объекта-цели поисковый образ пересматривается и обновляется с тем, чтобы выбранный объект всегда был на прицеле.

Важно осознавать, что этот вариант слежения не предполагает отнесения объекта-цели к той или иной категории. Представьте себе примитивный глаз, состоящий из нескольких сотен фотоэлементов, преобразующих сигналы от изменяющихся элементов изображения, которые включаются всем, что отражает на них свет. Такая система могла бы без труда послать сообщение следующего вида: "X. чем бы он ни был, ответственный за изменение рассматриваемой сейчас группы элементов изображения, только что отклонился вправо". (Ей не нужно было бы отправлять такое многословное сообщение – этой системе вообще не требуется ни слбв, ни символов.) Поэтому подобная система осуществляет один-единственный вид идентификации – поминутно повторяющуюся идентификацию отслеживаемого объекта в ее вырожденной или минимальной форме. Далее здесь допускаются изменения и замены. Если группа элементов изображения изменяется постепенно на более или менее статичном фоне, то далее радикальные изменения ее формы и внутреннего характера не помешают слежению, если только изменения происходят не слишком быстро. (Ярким примером этой встроенной в нашу собственную зрительную систему схемы является "феномен фи", который состоит в том, что последовательность мигающих огней непроизвольно интерпретируется этой системой как траектория движущегося объекта.)

Что произойдет, когда X временно скроется за деревом? Бесхитростное решение будет состоять в том, чтобы сохранить без изменений последнюю версию поискового образа, а затем наугад просматривать окрестности в надежде снова засечь этот временный маячок, как только он появится, если вообще появится. Вы можете повысить свои шансы, нацелив поисковый образ туда, где с наибольшей вероятностью вновь появится временный маячок. И ваш поиск этого наиболее вероятного места будет более надежным (а не просто по методу подкидывания монетки), если вы для расчета будущей траектории маячка просто по прямой продлите его старую траекторию. Это один из простейших и самых распространенных способов созидания будущего, и в нем, вместе с тем, в чистом виде представлена интенциональность, своей стрелой нацеленная на несуществующую цель, в отношении которой, однако, есть основания питать надежды.

Эта способность "поддерживать связь" с другим объектом (при возможности буквально касаясь его и манипулируя им) является необходимой предпосылкой высококачественного восприятия. Например, визуальное распознавание отдельного человека или объекта практически невозможно, если его образ в течение длительного времени не удерживался в центральной области глаза, имеющей высокую разрешающую способность. Всем эпистемически голодным микроагентам нужно время, чтобы насытиться и организоваться. Поэтому способность держать в фокусе информацию о какой-то отдельной вещи (той, за которой я сейчас слежу глазами) является необходимой предпосылкой для создания идентифицирующей дескрипции этой вещи.*

* Эта мысль о первичности слежения перед описанием является, на мой взгляд, единственной крупицей истины в совершенно безнадежном философском учении о том, что существуют две разновидности мнений – мнения de re, как-то "напрямую" отсылающие к своим объектам, и мнения de dicto, отсылающие к своим объектам только через посредничество dictum, определенной дескрипции (сформулированной в естественном языке или в некоем "языке мысли"). Различие между ними иллюстрируется следующим (предполагаемым) различием между высказываниями "Том (вон тот парень) является мужчиной" и "лицо, пославшее мне это анонимное письмо, является мужчиной".

Считается, что в первом случае интенциональность является более непосредственной, и она "прицепляется" к своему объекту более примитивным образом. Но, как мы видели, даже наиболее непосредственные и примитивные случаи перцептуального слежения можно преобразовать в модус de dicto (тот X, который, чем бы он ни был, является ответственным за изменение рассматриваемой группы элементов изображения, только что отклонился вправо), чтобы выявить особенности механизма, опосредующего этот самый "непосредственный" вид референции. Различие между de re и de dicto заключено в точке зрения говорящего или в том, что ему важно, но не в самом явлении. Подробнее об этом вопросе см. Dennett, "Beyond Belief" (1982).

Чтобы максимизировать вероятность поддержания или возобновления контакта с объектом, за которым ведется слежение, можно использовать множество независимых систем, каждая из которых подвержена ошибкам, но у которых частично перекрываются области компетенции. Там где одна система дает сбой, ее сменяют другие, а в результате получается плавное и непрерывное слежение, составленное из дискретно функционирующих элементов.

Как связаны между собой эти системы? Есть много возможных способов. Если у вас имеются две сенсорные системы, то вы можете соединить их при помощи логического элемента И: чтобы агент прореагировал позитивным образом, они обе должны быть ВКЛючены в результате поступивших входных данных. (Логический элемент И может быть реализован в любой среде; это не вещь, а принцип организации. Два ключа, которые нужно повернуть, чтобы открыть сейф для хранения ценностей в банке или запустить ракету с ядерной боеголовкой, связаны между собой логическим элементом И. Когда вы подсоединяете садовый шланг одним концом к крану, а на другой крепите закрывающуюся насадку, то оба этих клапана оказываются связанными логическим элементом И; для того чтобы пошла вода, они оба должны быть открыты.) Другая возможность – вы можете соединить две сенсорные системы логическим элементом ИЛИ: каждая отдельно, А или В (или обе сразу), заставят агента прореагировать позитивным образом. Логические элементы ИЛИ используются для включения дублирующих или резервных подсистем в более крупные системы: если один блок откажет, функционирования второго блока будет достаточно для обеспечения работы всей системы. В двухмоторных самолетах двигатели соединены между собой при помощи логического элемента ИЛИ: лучше, когда работают оба двигателя, но в крайнем случае достаточно и одного.

По мере добавления систем резко возрастает число возможных способов их соединения. Например, вы можете соединить их так, что если ВКЛючена система А, то если ВКЛючена В или С, система в целом будет реагировать позитивным образом; в противном случае для позитивного реагирования должны быть включены обе системы В и С. (Это равнозначно соединению трех систем по мажоритарному принципу: если большинство систем – любое большинство – ВКЛючено, система в целом будет реагировать позитивным образом.) Все возможные способы соединения систем при помощи логических элементов И и ИЛИ (и логических элементов НЕ, которые просто превращают в обратное или противоположное выходное состояние системы, превращая ВКЛ в ВЫКЛ и наоборот) называются булевыми функциями для этих систем, так как они могут быть строго описаны с помощью логических операторов И, ИЛИ и НЕ, которые впервые формализовал английский математик XIX века Джордж Буль. Но существуют и другие не-булевы способы соединения действий систем. Вместо того чтобы посылать всех участников на центральный пункт голосования, предоставляя каждому один голос (ДА или НЕТ, ВКЛ или ВЫКЛ) и тем самым сводя вклад каждого в поведение в одну уязвимую точку, где принимается решение (как суммарный результат всех булевых связей), мы могли бы позволить каждому из них поддерживать свою собственную, независимую и непрерывно изменяющуюся связь с поведением, чтобы поведение на выходе было результатом всей их активности. Уместно сослаться здесь на очень простой пример – движущееся средство Валентине Брайтенберга, с двумя вмонтированными крестообразно фотодатчиками. "Решение" о повороте влево или вправо определяется тем, вклад какой из двух систем, состоящих из датчика и мотора, окажется более весомым, но представлять данный результат как булеву функцию от соответствующих "аргументов" в виде датчиков – неэффективно и бесполезно. (В принципе, поведение любой такой системы мо лен о приблизительно описать с помощью булевой функции, разложив ее соответствующим образом на подсистемы, но подобный аналитический трюк может помешать выявить в их связях что-то действительно важное. Например, мы можем, в принципе, рассматривать погоду как булеву систему, но это не дает нам новой информации и не работает.)

Если установить десятки, сотни или тысячи таких схем в одном организме, то можно наделено управлять такой сложной деятельностью, как самосохранение, при этом внутри организма не будет происходить ничего такого, что было бы похоже на продумывание отдельных мыслей. Имеют место лишь многочисленные как бы принятия решений, как бы распознавания, как бы прятания. У оснащенного таким образом организма есть много возможностей для "ошибок", но его ошибки никогда не заключаются в том, что формулируется некоторое ложное высказывание, которое принимается за истинное.

Насколько универсальной может быть подобная архитектура? Трудно сказать. В последнее время исследователи сконструировали и испытали искусственные системы управления, которые воспроизводят многие поражающие нас схемы поведения, наблюдаемые у относительно простых форм жизни, таких как насекомые и другие беспозвоночные. Поэтому очень заманчиво думать, что всеми удивительно сложными видами рутинной деятельности этих существ можно управлять с помощью архитектуры, Подобной только что рассмотренной, даже если мы пока не знаем, как сконструировать систему требуемой сложности. В конце концов, мозг насекомого может иметь всего несколько сотен нейронов, но представьте только, какими сложными взаимодействиями с миром может управлять этот механизм. Например, биолог-дарвинист Роберт Триверс отмечает:

Выращивающие грибок муравьи занимаются земледелием. Работники срезают листья, тащат их в колонию, готовят из них среду для выращивания грибка, высаживают на ней грибок, удобряют его своими экскрементами, избавляются от его соперников, оттаскивая их в другое место, и наконец, собирают урожай в виде особой части грибка, которой они питаются. (1985, р. 172)

Затем, у рыб и птиц есть продолжительные и сложно скоординированные ритуалы для брачного периода и воспитания потомства. К каждому шагу предъявляются сенсорные требования, которые должны быть выполнены до того, как будет предпринят этот шаг, а затем проводится адаптивный контроль за его выполнением с учетом возникающих препятствий. Как осуществляется управление этими сложными маневрами? Кропотливо варьируя доступные источники информации в экспериментах, биологи определили многие условия окружающей среды, которые используются в качестве сигналов, но этого недостаточно для установления того, какую информацию организм способен собирать. Следующей трудной задачей будет выяснение того, как могут быть устроены крошечные мозги этих организмов, чтобы правильно воспользоваться всей этой полезной восприимчивостью к информации.

Если вы рыба, или краб, или что-то вроде этого и одним из ваших планов является строительство гнезда из гальки на дне моря, вам будет нужно устройство для обнаружения гальки и способ находить дорогу назад к вашему гнезду, где вы поместите найденную гальку в нужное место перед новым выходом на поиск. Однако этой системе необязательно быть защищенной "от дурака". Поскольку маловероятно, что за время вашего отсутствия на вашем месте какие-то самозванцы тайком воздвигнут свои гнезда (если только вами не заинтересовались хитрые люди-экспериментаторы), осуществляемая вами повторная идентификация может отвечать довольно низким и недорогим стандартам. В случае ошибочной "идентификации" вы, вероятно, будете продолжать строительство, не только не разобравшись в случившемся, но и совершенно не заметив или не поняв свою ошибку и не проявив ни малейшего беспокойства. С другой стороны, если вы окажетесь оснащенными дополнительной системой идентификации гнезд, и гнездо самозванца не пройдет ее проверки, вы будете в замешательстве, поскольку эти две системы будут толкать вас в разные стороны. Такие конфликты случаются, но когда организм в сильном возбуждении мечется взад и вперед, не имеет смысла спрашивать: "О чем он сейчас думает? Каково пропозициональное содержание переживаемого им состояния замешательства?"

Таким организмам, как мы, которые оснащены на многих уровнях системами самомониторинга и способны выявлять и гасить подобные конфликты при их возникновении, иногда бывает совершенно ясно, какая именно ошибка была допущена. Тревожным случаем является галлюцинация Капгра, причудливый недуг, иногда поражающий людей, перенесших травму мозга. Отличительным признаком галлюцинации Капгра является убеждение страдающего ею человека, что его близкий знакомый (обычно любимый) был заменен самозванцем, который своим внешним видом (голосом и поведением) очень на него похож:, тогда как сам знакомый таинственным образом исчез! Это удивительное явление должно произвести сокрушительное воздействие на философов. Для иллюстрации своих разнообразных философских теорий философы выдумывали множество заумных случаев ошибочного опознания; философская литература изобилует фантастическими мысленными экспериментами о шпионах и убийцах, путешествующих инкогнито, о лучших друзьях, переодетых гориллами о давно разлучившихся однояйцевых близнецах, но случаи галлюцинации Капгра из реальной жизни до сих пор ускользали от внимания философов. Особенно удивительно то, что эти случаи нельзя объяснить искусным переодеванием и недолгим разглядыванием. Напротив, галлюцинация сохраняется, далее если больной тщательно осмотрел "самозванца" и даже если тот умоляет узнать его. Известны случаи, когда страдающие синдромом Капгра убивали своих супругов, настолько они были уверены в том, что эти похожие на их близких пришельцы пытаются занять место – целую жизнь, – которые им по праву не принадлежат! Не подлежит сомнению, что в таком печальном случае рассматриваемый человек принимает за истинные некоторые весьма специфические суждения нетождества: Этот мужчина не мой муж; этот мужчина качественно подобен моему мужу настолько, насколько это возможно, и все же он не мой муж. Особенно интересен для нас тот факт, что люди, страдающие от таких галлюцинаций, иногда абсолютно неспособны сказать, почему они в этом так уверены.

Нейропсихолог Эндрю Янг (1994) предлагает изобретательную и правдоподобную гипотезу в качестве объяснения этого явления. Янг противопоставляет галлюцинацию Капгра другому любопытному недугу, вызываемому травмой мозга: агнозии на лица (просопагнозии). Люди, страдающие этим недугом, не могут узнавать знакомые лица. Их зрение может быть в полном порядке, но они не могут идентифицировать далее своих ближайших друзей, пока не услышат их голос. В стандартном эксперименте им показывают разнообразные фотографии – неизвестных им людей, так и членов их семьи и знаменитостей – Гитлера, Мэрилин Монро, Джона Ф. Кеннеди. Когда их просят отобрать знакомые лица, им удается это сделать только случайно. Но более десятилетия назад исследователи предположили, что несмотря на эти ужасно плохие результаты, что-то в некоторых людях, страдающих агнозией на лица, правильно опознает членов семьи и известных людей, поскольку их тела иначе реагируют на знакомые лица. Если при рассматривании фотографии знакомого лица им называют разнообразные имена, то при произнесении правильного имени, у них возникает повышенный кожно-гальванический рефлекс. (Кожно-гальванический рефлекс используется для измерения электрической проводимости кожи, и на нем основана работа полиграфов или "детекторов лжи".) Из этих результатов Янг и другие исследователи сделали вывод, что должно быть две системы (или больше), которые могут производить идентификацию лица, а у страдающих агнозией на лица и имеющих подобный кожно-гальванический рефлекс одна из этих систем не поражена. Эта система продолжает исправно работать, скрыто и по большей части незаметно для других. Теперь предположим, говорит Янг, что у страдающих галлюцинацией Капгра имеется прямо противоположный дефект: открытая система (или системы) осознаваемого распознавания лиц действует прекрасно – именно поэтому страдающие галлюцинацией Капгра согласны, что "самозванцы" и в самом деле выглядят как их любимые, но скрытая система (или системы), от которой обычно в таких случаях исходит ободряющий вотум согласия, повреждена и зловеще молчит. Из-за отсутствия этого едва уловимого вклада в идентификацию все настолько нарушается ("Чего-то не хватает!"), что это служит своеобразным "карманным вето",* отменяющим решение здоровой системы: в итоге больной искренне убежден в том, что он видит самозванца. Вместо того чтобы возлагать вину за несоответствие на неисправную систему восприятия, человек обвиняет мир таким метафизически экстравагантным, таким невероятным способом, что вряд ли можно сомневаться в силе (по сути, политической силе), которую обычно имеет над всеми нами поврежденная система. Когда эпистемический голод этой отдельной системы остается неутоленным, она закатывает такую истерику, что сводит на нет действие всех прочих систем.

* В США – задержка президентом подписания законопроекта до закрытия сессии конгресса. – Прим. перев.

Между погруженным в забытье крабом и странно заблуждающейся жертвой галлюцинации Капгра существуют и промежуточные случаи. Разве собака не может узнать или не узнать своего хозяина? Согласно Гомеру, когда Одиссей вернулся на Итаку после своих двадцатилетних скитаний, переодетый в лохмотья нищего, его старая собака Аргос узнала его, завиляла хвостом, прижала уши, а затем умерла. (А Одиссей, стоит напомнить, тайком утер слезу.) Так же как у краба есть основания (пытаться) отслеживать идентичность своего гнезда, так и у собаки есть основания (пытаться) отслеживать среди прочих важных вещей в мире хозяина. Чем более настоятельны основания для повторной идентификации вещей, тем больше плата за то, чтобы не совершать ошибок, и тем больше вложения в перцептуальные и когнитивные механизмы будут окупать себя. Развитые виды научения зависят, фактически, от предшествующих им способностей к (повторной) идентификации. Возьмем простой случай и предположим, что собака видит Одиссея трезвым по понедельникам, средам и пятницам, а по субботам видит его пьяным. Есть несколько логически приемлемых заключений, которые можно вывести из этого множества впечатлений: что существуют пьяные и трезвые люди, что один человек может быть пьяным в один день и трезвым – в другой, и что Одиссей именно такой человек. Собака не могла бы – логически не могла бы – знать второй или третий факт из этой последовательности отдельных впечатлений, если бы у нее не было некоторого (подверженного ошибкам, но довольно надежного) способа повторной идентификации человека как одного и того же в разных восприятиях. (Millican, в печати) (Этот же принцип находит еще более наглядное выражение в том любопытном факте, что вы не можете – в логическом плане – узнать, как вы выглядите, смотря в зеркало, если только у вас нет какого-то другого способа опознать в качестве своего лицо, которое вы видите. Без такой независимой идентификации вы бы смогли изучить свою внешность, смотря в зеркало, не в большей мере, чем если бы вы рассматривали фотографию, которая случайно оказалась вашей.)

Собаки живут в мире более разнообразного и сложного поведения, чем крабы, где больше возможностей для ухищрений, обмана и маскировки, а, следовательно, и больше выгод можно извлечь, если не принимать ложных подсказок. Но, еще раз отмечу, системы собаки необязательно имеют защиту "от дурака". Если собака совершает ошибку идентификации (любого вида), мы можем характеризовать это как случай ошибочного опознания, но нам необязательно заключать, что собака способна мыслить некоторое суждение и вести себя так, как если бы она в него верила. Поведение Аргоса в рассказе трогательно, но мы не должны допускать сентиментальность в наши теории. Аргос мог бы также любить запахи осени и каждый год радостно реагировать на ласкающие его ноздри запахи спелых фруктов, но это не означало бы, что он каким-то образом способен различать повторяющиеся времена года вроде осени, с одной стороны, и возвращающихся людей вроде Одиссея, с другой. Не является ли Одиссей для Аргоса просто упорядоченным собранием приятных запахов и звуков, зрительных образов и чувств – чем-то вроде нерегулярно повторяющегося времени года (не наступавшего целых двадцать лет!), во время которого предпочтительно особое поведение? Это такое время года, которое обычно бывает трезвым, но в некоторых случаях как известно, оно является пьяным. Со своей особой человеческой точки зрения мы можем видеть, что успех Аргоса в этом мире зачастую зависит от того, насколько его поведение приближается к поведению агента действия, который, подобно нам, взрослым людям, ясно различает индивидов. Поэтому, когда мы интерпретируем его поведение с позиции интенциональной установки, мы вполне можем приписать Аргосу верования, в которых различаются Одиссей и другие люди, более сильные собаки-соперники и более слабые, овцы и другие животные, Итака и иные места и т.д. Но мы должны быть готовы к обнаружению в этом его кажущемся понимании некоторых шокирующих провалов, немыслимых для существ, обладающих нашей концептуальной схемой, а, следовательно, абсолютно невыразимых в человеческом языке.

О разумности домашних животных говорят на протяжении тысячелетий. Древний философ-стоик Хрисипп рассказывал о собаке, которая оказалась способной на следующий разумный поступок: подойдя к развился из трех дорог, она обнюхала дороги А и В и, не обнюхивая дорогу С, устремилась по ней, рассудив, что если она не учуяла следа на дорогах А и В, то преследуемая добыча должна была пойти дорогой С. Люди менее склонны рассказывать об удручающей глупости своих любимцев и часто отказываются делать выводы из тех провалов, которые они обнаруживают в их способностях. Какая умная собачка, но может ли она сообразить, как размотать поводок, закрутившийся вокруг дерева или фонарного столба? Казалось бы, для собаки это вполне подходящий тест на разумность по сравнению, скажем, со способностью чувствовать иронию в поэзии или понимать транзитивность отношения теплее-чем... (если А теплее В, а В теплее С, то А [теплее? холоднее?] С.) Но немного есть собак, если они вообще есть, которые способны его пройти. А дельфины, при всей их разумности, как это ни странно, неспособны понять, что, попав в сеть для ловли тунца, они могут легко выпрыгнуть из нее. Для них вполне естественно выпрыгивать из воды, тем больше поражает их бестолковость в данной ситуации. Как регулярно обнаруживают исследователи, чем изобретательней вы исследуете способности животных, тем с большей вероятностью открываете в них неожиданные провалы. Способность животных обобщать на основании их отдельных разумных действий очень ограничена. (Потрясающее описание этого направления в исследовании верветовых обезьян, см. Cheney and Seyfarth, How Monkeys See the World, 1990.)

Мы, люди, можем разглядеть сбои в процессе отслеживания, которые находятся за пределами познаний других существ, благодаря нашей способности размышлять характерным для нас образом. Предположим, что Том на протяжении многих лет носил с собой монетку в качестве талисмана. У Тома не было имени для этой монетки, но мы будем называть ее Эми. Том брал Эми с собой в Испанию, он держит ее на ночном столике во время сна и т.д. Но однажды во время поездки в Нью-Йорк, поддавшись импульсу, Том бросает Эми в фонтан, где она смешивается со множеством других монет, становясь для Тома и нас абсолютно неотличимой от этих монет, по крайней мере, от тех из них, на которых стоит та же дата выпуска, что и на Эми. Тем не менее, Том может размышлять над этой ситуацией. Он может признать истинным суждение о том, что одна и только одна из этих монет является тем талисманом, который он всегда носил с собой. Он может быть обеспокоен (или просто удивлен) тем фактом, что безвозвратно потерял из виду то, что так или иначе отслеживал на протяжении многих лет. Предположим, что он поднял из фонтана одну из монеток. Он понимает, что одно и только одно из следующих двух высказываний истинно:

1. Монетка, которую я сейчас держу в руке, есть та монетка, которую я привез с собой в Нью-Йорк.

2. Монетка, которую я сейчас держу в руке, не есть та монетка, которую я привез с собой в Нью-Йорк.

Не нужно быть выдающимся ученым, чтобы понять, что одно из этих двух высказываний должно быть истинным, даже если ни Том и никто другой в мировой истории, прошлой и будущей, не сможет определить, которое именно. Эта наша способность создавать и даже во многих случаях проверять гипотезы об идентичности практически является совершенно неведомой для всех других биологических видов. Деятельность и планы многих созданий требуют от них отслеживать и повторно идентифицировать индивидов – матерей, особей противоположного пола, пишу, начальников и подчиненных в стаде – но нет никаких данных, что, делая это, они должны понимать, то они делают именно это. Их интенциональность никогда не поднимается до той метафизической обстоятельности, до которой может подняться наша.

Как мы это делаем? Не нужно быть выдающимся ученым, чтобы иметь такие мысли, но нужно быть грегорийским созданием, обладающим, среди прочих орудий ума, еще и языком. Но чтобы использовать язык, нам нужно иметь особые способности, которые позволят нам извлекать эти орудия ума из окружающей (социальной) среды, в которой они находятся.



<<< ОГЛАВЛЕHИЕ >>>
Просмотров: 798
Категория: Библиотека » Психология


Другие новости по теме:

  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ МОДЕРН: ВЗГЛЯД ФИЛОСОФА Мы еще вернемся к
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ ТРИ СПОСОБА ИСПРАВИТЬ ПОЛОЖЕНИЕ Начнем с вопроса:
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | Ссылки Имеется в виду конференция Антинаучные иантитехнические тенденции
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ АНТИНАУКА КАК АЛЬТЕРНАТИВНОЕ МИРОПОНИМАНИЕ: ОТРИЦАНИЕ ПРАВА НАУКИ
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ ЧТО ТАКОЕ МОДЕРН СОЦИОЛОГИЧЕСКИЙ ПОДХОД Мы наметили
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ ПОЧЕМУ ФЕНОМЕН АНТИНАУКИ ДОЛЖЕН ВЫЗЫВАТЬ У НАС
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ СМЫСЛ ПРОБЛЕМЫ В ПЕРВОМ ПРИБЛИЖЕНИИ Внешне дело
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ НА ПУТИ К ВЫВОДАМ Среди примеров, которые
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ СТРУКТУРА МОДЕРНИСТСКОЙ КАРТИНЫ МИРА И ЕЕ АЛЬТЕРНАТИВ
  • Дж. Холтон. ЧТО ТАКОЕ "АНТИНАУКА"? | ОГЛАВЛЕHИЕ КОНЦЕПТУАЛЬНАЯ СТРУКТУРА КАРТИНЫ МИРА Если мы хотим
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Джон Уайт ЛЮБОВЬ, СВОБОДА И ПРОСВЕТЛЕНИЕ Интервью
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Об авторах ЭВЕЛИН АНДЕХИЛЛ 1875-1941. Английская поэтесса,новеллист
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Гопи Кришна ИСТИННАЯ ЦЕЛЬ ЙОГИ Йога 150
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ ЛИТЕРАТУРНЫЕ ИСТОЧНИКИ От Само-Сознания к Космическому Сознанию
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Приложение 3 ПРЕДЛОЖЕНИЯ ДЛЯ ДАЛЬНЕЙШИХ ИССЛЕДОВАНИЙ Сначала
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Аллан Коэн МЕХЕР БАБА И ПОИСК СОЗНАНИЯ
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Приложение 2 ЖЕНЩИНЫ И ПРОСВЕТЛЕНИЕ Свами Вивекананда,
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Сатпрем ЕДИНСТВО И УЧЕНИЕ ШРИ АУРОБИНДО Один
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Джон Уайт ПРОСВЕТЛЕНИЕ И ИУДЕОХРИСТИАНСКАЯ ТРАДИЦИЯ Возникновение
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Лекс Хиксон ДЕСЯТЬ ВРЕМЕH ПРОСВЕТЛЕНИЯ: ДЗЕНСКИЕ ПОИСКИ
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Роджер Уолш ИСКЛЮЧИТЕЛЬНОЕ ДУШЕВНОЕ ЗДОРОВЬЕ древние образы
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Приложение 1 КАРТЫ РЕАЛЬНОСТИ В конце своего
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Кен Уилбер ПРЕДЕЛЬHОЕ СОСТОЯНИЕ СОЗНАНИЯ Кен Уилбер
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Да Лав-Ананда НАСТРОЕНИЕ ПРОСВЕТЛЕНИЯ беседа с учениками
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Дэн Радьяр ЧЕЛОВЕЧЕСКОЕ, СЛИШКОМ ЧЕЛОВЕЧЕСКОЕ И ТО,
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Хьюстон Смит СВЯЩЕННОЕ БЕССОЗНАТЕЛЬНОЕ Понятие священное бессознательное
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Ричард М. Бак ОТ САМО-СОЗHАHИЯ К КОСМИЧЕСКОМУ
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Эвелин Андехилл ЖИЗНЬ В ЕДИHЕHИИ Hезнание духовных
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Олдос Хаксли ВЕЧНАЯ ФИЛОСОФИЯ Плодовитое перо Олдоса
  • Джон Уайт (ред.) ЧТО ТАКОЕ ПРОСВЕТЛЕНИЕ? | ОГЛАВЛЕHИЕ Алан Уотс ЭТО ОНО Некоторые люди ошибочно



  • ---
    Разместите, пожалуйста, ссылку на эту страницу на своём веб-сайте:

    Код для вставки на сайт или в блог:       
    Код для вставки в форум (BBCode):       
    Прямая ссылка на эту публикацию:       





    Данный материал НЕ НАРУШАЕТ авторские права никаких физических или юридических лиц.
    Если это не так - свяжитесь с администрацией сайта.
    Материал будет немедленно удален.
    Электронная версия этой публикации предоставляется только в ознакомительных целях.
    Для дальнейшего её использования Вам необходимо будет
    приобрести бумажный (электронный, аудио) вариант у правообладателей.

    На сайте «Глубинная психология: учения и методики» представлены статьи, направления, методики по психологии, психоанализу, психотерапии, психодиагностике, судьбоанализу, психологическому консультированию; игры и упражнения для тренингов; биографии великих людей; притчи и сказки; пословицы и поговорки; а также словари и энциклопедии по психологии, медицине, философии, социологии, религии, педагогике. Все книги (аудиокниги), находящиеся на нашем сайте, Вы можете скачать бесплатно без всяких платных смс и даже без регистрации. Все словарные статьи и труды великих авторов можно читать онлайн.







    Locations of visitors to this page



          <НА ГЛАВНУЮ>      Обратная связь