что значит когнитивная наука

КОГНИТИВНАЯ НАУКА

Полезное

Смотреть что такое «КОГНИТИВНАЯ НАУКА» в других словарях:

Когнитивная наука — в самом широком смысле слова совокупность наук о познании приобретении, хранении, преобразовании и использовании знания, в узком смысле «междисциплинарное исследование приобретения и применения знаний». Основные составляющие когнитивной науки… … Википедия

когнитивная наука — КОГНИТИВНАЯ НАУКА (анг. cognitive science; от лат. cognitio знание, познание) область междисциплинарных исследований, изучающая познание и высшие когнитивные функции с помощью моделей переработки когнитивной информации. Включает в себя… … Энциклопедия эпистемологии и философии науки

КОГНИТИВНАЯ НАУКА — (англ. cognitive science) широкая междисциплинарная область исследований и знаний, а также совокупность многих дисциплин, которые изучают преимущественно интеллект (разум), но делаются попытки охватить всю психическую сферу. В этой области… … Большая психологическая энциклопедия

когнитивная наука — Наука, занимающаяся человеческим разумом и мышлением и теми ментальными процессами и состояниями, которые с ними связаны, обработкой информации и ее переработкой … Словарь лингвистических терминов Т.В. Жеребило

Когнитивная наука — наука о мышлении, имеющая дело с широкой областью мыслительных структур и процессов, включая восприятие, запоминание, решение задач; цель когнитивной науки определить природу механизмов, имеющихся у человека в процессе мышления, восприятия и… … Исследовательская деятельность. Словарь

КОГНИТИВНАЯ НАУКА — наука о мышлении, имеющая дело с широкой областью мыслительных структур и процессов, включая восприятие, запоминание, решение задач; цель когнитивной науки определить природу механизмов, имеющихся у человека в процессе мышления, восприятия и… … Профессиональное образование. Словарь

КОГНИТИВНАЯ НАУКА — (cognitive science) см. Психология … Большой толковый социологический словарь

Когнитивная психотерапия — (англ. Cognitive therapy) одно из направлений современного когнитивно бихевиорального направления в психотерапии, разработанное А. Беком и опирающееся на положение об определяющей роли познавательных процессов (и в первую очередь мышления) в… … Википедия

Когнитивная география — направление географии, изучающее пространственные представления, механизмы их формирования и использования в различных аспектах человеческой деятельности. Содержание 1 Общие сведения 2 Когнитивная география в России … Википедия

Когнитивная этология — (лат. cognitio знание) наука, изучающая интеллект животных. Под интеллектом понимают способность к осуществлению процесса познания и к решению проблем, возникающих при освоении нового круга жизненных задач. Современные научные… … Википедия

Источник

О когнитивистике на русском

Всем здравствуйте. Я когнитивист-теоретик. На протяжении своей недолгой научной карьеры я пытаюсь объяснить родственникам и друзьям, чем занимаюсь. Этот пост консолидирует некоторые мои ответы о том, что такое когнитивистика, что делать, если объект вашего изучения — самый чернейший ящик, почему междисциплинарные исследования с отсутствием единой методологии — это ОК, и есть ли шансы извлечь из всего этого какую-то пользу. Спойлер: да, недаром крупные западные университеты ежегодно штампуют когнитивистов в промышленном масштабе, и все они куда-то (благополучно) деваются.

В изложении я буду придерживаться пусть и упрощенного, но профессионального языка моей специальности, чтобы, кроме всего прочего, донести атмосферу. Если это станет препятствием для понимания и диалога — жалуйтесь!

Что изучаем?

Когнитивистика или когнитивная наука (или науки, но об этом ниже) — общий термин, описывающий научное направление, начавшее свое формирование в 1950-е годы и занимающееся вопросами, связанными с разумом на различных уровнях описания. Эти вопросы включают в себя, как и напрямую связанные с работой мозга (как работает мозг? какова связь между мозгом и разумом?), так и более общие, касающиеся поведения разумных агентов, их взаимодействия с друг другом и окружающей средой, а также способов обработки различного вида информации. Вышеперечисленные темы могут изучаться под разными углами и с использованием разных подходов и методологий.

Традиционно когнитивистика включает в себя шесть дисциплин:

компьютерные науки (в особенности машинное обучение, искусственный интеллект и робототехнику)

Вот такую картинку из Википедии многие, наверно, видели (Wikimedia Commons)

Предполагается, что ни одна из дисциплин в одиночку не располагает теоретическим и практическим аппаратом, достаточным для полного понимания разума. В то же время, конкретные вопросы и темы ассоциируются преимущественно с какой-то одной.

Самая древняя из перечисленных дисциплин — философия. Ещё Платон и Аристотель (IV век дo н.э.) интересовались вопросами, связанными с разумом. В современной когнитивистике философия скорее ближе к Аристотелю — не умозрительная, а активно базирующаяся на научных результатах и наблюдениях. Занимается философия в основном глобальными вопросами о природе разума, теоретическим описанием его работы на основе прикладных результатов, нормативностью и вопросами методологий других когнитивных наук.

В середине 19-ого века от философии как научное направление отпочковалась психология, в основе которой лежит эмпирический подход — наблюдение и эксперимент. Вопросы психологии в основном касаются ментальных процессов и поведения. На сегодняшний день многие исследователи-психологи сочетают поведенческие эксперименты с компьютерным моделированием или измерением каких-то параметров мозговой активности, так как считается, что ментальные процессы напрямую связаны с работой мозга. (:

Собственно, про то, как ментальные процессы воплощены в биологических — это к нейронауке, самой молодой из всей шестёрки. Первым человеком, предположившим в конце 19-го(!) века, что функциональной единицей мозга является нейронная клетка, был испанский патолог Сантьяго Рамон-и-Кахаль. Однако конкретные теории, связывающие умственную деятельность и поведение с нейронной деятельностью, начали получать распространение много позже, так как не было подходящих инструментов для изучения. Изобретение функциональной магнитно-резонансной томографии (фМРТ) в 1980-х и развитие идеи нейронных сетей можно считать точками становления современной когнитивной нейронауки.

Сантьяго Рамон-и-Кахаль еще очень красиво рисовал (Wikimedia Commons)

Лингвистика имеет отношение к когнитивистике в двух контекстах. Во-первых, это, конечно, связь между языком и мышлением. Язык — как минимум наш основной способ выражения мысли. Как максимум, он тождественен самому процессу мышления (хотя я лично так не считаю). Следовательно, изучение структуры языка, его восприятия и использования способно многое прояснить и про внутренние когнитивные процессы. Второй контекст — коммуникация и социальный аспект разума, к чему имеет отношение и антропология, которая изучает социальную среду, культуру и их влияние на человека, например, в формировании его убеждений и поведения.

Ну и напоследок, компьютерные науки. Про их роль в когнитивистике я напишу как-нибудь отдельно (нужно много места), но, если коротко, значение очень, очень велико. Это и идея «мозг = компьютер», и теории разных когнитивных архитектур, и обратная инженерия, и инструменты моделирования когнитивных процессов.

Но так что же получается, когнитивистика — это не единая наука?

Ну, это как посмотреть. С одной стороны, действительно, разные подотрасли когнитивистики используют разные терминологические аппараты и исследовательские инструменты. Поэтому люди, которые используют термин «когнитивные наукИ», по-своему правы. C другой стороны, часто и вопросы, и методологии подотраслей имеют глубокую связь. Например, восприятие языка напрямую связано с работой мозга на множестве уровней, которые включают в себя и обработку аудио сигнала, и строение синтактической структуры языка, и сложные системы убеждений. Все эти уровни взаимодействуют друг с другом. Проблема — связать их в стройную систему.

Характер связи между дисциплинами и уровнями — вопрос открытый. Профессор Университета Торонто Джон Вервеке, например, выделяет три потенциальных характера связи между дисциплинами и соответствующих им подхода к когнитивистике:

Первый подход — номинализм, или когнитивистика как обобщающий термин для нескольких отдельных наук. Основная проблема с первым подходом — игнорирование наличия комплексной системы, а следовательно, ее влияния на и взаимодействия с составными частями.

Второй подход — интердисциплинарный эклектицизм. Cогласно этому подходу, дисциплины сообщаются между собой, оставаясь при этом самодостаточными. Такой подход подразумевает необходимость изучения смежных областей для более глубокого понимания причинно-следственных связей, но без цели трансформации их в единую науку. Интердисциплинарный эклектицизм — часто недостаточно сильная, нестабильная позиция, имеющая тенденцию распадаться в номинализм.

Третий подход — синоптическая интеграция. Синоптическая интеграция подразумевает создание единого теоретического поля и языка, описывающего и связывающего когнитивные процессы на разных уровнях в общую систему, взаимопроникновение и глубокое влияние дисциплин на друг друга. Потенциальная опасность этого подхода заключается в его возможной радикализации до полного редуктивизма — попытки сведения всех когнитивных процессов к одному базовому уровню, например, нейронному. Такого рода нейро-редукционизм был широко распространён среди когнитивистов второй волны и все еще встречается среди некоторых современных нейро-ученых. Подробнее об этой идее и чем она может быть проблематична — в одном из следующих постов. Пока же, я только хочу отметить, что синоптическая интеграция не обязательно подразумевает под собой полный редукционизм.

Таким образом, «наука» когнитивистика или «науки» – вопрос во многом мировоззренческий. Я сторонница синоптической интеграции, и для меня «когнитивные науки» — это скорее ситуация в настоящем времени, а «когнитивная наука» — потенциальный результат успешно проделанной работы.

Объект изучения – черный ящик

Так в чем состоит сложность интеграции субдисциплин и уровней анализа различных процессов? Во-первых, мозг — во многом до сих пор черный ящик. Что еще хуже, разум — даже не ящик. Позиции, поддерживающие полностью физический характер разума в классическом понимании проблематичны ненамного меньше, чем, например, дуалистические, различающие ментальные и физические объекты. Физикалисты часто сталкиваются с трудностями, когда речь заходит о феноменологии или субъективном опыте (хотя эти вопросы начинают все активнее разрабатываться), дуалисты (и нейтральные монисты) — в попытках объяснить возможность влияния ментального на физическое. Эта проблема, на русском языке носящая ужасное название «психофизическая» (по-английски звучит как “the mind-body problem”), в современной трактовке чаще всего приписывается Декарту, хотя истоки ее прослеживаются вплоть до 400-х годов до н.э. Если у вас есть свободные выходные для ее решения, вот куда можно себя приложить. Отличный шанс сделать что-то полезное и остаться в истории (:

Даже с точки зрения физикалистов, тем не менее, границы разума (физические или структурные) не обязательно совпадают с границами мозга или даже тела, а такие тесно связанные с разумом понятия как, например, сознание или личность (неточный перевод английского «self», предлагайте другие), еще более концептуально неоднозначны. Об этом тоже, возможно, я напишу как-нибудь позже.

Потыкав палочкой используя разные известные методы (или изобретая новые), можно заполучить информацию о структуре мозга, поведении человека и корреляции между, например, поведением и различными параметрами вроде локализации и интенсивности мозговой активности. К сожалению, как анализ, так и синтез этой информации не всегда прямолинеен. Для начала изоляция конкретных процессов в мозге — вопрос совсем не тривиальный. Во-первых, из-за обширности деятельности и многозадачности, а во-вторых, из-за того, что мы не всегда знаем, какой уровень анализа является верным (т.е. на что вообще смотреть). В глобальном плане это ведет к ошибочным или даже псевдонаучным парадигмам, как, например, уже ископаемая френология — вычисление психологических характеристик по строению черепа.

Френология – псевдонука. Тем не менее, не стоит к ней относиться совсем уж презрительно. Нейрология берет свои истоки именно там и до сих пор включает в себя идеи френологического толка. (Wikimedia Commons)

В локальном — к ошибкам экспериментального дизайна (не то измерили, не учли зависимые переменные…) и ошибкам интерпретации (измерили то, что хотели измерить, но вывод сделали неверный). К этому добавляются еще и существенные недочеты методологии использования существующих технических инструментов. Взять, к примеру, утконоса дохлого лосося, любимого студентами-нейрологами.

Рыба в сканере (Bennett, Miller & Wolford 2009)

Эксперимент с лососем, наделавший в свое время много шума и получивший в 2012 году Шнобелевскую премию, был призван привлечь внимание научного сообщества к проблеме статистической обработки результатов фМРТ. Прочитать про него по-английски можно, например, здесь, но если коротко, то отсутствие поправки на множественную проверку гипотез влечет к наблюдению когнитивной деятельности у мертвой рыбы. Возвращаясь к проблеме интерпретации, показательно еще и то, что некоторые восприняли аргумент в пользу проведения определенного типа статистического анализа за успешную попытку полной дискредитации фМРТ как исследовательского инструмента.

Поведенческая составляющая экспериментов тоже не без проблем. Если такие внешние сигналы организма, как пульс, движение зрачков и температура тела легко (и, допустим, уместно) регистрируются, то огромная часть экспериментов связанных, например, с феноменологическими аспектами базируется на самоотчетах, которые ненадежны как минимум ввиду субъективности оценочных шкал, а часто и ввиду концептуальных неточностей в постановке вопросов. Грамотное составление опросников с учетом факторов влияния — настоящее искусство. Что еще интересно, даже если самоотчет максимально объективен, существует опасность «функциональной иллюзии» (не технический термин!). Например, попытка с помощью опросников выяснить является ли личность непрерывной на протяжении жизни не вполне корректна, если эта непрерывность является иллюзией, созданной организмом для его «осознанной части» в целях самосохранения. Такая вот конспирология.

Поскольку исследования строятся на предыдущих исследованиях, бардак часто приумножается. И хотя в целом проблемы интерпретации и методологии существуют во всех науках, когнитивные, в силу особенностей объекта изучения, этим грешат особенно часто.

Наконец, eще одна проблема интеграции когнитивных наук заключается в том, что языки дисциплин и разных подуровней не совпадают и не переносятся друг на друга напрямую. А там, где переносятся, мы часто не знаем о сходствах и трансферах между дисциплинами ввиду банального отсутствия коммуникации между специалистами. В итоге, при наличии высокой компетенции в подотраслях, синтеза знаний не происходит.

Что же делать?

Такое состояние дел заставляет некоторых скептиков сомневаться в потенциальной возможности значительного прогресса как в синоптической интеграции дисциплин, так и научном изучении разума в принципе. На мой взгляд, гораздо интереснее аргументы против когнитивистики, имеющие метафизический «априори» характер, хотя и те, и другие кажутся мне несколько пораженческими. Метафизические аргументы в большинстве своем говорят о теоретической невозможности полного познания разума разумом или мозга мозгом. Очень упрощая — сидя внутри коробочки, нельзя узнать, как она выглядит снаружи. Однако такие аргументы апеллируют к определенным интерпретациям знания, понимания, симуляции и так далее, которые не обязательно являются единственно допустимыми, потенциально универсально важными или самыми продуктивными. Даже будучи выстроенными корректно, теоретические аргументы такого рода часто без надобности «перекрывают водопровод во всем доме», в том числе для достижимых и локальных задач.

Что касается большого количества тупиковых исследовательских программ в прошлом, то они, на мой взгляд, прежде всего знак проделанной работы, который в контексте сложности и небольшого возраста решаемой задачи сигнализирует скорее о прогрессе, чем его отсутствии. В конце концов, когнитивной революции нет еще 70-ти лет, а одному из важнейших инструментов изучения мозга, ФМРТ например, и 35-ти — промежуток времени, укладывающийся в одну человеческую жизнь.

Чтобы у вас не создалось впечатления бесполезности когнитивистики, внизу несколько выборочных достижений в случайном порядке.

Прогресс в диагностике и лечении психических расстройств — прямой результат развития парадигмы разум = мозг. Осознание того, что расстройства психики имеют биологическую основу, открыло дорогу разработке медикаментозных методов лечения (и уменьшению стигматизации этих расстройств в обществе). В то же время связь между мозгом и мышлением имеет и обратное направление, позволяя достаточно успешно применять немедикаментозные способы вроде когнитивно-поведенческой терапии для лечения, например, депрессии и неврозов.

Другое достижение — открытие, что мозг нейропластичен на протяжении всей жизни, т. е. нейронные сети могут изменяться посредством роста и реорганизации, хоть и в меньшей степени, чем в детстве (долгое время читалось, что во взрослом возрасте пластичности почти нет). Нейропластичность важна для обучения, памяти или, например, реабилитации после черепно-мозговых травм, и может быть довольно радикальной, вплоть до полного изменения функций определенных частей мозга. Более того, при наличии понимания работы отдельных когнитивных систем, нейропластичность можно эксплуатировать. Например, активно разрабатываются способы сенсорного замещения для незрячих людей. Изображение с видеокамеры топографически переводится в звук, и пациенты учатся его интерпретировать. С небольшой тренировкой они могут с помощью камеры различать разные объекты в помещении и считывать эмоции с лиц. При этом процессе, со временем начинает наблюдаться активация нейронов в зрительной части мозга, несмотря на то что оптический нерв никак не задействован. Все это вряд ли похоже на зрение в классическом понимании, но идея крутая.

Сенсорное замещение (Amir Amedi/Cell Biology)

Достижения в области искусственного интеллекта у многих на слуху. Здесь можно упомянуть, например, AlphaGo в качестве успешного примера машинного обучения без использования алгоритмов специфичных для игры (из чего следует, что применённый в программе подход можно использовать для других задач). Более поздняя версия AlphaGo Zero, превзошедшая предыдущую версию меньше, чем за месяц, вообще обучалась игре с нуля, тренируясь исключительно сама с собой. Значителен прогресс и в работе с языком (чат-боты, переводчики, генераторы поэзии, анализаторы тональности текста…). Помимо выполнения своих прямых прикладных функций, такие программы, основанные на искусственных нейронных сетях, демонстрируют, как некоторые свойства языка могут быть реализованы с помощью коннекционистских подходов. Это потенциально важно для развития дискуссии о человеческой когнитивной архитектуре в целом, так как многие противники коннекционизма часто приводят доводы, связанные именно с неприспособленностью коннекционистских подходов для решения языковых задач.

Нобелевская премия по медицине в 2014 году была присуждена за открытие так называемых нейронов места. Совместно с еще более «свежими» координатными нейронами и нейронами границ, они отвечают за осуществление навигации в пространстве. Нейроны места активируются при нахождении в определенном положении в физическом пространстве. Координатные — размечают пространство ровной шестиугольной сеткой, а нейроны границ активируются при нахождении, собственно, у границы доступного помещения. Вот прям так буквально. Человеческая «система GPS» сама по себе очень интересна, но есть предположение, что тот же механизм лежит и в основе мышления, т.е. мы ориентируемся в концептуальных пространствах так же, как и в физических. К последнему заявлению пока много вопросов, но некоторые косвенные подтверждения есть (как и совместимость такого способа кодировки информации с некоторыми другими теориями о мышлении).

Активация нейронов места, координатных нейронов и нейронов границ (Sanders et al. 2015)

Еще мы знаем, что память реконструктивна. Мы не запоминаем события, как они есть. Формирование воспоминаний происходит интегративно, под влиянием разных факторов, например контекста и эмоций, а при попытке вспомнить конкретное событие память тоже трансформируется. Понимать это полезно, например, при допросе свидетелей и принятии решений, основанных на их показаниях. Есть и исследования по изменению памяти. Например, разрабатываются препараты, направленные на излечение наркозависимости посредством влияния на белки, участвующие в формировании памяти, и устранения ранее сформированной привязанности.

Это несколько несвязанных примеров. Конечно, все эти достижения можно классифицировать как достижения конкретных дисциплин из шестиугольника. Тем не менее, они либо базируются на исследовательском опыте из нескольких областей, либо имеют важные применения и последствия для одной и более других когнитивных наук. К вопросу о синоптической интеграции, многие исследования, помимо своей прямой цели, служат своего рода «подкормом» для философов. Например, с одной стороны, изучение детского мышления позволяет создавать более эффективные образовательные программы для людей разного возраста и в целом способствовать развитию. С другой стороны, исследования в области психологии развития помогают теоретикам уточнять классификацию метальных процессов и разбираться с нашей когнитивной архитектурой, например, делать более уверенные предложения о связи тех или иных процессов. Кросскультурные и кросс-языковые исследования тоже имеют такой «двойной эффект». С практической точки зрения, они, например, помогают оптимально выстраивать коммуникацию, а с теоретической — распознавать какие процессы и механизмы универсальны, а какие формируются под воздействием внешних факторов. Из кросс-языковых экспериментов, напимер, мы знаем, что возможность восприятия оттенков одного цвета зависит от наличия понятий (слов) для обозначения этих оттенков. Следовательно, визуальное восприятие немного «когнитивно проницаемо», т. е. в некоторой степени зависит от понятийного аппарата человека (и так далее). Конечно, для того чтобы использовать экспериментальную литературу таким образом и выстраивать связи между, казалось бы, далекими областями, нужно много читать.Поэтому есть необходимость именно в теоретиках с широким научным кругозором, способных к интеграции знаний из смежных дисциплин, созданию концептуальных систем и грамотной интерпретации экспериментальных данных. К этому, собственно, и стремимся.

На этом пока все.

Спасибо за внимание. Я подумываю превратить этот пост в полноценную серию, затрагивающую актуальные теоретические и практические вопросы, историю когнитивистики, а также вопросы из серии «куда пойти учиться» и «что почитать». Если это вам интересно, напишите в комментариях. Предложения, пожелания и вопросы приветствуются.

Источник

Что такое когнитивная наука?

Мы публикуем стенограмму лекции доктора психологических наук Марии Фаликман «Что такое когнитивная наука», которая состоялась в рамках научного лектория «Лобное место» на Книжном фестивале «Красная площадь».

Разговор шел о том, что такое когнитивная наука, как и когда она появилась, какие области в ней наиболее активно развиваются на сегодняшний день, чем интересны междисциплинарные исследования познания, как методы нейронауки позволяют обратиться к проблеме культурной эволюции, и о многом другом.

Борис Долгин: В рамках фестиваля на Красной Площади мы делаем небольшой цикл публичных лекций, который называется «Лобное место», надеюсь, что он послужит еще и знаком возрождения самих публичных лекций «Полит.ру». В рамках этого цикла мы пригласили Марию Фаликман, руководителя департамента психологии факультета социальных наук Высшей школы экономики, ведущего научного сотрудника Лаборатории когнитивных исследований той же Высшей школы экономики. А также — поэта, члена московского отделения Международного ПЕН-клуба. Мы будем говорить о том, что такое когнитивная наука. Собственно, в названии уже заложен вопрос, но если вопросы останутся в самом конце, то мы дадим возможность их задать.

Мария Фаликман: Всем добрый день, я восхищена всеми теми, кто по такой жаре готов слушать рассказы на серьезные научные темы, и, собственно говоря, я себе сложной задачи не ставила. Я поставила себе задачу дать панораму того, что сейчас обозначается словосочетанием «когнитивные исследования». Потому что когда я начинала работать в этой области, в середине 90-х, в России этого термина фактически не было, и постепенно, на протяжении вот уже почти 30 лет, он обретает все более и более громкое звучание, но, тем не менее, вопрос о том, как очертить область когнитивных исследований, продолжает оставаться вопросом. Ну и, собственно говоря, в то время как научные журналы публикуют статьи, которые показывают новые горизонты когнитивных (связанных с человеческим познанием и попытками воссоздания его на разных субстратах) исследований, по мере того, как выполняются работы по моделированию человеческого мышления на материале таких игр, как, например, го или покер, в то время как в прессе появляются другие совершенно образы когнитивных исследований (например, исследования того, что происходит в мозге человека, сталкивающегося с высокой поэзией, например с поэзией Шекспира), или каким образом виртуальная реальность позволяет понять, почему водители ошибаются за рулем, — вопрос о том, что называть словом «когнитивный», все равно остается.

И поэтому я начну с определения, которое обычно использую в своих академических курсах по когнитивной науке (дальнейший рассказ будет ничуть не академическим, не пугайтесь): под когнитивной наукой я понимаю область принципиально междисциплинарных, то есть не сводимых ни к одной из существующих научных дисциплин, исследований познания, которое понимается вполне определенным образом — как совокупность процессов приобретения, хранения, преобразования и использования знаний живыми и искусственными системами. Здесь три ключевых момента: исследования междисциплинарные; исследования, в которых, по сути, ставится знак равенства между живыми системами и моделями на искусственном субстрате; и исследования, касающиеся природы человеческого знания. Методологи даже возводят когнитивные исследования к платоновской традиции в философии, потому что именно Платон первым в философии попытался понять человеческое познание как припоминание — обращение к некоему истинному знанию, которое душа некогда получила в мире идей и напрочь забыла, оказавшись на грешной Земле.

И коль скоро мы говорим о знаке равенства между живыми и искусственными системами, мы вынуждены вспомнить о том, что когнитивная наука появляется вместе с появлением особой метафоры в научных исследованиях познания, а именно — его сопоставления с работой компьютера. Автором этой метафоры (то есть предложения рассматривать психику человека по аналогии с работой компьютера) был не кто иной, как создатель компьютерной архитектуры Джон фон Нейман. Он появился на симпозиуме 1948 года по мозговым механизмам поведения среди психологов и нейробиологов и в своей вступительной речи провел это тогда совершенно фантастическое сравнение, что то, что происходит в голове у человека, очень похоже на работу компьютера: у нас тоже есть, как и у компьютера, системы ввода-вывода; у нас тоже есть память, постоянное запоминающее устройство, где накапливается весь наш опыт; у нас тоже есть оперативная память, где мы удерживаем свои текущие задачи; и, вероятно, у нас есть «центральный процессор» с ограниченной пропускной способностью (который, кстати, в мозгу до сих пор никто не нашел).

А если так, то какова должна быть методология изучения познания? А тогда она может быть аналогична деятельности промышленного шпиона (не смейтесь, да?). Что такое промышленный шпионаж? Это особый род деятельности, когда человек получает устройство, выпущенное некоей компанией, которое пользуется спросом на рынке, и пытается это устройство взломать, понять, как оно работает, что там, собственно говоря, создатели придумали так, что у них получилось такое замечательное устройство? Только здесь в роли этого устройства фактически выступает человеческий мозг, человеческая психика, и исследователи-когнитивисты пытаются понять, расшифровать, решить вот эту задачу обратной инженерии — а каким образом работает психика, каким образом работает мозг, — на основе тех данных, которые мы можем получить экспериментально.

И исследования эти начинаются только в середине 50-х гг. Понятное дело, что на протяжении всего ХХ века и даже в конце ХIХ и психологи, и биологи так или иначе изучали человеческое познание, но вот именно этот момент, 1950-е годы, обозначают как «когнитивную революцию», потому что, с одной стороны, идет мощный запрос со стороны все тех же компьютерных наук, которые хотят создать искусственный разум, в то время как мы еще не знаем, как работает естественный разум; с другой стороны, психологи и нейробиологи не могут этот запрос удовлетворить — они слишком многого не понимают сами. И именно тогда появляется когнитивная наука как область междисциплинарных исследований. Причем у нее есть даже день рождения — увы, впоследствии омраченный падением Башен-близнецов в Нью-Йорке — это 11 сентября 1956 года, когда в Массачусетском технологическом институте прошел Симпозиум по проблемам переработки информации, и там в рамках одного симпозиума были сделаны три доклада, так или иначе сходных по заходу на изучение человеческого познания.

Первый доклад сделал лингвист Ноам Хомский, пожалуй, единственный ныне живущий деятель времен «когнитивной революции», недавно даже было интервью с ним по российскому телевидению в программе Владимира Познера. Он сделал доклад «Три модели описания языка», в котором противопоставляет существующим моделям языка, где нет места человеку (это понимание языка в логике языка, например — как процесса вероятностного, где каждое новое слово при порождении или при понимании высказывания имеет определенную вероятность появления, человек не нужен, это статистический процесс; или — модель непосредственных составляющих, такие деревья, воплощающие структуру языка), Хомский говорит: нет, чтобы понять язык, нам нужно понять носителя языка, как обладающего языковой способностью — способностью порождать и понимать язык человеческого типа, и языковой активностью, то есть процессами порождения и понимания языка на основе определенных правил порождающей или трансформационной грамматики, которую Хомский вводит; но вот самое главное — для того чтобы понять язык, нужно изучать носителя языка.

Вторым был психолог (замечаем, что уже появляются люди из разных дисциплин) Джордж Миллер, выступивший с докладом «Магическое число 7±2, или о некоторых ограничениях нашей способности перерабатывать информацию». Миллер предложил модель рабочей, или кратковременной, памяти человека, которую он трактовал по аналогии с компьютером, с набором ячеек, которые могут удерживать не больше семи единиц информации. Сейчас «магическое число» уточнили, оно уже равно 4±1, но, опять же, что тут важно: Миллер обращается в своей попытке понять человека к компьютерной метафоре познания и на ее основе пытается разобраться, а что происходит у человека в голове.

Ну и, наконец, третий доклад сделали политолог Герберт Саймон и его аспирант, компьютерщик Аллен Ньюэлл, которые представили самую первую в мире модель искусственного интеллекта под названием «Логик-теоретик», которая, учитывая данные, полученные Ньюэллом и Саймоном при изучении доказательства логических теорем студентами-математиками, моделировала и описывала этот процесс. То есть это была компьютерная программа, которая доказывала логические теоремы на основе данных психологии.

И мы видим, что все эти представители разных дисциплин были абсолютно убеждены, что для решения их научных задач им нужны данные из соседних дисциплин. Но, по сути дела, в 50-е гг. когнитивная наука развивалась вот в таком треугольнике «психология — лингвистика — компьютерные науки и искусственный интеллект», в то время как к когнитивным дисциплинам постепенно примыкали и философия, и нейронауки, и антропология, — причем работа в этом треугольнике осуществлялась, как я уже говорила, на основе трактовки познания как процесса передачи или переработки информации техническим устройством, откуда следовала возможность моделирования этих процессов, описания на языке компьютерных программ или на языке блок-схем.

Вот так примерно выглядели первые модели познания как передачи и переработки информации в когнитивной психологии. Сами когнитивисты в шутку называют их cognitive boxology, то есть «ящикология», это описание познания как множества ящичков, между которыми существуют переходы, где часть информации теряется или специально отфильтровывается, часть передается дальше и используется для управления дальнейшей активностью. Ну и, собственно говоря, в этом русле когнитивная наука развивалась на протяжении 60-х, 70-х, и даже начала 80-х годов, пока к 90-м или даже к 2000-м сами когнитивисты не начали понимать, что эти ящички и стрелочки, отвлеченные от реального человека, по сути не описывают поведение человека в реальной жизни. И конец 90-х — начало 2000-х — это начало грандиозного переворота в когнитивных исследованиях, где человек из «системы переработки информации» начинает постепенно превращаться в человека, перерабатывающего информацию. В человека, у которого, например, есть тело, и оказывается, что телесные процессы могут внести довольно-таки существенный вклад даже в процессы зрительного восприятия. Например, человек налегке и человек с тяжелым рюкзаком за спиной по-разному оценивают дистанцию, хотя, казалось бы, зрительный анализатор один и тот же, информация должна обрабатываться одинаково — так нет, по-разному. Более того, наше тело оказывает влияние даже на то, как мы работаем с самыми абстрактными понятиями. Возьмем, например, понятие времени: казалось бы, что абстрактнее? Ан нет. Как мы работаем со временем? Мы говорим, что что-то у нас впереди, что-то у нас позади, что-то у нас прошло, то есть, по сути дела, преломляем через собственное тело и через его взаимодействие с пространством. И «телесный бум», исследование телесных аспектов познания становится первым фокусом интересов когнитивистов 90-х— 2000-х годов.

Вторым важным моментом становится изучение и особый интерес к влиянию эмоций человека на познание, к переработке эмоционально окрашенной информации. Оказывается, что ее закономерности могут быть совсем иными по сравнению с переработкой абстрактно-символьной информации, с доказательством логических теорем, и переживаемые нами эмоции могут очень существенно повлиять, иногда даже исказить наше представление о действительности.

Наконец, когнитивисты начинают обращать внимание на то, что человек никогда, по большому счету, не существует один. Рождаясь, он уже оказывается среди других людей, в социуме, и его познание, по сути дела, развивается как взаимодействие с другими людьми, с окружающими: например, взаимодействие ребенка со взрослым через совместный фокус внимания, когда мама и ребенок смотрят на один предмет, мама называет этот предмет, ребенок усваивает соответствующее слово. Более того, люди склонны определенным образом строить представление о других людях, об их знаниях, мотивах и т.д., и закономерности социального познания, понимания того, что происходит в голове у другого человека, тоже «ящичными» моделями не описываются.

Наконец, люди существуют в определенной культуре, среди определенных культурных практик: практик образовательных, практик профессиональных, — и их познание, как я через некоторое время постараюсь показать, очень сильно зависит от особенностей этих практик. То есть, по сути дела, когнитивисты начинают обращаться, выходя за пределы исходной компьютерной метафоры познания, к изучению самых разных аспектов взаимодействия человека с окружающим миром. Но поверх этой тенденции ложится еще одна, существенно более мощная.

Вторая тенденция заключается в том, что этот интерес к специфически человеческому в познании совпадает по времени с бурным развитием методов изучения мозга, стремительным развитием нейронаук и соответствующих технологий. Например, это методы, связанные с локализацией тех или иных процессов в коре головного мозга человека, такие как функциональная магнитно-резонансная томография — метод, основанный на регистрации локального мозгового кровотока и позволяющий установить, какие зоны мозга вовлечены в процесс решения той или иной задачи; или старый, но, опять же, активно развивающийся метод электроэнцефалографии, показывающий изменения электрической активности мозга при решении различных задач; ну и, наконец, методы воздействия на работающий мозг в процессе решения задачи, который позволяет понять, зачем нужна та или иная зона мозга: если мы обнаружили, что при решении какой-то задачи активирована, например, лобная кора, мы можем в ходе решения этой задачи воздействовать на лобную кору и установить, мешает это человеку решать задачу, или он может продолжать ее решение.

То есть, с одной стороны, в когнитивные науки приходят дисциплины гуманитарного и общественного цикла, такие как социальная психология, экономика, юриспруденция, эстетика; с другой стороны, начинают абсолютно доминировать нейронауки. То есть на самом деле, в те же самые 2000 годы, когда когнитивисты начинают интересоваться специфически человеческим в познании, нейробиологи, вооружившись новыми методами, начинают искать корреляты самых разных психических и когнитивных процессов в коре головного мозга человека, то есть локализовывать самые разные функции.

Это даже в шутку назвали «неофренологическим бумом». Почему? Потому, что в самом конце XVIII века существовала такая область лженауки под названием «френология», продвигаемая Францем Галлем, который предполагал, что человеческие способности можно определять, ощупывая череп. Потому что если у человека развивается какая-то способность, то у него разрастается соответствующая этой способности зона мозга, подпирает череп изнутри, получается шишка. Может быть «шишка щедрости», «шишка мудрости», «шишка чадолюбия», и так далее. И вот Галль составлял такие сложные карты способностей в мозге человека. В самом начале 2000-х мы видим ровно то же самое, только вместо шишек фигурируют области мозга (которые локализуются с использованием метода, прежде всего, функциональной магнитно-резонансной томографии), избирательно связанные с обработкой информации о разных типах стимулов, с переживанием различных эмоций, выполнением различных действий, и так далее, и тому подобное.

Апофеозом этого направления я считаю исследование знаменитого нейробиолога 1970-х Семира Зеки, который в 2000-х опубликовал несколько работ, связанных с локализацией в мозге человека «центров влюбленности» и «центров материнской любви». Как это сделать? Человеку в томографе мы можем показать, например, фотографию его любимого человека. Понятно, что будет много зон мозга работать. А если мы покажем фотографию просто знакомого человека и вычтем активацию мозга при восприятии знакомого человека из активации мозга при восприятии любимого человека, в качестве разности мы как раз, считает Зеки, получим центры влюбленности. Ну или, точно так же, центры материнской любви: сравниваем активацию мозга женщины при восприятии изображения ее собственного ребенка и любого другого ребенка, — получаем замечательно красивую россыпь зон. И возникает следующий вопрос: ну и что? Узнали ли мы что-то новое о материнской любви?

Или вот другой мой любимый пример в логике новой френологии — это Шнобелевская премия 2017 года за описание зон мозга человека, избирательно активирующихся при переживании отвращения к сыру. Серьезная статья, опубликованная в серьезном журнале, но, опять же, куда мы при этом можем дальше двигаться?

На самом деле, оказывается, что двигаться-то очень даже есть куда, потому что именно в этой логике была предпринята первая успешная попытка установления контакта с человеком, находящимся в вегетативном состоянии, фактически — состоянии комы, при котором человек не демонстрирует признаков сознания. Оказалось, что если пациента в вегетативном состоянии поместить в томограф и давать инструкции, связанные с избирательной активацией тех или иных зон мозга, у такого пациента (на самом деле, примерно у 10% пациентов, как показывают исследования, но и это много) может наблюдаться активация как у группы нормы. Например, человеку говорят: «Представьте, что вы ходите по своему дому». Вот — активация мозга в норме, вот — активация мозга больной в вегетативном состоянии. Или: «Представьте, что вы играете в теннис». Опять же, мы видим сходную активацию и в норме, и в вегетативном состоянии. Следующий шаг — мы можем использовать активацию мозга в качестве ответа «да» или ответа «нет». Говорим человеку: если вы хотите сказать «да», представьте, что ходите по дому; если хотите сказать «нет», представьте, что играете в теннис.

И исследования показали, что наивный экспериментатор по активности мозга может правильно расшифровать ответы пациента, относящиеся к его биографии. Но, к сожалению, эти исследования после 2010 года были свернуты, потому что взорвались два сообщества. С одной стороны — философы, которые вновь вернулись к вопросу: а что такое тогда сознание, если мы задаем человеку без сознания вопросы, и он нам на них отвечает? Но самое страшное — взорвались юристы, для которых коммуникация с человеком без сознания, по сути дела, сформировала беспрецедентный кейс по поводу наследства или волеизъявления, касающегося продолжения пребывания в этом вегетативном состоянии. Но, тем не менее, метод оказался вполне перспективным не только в плане локализации.

Ну, собственно, эти две встречные тенденции внутри когнитивной науки порождают множество новых интересных междисциплинарных областей. Берем экономику как социальную науку, берем методы нейронауки — на стыке получаем нейроэкономику, которая начиналась как наука, связанная с изучением мозговых коррелятов потребительского выбора или принятия решения, а постепенно стала областью, которая претендует на объяснение любого выбора и даже свободы воли. А выбор есть везде: вот у нас тут есть двойственное изображение: можем видеть профиль, можем видеть вазу, — и это выбор. Помочь или не помочь человеку, учесть или не учесть мнение группы — это все выбор. А как только нейроэкономика получила в руки инструменты воздействия на мозг в ходе решения задачи, то есть вмешательства в мозговую активность, она от исследования коррелятов, или сопряженной активации головного мозга, перешла к исследованию механизмов, потому что если мы посредством воздействия на ту или иную область мозга временно разрушаем функцию, мы имеем возможность обоснованно доказать, что мы нашли механизм.

Ну и наконец две самые мощные области когнитивных исследований, которые складываются в двухтысячные годы, это изучение мозговых механизмов обработки социальной информации и мозговых механизмов взаимодействия между людьми, — область, которую подстегнуло развитие представлений о «зеркальных нейронах» как мозговых механизмах подражания и понимания намерений другого человека. И, наконец, область культурной нейронауки, которая, по сути дела, становится новейшим трендом 2010-х гг., — междисциплинарные исследования на стыке очень далеких друг от друга областей изучения структуры и функционирования индивидуального мозга и изучения складывающихся в истории культурных традиций, культурных практик, которые антропология в течение десятилетий и даже столетий изучала с использованием этнографического метода.

Что стоит за этой тенденцией? По сути дела, за ней стоит интерес к эволюции мозга и одновременно к эволюции культуры, которые, как показывают исследования, в общем-то невозможно друг от друга отделить, потому что если мы смотрим на человеческую эволюцию на протяжении всей истории становления человека как вида, мы видим, что в какой-то момент человечество начинает создавать культурные орудия, культурные практики, определенную культурную среду, и эта культурная среда, в свою очередь, отдает предпочтение людям, которые обладают определенными генами, они эффективнее в ней выживают и дальше её трансформируют, новая среда дальше отдает предпочтение носителям определенных генов — и мы уже не можем разъединить культурную и биологическую эволюцию, мы вынуждены говорить о коэволюции мозга и культуры, тем самым мозг, по сути дела, становится таким немножко искусственным порождением культуры, создаваемой людьми, «био-артефактом», что доказывается экспериментальными исследованиями, которые демонстрируют, что даже работа одиночных нейронов в коре мозга обезьянки может меняться под влиянием использования орудий. Например, у обезьянки в мозге есть отдельные нервные клетки, которые реагируют на зрительную стимуляцию в области лапки. Если обезьянке дать попользоваться орудием — длинной палочкой, которой она придвигает к себе приманку — оказывается, что вот этот один нейрончик начинает отвечать, активироваться, уже не только на область лапки, но и на область, занимаемую орудием. То есть поле, область, из которой одна нервная клетка собирает информацию, модифицируется — орудие в буквальном смысле выступает для мозга как продолжение конечности. А если обезьянке дать подержать палочку, ничего ею не делая, то ничего и не будет, тогда нейрон будет продолжать реагировать только на область лапки. А теперь представьте себе, что происходит в нашем мозге со всеми нашими культурными предметами, гаджетами, и так далее.

На самом деле, конкретных исследований того, как человеческие практики перестраивают мозг, очень много. Этим как раз и занимается область, которая получила название культурной нейронауки.

Вот красивый, довольно давний пример из 1990-х: японские исследователи попытались понять, каким образом способ обучения математике влияет на локализацию функции счета в мозге. Нас с вами как учили считать, через речь, да? Мы проговариваем цифры, мы складываем, озвучивая примеры, подсказывая себе, какие цифры мы должны написать. В итоге счет у нас оказывается сдвинут в левое полушарие, туда же, где преимущественно находятся речевые зоны. Как учат считать в японских школах? С использованием инструмента под названием «соробан», это такой большой абак, посредством которого японцы осуществляют счетные операции — сначала посредством реального передвижения костяшек, потом — в образном плане.

В итоге у взрослого японца счет сдвинут в правое полушарие, которое в большей степени вовлечено в образные преобразования, в образные функции. Что из этого следует: что если мы возьмем ситуацию переговоров японца с европейцем, европеец проигрывает по всем статьям, — он и считает, и разговаривает (а следовательно — разворачивает речевое мышление) преимущественно с опорой на левое полушарие, в то время как японец для счета использует преимущественно правое, а для выстраивания речевых высказываний преимущественно левое, что, собственно говоря, доказывается и исследованиями с использованием функциональной МРТ. Однако оказалось, что не только такие функциональные перестройки, связанные с тем, какие зоны мозга больше вовлекаются в работу, связаны с культурными практиками, но и перестройки чисто структурные, то есть структура и объем определенных областей мозга меняется в зависимости от того, что человек осваивает.

Здесь самый яркий случай — Шнобелевская премия 2006 года, впрочем, очень серьезная, связанная с изучением мозга лондонских таксистов с использованием томографии: даже не функциональной, показывающей, какие зоны мозга вовлекаются в работу, а структурной, показывающей форму и объем разных зон мозга. Оказалось, что у лондонских таксистов задние отделы гиппокампа — зоны мозга, связанной с ориентацией в пространстве и с обеспечением работы памяти — больше, чем у обычных людей. Что такое лондонский таксист в те времена, в начале двухтысячных? Это такая особая каста людей, которые четыре года учатся, сдают сложнейший экзамен по навигации в Лондоне (как приехать из одной произвольной точки города в другую) и вынуждены хранить огромное количество пространственной информации и умело ее использовать. И это увеличивает задние отделы гиппокампа лондонских таксистов. Проверили, насколько влияет опыт вождения, сравнили с водителями автобусов, которые имеют тот же стаж, но ездят по одному и тому же маршруту, — у водителей автобуса мозг как у обычных людей, у таксистов задние отделы гиппокампа больше. Сравнили водителей, которые сдали и которые не сдали экзамен по итогам четырехлетнего обучения. У тех, кто сдал экзамен, задние отделы гиппокампа больше, у тех, кто не сдал, такие же, как у обычных людей. А сделав замеры в начале и в конце обучения, показали, что наиболее правдоподобная причина изменений — именно приобретение соответствующего опыта.

И, несмотря на то, что когнитивная наука началась как область изучения процессов переработки информации человеком по аналогии с компьютером, по аналогии с техническим устройством, сейчас самое интересное в ней происходит на стыке исследований эволюции, исследований мозга и исследований общества и культуры. Обо всем этом так или иначе можно прочитать в множестве разнообразных книжек, которые чем дальше, тем больше издаются в том числе и на русском языке, в частности — из того, что делали мы с коллегами — это две хрестоматии «Когнитивная психология: история и современность», «Горизонты когнитивной психологии». Не пугайтесь, что там слово «психология», это были запросы издателя, на самом деле мы туда положили самую настоящую когнитивную науку, то есть междисциплинарные исследования, наводящие мосты между разными разделами знания.

Я благодарю всех за внимание и в течение нескольких минут, которые у нас остались, постараюсь ответить на вопросы.

Борис Долгин: спасибо, спасибо большое.

Слушатель: спасибо! Короткий вопрос: проводилась ли функциональное исследование гиппокампа лондонских таксистов до начала обучения и тех, кто бросил свою профессиональную деятельность? Происходит ли реэволюция? спасибо.

Мария Фаликман: Да, это очень частый вопрос. К сожалению, нет пока исследований людей, которые перестали заниматься извозом или полностью перешли на использование навигатора. Это все довольно новые работы, проблема в том, что работы просто новые. Но лонгитюды были, то есть вот замер на входе и замер на выходе показывает, что успешность обучения прямо связана с перестройками. Но вопрос о том, что происходит, когда человек уходит на пенсию, задают все, а ответа Элеонор Магуайр и ее группа пока не опубликовали.

Слушательница: скажите пожалуйста, вот допустим человек математик-программист… может ли он перепрограммировать свой мозг, если, допустим, он уехал жить в Лос-Анджелес или в другую зарубежную страну?

Мария Фаликман: Я бы не стала говорить «перепрограммировать свой мозг», но я бы сказала, что человек может научиться чему угодно. Обучение будет обеспечиваться перестройками функциональных систем мозга, то есть взаимосвязей между разными областями коры, и, как мы видим, изменениями самой коры и даже кое-где подкорковых структур. Но чем старше человек, тем, соответственно, медленнее и сложнее будет проходить обучение. Хотя оно возможно в любом возрасте. Я очень люблю исследование американских пенсионерок в возрасте за 80, которые начали медитировать, и у них было выявлено характерное уплотнение лобных отделов коры головного мозга. То есть мозг меняется на протяжении всей жизни, просто, условно говоря, до 25 лет он меняется легче и мы учимся легче, чем в более зрелом возрасте.

Слушатель: Спасибо большое за очень познавательную лекцию. Скажите, пожалуйста, что думает нейронаука о ЕГЭ? Или кейс с лондонскими таксистами подходит и в данном случае?

Борис Долгин: То есть можно ли предположить, что обучение на тестах будет как-то менять нашу структуру?

Мария Фаликман: Для начала — я не нейробиолог, я исходно психолог, хотя умею разговаривать «на разных языках», опять же по причине большого опыта междисциплинарных взаимодействий… Вопрос про ЕГЭ мне задают очень часто, и я бы сказала, что этот вопрос в большей степени отбрасывает нас в область формирования условных реакций, в область закрепления правильных ответов в результате многократной тренировки. Ну и, естественно, когда старшеклассник вынужденно бросает учиться и начинает отрабатывать правильные ответы на задаваемые ему вопросы, это так или иначе определяет формирование — с точки зрения психологии — его представлений о мире, а с точки зрения нейронауки — функциональных связей в коре его головного мозга.

Борис Долгин: Я позволю себе, может быть, последний вопрос. Когнитивные науки начинались с, скажем так, схождения с компьютерными науками, компьютерные науки изменились, область искусственного интеллекта меняется, уходит от алгоритмов, приходит к машинному обучению и нейросетям… Можно ли ожидать нового сближения, сближения на новом этапе?

Мария Фаликман: Оно уже происходит, да. Это та часть лекции, которой я пожертвовала, понимая, что не успеваю обо всём рассказать, но я примерно с этого и начала: новые модели человеческого познания — это модели, связанные с обучением искусственных нейронных сетей, а искусственные нейронные сети — это такие тоже сложные компьютерные модели, по сути представляющие собой множество простых элементов с множеством связей, которые настраиваются в процессе обучения. И вот эти новые победы искусственного интеллекта в области машинного перевода, игры в покер, го и так далее — это достижение именно искусственных нейронных сетей. Но если честно, то это — область, скорее уводящая от исследований, чем представляющая собой исследования как таковые. Потому что мы получаем работающую модель, которая обыгрывает человека в покер, мы имеем некоторые общие представления об архитектуре той сети, на которой это получилось; мы не очень знаем, насколько эта архитектура соответствует архитектуре человеческого мозга, и мы вообще не знаем, как эта сеть работает. Она настроила коэффициенты связи между элементами так, чтобы достигать результата. Здесь есть совершенно потрясающие прорывы в области практики, но я бы сказала, что самое перспективное направление именно академических исследований — это направления, связанные с методологией повреждения искусственных нейронных сетей. Когда мы строим сеть, она решает определенную задачу, мы в каком-то месте в соответствии с нашей гипотезой ее ломаем, и она либо перестает, либо не перестает решать задачу, а мы уточняем представления о познании.

Источник