НОАМ ХОМСКИ: ГДЕ ОШИБСЯ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Автор предисловия и вопросов интервью - Ярден Кац, Массачусетский технологический институт.  Оригинал статьи опубликован в The Atlantic, ноябрь 2012.


Если расположить по порядку самые сложные интеллектуальные задачи, стоящие перед цивилизацией, то самая трудная заключается в «расшифровке» самих себя – в понимании внутреннего устройства человеческого мозга, и как оно закодировано в нашем геноме. Разнородные области знания, пытающиеся решить эту задачу – от философии и психологии до информатики и нейронаук – так и не смогли договориться о едином верном подходе.

В 1956 году ученый-кибернетик Джон Маккарти придумал термин «искусственный интеллект» (ИИ) для описания исследования человеческого разума путем реализации основных его особенностей в компьютере. Конструирование умной системы с помощью аппаратных средств вместо «биологических аппаратных средств», состоящих из клеток и тканей, стало бы высшим проявлением разума, и имело бы очевидное практическое применение при создании умных устройств и даже роботов.

Однако некоторых коллег Маккарти из других научных областей больше интересовало то, как разум (интеллект) реализуется в людях и млекопитающих. Ноам Хомски со своими коллегами работал над наукой о мышлении и процессах познания. Эта область направлена на исследование образов и правил, лежащих в основе наших умственных и познавательных способностей. Хомски и его коллеги вынуждены были опровергать господствующую в то время теории об основной
поведенческой парадигме, которую защищал психолог из Гарвардского университета Б.Ф. Скиннер. Эта теория низводила поведение животных к простому набору ассоциаций между действием и последующей наградой или наказанием. Развенчание этой психологической теории Скиннера обычно связывают с критическим анализом книги Скиннера «Вербальное поведение», которое Хомски опубликовал в 1967 году. В этой книге Скиннер попытался объяснить лингвистические способности с помощью принципов бихевиоризма.

Скиннер подчеркивал исторические ассоциации между стимулом и реакцией животного – этот метод можно легко представить в виде эмпирического статического анализа, предсказывающего будущее на основании прошлого. С другой стороны, Хомски в своем концептуальном языке делал акцент на сложности внутренних образов, закодированных в геноме, и их вызревании, в свете верных данных, в сложную вычислительную систему, которую нельзя разбить или разложить на значимые ассоциативные ряды. Бихевиористские принципы ассоциаций не могут объяснить богатство лингвистических знаний, наше бесконечное творческое их использование, или то, насколько быстро дети его приобретают при минимальном и несовершенном контакте с языковой средой. «Языковые способности», по выражению Хомски, – это часть генетически заложенной у человека программы. Она во многом подобна зрительной системе, иммунной системе, системе кровообращения, и нам нужно подходить к ее изучению так же, как мы подходим к изучению этих более «приземленных» биосистем.

Дэвид Марр, нейробиолог и коллега Хомски по МТИ, определил общие рамки для изучения сложных биосистем (наподобие мозга) в своем влиятельном труде «Мировоззренческая концепция» [Vision]. Анализ языковых способностей Хомски более или менее вписывается в эти рамки. По мнению Марра, сложную биосистему можно понимать на трех разных уровнях. Первый уровень («уровень вычислений») описывает ввод и вывод, которые определяют задачу выполняемую системой. В случае визуальной системы, ввод может быть образом, спроектированным на сетчатку, а вывод – определение мозгом объектов в том образе, который мы видим. Второй уровень («уровень алгоритмов») описывает процедуру, посредством которой ввод преобразуется в вывод, то есть, как образ, возникающий на сетчатке глаза, может обрабатываться для выполнения задачи, описанной на вычислительном уровне. Наконец, на третьем уровне («уровне реализации») описывается, каким образом наш биологический аппарат на клеточном уровне реализует процедуру, описанную на уровне алгоритмов.

Метод, используемый Хомски и Марром для понимания того, как наш разум добивается тех целей, которые перед ним стоят, не имеет ничего общего с бихевиоризмом. Акцент здесь делается на внутреннюю структуру системы, которая позволяет ей выполнять задачу, а не на внешнюю ассоциацию между прошлым поведением системы и окружающей средой. Цель в том, чтобы исследовать «черный ящик», приводящий систему в действие и описать его внутренние механизмы – подобно тому, как кибернетик может объяснить принципы действия умело разработанного программного обеспечения в настольном компьютере.

На сегодня история когнитивной науки о процессах познания – это история безоговорочного торжества метода Хомски над бихевиористской парадигмой Скиннера. Ее иногда называют «когнитивной революцией», хотя сам Хомски не приемлет эту фразу. Хотя это описание, быть может, достаточно точно отражает процессы, происходящие в когнитивной науке и психологии, бихевиористское мышление далеко еще не отмерло в родственных дисциплинах. Бихевиористские экспериментальные парадигмы и ассоциативные объяснения поведения животных привычно используются нейробиологами, которые стремятся исследовать нейробиологию поведения на лабораторных животных, таких как грызуны. В этом случае системная трехмерная структура, разработанная Марром, не применяется.



- Хочу начать с фундаментального вопроса. В самом начале появления ИИ многие были оптимистично настроены по поводу прогресса в этой области, но этот оптимизм оказался не совсем оправданным. Почему развитие оказалось таким нелегким? Когда спрашиваешь у нейробиологов, почему так сложно понять работу мозга, в ответ слышишь ответы, которые вряд ли могут удовлетворить пытливый ум. Они говорят что-то вроде того, что в мозге миллиарды клеток, и мы не можем одновременно фиксировать все сигналы, которые от них поступают, и тому подобное.

Хомски: В этом есть доля правды. Если взглянуть на научный прогресс, науки можно представить в виде континуума, но он разделяется на отдельные области. Самый быстрый прогресс наблюдается в тех науках, которые изучают простейшие системы. Если взять, к примеру, физику, то мы видим в этой области колоссальный прогресс. Но одна из причин в том, что у физиков есть преимущество, которого нет у других отраслей знания. Если они сталкиваются со слишком сложными явлениями, они просто передают их другим специалистам.

Как это делают химики?

Хомски: Если молекула слишком велика, ее поручают исследовать химикам. В свою очередь, химики, когда молекула или система становится слишком сложной, передают ее биологам, а биологи, дойдя до предела своих возможностей, передают систему для дальнейшего исследования психологам и, в конечном итоге, она оказывается у литературного критика. Так что нейробиологи во многом правы. Однако, вполне возможно, и я достаточно убедительно доказываю это в своих трудах, хотя нейробиологам это не нравится, что нейробиология шла неверным путем последнюю пару веков. Недавно в печати появилась книга, написанная очень хорошими когнитивными нейробиологами, Рэнди Галлистелом [Randy Gallistel] и Кингом. Они приводят довольно правдоподобные, на мой взгляд, аргументы, что нейробиология попала в нездоровую зависимость от ассоциативности и родственных теорий, объясняющих поведение людей и животных. В результате они ищут то, что имеет какое-то родство с ассоциативной психологией [associationist psychology].

Что-то вроде хеббианской пластичности? [Примечание редактора: теория, приписываемая Дональду Хеббу /Donald Hebb/, согласно которой ассоциации между стимулом в окружающей среде и реакцией на этот стимул может кодироваться путем усиления синаптических связей между нейронами.]

Хомски: Да, что-то вроде усиления синаптических связей [synaptic connections]. Галлистел много лет доказывает, что если мы хотим исследовать свойства мозга, то для начала нужно, подобно Марру, задаться вопросом: какие функции он выполняет? Его большего всего интересуют насекомые. Если вам хочется исследовать неврологию муравья, например, спросите себя, что делает муравей? Оказывается, муравьи делают довольно сложные вещи, такие как «континуальное интегрирование» [path integration]. Если взглянуть на пчел, то их навигация связана со сложными расчетами, включающими положение солнца и т.д. Он доказывает, что если взглянуть на процессы познания человека и животных, то речь идет о вычислительных системах. Следовательно, нужно исследовать единицы или механизмы вычисления. Подумайте, скажем, о машине Тьюринга – простейшей разновидности вычислений. Вам нужно найти простейшие составляющие, имеющие такие свойства как «чтение», «письмо» и «адрес». Это минимальная вычислительная единица, которую надо искать в мозгу. Их не удастся найти, если искать только усиление синаптических связей или свойств поля [field properties] и т.д. Необходимо начать с поиска того, что там имеется, и что там работает, но это можно увидеть и понять только на высшем уровне Марра. Первый вопрос, который возникает: есть ли какой-то смысл в понимании «зашумленных» данных [noisy data]? Есть ли какой-то смысл в понимании того, что происходит за окном?

Эти зашумленные данные нас просто бомбардируют, согласно Марру, мы все время сталкиваемся с этими данными, начиная с образов, возникающих на сетчатке глаза, до…

Хомски: Это верно, но при этом он пишет следующее: давайте зададимся вопросом, как биосистема выбирает из этого шума то, что действительно важно. Сетчатка глаза не пытается дублировать тот шум, который организм улавливает. Она говорит: буду искать то-то и то-то. То же самое происходит с развитием языковых навыков. На новорожденного младенца обрушиваются всевозможные шумы, которые Уильям Джеймс охарактеризовал как «расплывчатый свет и разнородное гудение» [“a blooming and buzzing confusion”], просто хаос. Если с аналогичным шумом столкнется, скажем, человекоподобная обезьяна, котенок или птица, все на этом заканчивается.

Однако малыш, родившийся у людей, каким-то образом сразу и рефлексивно выхватывает из этого шума рассеянный вербальный подраздел. Это первый шаг. Как ему удается это сделать? Он не прибегает к помощи статистического анализа, потому что человекообразная обезьяна способна выполнять аналогичный вероятностный анализ. Он ищет нечто особенное. Поэтому психолингвисты, нейролингвисты и другие специалисты пытаются выявить конкретные части вычислительной системы и нейрофизиологии, которые каким-то образом настраиваются на восприятие конкретных аспектов окружающей среды. Оказывается, фактически образуются нервные цепи или рефлекторные дуги [neural circuits], которые реагируют на конкретные виды ритма, проявляющиеся в языке, такие как длина слогов и т.д. Получены доказательства, что ритмические структуры – это первое, что ищет и вычленяет из общего шума мозг младенца.

Возвращаясь к Галлистелу и Марру, можно сказать, что внутри него существует некая вычислительная система, которая говорит: «хорошо, вот что я со всем этим делаю» и, допустим, к девяти месяцам типичный младенец отвергает, устраняет из своего репертуара фонетические различия, которые не используются в его языке. Изначально любой младенец настроен на восприятие любого языка, но, скажем, японский младенец к девятимесячному возрасту уже не реагирует на разницу между звуками «р» и «л», поскольку его мозг отсеивает эту звуковую пару. Нейролингвистическая система в мозге младенца сортирует множество разных вариантов и ограничивает их теми, которые встречаются в родном языке, а их не так уж и много. Можно придумать несуществующий язык, в котором младенец никогда не сможет вычленить нужные звукосочетания, но тогда он начнет искать нечто другое – например, способы проникнуть в более абстрактный язык.

Сегодня у нас есть убедительные доказательства того, что такая простая вещь как линейная последовательность – что чему предшествует – не проникает в синтаксические и семантические вычислительные системы, поскольку они просто не предназначены для того, чтобы искать линейную последовательность. Таким образом, вы с удивлением обнаруживаете, что вычисляются более абстрактные представления о расстоянии, а не линейное расстояние, и тому имеются также некоторые нейрофизиологические подтверждения. Если изобрести, например, искусственные языки, использующие линейную последовательность, и учить им людей – например, если для отрицания там нужно будет что-то делать с третьим словом – то люди смогут разгадать эту загадку, но при этом у них не будут задействованы стандартные нейролингвистические участки мозга. То есть, они будут воспринимать это как загадку, а не языковую проблему. Нужно больше исследовать эту область, но…

Вы считаете это убедительным доказательством, что активация или отсутствие активации участка мозга…

Хомски:... Это одно из доказательств, но нужны, конечно же, и другие. Это своего рода лингвистическое доказательство. Посмотрите, как работает язык: ведь мы не используем такую вещь, как третье слово в предложении. Возьмем простой пример типа «Инстинктивно, орлы, которые летают, плавают». Слово «инстинктивно» относится к глаголу «плавают», но не к глаголу «летают», хотя мы получаем в таком случае очевидную бессмыслицу. И это все происходит на рефлекторном уровне. Наречие «инстинктивно» не ищет ближайший к нему глагол и не стремится к нему. Оно ищет наиболее структурно заметный глагол. Это гораздо более трудный тип вычисления, но единственный, которым пользуется наш мозг. Линейная последовательность – очень легкий тип вычислений, но он никогда не используется. Имеется масса подобных доказательств, и есть также немного нейролингвистических доказательств, но они указывают в одном и том же направлении. Если вы переходите к более сложным конструкциям, то там вы будете находить все больше и больше подобных примеров.

Мне кажется, что Марр неявно говорит о том, что невозможно работать на всех трех уровнях параллельно (вычислительном, алгоритмическом и реализационном), что процесс должен происходить сверху вниз, а это очень жесткое требование, поскольку наука обычно так не действует.

Хомски: Думаю, он никогда бы не сказал, что оно должно быть жестким. Например, лучшее понимание задействованных механизмов может заставить вас изменить свое представление о вычислении. Но существует что-то вроде логического предшествования, хотя в науке этого нет – там все происходит одновременно. Но, наверно, в самых общих чертах вы правильно обрисовали картину, хотя надо упомянуть, что концепция Марра предназначалась для систем ввода…

Систем обработки информации…

Хомски: Да, таких как способность предвидения. Мы собираем какие-то данные из внешнего мира, обрабатываем их в разуме и приходим к каким-то выводам. Этот механизм не слишком хорошо приспособлен для когнитивных, познавательных систем. Например, если взять вашу способность производить в уме арифметические операции…

Она развита у меня очень-очень плохо, но да…

Хомски: Хорошо (смеется), но это внутренняя способность: ваш мозг устроен наподобие устройства контроля или машины Тьюринга, и у него есть доступ к внешним данным, таким как память, время и т.д. И в принципе Вы могли бы умножить все что угодно, но не на практике, конечно. Если Вы хотите лучше понять свою внутреннюю систему, то иерархия Марра вряд ли Вам сильно поможет. Можно говорить о вычислительном уровне. Быть может, правила, которым я следую, – это аксиомы Пеано (примечание редактора: математическая теория [по имени итальянского математика Джузеппе Пеано], описывающая стержневой набор базовых арифметических правил и натуральных чисел, из которого можно вывести множество полезных арифметических фактов), или нечто другое.

Так или иначе, все это происходит на вычислительном уровне. Теоретически, хотя мы не знаем, каковы механизмы, можно говорить о нейрофизиологическом уровне. Никто не знает почему, но алгоритмического уровня в действительности нет, потому что не существует расчетов или вычислений знания – мы имеем дело просто с системой знаний. Не существует никакого алгоритма для понимания системы знаний, потому что нет процесса как такового. Вот использование системы знаний – это уже процесс, но это нечто иное.

Но, поскольку мы совершаем ошибки, не указывает ли это на то, что процесс дает сбой?

Хомски: Это процесс использования внутренней системы, но внутренняя система сама по себе – это не процесс, поскольку у нее нет алгоритма. Взять, к примеру, обычную математику. Аксиомы Пеано и правила логических выводов определяют все арифметические вычисления. Однако, алгоритма не существует. Если спросить, как эти правила применяются теоретиками, то это можно сделать разными способами. Быть может, кто-то начинает не с аксиом, а с правил логических выводов. Вы берете теорему и смотрите, смогу ли я определить лемму, будет ли она действовать, а затем смотрите, смогу ли я чем-то обосновать эту лемму. Наконец, Вы получаете доказательство, которое является геометрическим объектом.

Но это принципиально иная деятельность, чем если просто складывать небольшие числа в уме, для чего непременно нужен какой-то алгоритм.

Хомски: Вовсе необязательно. В обоих случаях существует алгоритм процесса, но не алгоритм для самой системы – это категориальная ошибка. Вы не задаетесь вопросом, какой процесс определяется аксиомами Пеано и правилами логических выводов, потому что тут нет никакого процесса. Может существовать процесс их применения, и этот процесс может быть довольно сложным; но то же самое можно сказать о Ваших расчетах. Для этого нужна внутренняя система, которая имеется у Вас в разуме, и вопрос о процессе здесь не возникает. Но вопрос о процессе возникает, когда речь заходит о способах использования этой внутренней системы, поскольку Вы можете выполнять умножение или сложение разными способами. Например, складывая 7 и 6, можно воспользоваться таким алгоритмом: «сколько нужно прибавить к 7, чтобы получить 10? Три. От шестерки у меня осталось тоже три; значит к 10 нужно затем прибавить еще 3, и мы получаем 13. Это один из алгоритмов сложения, которому меня научили в детском саду, один из способов складывать числа. Но существуют и другие способы сложения – нельзя говорить о правильных алгоритмах. Это алгоритмы для выполнения процесса, которые имеются в когнитивной системе Вашего головного мозга. Но вопрос об алгоритмах не возникает, когда речь идет о самой этой системе. Можно спрашивать о вычислительном уровне или об уровне механизмов, но уровня алгоритмов для этой системы не существует.

То же касается и языка. Язык – это что-то вроде арифметической способности. Внутри Вас существует система, которая определяет звуки и смысл бесконечного многообразия возможных предложений. Но вопроса о том, что представляет собой алгоритм, не возникает – точно так же, как не возникает вопроса о том, какая формальная арифметическая система подсказывает Вам, как нужно доказывать теорему. Использование системы – это процесс, который можно исследовать с точки зрения уровней Марра. Но важно хорошо понимать эти различия концептуально.

Переход от теории на вычислительном уровне, такой как аксиомы Пеано, к третьему уровню Марра – представляется грандиозной задачей…

Хомски: механизмы...

...механизмы и их внедрение...

Хомски: О, да, конечно…

…по крайней мере, без алгоритма.

Хомски: Не думаю, что это верно. Возможно, информация о том, как используется система, скажет Вам что-то о механизмах. Но какой-то более высокий разум, – быть может, выше нашего – понял бы, что имеется внутренняя система, у которой есть физиологическая основа, и что можно исследовать физиологическую основу этой внутренней системы, даже не глядя на процесс, посредством которого она используется. Да, изучение процесса, посредством которого она используется, может дать Вам полезную информацию о том, как нужно действовать. Но концептуально это уже другая проблема. Это вопрос о лучшем способе изучения чего бы то ни было. Быть может, лучший метод изучения связи между аксиомами Пеано и нейронами – это наблюдение за тем, как математики доказывают теоремы – но лишь потому, что таким образом Вы сможете раздобыть полезную информацию.

Фактически, конечным результатом этого наблюдения будет объяснение системы, имеющейся в мозгу, и ее физиологической основы, безотносительно к какому-либо алгоритму. Алгоритмы раскрывают процесс ее использования, и это позволит Вам получить ответ на поставленные вопросы. Например, наклонные плоскости нечто говорят Вам о скорости падения, но если посмотреть на законы Ньютона, то в них ничего не говорится о наклонных плоскостях.

<…>

Хотел бы завершить наш разговор одним вопросом о философии науки. В одном из последних интервью Вы сказали, что один из аспектов этой проблемы – недостаточное внимание, уделяемое учеными тому, что они задумывают или замышляют. Вы упоминали о своем опыте преподавания курса философии науки в МТИ. Студенты читали, скажем, Уилларда ван Ормана Куина [Willard van Orman Quine]. Все это в одно ухо влетало, в другое вылетало, и они возвращались к тем научным исследованиям, к которым были привычны. Какое актуальное новое понимание может дать философия науки ученым, пытающимся, допустим, объяснить биологию, чтобы они научились объяснять явления, а не просто описывать их другими словами? Что Вы ждете от такой объяснительной теории, и какие новые откровения помогают вести науку в этом направлении, а не в направлении бихевиоризма, что происходит у нейропсихологов и нейробиологов почти на интуитивном уровне?

Хомски: Философия науки – это очень интересная область, но не думаю, что она действительно вносит вклад в науку – она учится у науки. Она пытается понять, чем занимаются разные научные дисциплины, почему они чего-то достигают, что можно считать неверным путем – можно ли это как-то кодифицировать и понять. Мне кажется, ценнее и важнее история науки. Из истории науки можно почерпнуть ценную информацию для формирующихся отраслей знания – особенно, когда понимаешь, что в зарождающихся когнитивных науках мы пока еще находимся на догалилеевской стадии развития. Мы не знаем, чего ищем, точно так же, как не знал этого Галилей, и из этого можно вынести много ценных уроков. Например, поразительный факт о древней науке: не только о самом Галилее, но и о том прорыве. А ведь это было всего лишь признанием того, что простые вещи могут озадачивать. Возьмем, к примеру, эту чашку воды, которую я держу, и допустим, что вода кипит [кладет руку на чашку], пар будет подниматься, но если руку убрать, то чашка упадет. Почему чашка падает вниз, а пар поднимается вверх? На протяжении тысячелетий существовал удовлетворительный ответ на этот вопрос: каждая субстанция стремится к своему естественному состоянию или положению.

Как в аристотелевой физике?

Хомски: Это и есть аристотелева физика. Лучшие и величайшие ученые думали, что ответ в этом, но Галилей был озадачен. Как только вы позволяете себе чем-то озадачиться, как сразу обнаруживаете, что интуиция Вас подвела. Это как падение большой и малой массы и т.д. Интуиция подводит вас во всем – загадки всюду, куда бы ни упал ваш взгляд. Это нечто, что можно узнать из истории науки. Вернемся к тому примеру, который я уже приводил: «Инстинктивно, орлы, которые летают, плавают». Никто никогда не думал, что это озадачивающая фраза, но если задуматься, то она не может не озадачивать, потому что здесь используется сложное вычисление вместо простого. Если позволить себе озадачиться таким явлением, как падение чашки, вы спросите себя: «почему?» И тогда вы сможете встать на путь, ведущий к довольно интересным ответам. Например, начинаете понимать, что линейная последовательность не является частью вычислительной системы. Это сильное утверждение применительно к устройству нашего разума – мы понимаем, что он часть системы внешних связей, что он вторичен, что открывает перед нами множество других путей, как и все другое.

Возьмем другой случай: разницу между сокращением (редуцированием) и объединением (унификацией). В истории таких наук как физика и химия можно найти интересные наглядные иллюстрации этой разницы, и мне кажется, история этих наук достаточно актуальна для современного состояния познавательных наук и нейробиологии.
Источник