М. БУРЦЕВ: Добрый день.
И. МАКСУТОВ: Давай сначала разберемся с тем, что такое искусственный интеллект?
М. БУРЦЕВ: Если мы обратимся к главному источнику знаний для современного простого человека Википедии, искусственный интеллект – это, с одной стороны, некоторые интеллектуальные машины. А также область науки, направления исследования которой пытается создать такие машины.
И. МАКСУТОВ: Мы проведем небольшое голосование. Боитесь ли вы создания искусственного интеллекта? Может ли он нам чем-то угрожать? Мы голосование запустили. Есть два способа определения искусственного интеллекта….
М. БУРЦЕВ: Это не два способа определения. Это понятие относится к двум вещам. Первое - к результату, к некоторому интеллекту, который мы можем видеть в машине.
И. МАКСУТОВ: Например?
М. БУРЦЕВ: Робот, который будет вести себя как человек. С другой стороны, это научная деятельность, которая направлена на создание такого интеллекта.
И. МАКСУТОВ: Речь идет о Терминаторе? Или о пылесосе, который самостоятельно ездит по квартире и ее убирает?
М. БУРЦЕВ: Пылесос, наверное, мало кто согласится назвать искусственным интеллектом. Хотя искусственный интеллект тоже приложим к пылесосу. Скорее всего, конечной целью сильного искусственный интеллект называется воспроизведение в машине свойств человека и его интеллекта. Он должен как человек рассуждать, иметь такие же способности по обучению
и решению абстрактных задач. Пылесос явно не тянет…
И. МАКСУТОВ: Если говорить о том, что такое искусственный интеллект, когда начинают изучать это явление, с чего начинают?
М. БУРЦЕВ: Для меня тоже это загадка. Не совсем понятно, каковы мотивы людей, нашей культуры, которая стремится вкладывать деньги в создание искусственного интеллекта. Есть, наверное, две причины, которые лежат на поверхности. Мы вроде как хотим создать себе помощника, который избавит нас от скучной и лишней, тупой работы. А мы в это время сможем посветить себя чему-то более интересному или просто валять дурака. С другой стороны, очевидно, что создание искусственного интеллекта связано со стремлением человека понять самого себя. Если мы что-то сделали, похожее на человека, то мы и поймем, как мы сами работаем, как чувствуем, что такое человек. Это две стороны… Одна - фундаментально-философская, познать человека. Другая - прикладная. Мы создадим себе раба. С другой стороны, если мы создадим раба, равного человеку, он будет ничем не отличим от человека, тогда непонятно, как к этому рабу относиться.
И. МАКСУТОВ: Подведем итоги небольшого голосования. 52% против. 48 считают, что что-то опасное в этом есть. У нас первый вопрос от слушателей: «Может ли искусственный интеллект создать более сложный искусственный интеллект? На каком этапе он может стать неуправляемым?»
М. БУРЦЕВ: Существует теория, которой придерживается один из приверженцев создания искусственного интеллекта. В соответствии с ней, если мы создадим искусственный интеллект, который будет обладать уровнем человека к тому моменту, когда он будет создан, то ничто не мешает этому искусственному интеллекту создать другой искусственный интеллект, который будет чуть лучше. Таким образом, мы получим такую положительную обратную связь, уходящий в бесконечность искусственный интеллект. Сейчас невозможно предугадать, возможно ли такое. Очевидно, что разработчики искусственного интеллекта должны предусматривать возможности, как остановить…
И. МАКСУТОВ: То есть нужно кнопку в этого Электроника вложить?
М. БУРЦЕВ: Конечно.
И. МАКСУТОВ: Давай вернемся в историю. С чего начинается? Понятно, что человек всегда мыслил антропоморфно, создавал антропоморфные системы, окружающий мир мерил собой, что-то похожее на себя создавал. Кукол, механизмы…. В какой момент возникает идея создать нечто подобное интеллекту человека?
М. БУРЦЕВ: Научное направление возникает ближе к середине 20 века, когда на стыке между математикой и нейрофизиологией рождается наука кибернетика, в которой делается попытка рассмотреть с абстрактных позиций любую биологическую организацию. Наиболее сложная форма этой организации – интеллект человека, работа мозга. Сейчас такой науки не существует. Но она дала сильный толчок к развитию других направлений, которые мы сегодня видим в науке. Через некоторое время после появление кибернетики происходит практическое появление компьютерной техники. Кибернетика рассматривает вопрос, может ли машина мыслить. Тюринг рассуждает об этом как математик, который рассматривает теоретические подходы к созданию компьютера. Создание компьютерной техники чем-то напоминает толчок от искусственного интеллекта к созданию искусственного интеллекта. Оно приводит к тому что, что это выводит на другой уровень и само создание искусственного интеллекта, потому что математические модели, которые мы можем исследовать аналитически при помощи карандаша и бумаги, обладают некими конечными возможностями по описанию сложных систем.
И. МАКСУТОВ: Но это все равно не создание интеллекта на нейрональном уровне, а попытка понять интеллект человека и его воспроизвести.
М. БУРЦЕВ: Неважно. Даже если мы пытаемся собрать искусственный интеллект из нейронов, то если мы делаем искусственную модель, это все равно будет настолько сложно, что мы эту математическую конструкцию аналитически не сможем разрешить. Чтобы понять, как она работает, мы можем лишь ее записать, запустить ее расчет на компьютере, посмотреть, что из этого получается. С самого начала. Когда у нас появилась возможность моделирования из таких сложных систем, люди разбились на 2 лагеря. Первые говорили, что нам нужно пытаться что-то взять из нейробиологии, попытаться смоделировать мозг из клеток. Другие говорили, что пока мы разберемся с клетками и тем, как устроен мозг, столько времени пройдет. А давайте мы просто формализуем процесс доказательства теоремы и сделаем программы, которые будут теоремы доказывать и рассуждать.
И. МАКСУТОВ: Но при этом это искусственный интеллект, который существует без физического субстрата, без биологической фиксации?
М. БУРЦЕВ: Она не имеет тела?
И. МАКСУТОВ: Да! Назовем тело. Просто тело уже страшно. Тело – это Терминатор.
М. БУРЦЕВ: В некотором смысле это неважно. Если есть робот, который управляется какой-то программой, то если эта программа моделирует рассуждения человека, то эта программа может рассуждать следующим образом: «Если я зафиксировал объект, лежащий на столе, то я должен изменить угол манипулятора на столько-то, чтобы подвести его к объекту, потом сжать и схватить этот объект». То есть можно попытаться рассуждениями смоделировать эту деятельность. То есть это не будет просто абстрактная программа. Эта будет некая программа, которая управляет поведением робота. Из первого направления получилось то, что сегодня называют «искусственные нейронные сети». Это попытка создать мини-мозги, смоделировать их на компьютере или сделать в виде микросхем, которые будут какой-то минимальный животный интеллект демонстрировать. С другой стороны, это классический искусственный интеллект. Это как раз попытка смоделировать рассуждения человека, не обращаясь к биологическому образцу, попытаться создать искусственный интеллект. В самом начале этих исследований был жуткий ажиотаж, ставились амбициозные задачи. Например, одному аспиранту поставили задачу создать систему компьютерного зрения за летние каникулы. Но эта задача до сих пор не решена в том объеме, в котором должен был ее решить этот аспирант. Люди были оптимистичны тогда. Создали ядерную бомбу, запустили человека в космос. Все видные ученые, которые занимались этим направлением, в 60-70 годах говорили, что через 10 лет у нас будет замечательный искусственный интеллект, который сможет выполнять любую работу, которую может выполнять среднестатистический человек. То есть это время должно было наступить лет 20-30 назад железно. Но до сих пор такого нет. Это говорит о том, что что-то в тех подходах себе не оправдало. Это привело к новым всплескам и падениям интереса к искусственному интеллекту.
И. МАКСУТОВ: Нас спрашивают, есть ли современный синтетический материал, способный дублировать мозг человека по всем его свойствам и характеристикам?
М. БУРЦЕВ: Нет такого. Если под синтетическим материалом понимать что-то совсем небиологическое, то тут речь идет о таком направлении в науке как нейроморфные системы. Это попытка некоторые принципы биологические запихнуть, например, в микросхему. То есть создать микросхемы, которые будут вести себя как нейроны мозга. Существуют большие программы, которые финансируются и ЕС, и США, и Оборонным агентством, в них принимает участие IBM. Тут строится попытка сделать чип компьютерный, который будет работать похоже на то, как работают нейроны в мозге. Почему заинтересована фирма IBM в этом? Она считает, что это позволит создать новый тип памяти, который будет обладать лучшими свойствами, чем та память, которая есть сейчас. Например, пусть она не будет настолько быстрой и точной, зато она будет более устойчивой к различным воздействиям на нее, будет быстро совершать какие-то операции, которые на стандартной архитектуре идут очень медленно.
И. МАКСУТОВ: Если говорить о выстраивании искусственного интеллекта на нейрональном уровне, что с ним происходит, какие свежие тенденции в этом направлении?
М. БУРЦЕВ: Первые попытки начались в середине прошлого века. Создавались, например, такие тележки, которые могли ездить, заезжать к себе в домик, они не сталкивались с препятствиями. Они делались учеными, которые говорили, что ими управляет нейронная сеть из 2 нейронов. С другой стороны, в классическом искусственном интеллекте были системы типа игры в шашки. Была создана программа, которая обыгрывала в шашки на уровне хорошего разряда. Они двигались параллельно. Потом эта тема вернулась. Исчезла, а потом мы видели этих роботов-пылесосов. Что такое робот-пылесос? История возникновения их начинается в лаборатории искусственного интеллекта MIT, где Родни Брукс, директор этой лаборатории, сказал, что нужно посмотреть на животных, они не рассуждают, там есть некие заложенные рефлексы. Он предложил архитектуру, в которой существует много конкурирующих поведений, одно из которых может выбираться и захватывать управление роботом. На базе этого подхода он и привлек деньги под кампанию, которая стала производить IRobot, самый известный робот-пылесос. Фактически эти роботы-пылесосы, которые вы можете купить в Москве за 15 тысяч рублей, которые будут ездить и пылесосить вам пол, это продукт деятельности лаборатории искусственного интеллекта. Что интересно, после того как эти роботы-пылесосы стали продаваться и ездить, люди снова и снова вспоминают эту задачу с тележкой, которая должна куда-то ездить. Они удивляются, обнаружив, что люди 50 лет назад занимались тем же самым. Здесь наблюдаются некие признаки того, что мы топчемся на месте.
И. МАКСУТОВ: С чем связан этот спад? Почему в определенный момент исследования в этой сфере начали сворачивать?
М. БУРЦЕВ: Это связано с тем, что ожидания, которые заложили ученые, не оправдались. Поэтому люди, которые давали деньги, не увидели результата и сказали, что ничего не получается. С другой стороны, этот прогресс пошел не в сторону потребительскую, а в сторону индустриальную. То есть символьный искусственный интеллект позволил создать экспертные системы, которые позволяют принимать некие решения, советуют специалистам. Это медицинские системы, которые позволяют ставить диагноз. Это могут быть системы на производстве, которые помогают рабочему принять решение, как и что ремонтировать.
И. МАКСУТОВ: Нам пишут в основном пугающие смс, как искусственный интеллект становится мировым разумом, мировым судьей. В этой области много опасений.
М. БУРЦЕВ: Мы не пугаем людей искусственным интеллектом. Мы пытаемся понять, боятся его люди или нет. На самом деле сегодня, если мы будем рассматривать интеллект как интеллектуальную способность адаптироваться и приспосабливаться, то уровень искусственного интеллекта еще не достиг уровня искусственного интеллекта таракана. Вероятность того, что тараканы захватят мир и уничтожат человека поэтому гораздо выше, чем это сделает искусственный интеллект. Может, в будущем он и будет усиливаться. Пока он дойдет до уровня человека, нам бояться нечего. Потому что интеллект уровня человека нас окружает повсюду. Он вполне может сам себя уничтожить. Мы пока научились как-то эту проблему решать.
И. МАКСУТОВ: Нам пишут: «Не могли бы вы рассказать доступно про многослойный персептрон?»
М. БУРЦЕВ: Это способ решить проблему недостаточности возможностей по решению некоторых задач практических, которые были у однослойного персептрона. Персептрон – это модель нейрона. Его задача – разбить все множество своих ощущений на 2 класса. У него есть входы. Это некое множество тех ощущений, которые он воспринимает. Есть выход, который говорит о том, движется он к одному классу или другому. Показано, что однослойный персептрон не может разделить некоторые классы. А многослойный может.
И. МАКСУТОВ: Ты можешь какой-то конкретный пример привести? Сейчас очень абстрактно.
М. БУРЦЕВ: Например, оранжевое и круглое – это апельсин, а желтое и вытянутое - это банан. У персептрона есть 2 входа, на один подается цвет, на другой – форма предмета. Соотношение ширины и длины. То есть персептрон можно научить, чтобы он отличал банан от апельсина.
И. МАКСУТОВ: Куча смс. В основном слушатели боятся и пишут, что есть некая духовная составляющая….
М. БУРЦЕВ: Вопрос в том, можем ли мы эту духовную составляющую воспроизвести в искусственном интеллекте? Те люди, которые говорят про эту духовную составляющую, видимо, подразумевают, что мы ее не можем воспроизвести. Поэтому искусственный интеллект у нас оказывается бездуховным.
И. МАКСУТОВ: Мы закончили на том, что сегодня наука не в состоянии воспроизвести интеллект на уровне таракана.
М. БУРЦЕВ: Да, но это общий интеллект. С другой стороны, мы имеем потрясающие прорывы в узких областях. Например, пару лет назад искусственный интеллект обыграл знатоков, чемпионов США в телевизионном шоу, где задаются вопросы и нужно найти ответы. Это впечатляющая вещь. Потому что в отличие от шахмат, где это формализованная игра с формализованными правилами, тут искусственному интеллекту вопросы задавались на естественном языке, он отвечал на естественном языке. Это более сложная задача. Второй прорыв, о котором если бы мне сказали года 2-3 назад, что это будет возможно, я бы не поверил… Это Google-карты, это автопилот, созданная Google , который способен управлять автомобилем, который едет по улице в трафике, обгоняет, пропускает пешеходов и другие автомобили. Это я считаю одним из самых ярких последних достижений. С другой стороны, если мы посмотрим на другую задачу, с которой человек легко справляется, с которой вы все сталкивались в своей жизни, это ввод символьно-цифровых кодов в интернете для подтверждения чего-либо, капча. Очевидно, что если бы искусственный интеллект позволял решить эту задачу, это бы решение использовалось для преодоления этой защиты. Пока эта защита не преодолена, это значит, что возможности искусственного интеллекта недостаточны, чтобы решить эту задачу.
И. МАКСУТОВ: Или слишком задача дешевая, чтобы ее решать.
М. БУРЦЕВ: Если был бы создан алгоритм, как задачи решать, решение конкретной задачи было бы не столько дорого.
И. МАКСУТОВ: Давайте послушаем немного ваших звонков. Здравствуйте!
СЛУШАТЕЛЬ: Антон. А является ли необходимым признаком искусственного интеллекта наличие сознания, воли, способность самому ставить задачи?
М. БУРЦЕВ: Естественно, является. Но никто не знает, как определить сознание, свободу воли. В каких-то системах есть зачатки того, что искусственный интеллект может ставить себе задачи, может их сам решать. Обладает ли он сознанием или нет - уже другой вопрос. Современная наука не знает, что такое сознание.
СЛУШАТЕЛЬ: Алексей. Используют ли спецслужбы, наши компании коммерческие эти технологии?
М. БУРЦЕВ: Наверняка, наши компании используют, но я не знаю. И. МАКСУТОВ: Военные используют?
М. БУРЦЕВ: Да, но они и собак используют. Собака гораздо умнее.
СЛУШАТЕЛЬ: Евгений. Почему до сих пор нет компьютерной модели экономики?
М. БУРЦЕВ: Существует некая иерархия моделей. Нам необходимо смоделировать интеллект человека, только потом экономику! Потому что экономика – это некая совокупность интеллекта людей. Конечно, частные модели экономики существуют. Просто экономика – следующий уровень сложности над человеком.
И. МАКСУТОВ: У нас есть замечательный вопрос про программу Маркома. Не мог бы ты рассказать?
М. БУРЦЕВ: В современной ситуации эти два подхода, про которые я говорил, продолжают существовать. Символьный искусственный интеллект пытается сделать модель человеческого разума, исходя из первых принципов. Мне кажется, что это маловероятно, потому что очень сложно. Другой подход (нейробиологический) говорит: «А давайте все будет делать как в реальном мозге!» Один из проектов в этом направлении – проект Генри Маркома. Недавно он получил большое финансирование от ЕС в рамках программы «Технологии, которые могут возникнуть в будущем». Это порядка миллиарда евро на несколько лет. Цель проекта – создать очень подробную модель мозга человека, включая модель нейрона, их взаимодействия. Изначально целью проекта заявлялось, что мы такую модель создадим, а она начнем думать как человек. Потом на Маркома обрушилась гигантская критика: «Какой человек? Он у вас без тела». Тогда это назвали системой, которая будет вбирать в себя все знания из нейробиологии. Мы можем использовать это при тестировании лекарств. Если мы знаем, что какое-то лекарство действует на определенные механизмы нейронов… Моделирование интеллекта человека стало более второстепенной и прикладной целью. Это показывает уровень современного знания в нейробиологии. Хотя она много знает, очень сильно помогает нам, с точки зрения здоровья, понимать что-то про наше здоровье или за счет чего мы обучаемся, на самом деле, основные принципы неизвестны. Например, есть простой кольчатый червь нематода. У него 302 нейрона. Известны уже 20 лет про все связи между этими нейронами. Казалось бы, можно сделать компьютерную модель этого червя, которая будет вести себя как червь. Такие попытки неоднократно предпринимались. Пока мы не смогли этого сделать. Это говорит о том, что мы, конечно, можем моделировать мозг человека, в котором сотни миллиардов нейронов. На если мы даже с 302 нейронами не разобрались… Как мы? Кстати, про нематоду очень интересно. У нас в Новосибирске ведутся исследования. Люли, которые являются ключевыми участниками этого международного проекта, классную модель сделали нематоды. Даже научили ее ползать. Хотя не очень похоже.
И. МАКСУТОВ: Любопытно.
СЛУШАТЕЛЬ: Сергей. Когда мы говорим о человеческом интеллекте, у меня создается впечатление, что мы абстрагируемся от особенностей человеческой психики. Насколько вообще правомерно говорить об этом в отрыве?
М. БУРЦЕВ: Никто не говорит в отрыве от человеческой психики. Наоборот, все пытаются запихнуть… Классический искусственный интеллект как раз сегодня пытается в попытках прояснить, почему он не работает, сделать его более психичным, эмоциональным. В надежде на то, что это даст как раз то качество, которого не хватало до этого.
СЛУШАТЕЛЬ: Александр. Вы ученый-одиночка? Или у вас большой коллектив?
И. МАКСУТОВ: Михаил - заведующий лабораторией нейроинтеллекта и нейроморфных систем.
М. БУРЦЕВ: У нас есть лаборатория в Курчатовском институте, которая занимается разработкой подобных алгоритмов для интеллектуальных систем. Это очень широкое направление. В мире существует много людей, которые этим занимаются.
И. МАКСУТОВ: Насколько это представлено в России?
М. БУРЦЕВ: В России есть несколько лабораторий и даже институтов, которые посвящены изучению проблем искусственного интеллекта. По сравнению с тем, как эти исследования ведутся на западе, у нас все гораздо скромнее.
И. МАКСУТОВ: Я думаю, что после нашей передачи, люди, боящиеся искусственного интеллекта, бояться его перестали. Что касается Михаила, то он занимается и нейрогибридными системами, о которых есть отдельный сюжет на Постнауке, который тоже можно посмотреть и послушать. Напоминаю, что это совместный проект РСН и сайта postnauka.ru. Что касается страхов и опасений, насколько, на твой взгляд, эта тема существенна? Насколько она является препятствием в работе?
М. БУРЦЕВ: В научной сфере она несущественна. То есть существуют философы, которые занимаются этикой искусственного интеллекта. А ученые пока не дошли до такого уровня, чтобы задумываться над этой проблемой. Если говорить о моей точке зрения на этот вопрос, то здесь, мне кажется, существует два варианта, которые могут быть оптимистичными. То есть вариант, что искусственный интеллект будет враждебен человеку, нельзя исключать. Но мне кажется, что он маловероятен. Искусственный интеллект, который мы создадим, будет воспринимать человека как своего родителя, который его создал. У него не будет особых претензий. Если он будет настолько интеллектуален, что будет способен обеспечить себя ресурсами, то он будет готов пожертвовать частью ресурсов, чтобы существовал человек. То есть я не вижу причин, чтобы искусственный интеллект стал конкурировать с человеком.
И. МАКСУТОВ: Если сравнить с разными уровнями существования общества, с разными классами, то мы видим разные процессы.
М. БУРЦЕВ: Мир выравнивается. Рабы исчезают, люди становятся свободными.
И. МАКСУТОВ: Спасибо, Михаил, за этот разговор. Мы говорили с Михаилом Бурцевым об искусственном интеллекте.
Источник
Комментариев нет:
Отправить комментарий
Спасибо за ваш комментарий.
Он будет опубликован после проверки.