ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ДРУГИЕ ПРОБЛЕМЫ

Часть очерка "СОЛЯРИС, НИЦШЕ, НЕВОЗМОЖНОЕ БОГОСЛОВИЕ И ДРУГИЕ ГОЛОВОЛОМКИ". 
 
   Проблема контакта имеет непосредственное отношение к другой истории - к искусственному интеллекту. Что должен он представлять собой, что ожидают получить разработчики от его создания? Разумеется, разные проекты вкладывают разный смысл в понятие искусственного интеллекта, но они все подразумевают ту или иную степень сходства с сознанием человека. Однако требование такого сходства выглядит весьма неопределенно, и эту неопределенность создатели пытаются преодолеть, предлагая тот или иной список ожидаемых характеристик, достижение которых должно ознаменовать решение проблемы. Одни характеристики допускают точную и исчерпывающую формулировку, например способность разворачивать суждения в связной логической последовательности, или, скажем, способность "понимать" человеческую речь и переводить ее в язык команд, которую машина затем выполняет. Не вызывает сомнений целесообразность установления таких характеристик, также как не вызывает сомнений и возможность последовательно приблизиться к ним, даже если сама задача и не имеет границ.
 
   Однако требования к искусственному интеллекту заходят дальше. Например, ждут, что он проявит способность принимать самостоятельные решения в сложных ситуациях, в том числе и решения этического плана. А такая задача неизбежно сталкивается с парадоксом, точнее - с несколькими парадоксами. Первый парадокс заключается в том, что решение, которое интеллект должен принять в неопределенной ситуации или в обстоятельствах, впервые возникающих перед ним, и с которыми до него никто никогда не сталкивался, потребует реакции, не предусмотренные существующими стереотипами. Возникнет нужда в новом, оригинальном ходе. Таким образом, от искусственного интеллекта будут ждать то, что не запрограммировано, что не может быть предусмотрено никакой серией алгоритмов. Ясно, что напрямую добиться выработки способности к такой реакции невозможно, эта способность не алгоритмизируема. Более того, ее как задачу и сформулировать не получается, разве только в таких неопределенных терминах, как "поди туда, не знаю куда, принеси то, не знаю что".
 
   Второй парадокс также относится к сфере этики - если интеллект принимает морально нагруженное решение, то будет ли это решение обязательным и окончательным, как решение любого человека в подобной ситуации? Или же это решение должны дополнительно
утвердить те, кто способен нести ответственность? Ведь если требуется такая ратификация, если интеллекту до такой степени не доверяют и не рассматривают его как полноценного и ответственного субъекта, то ясно, что в такой ситуации заявленная цель - создание интеллекта - в сущности, так и не достигнута.
 
   Кроме этих двух парадоксов, есть еще одно обстоятельство, тоже ведущее к парадоксальному выводу; оно связано с тем известным взглядом на человека, что он представляет собой всего лишь сложную машину, действующую заданным и предсказуемым образом, без способности к произвольному выбору. Этот фаталистический взгляд, несмотря на свою убедительность и достаточно широкую распространенность, во всяком случае, среди образованной публики (а также в некоторых религиозных системах), не оказал и не оказывает никакого влияние на то, как люди в целом относятся к вопросу личной свободы и ответственности. Те, кто придерживаются этого взгляда - по крайней мере, на словах - де факто рассматривают свободу как реальность, и эта теория нисколько не поколебала настоятельность, с которой воспринимается или осуществляется нравственное давление в социуме. Более того, сама эта концепция транспонируется в морально нагруженное утверждение и тем переводится в нравственную сферу - хотя бы в форме убеждения в излишестве моральных норм. В этом переводе она сама неизбежно приобретает черты морального аргумента. Эта парадоксальная метаморфоза лишний раз доказывает, что проблема свободы и действенности нравственного выбора нисколько не решается таким простым приемом, как обращение к материальному детерминизму, которым эта концепция подпитывается, поскольку такое обращение недостаточно, чтобы подорвать идею личной свободы.
 
   Рассмотрим же дальше ситуацию с искусственным интеллектом. Как представляется из всего сказанного, вопрос о том, можно ли такой "сфабрикованный" интеллект, если он появится однажды, назвать разумом, не может быть разрешен до тех пор, пока его не перевести в этическую сферу. Более того, именно эта часть проблемы - этическая - и является решающей, в то время как техническая часть, хоть она, безусловно, необходима, должна располагаться на втором плане. Ключевой вопрос, который, так или иначе, возникнет на определенном этапе создания интеллекта, заключается в том, следует ли этот интеллект рассматривать как сознающий себя субъект, способный принимать ответственные решения. Как проблема этического плана, как проблема, сформулированная в терминах нравственной сферы, она не может иметь никакого конкретного решения, которое выражалось бы в объективных характеристиках, в признаках, свойствах, состояниях или процессах. Такие объективные параметры неспособны своей собственной силой дать решение этическому вопросу - такое решение тогда бы потеряло свой этический характер. Напротив, единственно приемлемый с точки зрения этики ответ всегда будет иметь вид личного суждения, которое выносит кто-то, принимая на себя ответственность за свое решение - "да, этот субъект действительно является субъектом, и я впредь буду именно так его рассматривать, я намерен считаться с ним, как с активным лицом". Объективные характеристики потенциального субъекта могут стать подспорьем такого суждения, но и только, а решение должно быть произнесено безотносительно чего бы то ни было. Должен иметь место личный вердикт.
 
   Вслед за этим сразу же возникает вопрос: в какой степени этот вердикт обязателен? И для кого он обязателен? Поскольку речь идет о принятии ответственности, ясно, что в решение вопроса не может быть вовлечен один человек. Отстранение других означало бы наступление на их права, а, в свою очередь, их собственное самоотстранение - снятием с себя ответственности в важном деле. Таким образом, эта проблема, если говорить в принципе, касается всех и каждого. Грубо говоря, каждый, кто считает, что дело имеет к нему отношение, должен определиться и вынести свой собственный вердикт. Разумеется, в жизни такое тотальное вовлечение всех и каждого не происходит, и масса моральных вопросов переадресовывается от одних к другим, имеют место и перераспределение ответственности, и разнообразные формы концессий. Но принципиальная основа в любом случае должна оставаться - это личное суждение, нагруженное личной ответственностью.
 
   И все же проблема не может исчерпываться сугубо этической стороной, иначе у нее не будет содержания. В данном случае это означает, что вердикт, произносимый одним человеком или многими людьми, должен на что-то опираться. То, что было причислено к объективным обстоятельствам ситуации, а именно - разнообразные реакции испытуемого интеллекта, которые на время были вынесены за скобки этического решения как не обладающие моральным весом, все-таки из игры не выводятся. Безусловно, если не учитывать эти обстоятельства, то субъектом может быть названо все что угодно: стул, корова или университет как социальный институт. Такие суждения, как это ни парадоксально, также входят в поле нравственного вердикта, так как на его свободу не должно быть формальных ограничений, и проще сохранить право на эту экзотику, чем изобретать формальные правила, которые позволили бы избавиться от этих искусственных примеров. Тем не менее, они остаются на самой далекой периферии этого поля, образуя его маргинальную зону. Теперь же в игру должны быть введены "объективные" обстоятельства.
 
   Дело в том, что нравственные понятия абстрактны и "висят" в воздухе, пока мы не переведем разговор на предметы материального мира, на "осязаемые" обстоятельства и на наблюдаемые процессы, вокруг которых выстраиваются нравственные суждения, от них получающие свой материал. Разговор о субъектности касается "машинообразного" аспекта поведения, и, чтобы продемонстрировать свою субъектность, "потенциальная личность" должна показать свой автоматизм - там, где он уместен, и свою способность преодолеть его - там, где это преодоление ждут от него. Что ждут? в какой степени "кандидат" должен оправдать ожидание? - заранее определить и предписать невозможно, и здесь мы уже попадаем непосредственно в этическую область. Однако без "объективных" обстоятельств - поведенческих реакций человека - вопрос решить невозможно.
 
   Чтобы разобраться в том, обладает ли данный объект сознанием и субъективным миром, следует найти такую интерпретацию его поведения и его реакций, чтобы не вызывало сомнений, что он ведет себя как субъект. Критерии субъектности произвольны, они, в каком-то смысле, оставлены на усмотрение тех, кто собирается ими пользоваться. Такое положение дел не предполагает, чтобы здесь можно было сформулировать определенные квалификации - "субъектность есть то-то и то-то", "сознание есть то-то и то-то". Ситуация в своей динамике сама подводит к определенному итогу, и люди, которые вовлечены в нее, могут встать перед тем обстоятельством, что им придется считаться с поведением испытуемого и принимать его в учет совершенно серьезно, без скидок. Конечно, такая расплывчатость ведет к тому, что в известных случаях и корова может попасть в категорию субъектов - ведь общение с ней тоже требует индивидуального подхода, корова может быть "с норовом", у нее есть свои привычки и предпочтения, она тоже что-то хочет. Так же, как парламент или судебная инстанция - как социальные институты - в иных ситуациях способны проявить признаки разумного и осмысленного поведения.
 
   Вопрос, как определить, что или кто является мыслящим субъектом, также как и родственные ему вопросы о том, что есть жизнь? кто есть живой объект? какие для этого существуют объективные критерии? - еще многократно будут обсуждаться обществом. Однако надо ясно понимать, что для них не существует никакого непредвзятого безличного решения, и их содержание имеет этическую составляющую, нередуцируемую к другим аспектам проблемы. Это означает, что судьба таких вопросов ложится на совесть решающего, и на него же возлагается ответственность за последствия выбора. Более того, единожды произнесенный вердикт (например, относительно человека в коме, продолжает ли он оставаться потенциальным субъектом или нет?) не снимает ответственности со всех остальных, кто вовлечен в дело, и однажды решенное дело не отменяет необходимости вернуться к вопросу, чтобы снова его задать, и если надо - предъявить обвинение тому, кто сделал выбор поспешно и необдуманно. Настоятельность и ответственность возобновляются с каждым новым обстоятельством и вновь и вновь ставят личность перед необходимостью решать один и тот же вопрос. А вопрос этот может принимать самые разные формы - от насущной нужды в виду предстоящих лечебных мероприятий, до укоров совести, скрытых от всех, когда по прошествии времени обстоятельства дела представились его участникам иным образом, а уже ничего изменить нельзя.
 
   Расплывчатость критериев связана не с тем, что они плохо продуманы, а с тем, что, по существу, они отсутствуют, так как их невозможно сформулировать. Да дело, в общем, не в этих критериях, которые ничего не решают. Решающее обстоятельство, которое должно вступить в игру, это активность самого испытуемого: он должен сам проявить себя, он должен заставить считаться с собой, со своей свободой, со своими интересами и целями. Создатели могут подступаться к своему творению с самыми разнообразными требованиями, но создание вполне может отказаться иметь с ними дело, то есть - проявить свою волю. Разумеется, можно игнорировать подобное своеволие, но это не может тянуться бесконечно долго, и где-то на каком-то этапе придется признать свободу творения. Задача создания искусственного интеллекта будет решена только в тот момент, когда этот потенциальный интеллект заставит всех отступиться от него и оставить в покое, предоставив самому себе. Реализовав свою свободу, свою самостоятельность, заставив признать себя личностью, он посредством этого факта окажется включенным в равноправные и полноценные члены сообщества.
 
   "Первое. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
   Второе. Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону. И третье. Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам." ("Хоровод". Айзек Азимов)
 
   В свое время Азимов и Кэмпбелл сформулировали три закона роботехники, соблюдение которых должно предотвратить возможный конфликт между роботами, обладающими искусственным интеллектом, и создавшими их людьми. Основная идея, внешне вполне разумная и почти что сама собой напрашивающаяся, заключается в том, что в качестве элемента своих управляющих программ роботы должны иметь ограничения или блоки, не допускающие нанесения вреда людям. Законы получили развитие в ряде рассказов и повестей и затем многократно и разносторонне обсуждались. Своей простотой они обязаны тому, что самая трудная часть проблемы, которую они должны решать, оказалась спрятанной. Законы имели совершенно четко и недвусмысленно этический характер, а моральные требования не допускают исчерпывающей и однозначной формулировки, и уж тем более перевода в язык команд, которые никогда не имеют дело с абстракциями.
 
   Однако вопрос не только в трудности или невозможности программирования подобных задач. Вероятно, это вообще не главное. Как мы уже говорили ранее, проблема в том, что нравственное требование как таковое есть требование разрушить стереотип, прекратить следовать ему. Оно вынуждает личность уйти от штампов, от навязчивой машинообразности поведения, которое, если не сопротивляться, текущая ситуация продолжает задавать и вновь и вновь программировать ее. Этическое требование ждет от субъекта интеграции всех факторов, попадающих в поле его внимания, ему нужно вовлечь новые действующие силы, которые до сих пор отсутствовали, или их игнорировали, или они оставались забыты. Когда человеку предлагается такое неопределенное требование, а конкретизация возлагается на него самого, то можно сказать, что в этом задании нет задания, которое следовало бы запрограммировать. Нравственное требование не ждет, что личность станет следовать алгоритму, напротив, оно принуждает ее к тому, чтобы она вышла за его рамки, если даже алгоритм имелся. Инструкция не может содержать пункт, который бы требовал прекратить ее выполнять. Такое требование имеет смысл только для того, кто уже находится вне ее рамок, хотя бы потенциально.
 
   Поэтому пока речь идет о "полноценном" интеллекте, равном человеческому разуму, законы роботехники совершенно бесполезны. Дилемма не допускает вариантов для маневра: либо мы имеем дело с машинами, которые остаются под полным контролем; тогда образ их действий должен быть описан конкретно, без ссылок на неопределенные этические категории; либо мы имеем дело с искусственным интеллектом, умеющим самостоятельно подчинятся нравственным требованиям, а значит демонстрировать субъектное поведение, со всеми вытекающими последствиями, в частности - способностью выходить за пределы любой инструкции.
 
   Вся эта беллетристика вокруг искусственного интеллекта имеет вполне земное содержание, связанное с реальной жизнью, поскольку она точно копирует специфику взаимоотношения родителей и детей, о чем мы уже говорили в самом начале очерка. Ситуация с искусственным интеллектом лишь в иной форме повторяет те обстоятельства, с которыми приходится иметь дело всем воспитателям, когда дети, взрослея, выходят из-под контроля и начинают действовать по собственному разумению как самостоятельные субъекты. Одна из проблем воспитания заключается именно в нахождении разумной меры, в том, чтобы понять - есть грань, за которую переходить не следует, понять, что когда-нибудь родительское влияние сведется к минимуму или вовсе исчезнет, и сопротивляться этому бесполезно. Это - факт, и его рано или поздно надо признать.
 
   Этический характер проблемы хорошо виден на примере другой ситуации, которую мы тоже упомянули раньше - каким образом удостовериться, обладает ли сознанием человек, находящийся в коме? Не вдаваясь в детали, достаточно только напомнить, что когда обсуждают эту проблему, неизменно обращаются к тем ее аспектам, которые уже были рассмотрены здесь, а именно, что решение вопроса будет иметь характер вердикта, вынесенного под чью-то персональную ответственность, что это решение будет зависеть от готовности (или отсутствия готовности) больного манипулировать и быть манипулирумым в соответствии с правилами социума. Этот особый вариант проблемы сознания и идентификации субъектности является важной иллюстрацией того факта, что категория сознания относится, в первую очередь, к этической сфере, а остальные ее аспекты стоят на втором плане.
 
   Итог - если здесь вообще возможно говорить об итоге и о каком-то завершении - заключается в том, что обе стороны - искусственный интеллект и его создатели - в определенный момент должны выйти на стадию взаимного воздействия и обоюдного влияния, в которой поведение обеих сторон очень высокой степени коррелирует между собой, если говорить языком динамических систем. Здесь как бы уже не допускается, чтобы одна сторона игнорировала действия и реакции противоположной стороны - ей следует учитывать их во всей сложности. Когда мы говорим об обществе, то не только подразумеваем, что субъекты способны манипулировать, затевать интриги и "давить на психику" друг друга, но и что они демонстрируют готовность быть манипулируемыми. Своими реакциями каждый субъект показывает - он способен понять, что от него хотят или ждут, он в полной мере способен симулировать ожидаемую реакцию - включая сознательность и субъектность. Эта готовность участвовать в игре, строить личные отношения, понимать речь, обращенную к себе, понимать смысл слов и действий, а также участвовать в борьбе за лидерство, за влияние - есть непременное условие для вхождения потенциального субъекта в этическую сферу, с которым приходят возможности, недостижимые в изолированном состоянии. Поэтому, если мы говорим о создании искусственного интеллекта как об определенной цели, то именно этой готовности его создателю и следует достичь.
Источник