Показаны сообщения с ярлыком этика. Показать все сообщения
Показаны сообщения с ярлыком этика. Показать все сообщения

14 апреля 2015

Фильм «Из машины» и беседа с создателем

У Алекса Гарленда есть одна мысль, когда дело доходит до революции искусственного интеллекта: осуществить ее. Реализовав себя в качестве романиста («Пляж») и сценариста («28 дней спустя», «Дредд»), он решил попробовать себя в роли режиссера с фильмом «Из машины», который поднимает кучу вопросов об искусственном интеллекте.


«Из машины» — необычный фильм про искусственный интеллект. С чего началось ваше увлечение мыслящими компьютерами?

Мне 44, и я вырос в ногу с развитием видеоигр и компьютеров. Когда мне было 12 или 13, появились домашние компьютеры; ваши родители покупали их, ожидая, что вы будете учиться на них, но все, что вы делали — это играли в видеоигры. Правда, я немного программировал на Basic. Я делал простенькие программы типа «Hello World», которые придавали машине ощутимую чувствительность. Я довольно хорошо помню этот вид электрического чувства, которое вы испытывали, будто машина была живая — хотя определенно знали, что это не так.

Годы спустя я вступил в длинный спор со своим другом, который серьезно увлекался неврологией. Он считает, что компьютеры никогда не станут разумными, и у него есть хорошие научные аргументы, убеждающие в этом. Но на инстинктивном уровне я с ним просто не согласен. Я начал много читать об ИИ, разуме и сознании.


Вы работали со сложными темами раньше, поэтому эта территория для вас совершенно не нова.

Еще в «Пляже» есть темы теории мультивселенной и такого плана. Я работал над фильмом под названием Sunshine, в основе которого был вопрос тепловой смерти Вселенной. И хотя отчасти там были интересные с научной точки зрения темы, по большей части это фигня — смысла в нем было столько же, сколько в варп-двигателе в «Звездном пути». Сплошное разочарование. Я не говорю, что фильм плохой — в нем есть вещи, которые я люблю, — но что-то все равно не то. И когда я начал работать над этой темой, я подумал, что в ней есть смысл.

Какое у вас образование в сфере ИИ?

У меня есть интеллектуальное ограничение в плане того, что я могу понять. Отчасти это интеллект, отчасти понимание математики; когда они сталкиваются, образуется непроницаемая кирпичная стена для меня. Но что я могу прочитать и понять, это философские идеи, которые их окружают.

В частности, я наткнулся на книгу Мюррея Шанахана, профессора когнитивной робототехники в Имперском колледже, британской версии Массачусетского технологического института. Мне понравилась его аргументация, когда я читал книгу. Поэтому при написании сценария я связался с ним и несколькими другими людьми и сказал, что хотел бы, чтобы он жестко вчитался в сценарий и убедился, что он держится.

Так и случилось?

Мы дважды поступили самонадеянно. Во-первых, создали разумную машину, во-вторых, обзавелись робототехникой чрезвычайно высокого уровня, который позволил разумной машине иметь лицо, иметь черты. Это почти невероятно, и вы можете справедливо заметить, что это эквивалент варп-двигателю. Но это научная фантастика, и даже несмотря на нашу самонадеянность, я старался быть очень жестким.

На какую научную фантастику об искусственном интеллекте вы ориентировались, рисуя свою?

Вы можете предположить уровень грамотности аудитории по фильмам, но не по книгам. Люди могли прочитать или не прочитать «Сердце тьмы», правильно? Но они, скорее всего, видели «Апокалипсис сегодня». Поэтому когда вы работаете над научно-фантастическим фильмом, в котором будет искусственный интеллект и роботы, вы можете быть уверены, что люди что-то знают о HAL и 2001. Вы можете даже быть уверенным, что они знают о «Бегущем по лезвии

07 апреля 2015

Интервью с американским фантастом Брюсом Стерлингом- можно ли чувствовать эмпатию к искусственному интеллекту и должны ли быть у него права

Многих беспокоит, что искусственный интеллект может восстать против людей. Но чем могут навредить искусственному интеллекту люди? Если человечество создаст искусственный интеллект, способный самостоятельно думать и чувствовать, какие у нас будут перед ним моральные обязательства? Мы поговорили с известным фантастом,отцом киберпанка, авторитетным футуристом и научным журналистом Брюсом Стерлингом о том, должны ли у роботов быть права и должны ли мы очеловечивать технологии. Неудивительно, что человек, который ввёл термин «major consensus narrative», объясняющий синоним слова «правда», смотрит на проблему здраво.
Представьте, вы бы взяли свой iPhone
в руки,
 а Siri бы сказала «Я ненавижу вас, чтоб вы сдохли»

Как вы думаете, стоит ли нам сопереживать искусственному интеллекту?

Мы ведь можем сопереживать Скарлетт О’Харе из «Унесённых ветром», а она не существует — как и «искусственный интеллект». Существовать могут довольно запутанные программные и аппаратные системы. Вы когда-нибудь морщились от боли, увидев, что кто-то уронил MacBook на жёсткий пол?

Вы бы сопереживали продвинутому искусственному интеллекту, если бы встретились с ним лицом к лицу?

Даже если бы он существовал, лица бы у него не было. Но вообще сопереживать не так сложно. Вот когда в Риме происходит землетрясение, я думаю «Господи, бедный Рим!». Рим — это не человек, но если честно, мне не нравится, когда Рим «страдает».

Насколько мы далеко от того, чтобы создавать реалистичные симуляции человеческих эмоций — таких как страх, грусть, надежда?

На самом деле вы говорите об интерактивных симуляциях в реальном времени. А так и в шекспировском «Гамлете» полно реалистичных симуляций. Вы же говорите о системе, с которой можно взаимодействовать. Она должна уметь разговаривать и, допустим, быть способна напугать вас или угрожать вам. Но зачем ей для этого вести себя как человек? Не было бы гораздо страшнее, если бы вас решила запугать говорящая машина?
Приведу пример. Если я захочу, чтобы вы чувствовали себя лучше, почему бы мне просто не настроить выдачу Facebook таким образом, чтобы в ленту попадали только хорошие новости? Чтобы добиться от вас эмоциональной реакции, Facebook не нужно изображать из себя Скрепыша из Office. Представьте, вы бы взяли свой iPhone в руки, а Siri бы сказала «Я

01 апреля 2015

Искусственный интеллект должен иметь свои права

Существует большая вероятность того, что в не слишком отдаленном будущем искусственный интеллект, возможно в виде роботов, станет способен на  разумные мысли. Какие бы формы он не принимал, этот рассвет машинного сознания может иметь существенное влияние на человеческое общество, - сообщает Robotics.ua.

Соучредитель Microsoft Билл Гейтс и физик Стивен Хокинг в последние месяцы предупреждали об опасности интеллектуальных роботов, которые становятся слишком мощными для людей. Этическое поведение интеллектуальных машин, и то, как они относятся к людям, уже давно является темой научной фантастики, и было наглядно отображено в таких фильмах, как «Бегущий по лезвию бритвы» (1982) и «Ex Machina» этого года.

Права машин и людей

Академические и литературные анализы ИИ сосредотачиваются на взаимодействии робота и человека, задавая такие вопросы, как: будут ли роботы делать нашу жизнь проще? Будут ли они опасны? Будут ли они когда-либо представлять угрозу для человечества?

Эти вопросы игнорируют один важный момент. Мы должны рассмотреть взаимодействие интеллектуальных роботов между собой и то, как это взаимодействие может влиять на их человеческих создателей. Например, мы не должны позволить машинам проявлять несправедливость по отношению друг к другу, даже если эти «преступления» не оказывают непосредственного влияния на благополучие человека. Это может негативно отразиться на нашей собственной человечности. Такие философские дискуссии проложили путь к понятию «прав машин».

Большинство дискуссий о развитии роботов обращают внимание на три закона робототехники писателя-фантаста Айзека Азимова: роботы не могут травмировать людей; роботы должны подчиняться человеческим указам; и роботы должны защитить существование людей. Но эти правила не говорят ничего о том, как роботы должны относиться друг к другу. Было бы неразумно, чтобы робот защищал права человека, и в то же время игнорировал права другого

20 марта 2015

КАК ОБЕЗОПАСИТЬ НАС ОТ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА?

Идея того, что искусственный интеллект неизбежно приведет нас к сценарию, в котором машины восстают против людей, довольно популярна. Искусственный сверхинтеллект кажется величайшей из возможных угроз, а фантастические сюжеты, согласно которым мы будем не нужны в мире, принадлежащем технологиям, в популярности никогда не теряли.

Неужели это неизбежно?

Литературное и кинематографическое изображение разумных компьютерных систем из 60-х годов помогло сформировать и обобщить наши ожидания будущего, когда мы встанем на путь создания машинного интеллекта, превосходящего человеческий. ИИ, очевидно, уже превзошел человека в определенных специфических задачах, требующих сложных вычислений, но по-прежнему отстает в ряде других возможностей. Как одновременно увеличить мощь этого сурового инструмента и сохранить наше хозяйствующее положение над ним.
Поскольку искусственный интеллект уже играет и будет продолжать играть большую роль в нашем будущем, крайне важно исследовать наши возможности сосуществования с этими сложными технологиями.
Кевин Абош, основатель компании Kwikdesk, которая занимается обработкой данных и развитием искусственного интеллекта, поделился своими мыслями на этот счет. Он считает, что искусственный интеллект должен быть быстрым, незаметным, надежным,