Позапрошлым летом я ехал по Копенгагену в такси с человеком, который считает, что его шанс погибнуть из-за катастрофы, связанной с искусственным интеллектом, не меньше, чем вероятность умереть от рака или от сердечной болезни. Это меня бы, наверное, не удивило, будь мой собеседник таксистом (никогда не говорите таксисту, что вы - философ!), но в данном случае так думал человек, всю жизнь работающий с компьютерами.Более того, он так одарен в этой области, что входил в команду, которая сделала этот век настоящим 21 веком, позволив нам общаться по видеосвязи, как полагается в том 21 веке, о котором мы мечтали полстолетия назад, когда я был ребенком. Это был Яан Таллинн (Jaan Tallinn), один из тех людей, которые подарили нам Skype. Позднее на обеде в кембриджском Тринити-колледже мои коллеги выстроились в очередь, чтобы пожать ему руку и поблагодарить его за возможность поддерживать контакты с внуками, живущими в других городах и странах.
Разумеется, я и раньше был знаком с идеей о том, что искусственный интеллект может представлять опасность. Я слышал о «сингулярности» или «интеллектуальном взрыве» – концепции, исходно созданной статистиком И. Дж. Гудом (учившимся в Кембридже экс-коллегой Алана Тьюринга), согласно которой, когда искусственный интеллект достигнет определенного уровня, он сможет взять под контроль процесс собственного развития. Потом этот процесс, возможно, пойдет по экспоненте, и люди в итоге останутся далеко позади. Но я никогда раньше не встречал никого, кто считал бы это насущной причиной для беспокойства – и тем более, не ожидал этого от человека, играющего столь важную роль в компьютерном бизнесе.
Я был заинтригован. Кроме того меня впечатлило, что Таллинн был явно настроен что-то с этим сделать. Собственно говоря, сама эта тема возникла из-за моего вопроса, над чем он работает. Оказалось, что он тратит много времени, пытаясь улучшить наши шансы тем или иным способом
