В Кембридже открылся центр исследований угроз искусственного интеллекта

В Кембридже заработал необычный исследовательский центр, целью которого станет изучение искусственного интеллекта, но не самого по себе, а как источника потенциальных угроз. Кроме того, центр CSER (Centre for the Study of Existential Risk) будет изучать, каким образом можно не допустить риски развития неконтролируемых угроз. В частности, целью нового центра будет изучение тенденций в развитии робототехники, которые в будущем могут стать опасными для человечества.

Ученые Кембриджа считают, что их исследования не надуманны и не преждевременны, так
как рано или поздно сверхинтеллектуальные машины, способные обходиться без человека, обязательно появятся. В связи с этим необходимо уже сейчас озаботиться созданием базиса для безопасного роботостроения, поскольку подобные машины могут быть как чрезвычайно полезны, так и опасны.

Ученые не отрицают, что на создание CSER они были вдохновлены яркими образами популярных фантастических фильмов вроде «Терминатора». Однако в основу исследовательских работ лягут серьезные труды известных ученых-математиков и инженеров, таких как Алан Тьюринг, Джон Гуд и др.

Основателями центра стали космолог Мартин Рис (Martin Rees), барон Лудлоу, бывший президент Лондонского королевского общества по развитию знаний о природе, известный философ Хью Прайс (Hugh Price), профессор Кембриджского университета, и один из создателей Skype, эстонский программист Яан Таллин (Jaan Tallinn), занимавшийся в университете теоретической проблемой путешествий во времени.

По словам Хью Прайса, человечество в своем развитии подошло к той точке, когда прогресс высокоинтеллектуальных технологий может стать угрозой для самого его существования. Философ считает, что при неблагоприятном стечении обстоятельств искусственный интеллект может стать последним крупным изобретением человечества. Прайс добавил, что Кембриджский университет, отметивший в 2009 году свое 800-летие, будет идеальным местом для центра таких исследований. «Наша цель – снизить риск того, что университет не увидит своего тысячелетия», – сказал Хью Прайс.

Ученые намерены проводить детальные исследования для более конкретного прогноза с привлечением мировых ученых и аналитиков из таких областей, как политика, право, информатика и наука. В своих работах сотрудники центра будут рассматривать системы машинного зрения, видеоаналитики, распознавания лиц, охранных роботов, ударных и разведывательных БПЛА, а также вопросы риск-менеджмента.

Источник