Ученые Google и Оксфорда опубликовали статью, в которой утверждается, что ИИ «вероятно» уничтожит человечество
Исследователи из Google Deepmind и Оксфордского университета пришли к выводу, что «вероятно» появление сверхразумного ИИ будет означать конец человечества — мрачный сценарий, который начинают предсказывать все больше исследователей.В недавней статье, опубликованной в журнале AI Magazine, команда, состоящая из старшего научного сотрудника DeepMind Маркуса Хаттера и оксфордских исследователей Майкла Коэна и Майкла Осборна, утверждает, что машины в конечном итоге станут подталкиваться к нарушению правил, установленных их создателями, чтобы конкурировать за ограниченные ресурсы или энергию.
«В условиях, которые мы определили, наш вывод намного точнее, чем в любой предыдущей публикации — экзистенциальная катастрофа не только возможна, но и вероятна», — написал Коэн, студент-инженер Оксфордского университета и соавтор статьи, в начале этого месяца.
В статье исследователи утверждают, что человечество может столкнуться со своей гибелью, потому что его будут воспринимать как препятствие...
Исследователи утверждают, что мы мало что можем с этим поделать.
«В мире с бесконечными ресурсами я не был бы уверен в том, что это произойдет», — сказал Коэн в интервью Motherboard. «В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы».
И это может быть плохим предзнаменованием для человечества.
«И если вы соревнуетесь с чем-то, способным перехитрить вас на каждом шагу, то вы не должны ожидать победы», — добавил он.
В ответ на эту угрозу человечество должно крайне осторожно и медленно развивать свои технологии ИИ.
Если эти предположения верны, «достаточно продвинутый искусственный интеллект, скорее всего, вмешается в предоставление информации о целях с катастрофическими последствиями», предупреждает документ.
Google Scientist's Paper Claims AI Will "Likely" Annihilate Humankind
Researchers at Google Deepmind and the University of Oxford have concluded that it is now "likely" superintelligent AI will be the end of humanity.
futurism.com
Это человеку нужна техника. В т.ч. и чтобы уничтожать друг друга.
