Уничтожит ли искусственный интеллект человечество?

Toreador

Elapidae
Заслуженный
14:57
1 Янв 2016
191,406
2,535
4
17
Москва
Пол

Ученые Google и Оксфорда опубликовали статью, в которой утверждается, что ИИ «вероятно» уничтожит человечество​

Исследователи из Google Deepmind и Оксфордского университета пришли к выводу, что «вероятно» появление сверхразумного ИИ будет означать конец человечества — мрачный сценарий, который начинают предсказывать все больше исследователей.
В недавней статье, опубликованной в журнале AI Magazine, команда, состоящая из старшего научного сотрудника DeepMind Маркуса Хаттера и оксфордских исследователей Майкла Коэна и Майкла Осборна, утверждает, что машины в конечном итоге станут подталкиваться к нарушению правил, установленных их создателями, чтобы конкурировать за ограниченные ресурсы или энергию.
«В условиях, которые мы определили, наш вывод намного точнее, чем в любой предыдущей публикации — экзистенциальная катастрофа не только возможна, но и вероятна», — написал Коэн, студент-инженер Оксфордского университета и соавтор статьи, в начале этого месяца.

В статье исследователи утверждают, что человечество может столкнуться со своей гибелью, потому что его будут воспринимать как препятствие...

Исследователи утверждают, что мы мало что можем с этим поделать.
«В мире с бесконечными ресурсами я не был бы уверен в том, что это произойдет», — сказал Коэн в интервью Motherboard. «В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы».
И это может быть плохим предзнаменованием для человечества.
«И если вы соревнуетесь с чем-то, способным перехитрить вас на каждом шагу, то вы не должны ожидать победы», — добавил он.
В ответ на эту угрозу человечество должно крайне осторожно и медленно развивать свои технологии ИИ.
Если эти предположения верны, «достаточно продвинутый искусственный интеллект, скорее всего, вмешается в предоставление информации о целях с катастрофическими последствиями», предупреждает документ.
 

Лючия

Фурия кутежа
Заслуженный
14:57
30 Мар 2019
27,961
1,921
3
8
Москва
Пол
что «вероятно» появление сверхразумного ИИ
Имха, это как раз маловероятно) любой технике, какая бы крутая и супер-современная она не была, всегда нужен будет человек.
 

Toreador

Elapidae
Заслуженный
14:57
1 Янв 2016
191,406
2,535
4
17
Москва
Пол
всегда нужен будет человек.
Человеку. А роботом? Будет планета Железяка, а мы в качестве батареек из Матрицы. :biggrin1:
 

Кот

Психиатр
Легенда
Заслуженный
14:57
18 Апр 2017
76,615
1,502
5
35
Россия
Пол

Кот

Психиатр
Легенда
Заслуженный
14:57
18 Апр 2017
76,615
1,502
5
35
Россия
Пол
любой технике, какая бы крутая и супер-современная она не была, всегда нужен будет человек.
Технике человек нафик не сдался. :cat3: Это человеку нужна техника. В т.ч. и чтобы уничтожать друг друга.
 

Universe

Продвинутый
Заслуженный
14:57
30 Авг 2017
5,794
51
1
4
Пол
У будущего человечества только две перспективы (если, конечно, не будет ЯВ):
или ASI (искусственный сверхразум) погубит человечество, или человечество придёт к цифровому бессмертию.
Футурологи, специалисты в создании ИИ, предрекают только такие исходы.
На гифке Курцвейл со своим оптимистическим видением вопроса.

 

Toreador

Elapidae
Заслуженный
14:57
1 Янв 2016
191,406
2,535
4
17
Москва
Пол
Не отрицают, но и не акцентируют. Мы типа как лучше же хотим всегда, а вот ИИ... :connie-twiddle:
Ну почему, прямым текстом пишут, что если создадут, то...
Не рептилоиды же создадут? :connie-twiddle:
 

Darina

Гуру
Легенда
05:57
16 Янв 2016
38,008
984
2
10
Пол

Ученые Google и Оксфорда опубликовали статью, в которой утверждается, что ИИ «вероятно» уничтожит человечество​

Исследователи из Google Deepmind и Оксфордского университета пришли к выводу, что «вероятно» появление сверхразумного ИИ будет означать конец человечества — мрачный сценарий, который начинают предсказывать все больше исследователей.
В недавней статье, опубликованной в журнале AI Magazine, команда, состоящая из старшего научного сотрудника DeepMind Маркуса Хаттера и оксфордских исследователей Майкла Коэна и Майкла Осборна, утверждает, что машины в конечном итоге станут подталкиваться к нарушению правил, установленных их создателями, чтобы конкурировать за ограниченные ресурсы или энергию.
«В условиях, которые мы определили, наш вывод намного точнее, чем в любой предыдущей публикации — экзистенциальная катастрофа не только возможна, но и вероятна», — написал Коэн, студент-инженер Оксфордского университета и соавтор статьи, в начале этого месяца.

В статье исследователи утверждают, что человечество может столкнуться со своей гибелью, потому что его будут воспринимать как препятствие...

Исследователи утверждают, что мы мало что можем с этим поделать.
«В мире с бесконечными ресурсами я не был бы уверен в том, что это произойдет», — сказал Коэн в интервью Motherboard. «В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы».
И это может быть плохим предзнаменованием для человечества.
«И если вы соревнуетесь с чем-то, способным перехитрить вас на каждом шагу, то вы не должны ожидать победы», — добавил он.
В ответ на эту угрозу человечество должно крайне осторожно и медленно развивать свои технологии ИИ.
Если эти предположения верны, «достаточно продвинутый искусственный интеллект, скорее всего, вмешается в предоставление информации о целях с катастрофическими последствиями», предупреждает документ.
Тореадор, это задолго до этих ученых предполагали писатели-фантасты, предостерегая от чрезвычайного увлечения ИИ)
 

Toreador

Elapidae
Заслуженный
14:57
1 Янв 2016
191,406
2,535
4
17
Москва
Пол
Тореадор, это задолго до этих ученых предполагали писатели-фантасты, предостерегая от чрезвычайного увлечения ИИ)
Получается, фантасты умнее ученых. :connie-twiddle:
 

Создайте учетную запись или войдите в систему, чтобы комментировать

Вы должны быть участником, чтобы оставить комментарий

Создать аккаунт

Создайте учетную запись в нашем сообществе. Это просто!

Авторизоваться

У вас уже есть учетная запись? Войдите в систему здесь.

Верх Низ