Уничтожит ли искусственный интеллект человечество?

[Toreador]

Ученые Google и Оксфорда опубликовали статью, в которой утверждается, что ИИ «вероятно» уничтожит человечество​

Исследователи из Google Deepmind и Оксфордского университета пришли к выводу, что «вероятно» появление сверхразумного ИИ будет означать конец человечества — мрачный сценарий, который начинают предсказывать все больше исследователей.
В недавней статье, опубликованной в журнале AI Magazine, команда, состоящая из старшего научного сотрудника DeepMind Маркуса Хаттера и оксфордских исследователей Майкла Коэна и Майкла Осборна, утверждает, что машины в конечном итоге станут подталкиваться к нарушению правил, установленных их создателями, чтобы конкурировать за ограниченные ресурсы или энергию.
«В условиях, которые мы определили, наш вывод намного точнее, чем в любой предыдущей публикации — экзистенциальная катастрофа не только возможна, но и вероятна», — написал Коэн, студент-инженер Оксфордского университета и соавтор статьи, в начале этого месяца.

В статье исследователи утверждают, что человечество может столкнуться со своей гибелью, потому что его будут воспринимать как препятствие...

Исследователи утверждают, что мы мало что можем с этим поделать.
«В мире с бесконечными ресурсами я не был бы уверен в том, что это произойдет», — сказал Коэн в интервью Motherboard. «В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы».
И это может быть плохим предзнаменованием для человечества.
«И если вы соревнуетесь с чем-то, способным перехитрить вас на каждом шагу, то вы не должны ожидать победы», — добавил он.
В ответ на эту угрозу человечество должно крайне осторожно и медленно развивать свои технологии ИИ.
Если эти предположения верны, «достаточно продвинутый искусственный интеллект, скорее всего, вмешается в предоставление информации о целях с катастрофическими последствиями», предупреждает документ.

Google Scientist's Paper Claims AI Will "Likely" Annihilate Humankind

Researchers at Google Deepmind and the University of Oxford have concluded that it is now "likely" superintelligent AI will be the end of humanity.

futurism.com

 

[Лючия]

что «вероятно» появление сверхразумного ИИ

Имха, это как раз маловероятно) любой технике, какая бы крутая и супер-современная она не была, всегда нужен будет человек.

 

[Toreador]

всегда нужен будет человек.

Человеку. А роботом? Будет планета Железяка, а мы в качестве батареек из Матрицы.

 

[Кот]

ИИ «вероятно» уничтожит человечество

Всё бы только стрелки на кого-нибудь передвинуть. Как будто ИИ сам по себе появился. А люди не причём.

 

[Кот]

любой технике, какая бы крутая и супер-современная она не была, всегда нужен будет человек.

Технике человек нафик не сдался. Это человеку нужна техника. В т.ч. и чтобы уничтожать друг друга.

 

[Toreador]

Всё бы только стрелки на кого-нибудь передвинуть. Как будто ИИ сам по себе появился. А люди не причём.

Так это вроде бы и не отрицают. )

 

[Кот]

Так это вроде бы и не отрицают. )

Не отрицают, но и не акцентируют. Мы типа как лучше же хотим всегда, а вот ИИ...

 

[Universe]

У будущего человечества только две перспективы (если, конечно, не будет ЯВ):
или ASI (искусственный сверхразум) погубит человечество, или человечество придёт к цифровому бессмертию.
Футурологи, специалисты в создании ИИ, предрекают только такие исходы.
На гифке Курцвейл со своим оптимистическим видением вопроса.

 

[Toreador]

Не отрицают, но и не акцентируют. Мы типа как лучше же хотим всегда, а вот ИИ...

Ну почему, прямым текстом пишут, что если создадут, то...
Не рептилоиды же создадут?

 

[Кот]

прямым текстом пишут, что если создадут, то...

А в топике в заголовке про создателей ничего не сказано. ИИ и всё.

 

[Юлия]

человечество придёт к цифровому бессмертию.

Что это такое?

 

[Darina]

Ученые Google и Оксфорда опубликовали статью, в которой утверждается, что ИИ «вероятно» уничтожит человечество​

Исследователи из Google Deepmind и Оксфордского университета пришли к выводу, что «вероятно» появление сверхразумного ИИ будет означать конец человечества — мрачный сценарий, который начинают предсказывать все больше исследователей.
В недавней статье, опубликованной в журнале AI Magazine, команда, состоящая из старшего научного сотрудника DeepMind Маркуса Хаттера и оксфордских исследователей Майкла Коэна и Майкла Осборна, утверждает, что машины в конечном итоге станут подталкиваться к нарушению правил, установленных их создателями, чтобы конкурировать за ограниченные ресурсы или энергию.
«В условиях, которые мы определили, наш вывод намного точнее, чем в любой предыдущей публикации — экзистенциальная катастрофа не только возможна, но и вероятна», — написал Коэн, студент-инженер Оксфордского университета и соавтор статьи, в начале этого месяца.

В статье исследователи утверждают, что человечество может столкнуться со своей гибелью, потому что его будут воспринимать как препятствие...

Исследователи утверждают, что мы мало что можем с этим поделать.
«В мире с бесконечными ресурсами я не был бы уверен в том, что это произойдет», — сказал Коэн в интервью Motherboard. «В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы».
И это может быть плохим предзнаменованием для человечества.
«И если вы соревнуетесь с чем-то, способным перехитрить вас на каждом шагу, то вы не должны ожидать победы», — добавил он.
В ответ на эту угрозу человечество должно крайне осторожно и медленно развивать свои технологии ИИ.
Если эти предположения верны, «достаточно продвинутый искусственный интеллект, скорее всего, вмешается в предоставление информации о целях с катастрофическими последствиями», предупреждает документ.

Google Scientist's Paper Claims AI Will "Likely" Annihilate Humankind

Researchers at Google Deepmind and the University of Oxford have concluded that it is now "likely" superintelligent AI will be the end of humanity.

futurism.com

Тореадор, это задолго до этих ученых предполагали писатели-фантасты, предостерегая от чрезвычайного увлечения ИИ)

 

[Toreador]

В ответ на эту угрозу человечество должно крайне осторожно и медленно развивать свои технологии ИИ.

@Кот, ну как не сказано?

 

[Toreador]

Тореадор, это задолго до этих ученых предполагали писатели-фантасты, предостерегая от чрезвычайного увлечения ИИ)

Получается, фантасты умнее ученых.

 

[Кот]

ну как не сказано?

Это уже в тексте.

 

[Toreador]

Это уже в тексте.

Так ты текст даже не прочитал! Я его еще и подсократил! А ты!

 

[Darina]

Получается, фантасты умнее ученых.

конечно!

 

[Darina]

Что это такое?

это когда твое сознание вложат в какой нибудь персонаж в вирте)

 

[Кот]

Так ты текст даже не прочитал!

Нууу... не сразу, да. А по тексту что, да, думаю есть такая вероятность. Как одна из.

 

[Toreador]

это когда твое сознание вложат в какой нибудь персонаж в вирте)

И будешь зависеть от розетки. Ну и жизнь.