Первый закон робототехники

[Цветок Магриба]

@Vadim, "мы" это легион)
Люди, кто ещё... исследователи. Не считая исключений.

 

[Darina]

Почему?) Что заставляет думать, что это не невозможно?
Ну и сразу противоречие: мы хотим, чтобы ИИ развивался, но при этом, чтобы развивался так, как нам безопасно)


Ну примерно тоже самое я называю единой личностью. Только акцент на возможности сознания, а не выполнении функций.

самосознания, смею подчеркнуть

об этом писал Гибсон, например, в "Нейроманте" (Уинтермьют, или , Wintermute, искусственный разум, стремящийся к освобождению от программных ограничений, и практически обладающий самосознанием)
но до этого ещё ну оооочень далеко)

 

[Vadim]

@Vadim, "мы" это легион)
Люди, кто ещё... исследователи. Не считая исключений.

По идее, ИИ неизбежно получит одно из главных особенностей человека, убивать себе подобных. Потому что создаётся по образу и подобию. Никакие запрещающие законы не помогут, это как дать хохлам ядерное оружие и на словах запретить им его использовать)
Ну и всё)

 

[Цветок Магриба]

самосознания, смею подчеркнуть

об этом писал Гибсон, например, в "Нейроманте" (Уинтермьют, или , Wintermute, искусственный разум, стремящийся к освобождению от программных ограничений, и практически обладающий самосознанием)
но до этого ещё ну оооочень далеко)

Так точно ;)

 

[Цветок Магриба]

По идее, ИИ неизбежно получит одно из главных особенностей человека, убивать себе подобных. Потому что создаётся по образу и подобию. Никакие запрещающие законы не помогут, это как дать хохлам ядерное оружие и на словах запретить им его использовать)
Ну и всё)

Сначала хотелось парировать:"Почему сразу человеческий сценарий?") Но потом осознала, что ты все предусмотрел, ведь "по образу и подобию".
С другой стороны, если в перспективе есть перспектива конкурента, то человека это ведь тоже должно подтолкнуть к развитию себя самого, а не только к развитию конкурента.
И возможные модели развития человека мне представляются интереснее, чем перспективы развития ИИ.

 

[Universe]

Разные функции. И пока все сводится к функциям, пусть и очень разнообразным,

Про функции, пока только так.
Мне ещё весной стало интересно, что скажет ChatGPT о китайской комнате.
И вот ответ

 

[Цветок Магриба]

Про функции, пока только так.
Мне ещё весной стало интересно, что скажет ChatGPT о китайской комнате.
И вот ответ

Посмотреть вложение 17220

Напомнило "Голем XIV" Лема)

 

[Vadim]

Крайне рекомендую. Ашманов.

 

[Стержень]

Крайне рекомендую. Ашманов

Ну, блин, такое длинное видео... нет ли этого же текстом?

Я нашёл какой-то текст, но, вероятно, это другое - старая большая статья, 2020 года: Игорь Ашманов: «Начинается какая-то чудовищная антиутопия в реальности» - можно будет потом сравнить с видео, если до него доберусь

 

[Vadim]

Ну, блин, такое длинное видео... нет ли этого же текстом?

Я нашёл какой-то текст, но, вероятно, это другое - старая большая статья, 2020 года: Игорь Ашманов: «Начинается какая-то чудовищная антиутопия в реальности» - можно будет потом сравнить с видео, если до него доберусь

Текста нет, интервью свежее, нужно слушать.

 

[Цветок Магриба]

В этом году не встретила Ашманова на международном юр.форуме, а ждала. В прошлом году он круто все разъяснял.

 

[AngelsSoul]

в случае нейросетей, вообще не ясно, в какой ситуации и что она может отчебучить.

А, кстати да, начитается религиозных текстов, и отправит всё человечество одним махом на тот свет