Первый закон робототехники

[Drёm]

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
© Айзек Азимов

Мы все его знаем, но... как многие из него исходили?
Рассматривали ИИ как то, что по умолчанию должно быть запрограммировано на не причинение вреда человеку любой ценой?
Многие ли задумывались, что это "закон" лишь пустая хотелка, которая ни чем не подкреплена.
Таблетка для самоуспокоения.


В США беспилотник решил "уничтожить" своего оператора на испытаниях

​

МОСКВА, 2 июня — РИА Новости. В ходе имитационных испытаний искусственный интеллект американского беспилотника решил ликвидировать своего оператора ради выполнения поставленной задачи, сообщила британская газета The Guardian.
«
"Система уничтожила оператора, потому что человек мешал ей достичь своей цели", — цитирует издание слова американского полковника Такера Гамильтона.
Как говорится в материале, искусственному интеллекту беспилотника поставили задачу любой ценой ликвидировать системы ПВО противника. Но оператор приказал БПЛА не уничтожать цель, в результате чего ИИ решил нанести удар по нему.
Авторы статьи добавили, что в результате инцидента никто не пострадал.

​

 

[Айвери]

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
© Айзек Азимов

Мы все его знаем, но... как многие из него исходили?

с такими установками военных роботов не сделаешь )

 

[Кот]

Многие ли задумывались, что это "закон" лишь пустая хотелка, которая ни чем не подкреплена.

А над этим и задумываться особо нечего. Всё, что создаётся человеком, может быть использовано против него. Самим же человеком. А ИИ создаётся по образу и подобию человека, и, опять же, создаётся человеком. А уж если этот человек военный, то о чём речь. А Азимов просто писатель-фантаст.

 

[Drёm]

@Айвери, @Кот, но как красиво было на бумаге, и что в итоге... все что не попадает в руки человеку он использует для уничтожения самого себя...

 

[Айвери]

@Айвери, @Кот, но как красиво было на бумаге, и что в итоге... все что не попадает в руки человеку он использует для уничтожения самого себя...

где красиво ? ))
там даже на бумаге зачастую случалось всякое "неприятное" ))

 

[Кот]

все что не попадает в руки человеку он использует для уничтожения самого себя...

Вот и ответ. Особенно же в этом направлении преуспели, по понятным причинам, военные. Ну а создатели ИИ - они же на содержании политиков и военных.

 

[Mak]

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
© Айзек Азимов

Мы все его знаем, но... как многие из него исходили?
Рассматривали ИИ как то, что по умолчанию должно быть запрограммировано на не причинение вреда человеку любой ценой?
Многие ли задумывались, что это "закон" лишь пустая хотелка, которая ни чем не подкреплена.
Таблетка для самоуспокоения.


В США беспилотник решил "уничтожить" своего оператора на испытаниях

​

МОСКВА, 2 июня — РИА Новости. В ходе имитационных испытаний искусственный интеллект американского беспилотника решил ликвидировать своего оператора ради выполнения поставленной задачи, сообщила британская газета The Guardian.
«
"Система уничтожила оператора, потому что человек мешал ей достичь своей цели", — цитирует издание слова американского полковника Такера Гамильтона.
Как говорится в материале, искусственному интеллекту беспилотника поставили задачу любой ценой ликвидировать системы ПВО противника. Но оператор приказал БПЛА не уничтожать цель, в результате чего ИИ решил нанести удар по нему.
Авторы статьи добавили, что в результате инцидента никто не пострадал.

​

Как будто Терминатора не смотрели

 

[Drёm]

Как будто Терминатора не смотрели

есть злые сказки, а есть добрые
ты какие больше любишь?

 

[Visitor]

Роботам забыли дать почитать Азимова..

 

[Drёm]

Роботам забыли дать почитать Азимова..

Азимова забыли дать почитать тем, кто программирует роботов

 

[Стержень]

В роботских рассказах Азимова, видно, что понятие вреда не было чётко определено, что являлось источником разнообразных коллизий.

Традиционный подход заключается в том, чтобы, исходя из поставленной задачи(не причинение вреда) сформулировать набор конкретных правил, которым должен следовать робот. Ну и потом, каждый пункт из этого набора должен ещё уточняться и уточняться, до тех пор, пока не дойдёт до уровня логических операций, которые можно запрограммировать.
- такой подход имеет свои "особенности" - например, декларативный смысл(что изначально имелось ввиду) никогда в точности не совпадает с процедурным смыслом(что в итоге будет выполняться) - точного совпадения добиться просто невозможно, потому что это совершенно разные понятийные области.

Но вот, не так давно начали ярко себя проявлять нейросети (работа над которыми ведётся, где-то с 50-х годов) - и вот нейросети действительно можно поставить задачу "не причинять вред", не давая точного определения, а надеясь на то, что она как-нибудь сама разберётся, в результате анализа большого массива соответствующих данных. Это, пожалуй, для данной задачи, более простой путь. Но только вряд ли таким способом получится добиться удовлетворительного результата. А, кроме того, в отличие от традиционного подхода, где [теоретически] есть возможность проанализировать код, в случае нейросетей, вообще не ясно, в какой ситуации и что она может отчебучить.

 

[Стержень]

с такими установками военных роботов не сделаешь )

Вот, кстати, да. Азимов был чрезмерно идеалистичен. Или, скорее таковыми были его произведения. В которых он мог исследовать понятие "вреда", придумав идеальных роботов, беспрекословно следующих таким вот законам.

 

[Стержень]

ИИ создаётся по образу и подобию человека, и, опять же, создаётся человеком.

Когда-то в 50-х годах разработка нейросетей велась в духе "сделать компьютер, работающий как мозг". Этот этап можно сравнить с ранними попытками сделать самолёт, машущий крыльями, как птица.

В итоге, первый самолёт который взлетел, имел мало общего с птицами(это был биплан с двумя толкающими пропеллерами, вращающимися в противоположных направлениях). Не говоря уж о современных различных самолётах. Совершенно разные принципы полёта. Примерно так получилось и с нейросетями.

 

[Чира Бедокур]

Роботам забыли дать почитать Азимова..

Азимова забыли дать почитать тем, кто программирует роботов

короче, Азимова никто не читал...

 

[Чира Бедокур]

А Азимов просто писатель-фантаст.

Но так Жюль Верн тоже был писателем фантастом, но в "20 000 лье под водой" он предсказал подводную лодку, в "Робуре -завоевателе" - вертолёт, в романе " 500 миллионов бегумы" он предсказал Гитлера, фашизм и мировую войну (Верн умер 1905), в романе "Флаг Родины" - бомбу схожую на ядерную, ну а в "Париже ХХ века" высились небоскрёбы, люди путешествовали на сверхскоростных электропоездах, а преступников казнили при помощи электрического разряда. Банки пользовались вычислительными машинами, которые мгновенно выполняли сложнейшие арифметические операции, всю планету опутывает глобальная информационная сеть, правда в основе её лежит обычный телеграф. Всё это, без чего невозможно представить сегодняшнее время было придумано обычным писателем-фантастом в конце 19 века.

 

[Кот]

Совершенно разные принципы полёта. Примерно так получилось и с нейросетями.

Да хрен с ними, с принципами, если говорить конкретно в контексте темы. ИИ создан человеком, и не только, а может и не столько в мирных целях, и уже вовсю используется вояками. Так что похож ИИ принципиально на мозг, или нет - это другая тема. Важно то, что его приспосабливают под военные нужды, а значит - убивать.

 

[Кот]

Но так Жюль Верн тоже был писателем фантастом, но в "20 000 лье под водой" он предсказал подводную лодку, в "Робуре -завоевателе" - вертолёт

И что? Что в этом странного? Люди всегда мечтали плавать как рыбы, летать как птицы, всегда воевали, и т.д. и т.п. К теме это вообще никаким боком. В теме обсуждается одна единственная фантазия одного единственного писателя-фантаста. Ему так хотелось в тот момент, или нужно было для создания очередного романа. Ты тоже слегка не в ту степь уехал мыслью. Да и ваще, фантастов у нас много, а предсказатель один.

 

[Marvin]

Но так Жюль Верн тоже был писателем фантастом, но в "20 000 лье под водой" он предсказал подводную лодку, в "Робуре -завоевателе" - вертолёт, в романе " 500 миллионов бегумы" он предсказал Гитлера, фашизм и мировую войну (Верн умер 1905), в романе "Флаг Родины" - бомбу схожую на ядерную, ну а в "Париже ХХ века" высились небоскрёбы, люди путешествовали на сверхскоростных электропоездах, а преступников казнили при помощи электрического разряда. Банки пользовались вычислительными машинами, которые мгновенно выполняли сложнейшие арифметические операции, всю планету опутывает глобальная информационная сеть, правда в основе её лежит обычный телеграф. Всё это, без чего невозможно представить сегодняшнее время было придумано обычным писателем-фантастом в конце 19 века.

Справедливости ради, экспериментам с подводными лодками (скрытое судно Никонова) на момент предсказания было уже сто лет. Чертежи первого вертолета (и первого ли) были в архивах Леонардо ДаВинчи, "Флаг родины" все на основе химических составов. Можно еще и Полет на Луну/Вокруг Луны вспомнить. 500 Миллионов бегумы не помню, надо освежить.

На самом деле Жюль Верн был начитанным человеком, неплохим писателем и совершенно безграмотным с точки зрения науки. Однако, как популяризатор - он бесценен.

 

[Marvin]

Ну а теперь по теме. Вроде уже опровержение на тему вышло, верить ему или нет - дело каждого.

ПО факту. То, что ИИ используется в военных целях уже давно - нет никаких сомнений. Собственно говоря, изрядное количество изобретений в мирную жизнь пришло как результат военных разработок. Ну и да, если ИИ будет использоваться в качестве оружия - никто ему Азимова читать не даст. А то, что на испытаниях мог погибнуть свой - вполне верю, я еще не видел программ без багов...

 

[Кот]

изрядное количество изобретений в мирную жизнь пришло как результат военных разработок.

Я бы выразился немного не так. Все перспективные разработки либо уже изначально инициируются военными, либо в зародыше ими перехватываются. И только потом, если повезёт, переходят в мирную жизнь.