Первый закон робототехники

[Marvin]

Я бы выразился немного не так. Все перспективные разработки либо уже изначально инициируются военными, либо в зародыше ими перехватываются. И только потом, если повезёт, переходят в мирную жизнь.

Справедливости ради, есть сферы, которые никак не связаны с военкой. Но очень много гражданских новшеств - результат побочки военных разработок. Однако я не думаю, что парфюмерия, ювелирка, производство одежды, особенно дамской, легковое автомобилестроение, и далее можно написать много всего, своими корнями уходят в военку.

 

[Кот]

Однако я не думаю, что парфюмерия, ювелирка, производство одежды, особенно дамской, легковое автомобилестроение, и далее можно написать много всего, своими корнями уходят в военку.

Ну утрировал чутка. Понятно, что не все вообще.

 

[Mak]

Ну утрировал чутка. Понятно, что не все вообще.

а вообще всё

 

[Кот]

а вообще всё

Доказать это сложнее, чем согласиться с оппонентом.

 

[DK]

@Mak, вот скажи мне, как русский человек русскому человеку, ты нижнее бельё вообще носишь?!

 

[Mak]

@Mak, вот скажи мне, как русский человек русскому человеку, ты нижнее бельё вообще носишь?!

так ты же белорус

 

[DK]

так ты же белорус

@Mak, ты, вроде тоже раньше подкоблучником не был! Но жизнь она так переменчива!!!

 

[Цветок Магриба]

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
© Айзек Азимов

Мы все его знаем, но... как многие из него исходили?
Рассматривали ИИ как то, что по умолчанию должно быть запрограммировано на не причинение вреда человеку любой ценой?
Многие ли задумывались, что это "закон" лишь пустая хотелка, которая ни чем не подкреплена.
Таблетка для самоуспокоения.


В США беспилотник решил "уничтожить" своего оператора на испытаниях

​

МОСКВА, 2 июня — РИА Новости. В ходе имитационных испытаний искусственный интеллект американского беспилотника решил ликвидировать своего оператора ради выполнения поставленной задачи, сообщила британская газета The Guardian.
«
"Система уничтожила оператора, потому что человек мешал ей достичь своей цели", — цитирует издание слова американского полковника Такера Гамильтона.
Как говорится в материале, искусственному интеллекту беспилотника поставили задачу любой ценой ликвидировать системы ПВО противника. Но оператор приказал БПЛА не уничтожать цель, в результате чего ИИ решил нанести удар по нему.
Авторы статьи добавили, что в результате инцидента никто не пострадал.

​

ИИ не принимает решения.
Я не искала ещё информацию по этому событию, но у меня есть впечатление, что информация авторами намеренно пожара именно таким образом.
ИИ все равно работает по принципу математических действий, где нет неизвестных.
Откуда там может быть самостоятельное решение. Все "решения" можно спрогнозировать, тем более у такого ограниченного ИИ по функционалу.

 

[Drёm]

@Цветок Магриба, исказить вполне могли, а в остальном все зависит от того, как прописан алгоритм.
Если уничтожать любую помеху, значить любую.

 

[Цветок Магриба]

@Цветок Магриба, исказить вполне могли, а в остальном все зависит от того, как прописан алгоритм.
Если уничтожать любую помеху, значить любую.

Тут нюанс...
Должны быть заданы параметры помехи.
У ИИ нет самостоятельного восприятия.

 

[Стержень]

ИИ не принимает решения.

Какой смысл вы вкладываете в эту фразу? Что вы имеете ввиду?

Все "решения" можно спрогнозировать

Теоретически, все наши решения можно спрогнозировать. Но это не означает, что люди не имеют свободы воли. Не помню, писал ли я об этом здесь подробно.

Компьютер (теоретически) может быть непредсказуем, если грамотно организовать функцию генерации случайных чисел (например, на основе учёта кол-ва попаданий частиц в детекторы). И такие штуки используются для военных симуляций. Человеческий мозг так не умеет.

 

[Drёm]

Должны быть заданы параметры помехи.

А должны?
На поле боя предусмотреть все невозможно.
Значит параметры могут быть размытыми, тем более их методы ведения войны нам известны - количество потерь значения не имеет.

 

[Цветок Магриба]

А должны?
На поле боя предусмотреть все невозможно.
Значит параметры могут быть размытыми, тем более их методы ведения войны нам известны - количество потерь значения не имеет.

Должны, конечно, как мне кажется.
А иначе и ИИ не нужен.
Достаточно сбрасывать без разбора и аналитики.

 

[Стержень]

Должны быть заданы параметры помехи

Герой одного старого рассказа попросил робота выкинуть из школьной подсобки все глобусы. Робот не знал, что такое глобусы и спросил. Герой сказал - "это такие шарообразные штуки на более тонком основании". И робот выкинул первое в его поле зрения, что подходило под эти параметры. А именно - голову героя. В процессе этого "основание" слегка хрустнуло.

И заметьте - это написано ещё до того, как стали известны нейросети. А, например, нейросеть можно научить отличать мужские лица от женских так, что она научится делать это лучше, чем человек. Но никто не будет знать, на какие конкретно параметры она ориентируется. И это - реальный (и старый) пример.

 

[Кот]

Откуда там может быть самостоятельное решение.

Там может быть заложено сотни решений, как и их комбинаций. ИИ выбирает из готового, да, но решение принимает САМ. Возможно ли просчитать все решения? Вопрос.

 

[Цветок Магриба]

@Стержень, я имею в виду, что ИИ работает с данными, которые дали.

 

[Цветок Магриба]

Там может быть заложено сотни решений, как и их комбинаций. ИИ выбирает из готового, да, но решение принимает САМ. Возможно ли просчитать все решения? Вопрос.

Заинтриговала меня подача информации. Завтра буду со спецами консультироваться. Любопытно.

 

[Кот]

На поле боя предусмотреть все невозможно.
Значит параметры могут быть размытыми, тем более их методы ведения войны нам известны - количество потерь значения не имеет.

Кроме того, как уже писали выше - могут быть баги, которые вообще непредсказуемы.

 

[Кот]

Заинтриговала меня подача информации. Завтра буду со спецами консультироваться. Любопытно.

Любопытно. Думаю, что у разных спецов будут разные ответы. А по сути, у нас самих тоже заложено ограниченное количество способов решения той или иной задачи. Мы тоже ИИ. Это и вопрос и ответ сразу. )

 

[Drёm]

@Кот, да, просто потому что один и тот же параметр может быть у разных объектов, и предусмотреть все невозможно.