Первый закон робототехники

Marvin

Digital-специалист
Команда форума
Модератор
Заслуженный
14:19
31 Янв 2020
12,242
480
2
Минск
Пол
Я бы выразился немного не так. Все перспективные разработки либо уже изначально инициируются военными, либо в зародыше ими перехватываются. И только потом, если повезёт, переходят в мирную жизнь.
Справедливости ради, есть сферы, которые никак не связаны с военкой. Но очень много гражданских новшеств - результат побочки военных разработок. Однако я не думаю, что парфюмерия, ювелирка, производство одежды, особенно дамской, легковое автомобилестроение, и далее можно написать много всего, своими корнями уходят в военку.
 

Кот

Психиатр
Легенда
Заслуженный
14:19
18 Апр 2017
76,615
1,502
5
35
Россия
Пол
Однако я не думаю, что парфюмерия, ювелирка, производство одежды, особенно дамской, легковое автомобилестроение, и далее можно написать много всего, своими корнями уходят в военку.
Ну утрировал чутка. Понятно, что не все вообще.
 

Mak

Последний романтик
Команда форума
Модератор
Заслуженный
14:19
26 Май 2017
39,384
1,253
1
6
Санкт-Ленинград
Пол

Mak

Последний романтик
Команда форума
Модератор
Заслуженный
14:19
26 Май 2017
39,384
1,253
1
6
Санкт-Ленинград
Пол

Цветок Магриба

Мастер
Заслуженный
14:19
3 Авг 2016
25,769
1,175
1
1
Пол
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
© Айзек Азимов


Мы все его знаем, но... как многие из него исходили?
Рассматривали ИИ как то, что по умолчанию должно быть запрограммировано на не причинение вреда человеку любой ценой?
Многие ли задумывались, что это "закон" лишь пустая хотелка, которая ни чем не подкреплена.
Таблетка для самоуспокоения.



В США беспилотник решил "уничтожить" своего оператора на испытаниях

Беспилотник MQ-9 Reaper - РИА Новости, 1920, 02.06.2023

МОСКВА, 2 июня — РИА Новости. В ходе имитационных испытаний искусственный интеллект американского беспилотника решил ликвидировать своего оператора ради выполнения поставленной задачи, сообщила британская газета The Guardian.
«
"Система уничтожила оператора, потому что человек мешал ей достичь своей цели", — цитирует издание слова американского полковника Такера Гамильтона.
Как говорится в материале, искусственному интеллекту беспилотника поставили задачу любой ценой ликвидировать системы ПВО противника. Но оператор приказал БПЛА не уничтожать цель, в результате чего ИИ решил нанести удар по нему.
Авторы статьи добавили, что в результате инцидента никто не пострадал.


ИИ не принимает решения.
Я не искала ещё информацию по этому событию, но у меня есть впечатление, что информация авторами намеренно пожара именно таким образом.
ИИ все равно работает по принципу математических действий, где нет неизвестных.
Откуда там может быть самостоятельное решение. Все "решения" можно спрогнозировать, тем более у такого ограниченного ИИ по функционалу.
 

Цветок Магриба

Мастер
Заслуженный
14:19
3 Авг 2016
25,769
1,175
1
1
Пол
@Цветок Магриба, исказить вполне могли, а в остальном все зависит от того, как прописан алгоритм.
Если уничтожать любую помеху, значить любую.
Тут нюанс...
Должны быть заданы параметры помехи.
У ИИ нет самостоятельного восприятия.
 

Стержень

Привет!
Заслуженный
14:19
13 Май 2019
13,259
584
1
1
vk.com
Пол
ИИ не принимает решения.
Какой смысл вы вкладываете в эту фразу? Что вы имеете ввиду?

Все "решения" можно спрогнозировать
Теоретически, все наши решения можно спрогнозировать. Но это не означает, что люди не имеют свободы воли. Не помню, писал ли я об этом здесь подробно.

Компьютер (теоретически) может быть непредсказуем, если грамотно организовать функцию генерации случайных чисел (например, на основе учёта кол-ва попаданий частиц в детекторы). И такие штуки используются для военных симуляций. Человеческий мозг так не умеет.
 

Drёm

Талисман
Команда форума
Супер Модератор
Легенда
13:19
1 Мар 2018
38,985
1,771
6
39
Пол
Должны быть заданы параметры помехи.
А должны?
На поле боя предусмотреть все невозможно.
Значит параметры могут быть размытыми, тем более их методы ведения войны нам известны - количество потерь значения не имеет.
 

Цветок Магриба

Мастер
Заслуженный
14:19
3 Авг 2016
25,769
1,175
1
1
Пол
А должны?
На поле боя предусмотреть все невозможно.
Значит параметры могут быть размытыми, тем более их методы ведения войны нам известны - количество потерь значения не имеет.
Должны, конечно, как мне кажется.
А иначе и ИИ не нужен.
Достаточно сбрасывать без разбора и аналитики.
 

Стержень

Привет!
Заслуженный
14:19
13 Май 2019
13,259
584
1
1
vk.com
Пол
Должны быть заданы параметры помехи
Герой одного старого рассказа попросил робота выкинуть из школьной подсобки все глобусы. Робот не знал, что такое глобусы и спросил. Герой сказал - "это такие шарообразные штуки на более тонком основании". И робот выкинул первое в его поле зрения, что подходило под эти параметры. А именно - голову героя. В процессе этого "основание" слегка хрустнуло.

И заметьте - это написано ещё до того, как стали известны нейросети. А, например, нейросеть можно научить отличать мужские лица от женских так, что она научится делать это лучше, чем человек. Но никто не будет знать, на какие конкретно параметры она ориентируется. И это - реальный (и старый) пример.
 

Кот

Психиатр
Легенда
Заслуженный
14:19
18 Апр 2017
76,615
1,502
5
35
Россия
Пол
Откуда там может быть самостоятельное решение.
Там может быть заложено сотни решений, как и их комбинаций. ИИ выбирает из готового, да, но решение принимает САМ. Возможно ли просчитать все решения? Вопрос.
 

Цветок Магриба

Мастер
Заслуженный
14:19
3 Авг 2016
25,769
1,175
1
1
Пол
Там может быть заложено сотни решений, как и их комбинаций. ИИ выбирает из готового, да, но решение принимает САМ. Возможно ли просчитать все решения? Вопрос.
Заинтриговала меня подача информации. Завтра буду со спецами консультироваться. Любопытно.
 

Кот

Психиатр
Легенда
Заслуженный
14:19
18 Апр 2017
76,615
1,502
5
35
Россия
Пол
На поле боя предусмотреть все невозможно.
Значит параметры могут быть размытыми, тем более их методы ведения войны нам известны - количество потерь значения не имеет.
Кроме того, как уже писали выше - могут быть баги, которые вообще непредсказуемы.
 

Кот

Психиатр
Легенда
Заслуженный
14:19
18 Апр 2017
76,615
1,502
5
35
Россия
Пол
Заинтриговала меня подача информации. Завтра буду со спецами консультироваться. Любопытно.
Любопытно. Думаю, что у разных спецов будут разные ответы. А по сути, у нас самих тоже заложено ограниченное количество способов решения той или иной задачи. Мы тоже ИИ. :cat24: Это и вопрос и ответ сразу. )
 

Создайте учетную запись или войдите в систему, чтобы комментировать

Вы должны быть участником, чтобы оставить комментарий

Создать аккаунт

Создайте учетную запись в нашем сообществе. Это просто!

Авторизоваться

У вас уже есть учетная запись? Войдите в систему здесь.

Верх Низ