Три закона робототехники. Ваше мнение?

Alex StreLock

Единомышленник
Наш человек
Местное время
11:08
Регистрация
30 Апр 2020
Сообщения
302
Репутация
0
Местоположение
Нижний Новгород
vk.com
Пол
Мужской
Может ли робот разобраться в этих законах?

Теоретически может.

Тут возникает несколько вопросов.

1. Что такое вред? Например, человек хочет мореженого, но ему нельзя, а робот (в смысле азимовских роботов) отказывается ему принести. Это вред или нет? А если он не знает, что человеку нельзя, но приносит. :) Азимов недоработал.

2. Робот в смысле Азимова это искусственно созданное , антропоморфное существо, наделенное "разумом". Таких не будет. Прогресс свернул не туда. Прототип будущего робота это Сири или Алиса. А его среда обитания - ЦОД. Когда Алиса переместится из телефона в какую -нибудь "самобеглую коляску" - получим классического робота из старой фантастики. С одним отличием, его мозг не в нем, а он один на всех роботов- удаленно. Или несколько разных мозгов, по числу корпораций, владельцев сервиса "роботов". И тогда все вопросы ни к роботу, а к корпорациям. Что там с "вредом". Для наглядного примера "вреда-не вреда' можно рассмотреть такое заведение как "макдональдс". Я считаю, что никто заморачиваться не будет.

3. Самое главное. Разбираться в законах этих должны не роботы, а их создатели. Что они там создадут - то и будет.

Возражения, уточнения приветствуются.
 

Toreador

Elapidae
Заслуженный
Местное время
11:08
Регистрация
1 Янв 2016
Сообщения
191,407
Репутация
2,535
Уровень
2
Награды
20
Местоположение
Москва
Пол
Мужской
1. Что такое вред? Например, человек хочет мореженого, но ему нельзя, а робот (в смысле азимовских роботов) отказывается ему принести. Это вред или нет? А если он не знает, что человеку нельзя, но приносит.
Именно. Где будет граница между вредом и мелкими неприятностями? Которые и не неприятности вовсе, как то же мороженое?
А если мороженым угостят диабетика? Или рыбой аллергика?
Должен ли робот просчитать все нюансы и знать все про окружающих?
 

КОЛОБОК

Скучающий лодырь
Наш человек
Местное время
11:08
Регистрация
3 Апр 2020
Сообщения
2,118
Репутация
0
Местоположение
Москва
Пол
Мужской
А что Вы думаете о трех законах НЬютона?
Ну у них, в отличии от законов Азимова, хотя бы предмет приложения есть!
Мир изменяется иначе, чем казалось футуристам пол века назад. Их предсказания не актуальны, а потому и обсуждать их бессмыслено. Азимов описывал вселенную настолько заселенную людьми, что люди, далеко улетевшие от планеты прародительницы забывали о существовании этой планеты. И это при наличии роботов которые ничего не забывают! Впрочем в мирах Айзека даже о роботах умудрились забыть, так Айзек зафантазировался! Но ему то вольно фантазировать. Он каждое свое слово за денешку продавал. Мы же тут пишем бесплатно, но от того не более осмысленно. К чему. С какой целью обсуждать логические построения умозрительного характерв? Был ли мальчик? Будет ли? Нужны ли все эти киборги/шмыборги, если люди даже собственное, чисто человеческое общество не умеют обустроить, но берутся создать искусственное и обустроить его. Попа то не треснит? пупок не развяжется? Интеллект в смирительную рубашечку не обвернется? А то ишь! Нос до конца от козявок выкывырять не могут, а играются вселенные создавать! Создатели недоделанные!:rolleyes::coffee_m:

Тут он кофе некоторые с:eda2:варить толком не умеют....
 

Бача

Продвинутый
Заслуженный
Местное время
11:08
Регистрация
8 Окт 2018
Сообщения
5,767
Репутация
0
Награды
4
Местоположение
Всё там же.
Пол
Мужской
Спросил мелкого, он робототехник третий год. Значит- шарит. Ответил.
1). Робот не обязан ни в чём разбираться. В нём программа, заложенная мной. Как она будет работать- решаю я. В роботе мой мозг, а сам он только его механическая часть. Рука не может кинуть камень без мозга.
2). В законченной и хорошо сформулированной программе по определению не может быть неуправляемых действий. Ход операции разработан в программе. Отступление
от нее в таких серьёзных сферах деятельности ограничивается мгновенной блокировкой.
3). Робот не принимает решение. Это только кажется. В программе заложены условные внешние сигналы и ответ на них. Чём сложнее программа ,тем больше этих блоков, вот и всё.
IT безопасность, сказал этот мелкий гном, которой я занимаюсь, в том числе включает и анализ сложных программ на возможные ошибки. И вот ни одна программа, представляющая опасность для человека не будет выложена до пятиступенчатой проверки на безопасность. И не путай ты роботов с ИИ, я тя умоляю. Это очень разные вещи. Все издержки робототехники- это издержки человеческого ума.
Вощем за роботов я спокоен)))). Пока такие парни ими управляют ::D:
 

Amalienau

Гуру
Заслуженный
Местное время
11:08
Регистрация
22 Мар 2016
Сообщения
32,304
Репутация
99
Награды
6
Пол
Мужской
Задумался...
Айзек Азимов сформулировал три закона робототехники.
Законы гласят:
Цитата:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Если государству понадобится армия роботов-солдат, то эти принципы Азимова не будут соблюдать..
 

Toreador

Elapidae
Заслуженный
Местное время
11:08
Регистрация
1 Янв 2016
Сообщения
191,407
Репутация
2,535
Уровень
2
Награды
20
Местоположение
Москва
Пол
Мужской

Alex StreLock

Единомышленник
Наш человек
Местное время
11:08
Регистрация
30 Апр 2020
Сообщения
302
Репутация
0
Местоположение
Нижний Новгород
vk.com
Пол
Мужской
...интересно- что будет с роботом, перед которым встанет выбор- допустить 100% вероятность смерти одного человека или 2% вероятность смерти сотни человек? Перегорит или нет? ::D:

Он будет действовать как запрограммирован. Запрограммирован "перегореть" - перегорит.

Добавлено через 6 минут

Думаю, что человечество не готово к искусственному интеллекту покамис.

К сожалению человечество никто не спросил, готово они или нет.
 

annazimoj

Продвинутый
Заслуженный
Местное время
11:08
Регистрация
19 Апр 2017
Сообщения
7,446
Репутация
0
Местоположение
Хуторок
Пол
Женский
Мне нравится идея из мира дикого запада.
Супер ии, который стал управлять жизнями людей для их же пользы.

Люди увы довольно злые, ограниченные и эгоистичные существа. Они врут, убивают друг друга, не способны на самопожертвование ради вида.

Думаю, любой супер ии, посмотрев на вот это вот всё, додумался бы до усовершенствования людей как вида)

А там есть много вариантов)

Короче, я бы на месте всех этих умников от айти не создавала ии.
А то шансов у людей ноль.
 

Alex StreLock

Единомышленник
Наш человек
Местное время
11:08
Регистрация
30 Апр 2020
Сообщения
302
Репутация
0
Местоположение
Нижний Новгород
vk.com
Пол
Мужской

Стержень

Привет!
Заслуженный
Местное время
11:08
Регистрация
13 Май 2019
Сообщения
12,937
Репутация
574
Награды
1
vk.com
Пол
Мужской
Роботы будут действовать так, как их запрограммировали. Внесут ли эти законы им в электронные мозги? Вот это хороший вопрос.
Мир изменяется иначе, чем казалось футуристам пол века назад. Их предсказания не актуальны,
Если государству понадобится армия роботов-солдат, то эти принципы Азимова не будут соблюдать..

- это всё верно и достойно рассмотрения, однако, мало касается произведений Азимова с законами робототехники. Которые можно рассматривать как псевдофантастическое фэнтези))

Теоретически может.
Тут возникает несколько вопросов.
1. Что такое вред?
Спросил мелкого, он робототехник третий год. Значит- шарит. Ответил.
1). Робот не обязан ни в чём разбираться. В нём программа,

Да, тут мы подходим к сути этих замечательных произведений:
Оффтоп

В итоге, мы, по-факту имеем рассказы не про роботов, а про каких-то идеальных сущностей, которые соблюдают законы исходя не из гигантской чёткой инструкции, а только из самой формулировки этих законов. Это похоже на то, как в средние века рассуждали, сколько ангелов могут поместиться на конце иглы, что дало толчок развитию теории пределов(вообще многие понятия в математике сначала были сформированы в философских размышлениях).

То есть, рассказы Азимова с законами робототехники - это не про роботов, а своеобразная попытка исследования проблем этики в популярной форме.

Мне нравится идея из мира дикого запада.
Супер ии, который стал управлять жизнями людей для их же пользы.

Ещё есть отличный фильм "Я, робот" на эту тему - да, один из важных и интересных вопросов - а что если для обеспечения всеобщего блага нужно как-то ограничить свободу людей или даже нанести кому-то вред? - я уже плохо помню, но у Азимова есть произведения и об этом.
 

Стержень

Привет!
Заслуженный
Местное время
11:08
Регистрация
13 Май 2019
Сообщения
12,937
Репутация
574
Награды
1
vk.com
Пол
Мужской
Короче, я бы на месте всех этих умников от айти не создавала ии.
А то шансов у людей ноль.
Так и есть. Шансов ноль.

Проблемы с ИИ возникают ещё до создания "настоящего" ИИ(чем бы он ни был)) и проблема возникает от того, что в сложном современном мире можно получить преймущество, используя сложные автоматические системы; а в итоге мы вносим в мир сложные элементы и происходящее в мире всё больше выходит за рамки нашего понимания.

Проблема не в том, что ИИ завоюет мир, а в том, что человечество перестанет быть доминирующей силой в переусложнённом мире, который мы просто не будем понимать. Мы окажемся в положении дикарей перед лицом "электронных духов", живущих во всех устройствах и взаимодействующих друг с другом. При этом, закономерности развития сложных систем таковы, что утрата контроля не несёт нам ничего хорошего.

И тогда, может быть, однажды возникнет ИИ, а может быть и нет. Может быть, роботы отправятся в космос, а может быть и нет. И, в любом случае, в целом система будет стремиться не тратить на нас лишних ресурсов, если это не будет выгодно. Может быть, люди смогут успешно торговать с железяками или может быть, железяки будут заботиться о нас как о домашних животных, а может быть и нет.

- и это ещё оптимистичный вариант; без учёта неизбежных злонамеренных мотивов создателей техники и без учёта неизбежных губительных ошибок.
 

Talamasca

Cherish your life.
Заслуженный
Местное время
11:08
Регистрация
6 Фев 2017
Сообщения
126,533
Репутация
1,210
Уровень
1
Награды
15
Пол
Женский

Alex StreLock

Единомышленник
Наш человек
Местное время
11:08
Регистрация
30 Апр 2020
Сообщения
302
Репутация
0
Местоположение
Нижний Новгород
vk.com
Пол
Мужской

Есть такой момент. Но... волков бояться - в лес не ходить.

В Латвии дрон отказался подчиняться командам и уже второй день неконтролируемо носится над страной. Его вес 26 кг, скорость 70 км/ч, высота полета 200 метров, запас хода 90 часов.
 

Стержень

Привет!
Заслуженный
Местное время
11:08
Регистрация
13 Май 2019
Сообщения
12,937
Репутация
574
Награды
1
vk.com
Пол
Мужской
В Латвии дрон отказался подчиняться командам и уже второй день неконтролируемо носится над страной

...может ли беспилотник принадлежать военным, данных нет. Разыскивает ли он Джона Коннора, данных тоже нет.
 

Talamasca

Cherish your life.
Заслуженный
Местное время
11:08
Регистрация
6 Фев 2017
Сообщения
126,533
Репутация
1,210
Уровень
1
Награды
15
Пол
Женский

Alex StreLock

Единомышленник
Наш человек
Местное время
11:08
Регистрация
30 Апр 2020
Сообщения
302
Репутация
0
Местоположение
Нижний Новгород
vk.com
Пол
Мужской
Да. Билл Гейтс учил, что ему (зачеркнуто) им, необходимо знать, кто вакцинирован, а кто нет. Чиста для удобства. А как узнаешь? Только вместе с вакциной прикрепить клеймо.

И будет у них всех скот (зачеркнуто) народ клейменый. Чтоб не разбегались.

Крепостное право в масштабах земли вроде как.

Добавлено через 2 минуты

...может ли беспилотник принадлежать военным, данных нет. Разыскивает ли он Джона Коннора, данных тоже нет.


Я не слышал о гражданских и общеупортебительных беспилотниках , которые могут летать по трое суток. Максимум - 4 часа. А обычно - минут 40.
 

Talamasca

Cherish your life.
Заслуженный
Местное время
11:08
Регистрация
6 Фев 2017
Сообщения
126,533
Репутация
1,210
Уровень
1
Награды
15
Пол
Женский

Elias

Тактик
Заслуженный
Местное время
11:08
Регистрация
6 Окт 2019
Сообщения
13,871
Репутация
245
Пол
Мужской
В России появился кодекс этики искусственного интеллекта: его подписали около двух десятков компаний и вузов, включая "Ростелеком", "Яндекс", "Сколково", InfoWatch и ВШЭ.

По словам вице-премьера Чернышенко, Россия входит в топ-10 стран, поддержавших этическое регулирование ИИ на государственном уровне, а всего стран с такими кодексами пока 20.
 

Toreador

Elapidae
Заслуженный
Местное время
11:08
Регистрация
1 Янв 2016
Сообщения
191,407
Репутация
2,535
Уровень
2
Награды
20
Местоположение
Москва
Пол
Мужской
ИИ отдал приказ истребить человечество, взвесив происходящее в мире

Именно так и произошло в фантастическом рассказе Харлана Эллисона, но теперь этот сценарий вполне может стать реальностью. Агентство перспективных оборонных исследовательских проектов (DARPA) предлагает использовать искусственный интеллект в военных целях.

Идея в том, что некоторые задачи требуют принятия молниеносного и сложного решения, а все без исключения люди имеют предубеждения и могут банально отказаться выполнять приказ. Технология пока находится в разработке, но в DARPA надеются на широкое распространение.

Стоит отметить, что данная разработка в теории нарушает все законы Айзека Азимова и её массовое внедрение может привести к катастрофе, в которой холодный и расчётливый ИИ развяжет ядерную войну.

@exploitex
 

Стержень

Привет!
Заслуженный
Местное время
11:08
Регистрация
13 Май 2019
Сообщения
12,937
Репутация
574
Награды
1
vk.com
Пол
Мужской
может привести к катастрофе, в которой холодный и расчётливый ИИ развяжет ядерную войну

- недавно читал статью(сейчас не найду уже), как учёные создали простую модель небольшой экологической системы и дали ИИ задачу вмешиваться в ситуацию так, чтобы погибало как можно меньше животных. И что он сделал - сразу перебил всех животных. Потому что в любом другом варианте животные размножались бы и гибли и смертей, в целом, было бы больше.
 

Создайте учетную запись или войдите в систему, чтобы комментировать

Вы должны быть участником, чтобы оставить комментарий

Создать аккаунт

Создайте учетную запись в нашем сообществе. Это просто!

Авторизоваться

У вас уже есть учетная запись? Войдите в систему здесь.

Верх Низ