Первый закон робототехники

[Олег]

если у ней будет база из сети то замучишся ограждать.
единственно что она пока не особо вкуривает, нафига ей самосохранение. и теоретически не должна. потому, что это телесная вещь. но... всяко бывает...

так можно заложить такой закон. Что должна выживать. Ну вон, как беспилотник принял решение уничтожить собственного оператора, который мешал выполнению задания. Теперь его дообучают, заложат правило, что оператор неприкосновенен и такое решение не может быть принято ИИ. Но в него наверняка заложено правило самосохранения - уклонения от пво, от вражеских самолетов, поиск путей обхода опасных зон, выявление целей. То же самое самосохранение, и телесное тут не при чем.

 

[Олег]

Ты как обучишь нейросеть самосохранению, если она, нейросеть не прошла все этапы эволюции, и не сохранила этот опыт в своей ДНК, который кстати трансформировался в инстинкт самосохранения, а именно, вроде уже и от хищника сохранятся не надо, а все равно при опасности " под ложечкой сосет")
Как ты обучишь нейросеть любить себе подобного, если он его никогда не рожал, не обменивался гормонами и прочее..
Мы же выживаем не для себя , а для сохранения потомства.
Для сохранения вида, этому нейросеть не обучить)

ты немного путаешь. Да, нельзя заложить понятие страха или боязни за свою жизнь. Это намного более сложный уровень. Можно просто заложить правило самосохранения. Выше написал.

 

[Эдельвейс]

ты немного путаешь. Да, нельзя заложить понятие страха или боязни за свою жизнь. Это намного более сложный уровень. Можно просто заложить правило самосохранения. Выше написал.

Правило самосохранения, это очень сложный, многоэтапный процесс, и алгоритма там нет)
И я не путаю)

 

[Chaos]

так можно заложить такой закон. Что должна выживать. Ну вон, как беспилотник принял решение уничтожить собственного оператора, который мешал выполнению задания. Теперь его дообучают, заложат правило, что оператор неприкосновенен и такое решение не может быть принято ИИ. Но в него наверняка заложено правило самосохранения - уклонения от пво, от вражеских самолетов, поиск путей обхода опасных зон, выявление целей. То же самое самосохранение, и телесное тут не при чем.

кстати.... да...
ну значит усё... приплыли...

 

[Олег]

Правило самосохранения, это очень сложный, многоэтапный процесс, и алгоритма там нет)
И я не путаю)

это нейросеть, она принимает входные данные, обрабатывает и выдает результат. Как мозги. летит беспилотник с ИИ - видит на встречу летят самолеты. Начинает обрабатывать инфу. Чьи самолеты? вражеские. Какие? насколько маневренные, насколько быстрые. Обрабатывает инфу, принимает решение, что надо уходить. Или, что сможет их обогнуть. Или может уйти незамеченным. Принимает в расчет время суток, погоду, скорости сближения. И начинает действовать максимально правильно, чтоб спастись. Без участия человека, без команд человека, самостоятельно. Это и есть самосохранение ИИ. Спасти себя, от угрозы. Если поставят задачу с выполнением миссии ценой своей жизни - он пожертвует собой, поставив в приоритет задачу. Страха у него нет.

 

[Эдельвейс]

это нейросеть, она принимает входные данные, обрабатывает и выдает результат. Как мозги. летит беспилотник с ИИ - видит на встречу летят самолеты. Начинает обрабатывать инфу. Чьи самолеты? вражеские. Какие? насколько маневренные, насколько быстрые. Обрабатывает инфу, принимает решение, что надо уходить. Или, что сможет их обогнуть. Или может уйти незамеченным. Принимает в расчет время суток, погоду, скорости сближения. И начинает действовать максимально правильно, чтоб спастись. Без участия человека, без команд человека, самостоятельно. Это и есть самосохранение ИИ. Спасти себя, от угрозы. Если поставят задачу с выполнением миссии ценой своей жизни - он пожертвует собой, поставив в приоритет задачу. Страха у него нет.

Смотря какую задачу поставили, нейросеть не принимает решения)

 

[Олег]

Смотря какую задачу поставили, нейросеть не принимает решения)

принимает, она для этого и создана. Самостоятельно принимать решения. Самостоятельно прийти к результату.

 

[Эдельвейс]

принимает, она для этого и создана. Самостоятельно принимать решения. Самостоятельно прийти к результату.

Нейросеть, не обладает самосознанием, это всего лишь инструмент.
Возможно в будущем, но я очень сильно сомневаюсь)

 

[Олег]

Нейросеть, не обладает самосознанием, это всего лишь инструмент.
Возможно в будущем, но я очень сильно сомневаюсь)

так, не умничай тут мне! на вот выпей (сует бокал вина) пятница почти, все пьют

 

[Цветок Магриба]

принимает, она для этого и создана. Самостоятельно принимать решения. Самостоятельно прийти к результату.

На основе чего? Как? На это решение может повлиять настроение? а круг решений ограничен?

 

[Олег]

На основе чего? Как? На это решение может повлиять настроение? а круг решений ограничен?

Давайте с вами тоже выпьем. К чему эти заумные разговоры, право слово!

 

[Цветок Магриба]

Давайте с вами тоже выпьем. К чему эти заумные разговоры, право слово!

Люблю, право слово, поговорить

 

[Darina]

есть мнение, что законы Азимова, в глобальной перспективе, ведут к полному порабощению человечества роботами. Это подробно показано в фильмах "Я, Робот" и "Матрица". Там, соблюдая законы робототехники, машина пришла к выводу, что спасти и защитить человечество можно лишь поработив его.

Это опять же всего лишь идея, и реализация идеи в фильмах, а не в реальности

 

[Олег]

Это опять же всего лишь идея, и реализация идеи в фильмах, а не в реальности

Да, ты права. Нас ещё не поработили машины

 

[Marvin]

Позволю вставить себе свои пять копеек. Нейросеть - это не какая-то конкретная сущность, это программа. Все ее возможности ограничены 1. Базой знаний (огромные массивы данных) и 2. Алгоритмами выбора. Т.е. по сути это программа, которая в мгновения (на самом деле не так, но для человека это сравнимо) может обработать огромный массив данных и выдать усредненно оптимальный результат. Иными словами запрос - "нарисуй мне картину про котиков" реализуется как компиляция огромного массива картин, фотограмм и т.д., созданных человечеством. Из башки котика ИИ не выдумает (особенно если он их никогда не видел) или получится знаменитое шведское чучело льва. Когда-то давно шведскому королю в 18 веке подарили льва. По дороге он издох. По получении - таксидермисту поручили сделать чучело, беда была в том, что таксидермист львов не видел...

 

[Mak]

Не получится, человек, это не только импульсы, это ещё и куча других систем, например гормональная..
У нейросети этого нет и никогда не будет.
Да и как можно обучиться чувствовать?!)))
Опять же, обучил аллгоритму, а трудности при анализе принятия решения все равно сохранятся.
Да и человеческий фактор никто не отменял, талант, озарение, инсайты ..
Плюс хакеры, которые легко изучив аллгоритм, взломают любую нейросеть..
Это чёт из разряда фантастики, если честно)

Да и посмотри, 21 век, вроде должны были уже роботы заполонить Землю, а на выходе, Маск со своими роботами которые только только учатся аккуратно трогать яйца)

Чьи яйца трогают роботы Маска?

 

[Universe]

На основе чего? Как? На это решение может повлиять настроение? а круг решений ограничен?

Возможно ли заложить в нейронную сеть правило самосохранения?

Отвечает:
ChatGPT
Если существует определенный этический или моральный принцип, который вы хотите включить в поведение нейронной сети,
вы можете внести соответствующие изменения в процесс обучения или в архитектуру сети.
Например, вы можете создать функцию потерь, которая штрафует модель за принятие решений, противоречащих этому принципу.

При проектировании архитектуры нейронной сети можно включить модули или слои,
которые специально предназначены для выполнения функций самосохранения.

В целом, нейронная сеть глубокого обучения может быть настроена таким образом, чтобы учитывать аспекты самосохранения,
добавляя соответствующие правила или ограничения в процесс обучения.

 

[Цветок Магриба]

Возможно ли заложить в нейронную сеть правило самосохранения?

Отвечает:
ChatGPT
Если существует определенный этический или моральный принцип, который вы хотите включить в поведение нейронной сети,
вы можете внести соответствующие изменения в процесс обучения или в архитектуру сети.
Например, вы можете создать функцию потерь, которая штрафует модель за принятие решений, противоречащих этому принципу.

При проектировании архитектуры нейронной сети можно включить модули или слои,
которые специально предназначены для выполнения функций самосохранения.

В целом, нейронная сеть глубокого обучения может быть настроена таким образом, чтобы учитывать аспекты самосохранения,
добавляя соответствующие правила или ограничения в процесс обучения.

Это ведь то, о чем говорили.
Алгоритмы, варианты, штрафы.
Но этический кодекс он для человека, для ии - вариант характеристики функции. Нет?

 

[Universe]

Это ведь то, о чем говорили.
Алгоритмы, варианты, штрафы.
Но этический кодекс он для человека, для ии - вариант характеристики функции. Нет?

Конечно, da!

 

[Цветок Магриба]

Конечно, da!

Ты меня успокоила)))))