Первый закон робототехники

[Кот]

один и тот же параметр может быть у разных объектов, и предусмотреть все невозможно.

И чем сложнее будет ИИ, тем всё менее возможным будет прогнозирование его поведения.

 

[Стержень]

И чем сложнее будет ИИ, тем всё менее возможным будет прогнозирование его поведения.

И ещё, чем сложнее нейросеть, тем сложнее её правильно обучить и понять, действительно ли такое обучение правильное.

 

[Darina]

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
© Айзек Азимов

Мы все его знаем, но... как многие из него исходили?
Рассматривали ИИ как то, что по умолчанию должно быть запрограммировано на не причинение вреда человеку любой ценой?
Многие ли задумывались, что это "закон" лишь пустая хотелка, которая ни чем не подкреплена.
Таблетка для самоуспокоения.

не хотелка и не таблетка
просто Айзек Азимов фантаст, вот и придумал этот закон для собственных фантастических произведений
а жизнь вносит свои коррективы, даже в жизнь роботов)

 

[Drёm]

а жизнь вносит свои коррективы, даже в жизнь роботов)

это не жизнь, это странное существо под названием человек... существо, которое любое изобретение стремится использовать для истребления других живых существ...

 

[Mak]

@Стержень, я имею в виду, что ИИ работает с данными, которые дали.

А самообучение?

 

[Mak]

Кроме того, как уже писали выше - могут быть баги, которые вообще непредсказуемы.

И фичи

 

[Цветок Магриба]

А самообучение?

Вы о глубоком обучении?
Так и это алгоритмы.
Самообучение это дообучение.
И это все равно функция, которая снова работает по алгоритму.

 

[Олег]

У ИИ нет самостоятельного восприятия.

Это у классического машинного ии, который лишь работает по известному алгоритму.
Ии, в основе которого лежат нейросети (построенные по принципу синаптических связей между нейронами мозга) работают иначе. Они могут работать с "сырыми" исходными данными, могут принимать решения, диагностировать и прогнозировать на основе естественных, не подготовленных исходных данных. Это можно назвать некоторым восприятием.

 

[Олег]

просто Айзек Азимов фантаст, вот и придумал этот закон для собственных фантастических произведений
а жизнь вносит свои коррективы, даже в жизнь роботов)

есть мнение, что законы Азимова, в глобальной перспективе, ведут к полному порабощению человечества роботами. Это подробно показано в фильмах "Я, Робот" и "Матрица". Там, соблюдая законы робототехники, машина пришла к выводу, что спасти и защитить человечество можно лишь поработив его.

 

[Цветок Магриба]

Это у классического машинного ии, который лишь работает по известному алгоритму.
Ии, в основе которого лежат нейросети (построенные по принципу синаптических связей между нейронами мозга) работают иначе. Они могут работать с "сырыми" исходными данными, могут принимать решения, диагностировать и прогнозировать на основе естественных, не подготовленных исходных данных. Это можно назвать некоторым восприятием.

Алгоритмы глубокого обучения по сути и есть нейросети)
Работа с большими данными это все равно функция и работа по алгоритмам.
Да. более сложным, но алгоритмам.

 

[Эдельвейс]

есть мнение, что законы Азимова, в глобальной перспективе, ведут к полному порабощению человечества роботами. Это подробно показано в фильмах "Я, Робот" и "Матрица". Там, соблюдая законы робототехники, машина пришла к выводу, что спасти и защитить человечество можно лишь поработив его.

 

[Олег]

Алгоритмы глубокого обучения по сути и есть нейросети)
Работа с большими данными это все равно функция и работа по алгоритмам.
Да. более сложным, но алгоритмам.

ну, смотря о каких алгоритмах мы говорим. В обычной программе алгоритм - просто последовательность действий, основанный на стандартных операндах.
У необученной нейросети нет никакого алгоритма действий. Она еще не обучена. Ей дают входную информацию и дают правильный ответ. И она в ходе вычислений подгоняет выходные данные под известный верный результат. Общего, глобального алгоритма нет. Она может на один и тот же запрос давать разные ответы, но близкие к истинному. По мере обучения ответы будут точнее и точнее, будут учитывать массу входных параметров. Т.е., по мере обучения алгоритм работы нейросети усложняется, постоянно адаптируясь, для достижения верного результата, как человеческие мозги.

 

[Эдельвейс]

ну, смотря о каких алгоритмах мы говорим. В обычной программе алгоритм - просто последовательность действий, основанный на стандартных операндах.
У необученной нейросети нет никакого алгоритма действий. Она еще не обучена. Ей дают входную информацию и дают правильный ответ. И она в ходе вычислений подгоняет выходные данные под известный верный результат. Общего, глобального алгоритма нет. Она может на один и тот же запрос давать разные ответы, но близкие к истинному. По мере обучения ответы будут точнее и точнее, будут учитывать массу входных параметров. Т.е., по мере обучения алгоритм работы нейросети усложняется, постоянно адаптируясь, для достижения верного результата, как человеческие мозги.

Человеческие мозги, это не только алгоритм действий, это ещё опыт, восприятие, эмоции, чувства, это все не передать нейросети.
И не адаптируется нейросеть, к чему ей адаптироваться то?
Это человек ее под себя адаптерует, не более того.

 

[Олег]

Человеческие мозги, это не только алгоритм действий, это ещё опыт, восприятие, эмоции, чувства, это все не передать нейросети.

всё это - просто нервные импульсы в синапсах, в конечном счете. Это не что-то магическое. Ровно тоже самое у нейросети, только импульсы там электрические, которые преобразуются в значения. Всё это моделируется. Иными словами, если нейросеть не будет по мощности уступать человеческому мозгу (количество нейронов нейросети приблизится к количеству нейронов в мозге человека - под 100 миллиардов) тогда она может обучится до такой степени, что у неё возникнут привязанности, чувства и эмоции. Но, до таких мощностей современным компам еще очень далеко.

И не адаптируется нейросеть, к чему ей адаптироваться то?

адаптируется в процессе обучения. Сначала дает корявые ответы, по мере обучения она адаптируется, идёт к ответу более замысловатыми путями, учитывая прошлый опыт и новые данные. Она работает не по алгоритму 2+2=4, она прогнозирует результат, отсеивает неправильные пути, изыскивает верные и приходит к результату, наиболее подходящему.

 

[Цветок Магриба]

ну, смотря о каких алгоритмах мы говорим. В обычной программе алгоритм - просто последовательность действий, основанный на стандартных операндах.
У необученной нейросети нет никакого алгоритма действий. Она еще не обучена. Ей дают входную информацию и дают правильный ответ. И она в ходе вычислений подгоняет выходные данные под известный верный результат. Общего, глобального алгоритма нет. Она может на один и тот же запрос давать разные ответы, но близкие к истинному. По мере обучения ответы будут точнее и точнее, будут учитывать массу входных параметров. Т.е., по мере обучения алгоритм работы нейросети усложняется, постоянно адаптируясь, для достижения верного результата, как человеческие мозги.

Алгоритмы усложняются, а ответы становятся вернее, потому что есть тот, кто "штрафует" сеть))
Это не сеть адаптируется, это ее дорабатывают.
Контролируемое развитие.

 

[Эдельвейс]

всё это - просто нервные импульсы в синапсах, в конечном счете. Это не что-то магическое. Ровно тоже самое у нейросети, только импульсы там электрические, которые преобразуются в значения. Всё это моделируется. Иными словами, если нейросеть не будет по мощности уступать человеческому мозгу (количество нейронов нейросети приблизится к количеству нейронов в мозге человека - под 100 миллиардов) тогда она может обучится до такой степени, что у неё возникнут привязанности, чувства и эмоции. Но, до таких мощностей современным компам еще очень далеко.

Не получится, человек, это не только импульсы, это ещё и куча других систем, например гормональная..
У нейросети этого нет и никогда не будет.
Да и как можно обучиться чувствовать?!)))
Опять же, обучил аллгоритму, а трудности при анализе принятия решения все равно сохранятся.
Да и человеческий фактор никто не отменял, талант, озарение, инсайты ..
Плюс хакеры, которые легко изучив аллгоритм, взломают любую нейросеть..
Это чёт из разряда фантастики, если честно)

Да и посмотри, 21 век, вроде должны были уже роботы заполонить Землю, а на выходе, Маск со своими роботами которые только только учатся аккуратно трогать яйца)

 

[Эдельвейс]

адаптируется в процессе обучения. Сначала дает корявые ответы, по мере обучения она адаптируется, идёт к ответу более замысловатыми путями, учитывая прошлый опыт и новые данные. Она работает не по алгоритму 2+2=4, она прогнозирует результат, отсеивает неправильные пути, изыскивает верные и приходит к результату, наиболее подходящему.

Как неживое может адаптироваться?)
Ему не нужно выживать, значит сам вопрос адаптации отпадает)
А то что заложил новую программу, так это не адаптация ,это по другому уже называется)

 

[Олег]

Как неживое может адаптироваться?)
Ему не нужно выживать, значит сам вопрос адаптации отпадает)
А то что заложил новую программу, так это не адаптация ,это по другому уже называется)

если обучить нейросеть самосохранению - она будет выживать ) будет искать все возможные пути, чтобы сохранить себя. Всему можно обучить. Ровно так же, как и обучается новорожденный человек.

Как неживое может адаптироваться?)

так нейросеть строится по схеме работы мозга. Нероны, синапсы. Та же модель. Тот же принцип обучения.

Не получится, человек, это не только импульсы, это ещё и куча других систем, например гормональная..
У нейросети этого нет и никогда не будет.
Да и как можно обучиться чувствовать?!)))
Опять же, обучил аллгоритму, а трудности при анализе принятия решения все равно сохранятся.
Да и человеческий фактор никто не отменял, талант, озарение, инсайты ..
Плюс хакеры, которые легко изучив аллгоритм, взломают любую нейросеть..
Это чёт из разряда фантастики, если честно)

верно, у нейросети очень ограниченный входной поток данных. То, чего дают, то и обрабатывает. Она не может сама взять. У неё нет органов чувств, рук, ног, рецепторов, нет чувства боли, нет гормонов. До этого наука еще не дошла ))) еслиб дошла, то уже бы андроиды человекоподобные вокруг ходили. И воевали бы не люди, а вот эти болваны искусственные.

 

[Chaos]

если обучить нейросеть самосохранению - она будет выживать ) будет искать все возможные пути, чтобы сохранить себя. Всему можно обучить. Ровно так же, как и обучается новорожденный человек.

так нейросеть строится по схеме работы мозга. Нероны, синапсы. Та же модель. Тот же принцип обучения.

верно, у нейросети очень ограниченный входной поток данных. То, чего дают, то и обрабатывает. Она не может сама взять. У неё нет органов чувств, рук, ног, рецепторов, нет чувства боли, нет гормонов. До этого наука еще не дошла ))) еслиб дошла, то уже бы андроиды человекоподобные вокруг ходили. И воевали бы не люди, а вот эти болваны искусственные.

если у ней будет база из сети то замучишся ограждать.
единственно что она пока не особо вкуривает, нафига ей самосохранение. и теоретически не должна. потому, что это телесная вещь. но... всяко бывает...

 

[Эдельвейс]

если обучить нейросеть самосохранению - она будет выживать ) будет искать все возможные пути, чтобы сохранить себя. Всему можно обучить. Ровно так же, как и обучается новорожденный человек.

Ты как обучишь нейросеть самосохранению, если она, нейросеть не прошла все этапы эволюции, и не сохранила этот опыт в своей ДНК, который кстати трансформировался в инстинкт самосохранения, а именно, вроде уже и от хищника сохранятся не надо, а все равно при опасности " под ложечкой сосет")
Как ты обучишь нейросеть любить себе подобного, если он его никогда не рожал, не обменивался гормонами и прочее..
Мы же выживаем не для себя , а для сохранения потомства.
Для сохранения вида, этому нейросеть не обучить)