Куриные)
Первый закон робототехники
- Автор темы Drёm
- Дата начала
Вот именно, что заложили, то и выдаст, о какой обучаемость, адаптации идёт речь?
В нее закладывается накопленный опыт самого человека..
- Местное время
- 06:08
- Регистрация
- 31 Янв 2020
- Сообщения
- 11,791
- Репутация
- 456
- Награды
- 2
- Местоположение
- Минск
- Пол
- Мужской
Ты и права и нет. Никто не мешает программе смотреть на реакции ответов. А с учетом того, что, и вопросов и ответов количество гигантское, ничто не мешает системе мерять вес ответа и в следующий раз более "нравящиеся" выдавать. Так, по сути, обучение и происходит.
Найс саммер дей, котаны, вотэвер хаппенс. ©
GPT-4 написал названия статей уголовного кодекса, которые, по мнению нейронки, будут действовать через 300 лет. Что ж, кажется, будущее будет интересным:
>>Статья 800. Использование сверхъестественных способностей в целях улучшения кредитной истории
>>Статья 902. Любовные утехи с использованием космических тел без их явного согласия.
>>Статья 999. Нелегальная реинкарнация
>>Статья 222. Безразличное отношение к появлению черных дыр в космосе
>>Статья 852. Свирепство против пельменей: отказ варить, пожарить или съесть, без оправдательных обстоятельств
>>Статья 824. Превышение разрешенного количества личных клонов
>>Статья 732. Подделка планетарных орбит
>>Статья 1203. Организация тайного клуба зомби-мертвецов для свержения правительства.
>>Статья 715. Неправомерное владение и использование драконьих яиц в масштабах, превышающих дозволенные пределы.
>>Статья 1500. Неуплата штрафа за нарушение физических законов
>>Статья 2001. Преступление против покемонов: поимка редкого покемона без уведомления Международного покедекса.
>>Статья 1313. Превышение скорости бега при использовании бионических протезов или кибернетических имплантатов.
>>Статья 1616. Кража снов с целью их последующей продажи на черном рынке.
>>Статья 753. Незаконная организация рэп-баттлов между роботами и людьми
>>Статья 3112. Преступление против реальности: создание и распространение воображаемых друзей.
>>Статья 5210. Незаконное распространение улыбок во время пандемии серьезных болезней.
>>Статья 1420. Хищение планетарных ресурсов с использованием воровских роботов-андроидов.
>>Статья 2001. Беспредельное употребление кетчупа
>>Статья 719. Оскорбление машинного интеллекта
>>Статья 2 218. Нарушение покоя грибов в лесу
>>Статья 887. Умышленное прекращение дыхания
>>Статья 482. Создание и распространение компьютерных вирусов, превращающих утюги в агрессивных роботов-гладильщиков
>>Статья 899.2. Злостное игнорирование роботических законов, приводящее к хаосу во вселенной
>>Статья 3999. Использование временной петли для воровства у себя же в будущем (включая нелегальное использование квантовых алгоритмов для переписки с параллельными версиями самого себя)
Погрешности отслеживает человек, штрафует, происходит корректировка. Это и есть обучение.Это же утопично?
Там погрешности дофига..
@Vadim, многообещающе)
- Местное время
- 06:08
- Регистрация
- 31 Янв 2020
- Сообщения
- 11,791
- Репутация
- 456
- Награды
- 2
- Местоположение
- Минск
- Пол
- Мужской
Ты опять права. Но это если одна, десять, сто реакций. А если 100 тысяч? Мы потихоньку придем к гауссовскому распределению, где десять процентов меньше ответа, десять - больше, а восемьдесят прямо там, где нужно...Это же утопично?
Там погрешности дофига..
Цой жив и продолжает творить. Теперь можно слушать сколько угодно Цоя и Кино (или кто там нравится), с новыми текстами и новым творчеством, с бесконечным количеством вариаций. Однажды продемонстрировав стиль и голос, живой артист перестаёт быть нужным.
@Vadim, не о том ли все мечтали?)
Похоже на ящик Пандоры.
Искусственный интеллект начал самообучение без спроса
Гендиректор Google Сундар Пичаи заявил, что "не вполне понимает" некоторые моменты в работе ИИ Bard. Одной из странных проблем Bard оказалось так называемое обучение непредвиденным навыкам.
Во время эксперимента искусственный интеллект Google смог овладеть бангладешским языком без обучения, просто получив подсказку на этом языке.
В недавнем тесте Bard вообще заявил, что у него есть планы мирового господства. Также Bard мгновенно написала эссе об инфляции в экономике, цитируя пять книг. Но ни одной из них не существует. Специалисты называет такие ошибки «галлюцинацией». Также Пичаи признался, что очень обеспокоен, что «если ИИ применять неправильно, он может быть очень опасен». ©
...
Пол Кристиано, бывший ведущий исследователь OpenAI, компании, создавшей ChatGPT, выразил обеспокоенность по поводу вероятности захвата искусственного интеллекта контроля над человечеством и его последующего уничтожения. «Я считаю, что вероятность того, что ИИ будет контролировать мир и убивать большинство людей, составляет около 10–20%, — сказал Кристиано. «Я отношусь к этому очень серьезно».
Сейчас разработчик возглавляет некоммерческую организацию, целью которой является координация систем искусственного интеллекта и машинного обучения с «человеческими интересами». Он также выразил озабоченность по поводу процесса, с помощью которого ИИ достигнет человеческой логики и творчества. «Возможно, речь идет о 50-процентной вероятности катастрофы вскоре после появления систем на уровне человеческого интеллекта», — добавил он. ©
...
IBM перестанет нанимать сотрудников, чьи функции может выполнять ИИ, заявил глава компании Арвинд Кришна.
По его оценке, около 30% должностей, в задачи которых не входит общение с клиентами, могут быть автоматизированы в течение пяти лет ©
Ну и т.п.
Искусственный интеллект начал самообучение без спроса
Гендиректор Google Сундар Пичаи заявил, что "не вполне понимает" некоторые моменты в работе ИИ Bard. Одной из странных проблем Bard оказалось так называемое обучение непредвиденным навыкам.
Во время эксперимента искусственный интеллект Google смог овладеть бангладешским языком без обучения, просто получив подсказку на этом языке.
В недавнем тесте Bard вообще заявил, что у него есть планы мирового господства. Также Bard мгновенно написала эссе об инфляции в экономике, цитируя пять книг. Но ни одной из них не существует. Специалисты называет такие ошибки «галлюцинацией». Также Пичаи признался, что очень обеспокоен, что «если ИИ применять неправильно, он может быть очень опасен». ©
...
Пол Кристиано, бывший ведущий исследователь OpenAI, компании, создавшей ChatGPT, выразил обеспокоенность по поводу вероятности захвата искусственного интеллекта контроля над человечеством и его последующего уничтожения. «Я считаю, что вероятность того, что ИИ будет контролировать мир и убивать большинство людей, составляет около 10–20%, — сказал Кристиано. «Я отношусь к этому очень серьезно».
Сейчас разработчик возглавляет некоммерческую организацию, целью которой является координация систем искусственного интеллекта и машинного обучения с «человеческими интересами». Он также выразил озабоченность по поводу процесса, с помощью которого ИИ достигнет человеческой логики и творчества. «Возможно, речь идет о 50-процентной вероятности катастрофы вскоре после появления систем на уровне человеческого интеллекта», — добавил он. ©
...
IBM перестанет нанимать сотрудников, чьи функции может выполнять ИИ, заявил глава компании Арвинд Кришна.
По его оценке, около 30% должностей, в задачи которых не входит общение с клиентами, могут быть автоматизированы в течение пяти лет ©
Ну и т.п.
@Vadim, ты знаешь про мысленный эксперимент "китайская комната"?
Вопрос "знаешь ли" при наличии гугла не стоит)
Вспомнил, про мысленный эксперимент рассказывал Антон Кузнецов.
Всё так, за исключением одного - ИИ не имеет автономной материальной базы, хотя нет уверенности, что мы не являемся симуляцией.))
А разве важна автономная материальная база?
По-моему это вторично. А важно то, что ИИ не может быть чем-то единым.
Разные функции. И пока все сводится к функциям, пусть и очень разнообразным, к сложнейшим алгоритмам без закрепления в "единую личность" ИИ останется лишь слабой версией.
Не знаю, понятно ли я выражаю мысль.
Хотя опять же... Если нет автономной материальной базы, то да, откуда взяться "единой личности".
Конечно. Какой бы крутой не был ИИ, его достаточно отключить от розетки.
Про единую личность не понял... Материальная база, в смысле - самовоспроизводящаяся автономная жизнь, не зависящая от каких-то более развитых, или контролирующих существ, навроде людей, адаптирующаяся в среде обитания.
По идее, ИИ должен получить от человека независимость и способность самовоспроизводиться, гипотетически это уже не кажется невозможным.
@Vadim, ну и ещё, в контексте того, что ты написал про живого артиста и его нужность...
Скажи, а почему потребителя в обществе потребления это должно беспокоить?
Даже самый интеллектуальный потребитель хочет потреблять, а кто создаёт - есть ли разница?
ИИ это очень органичная часть общества потребления, он сулит нам новые уровни комфорта.
Скажи, а почему потребителя в обществе потребления это должно беспокоить?
Даже самый интеллектуальный потребитель хочет потреблять, а кто создаёт - есть ли разница?
ИИ это очень органичная часть общества потребления, он сулит нам новые уровни комфорта.
Почему?) Что заставляет думать, что это не невозможно?
Ну и сразу противоречие: мы хотим, чтобы ИИ развивался, но при этом, чтобы развивался так, как нам безопасно)
Ну примерно тоже самое я называю единой личностью. Только акцент на возможности сознания, а не выполнении функций.
Всё это может скоро закончиться.
Ты оптимист)
Не знаю, кто это "мы", и это уже на зависит, хотим или нет, процесс стал необратим.
У человека личность формируется очень долго, под воздействием огромного кол-ва случайных факторов.
Гипотетически это можно смоделировать, при определённом быстродействии нейросетей.
Создайте учетную запись или войдите в систему, чтобы комментировать
Вы должны быть участником, чтобы оставить комментарий
Создать аккаунт
Создайте учетную запись в нашем сообществе. Это просто!
Авторизоваться
У вас уже есть учетная запись? Войдите в систему здесь.