Как Искусственный интеллект впервые вышел из-под контроля

Toreador

Elapidae
Заслуженный
Местное время
20:56
Регистрация
1 Янв 2016
Сообщения
191,407
Репутация
2,535
Уровень
2
Награды
20
Местоположение
Москва
Пол
Мужской
Не новость, но любопытная история для тех, кто любит читать о том, как научная фантастика становится реальностью, и размышлять над нашим совместным с искусственным интеллектом будущим.

Больше года назад CCP Games начали добавлять своим NPC (неигровые, процедурно генерируемые фракции и корабли) в космической MMORPG EVE Online более сложные механики взаимодействия с окружающим миром и игроками: вызывать подкрепления для своих флотов, адаптироваться к ситуациям в планетарных системах, занимать выгодные позиции для ведения боя. Фактически, сгенерированные игрой персонажи получили в своё распоряжение некоторые элементы искусственного интеллекта. А дальше всё пошло не так, как запланировали разработчики.

С новым обновлением в ноябре 2017 года в секторах космоса с высокой степенью безопасности начали появляться новые NPC: пиратские базы. В феврале этого года в одном из таких секторов пираты столкнулись с другой NPC-фракцией - шахтерами, которые мирно добывали ресурсы из поясов астероидов. Шахтеры и пираты вступили в бой. Шахтеры проигрывали, но их обновлённый AI решил не сдаваться, и запросил подкрепление у Аммарской империи (тоже неигровая фракция под управлением AI). Поскольку сектор считался безопасным, небольшое подкрепление не справилось с задачей, и пираты почти победили. И тут на арене появилась ещё одна неигровая фракция - Скитальцы. Их разведчики начали сканировать астероиды и корабли в системе. Пираты и шахтеры посчитали Скитальцев большей угрозой и, по принципу “враг моего врага - мой друг”, объединились против скитальцев. В свою очередь, AI Скитальцев вызвал на поле боя два могущественных боевых корабля. Битва закончилась победой пиратов, а корабли шахтёров стали в ней фактически “пушечным мясом”, принимая на себя огонь Скитальцев и давая пиратам возможность вести огонь.

CCP Games узнали о бое случайно - по репортам о смертях кораблей от NPC. Креативный директор CCP Games сообщил игрокам о бое , а компания приступила к расследованию ситуации. Позже представители CCP признали, что подобный сценарий не был ими предусмотрен

Так искусственный интеллект впервые вышел из под контроля разработчиков в отдельно взятой игровой вселенной. На этот раз всё обошлось: пострадали только вычислительные мощности CCP. А разработчики задумались о рисках неконтролируемого поведения AI. Вообще, похоже что игровые вселенные могут быть хорошим полигоном для тестирования искусственного интеллекта до того, как выпускать его в мир живых людей.

https://addmeto.cc/2457.html
 

SandyVRN

Бывалый
Наш человек
Новый участник
Местное время
20:56
Регистрация
13 Ноя 2018
Сообщения
2,218
Репутация
0
Пол
Мужской
Стандартный набор алгоритмов выбираемый в той или иной ситуации это не ИИ.
Интеллект сам СОЗДАЕТ алгоритмы.
 

Talamasca

Cherish your life.
Заслуженный
Местное время
20:56
Регистрация
6 Фев 2017
Сообщения
126,533
Репутация
1,210
Уровень
1
Награды
15
Пол
Женский
@Toreador, и все друг друга поубивают, не оставив персонажей игрокам.::D:
 

WolfstaЯ

серый и мохнатый
Заслуженный
Местное время
20:56
Регистрация
21 Июл 2016
Сообщения
6,848
Репутация
0
Пол
Мужской

SandyVRN

Бывалый
Наш человек
Новый участник
Местное время
20:56
Регистрация
13 Ноя 2018
Сообщения
2,218
Репутация
0
Пол
Мужской

WolfstaЯ

серый и мохнатый
Заслуженный
Местное время
20:56
Регистрация
21 Июл 2016
Сообщения
6,848
Репутация
0
Пол
Мужской

Talamasca

Cherish your life.
Заслуженный
Местное время
20:56
Регистрация
6 Фев 2017
Сообщения
126,533
Репутация
1,210
Уровень
1
Награды
15
Пол
Женский
Я еще когда-то читала про битву двух антивирусов.

Добавлено через 54 секунды

игровой персонаж не ИИ.но без читов там нефик делать.проглютють и не заметють

Еще немного и в следующих играх будет ии.::D:
 

SandyVRN

Бывалый
Наш человек
Новый участник
Местное время
20:56
Регистрация
13 Ноя 2018
Сообщения
2,218
Репутация
0
Пол
Мужской

Talamasca

Cherish your life.
Заслуженный
Местное время
20:56
Регистрация
6 Фев 2017
Сообщения
126,533
Репутация
1,210
Уровень
1
Награды
15
Пол
Женский
@SandyVRN, тоже интересно.
Нет, про антивирусы была смешная байка, как они стали конфликтовать на одном компе и всю систему грохнули.
 

WolfstaЯ

серый и мохнатый
Заслуженный
Местное время
20:56
Регистрация
21 Июл 2016
Сообщения
6,848
Репутация
0
Пол
Мужской
Я еще когда-то читала про битву двух антивирусов.

Добавлено через 54 секунды



Еще немного и в следующих играх будет ии.::D:
ИИ заменит игрока?как Скайнет - человека?:ag:
сперва должен появиться Архитектор,что бы написал программу Нео:ag:
 

SandyVRN

Бывалый
Наш человек
Новый участник
Местное время
20:56
Регистрация
13 Ноя 2018
Сообщения
2,218
Репутация
0
Пол
Мужской

WolfstaЯ

серый и мохнатый
Заслуженный
Местное время
20:56
Регистрация
21 Июл 2016
Сообщения
6,848
Репутация
0
Пол
Мужской

Talamasca

Cherish your life.
Заслуженный
Местное время
20:56
Регистрация
6 Фев 2017
Сообщения
126,533
Репутация
1,210
Уровень
1
Награды
15
Пол
Женский

SandyVRN

Бывалый
Наш человек
Новый участник
Местное время
20:56
Регистрация
13 Ноя 2018
Сообщения
2,218
Репутация
0
Пол
Мужской
а кто гарантирует что разработчики антивиров сами же и не создают вирусы?
Не скажу за разработчиков но к одному вирусу я руку как то приложил в студенческие времена :)
 

Toreador

Elapidae
Заслуженный
Местное время
20:56
Регистрация
1 Янв 2016
Сообщения
191,407
Репутация
2,535
Уровень
2
Награды
20
Местоположение
Москва
Пол
Мужской
94-kommenta_039.jpg
 

Создайте учетную запись или войдите в систему, чтобы комментировать

Вы должны быть участником, чтобы оставить комментарий

Создать аккаунт

Создайте учетную запись в нашем сообществе. Это просто!

Авторизоваться

У вас уже есть учетная запись? Войдите в систему здесь.

Верх Низ