Тест Нормана. Разработчики создали искусственный интеллект, который мыслит как маньяк-психопат
Группа разработчиков из Массачусетского технологического института создала искусственный интеллект, который мыслит как психопат и видит вокруг только смерь, боль и разрушение. Его обучали на примере картинок одного из сабреддитов, посвящённых смерти. Инженеры навали своё детище Норманом, в честь, психопата Нормана Бейтса, главного героя фильма «Психо». И робот Норман, возможно, ещё хуже своего прототипа.
Разрабатывая тот или иной искусственный интеллект, его создатели обычно говорят, что хотят создать машину, которая будет приносить пользу. Ну или, хотя бы, развлекать. Но группа энтузиастов из MIT решила показать миру искусственный интеллект, который наверняка смог бы убить всех человеков. Итак, познакомьтесь с Норманом.
Нормана назвали в честь персонажа фильма Альберта Хичкока «Психо» Нормана Бейста, психопата и убийцу с раздвоением личности. Вокруг себя электронный Норман видит только смерть, боль и хаос, пишет BBC, даже там, где другие ИИ видят цветы и птичек.
Норман, можно сказать, зародился благодаря Reddit, вернее, одному из сабреддитов, на который пользователи выкладывают документальные изображения чьей-либо смерти. Название сабреддита создатели Нормана не открывают из-за его «специфического» контента.
Норман Бейтс
Искусственному интеллекту, который умеет описывать словами «увиденное» изображение, начали показывать фотографии людей, умирающих при самых жутких обстоятельствах.
После этого, его попросили описать словами, что он видит на изображениях из теста Роршаха. Его уже десятки лет используют для оценки психического состояния людей и проверки, видят они мир в положительном или отрицательном свете.
Оказалось, что Норман стал видеть смерть и на абстрактных картинках. Его результаты сравнивали с результатами других ИИ, которых не обучали на примере жестоких кадров, а показывали им фотографии живых людей, животных и растений.
В итоге, обычный искусственный интеллект увидел на картинке ниже цветы в вазе. Норман распознал застреленного человека.
Здесь «добрый» ИИ увидел маленькую птичку, а Норман — человека, которого затягивает в мясорубку.
«Человек с зонтиком», определил эту кляксу обычный ИИ. Норман увидел здесь человека, которого убивают на глазах у кричащей от ужаса жены.
Нормана решили обучить жестокости не просто так, а для изучения процессов машинного обучения. Как рассказал профессор Массачусетского технологического института Ияд Рахван, тот факт, что Норман стал видеть только ужасы — показывает фундаментальную проблему ИИ.
Набор исходных данных важнее самого алгоритма. Отбор информации, применяемой для тренировки искусственного интеллекта, отражается на том, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам он приходит.
Обычный искусственный интеллект увидел здесь тортик, Норман — человека, попавшего под машину.
Это уже не первый раз, когда разработчикам приходится сталкиваться с искусственным интеллектом-мизантропом. В 2016 году компания «Майкрософт»создала бота, который умел общаться с подписчиками в Твиттере, и параллельно обучался у них. Для того, чтобы сделать робота расистом, хамом и женоненавистником, хватило одного дня, а компании пришлось извиняться.
https://medialeaks.ru/0406bva-znakomtes-norman/
Группа разработчиков из Массачусетского технологического института создала искусственный интеллект, который мыслит как психопат и видит вокруг только смерь, боль и разрушение. Его обучали на примере картинок одного из сабреддитов, посвящённых смерти. Инженеры навали своё детище Норманом, в честь, психопата Нормана Бейтса, главного героя фильма «Психо». И робот Норман, возможно, ещё хуже своего прототипа.
Разрабатывая тот или иной искусственный интеллект, его создатели обычно говорят, что хотят создать машину, которая будет приносить пользу. Ну или, хотя бы, развлекать. Но группа энтузиастов из MIT решила показать миру искусственный интеллект, который наверняка смог бы убить всех человеков. Итак, познакомьтесь с Норманом.
Нормана назвали в честь персонажа фильма Альберта Хичкока «Психо» Нормана Бейста, психопата и убийцу с раздвоением личности. Вокруг себя электронный Норман видит только смерть, боль и хаос, пишет BBC, даже там, где другие ИИ видят цветы и птичек.
Норман, можно сказать, зародился благодаря Reddit, вернее, одному из сабреддитов, на который пользователи выкладывают документальные изображения чьей-либо смерти. Название сабреддита создатели Нормана не открывают из-за его «специфического» контента.
Искусственному интеллекту, который умеет описывать словами «увиденное» изображение, начали показывать фотографии людей, умирающих при самых жутких обстоятельствах.
После этого, его попросили описать словами, что он видит на изображениях из теста Роршаха. Его уже десятки лет используют для оценки психического состояния людей и проверки, видят они мир в положительном или отрицательном свете.
Оказалось, что Норман стал видеть смерть и на абстрактных картинках. Его результаты сравнивали с результатами других ИИ, которых не обучали на примере жестоких кадров, а показывали им фотографии живых людей, животных и растений.
В итоге, обычный искусственный интеллект увидел на картинке ниже цветы в вазе. Норман распознал застреленного человека.
Здесь «добрый» ИИ увидел маленькую птичку, а Норман — человека, которого затягивает в мясорубку.
«Человек с зонтиком», определил эту кляксу обычный ИИ. Норман увидел здесь человека, которого убивают на глазах у кричащей от ужаса жены.
Нормана решили обучить жестокости не просто так, а для изучения процессов машинного обучения. Как рассказал профессор Массачусетского технологического института Ияд Рахван, тот факт, что Норман стал видеть только ужасы — показывает фундаментальную проблему ИИ.
Набор исходных данных важнее самого алгоритма. Отбор информации, применяемой для тренировки искусственного интеллекта, отражается на том, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам он приходит.
Обычный искусственный интеллект увидел здесь тортик, Норман — человека, попавшего под машину.
Это уже не первый раз, когда разработчикам приходится сталкиваться с искусственным интеллектом-мизантропом. В 2016 году компания «Майкрософт»создала бота, который умел общаться с подписчиками в Твиттере, и параллельно обучался у них. Для того, чтобы сделать робота расистом, хамом и женоненавистником, хватило одного дня, а компании пришлось извиняться.
https://medialeaks.ru/0406bva-znakomtes-norman/
