-
Все сообщения в теме
- Модератор
- #381
Странно, но это звучит, как "Отказаться от компьютеров, потому, что их могут атаковать хакеры". Но это ведь не так.
Нет. Отравление не хакерами.
Сама концепция нейронной сети склонна к "самоотравлению". При длительном обучении нейронной сети она начинает видеть "сны"-"абстракции".
P.S. Поясню. Сеть учили на базе фотографий, снятых в разных диапазонах (от нанометровых до метровых), находить военную технику. Успех был огромен - сеть находила ракеты и самолёты даже под землёй (в бункерах). Но потом начала видеть самолёты в птицах и в рисунках - точь в точь абстракционизм у людей.
Тут или прекращать обучение (минус новые виды вооружений) или очень сильно фильтровать входные/выходные данные (опять человеческий фактор).




