- Местное время
- 19:01
- Регистрация
- 1 Янв 2016
- Сообщения
- 191,407
- Репутация
- 2,535
- Уровень
- 2
- Награды
- 20
- Местоположение
- Москва
- Пол
- Мужской
Являются ли беспилотные автомобили расистскими по своей природе? Эксперты предупреждают, что автомобилям может быть сложно распознать темнокожие лица в темноте
Юридическая комиссия предупреждает о предвзятости, присущей нынешним технологиям беспилотного вождения. Системы искусственного интеллекта также могут быть предвзяты против женщин и лиц с ограниченными физическими возможностями.
Эксперты предупреждают, что беспилотные автомобили могут быть расистскими по своей сути, потому что они не могут обнаружить темнокожие лица в темноте. Расовые предубеждения «проникли в конструкцию транспортных средств и автоматизированных систем», что может иметь катастрофические последствия.
Автономные автомобили оснащены искусственным интеллектом (ИИ), который обучен обнаруживать пешеходов, чтобы знать, когда остановиться и избегать столкновения. Но эта техническая особенность фактически означает, что любой человек с «небелым» оттенком кожи может подвергаться большему риску попасть в аварию при слабом освещении.
По данным Комиссии по законодательству, беспилотные автомобили также могут быть предвзятыми в отношении женщин и лиц с ограниченными физическими возможностями, поскольку их операционные системы в значительной степени созданы трудоспособными мужчинами.
В 2019 году в отчете было обнаружено, что системы распознавания лиц в беспилотных автомобилях лучше распознают лица белых людей, чем лица с более темной кожей. Исследователи говорят, что врожденный расизм этих систем, вероятно, связан с отсутствием темнокожих людей при обучения технологии распознавания лиц.
Система, использованная в исследовании, BDD100K, была разработана Калифорнийским университетом в Беркли и содержала более 100 000 видеозаписей реальных съемок, снятых камерами, установленными на автомобиле. Исследование показало, что базы данных, лежащие в основе технологии распознавания лиц для автономных автомобилей, на 12% хуже распознают людей с более темной кожей.
В среднем эта технология на 4,8% точнее определяет людей со светлой кожей.
Системы, возможно, также не были обучены иметь дело с разнообразными инвалидными колясками и мотороллерами. Комиссия по законодательству также заявила, что, если системы предназначены для распознавания пешеходов по движениям ног, «эти движения могут быть не столь явными для людей, носящих длинные юбки или платья».
«Там, где дизайнеры набираются преимущественно из одной демографической группы (например, молодые люди), легко упустить из виду разнообразие в обществе», - говорится в сообщении.
Автономные транспортные средства могут получить широкое распространение только в том случае, если им можно будет доверять более безопасно, чем водители-люди.
https://www.dailymail.co.uk/sciencetech/article-9486453/Self-driving-cars-uggle-recognise-dark-skinned-faces.html
Юридическая комиссия предупреждает о предвзятости, присущей нынешним технологиям беспилотного вождения. Системы искусственного интеллекта также могут быть предвзяты против женщин и лиц с ограниченными физическими возможностями.
Эксперты предупреждают, что беспилотные автомобили могут быть расистскими по своей сути, потому что они не могут обнаружить темнокожие лица в темноте. Расовые предубеждения «проникли в конструкцию транспортных средств и автоматизированных систем», что может иметь катастрофические последствия.
Автономные автомобили оснащены искусственным интеллектом (ИИ), который обучен обнаруживать пешеходов, чтобы знать, когда остановиться и избегать столкновения. Но эта техническая особенность фактически означает, что любой человек с «небелым» оттенком кожи может подвергаться большему риску попасть в аварию при слабом освещении.
По данным Комиссии по законодательству, беспилотные автомобили также могут быть предвзятыми в отношении женщин и лиц с ограниченными физическими возможностями, поскольку их операционные системы в значительной степени созданы трудоспособными мужчинами.
В 2019 году в отчете было обнаружено, что системы распознавания лиц в беспилотных автомобилях лучше распознают лица белых людей, чем лица с более темной кожей. Исследователи говорят, что врожденный расизм этих систем, вероятно, связан с отсутствием темнокожих людей при обучения технологии распознавания лиц.
Система, использованная в исследовании, BDD100K, была разработана Калифорнийским университетом в Беркли и содержала более 100 000 видеозаписей реальных съемок, снятых камерами, установленными на автомобиле. Исследование показало, что базы данных, лежащие в основе технологии распознавания лиц для автономных автомобилей, на 12% хуже распознают людей с более темной кожей.
В среднем эта технология на 4,8% точнее определяет людей со светлой кожей.
Системы, возможно, также не были обучены иметь дело с разнообразными инвалидными колясками и мотороллерами. Комиссия по законодательству также заявила, что, если системы предназначены для распознавания пешеходов по движениям ног, «эти движения могут быть не столь явными для людей, носящих длинные юбки или платья».
«Там, где дизайнеры набираются преимущественно из одной демографической группы (например, молодые люди), легко упустить из виду разнообразие в обществе», - говорится в сообщении.
Автономные транспортные средства могут получить широкое распространение только в том случае, если им можно будет доверять более безопасно, чем водители-люди.
https://www.dailymail.co.uk/sciencetech/article-9486453/Self-driving-cars-uggle-recognise-dark-skinned-faces.html