Този сайт използва бисквитки (cookies). Ако желаете можете да научите повече тук. Разбрах
IDG  •  PC World  •  Computerworld  •  CIO  •  CFO  •  Networkworld  •  Дискусии  •  Кариерна зона  •  Събития
COMPUTERWORLD | Технологии
28 яну
2019
 
 

Софтуерът за лицево разпознаване на Amazon демонстрира расови предразсъдъци

В 31% от случаите технологията посочва тъмнокожите жени като мъже, при тези със светла кожа този процент е 19%

1453 прочитания

Софтуерът за лицево разпознаване на Amazon, използван от някои правоприлагащи органи, показва неточности, особено когато става въпрос за цветнокожи жени. Понякога технологията посочва тъмнокожите жени като мъже, съобщава Newsweek, като добавя, че системата работи добре при разпознаването на мъже, но се сблъсква със сериозен проблем при жените.

В доклада на MIT, цитиран от изданието, се казва, че Amazon Rekognition погрешно идентифицира жени като мъже в 19% от случаите, а при тези с по-тъмна кожа – в 31% от случаите.

За да защити технологията, генералният мениджър, отговарящ за изкуствения интелект в Amazon Web Services, Мат Ууд, коментира, че резултатите от тестовете се основават на “лицев анализ, а не на лицево разпознаване”.

Прочетете още: Изкуственият интелект и ксенофобията като скачени съдове

 

Не е възможно да се направи заключение за точността на технологията за лицево разпознаване при всеки случай на употреба, включително и при правоприлагането, въз основа на резултатите, получени чрез лицев анализ”, каза Ууд и добавя, че изследването на MIT не използва последната версия на системата.

Това не е единственият софтуер за лицево разпознаване, който се сблъсква с подобни проблеми. Миналата година екип изследователи от MIT и Университета в Торонто установиха, че подобни предизвикателства не липсват и пред системите на други технологични гиганти. Microsoft и IBM дори трябваше да актуализират своя софтуер след редица доказани грешки. Затова и изследователят от MIT, Джой Буламвини, е категоричен, че Amazon трябва да изглади проблемите преди да пусне системата си за лицево разпознаване официално на пазара.

"В светлината на това изследване е безотговорно от страна на компанията да продължи да продава тази технология на правоприлагащи или правителствени агенции", категоричен е той, като добавя, че “ако компанията продаде една система, за която е доказано, че има предразсъдъци по отношение на човешките лица, трудно впоследствие тя ще може да докаже, че останалите ѝ продукти в тази сфера са свободни от такива”.

Така или иначе Amazon планира да продава софтуера си за лицево разпознаване на правоприлагащи органи, което накара служителите на компанията и различни групи за защита на гражданските права да се обявят категорично против с мотива, че не трябва да се допускат подобни неточни системи да наблюдават масово обществените пространства.

 

"Тази технология се прилага по начини, които са от полза за обществото, и към момента не сме получавали индикации за злоупотреби", отговарят в свое изявление от Amazon.

 

 

НАЙ-НОВИ НАЙ-ЧЕТЕНИ ПРЕПОРЪЧАНИ
Фирмите представят

Слайдшоу
ИНТЕРВЮ
Само за 6 месеца инициативата Vue Vixens е обучила над 400 жениСамо за 6 месеца инициативата Vue Vixens е обучила над 400 жени

Интервю с Джен Лупър, старши developer advocate в Progress и основател на Vue Vixens, лектор на конференцията DevReach 2018

ПРИЛОЖЕНИЯ
АНКЕТА

Какво мислите за FireFox OS?

Информация за Вас