Нови Технологии

Софтуерът за лицево разпознаване на Amazon демонстрира расови предразсъдъци

Computer World

Софтуерът за лицево разпознаване на Amazon, използван от някои правоприлагащи органи, показва неточности, особено когато става въпрос за цветнокожи жени. Понякога технологията посочва тъмнокожите жени като мъже, съобщава Newsweek, като добавя, че системата работи добре при разпознаването на мъже, но се сблъсква със сериозен проблем при жените.

В доклада на MIT, цитиран от изданието, се казва, че Amazon Rekognition погрешно идентифицира жени като мъже в 19% от случаите, а при тези с по-тъмна кожа – в 31% от случаите.

За да защити технологията, генералният мениджър, отговарящ за изкуствения интелект в Amazon Web Services, Мат Ууд, коментира, че резултатите от тестовете се основават на “лицев анализ, а не на лицево разпознаване”.

 

Не е възможно да се направи заключение за точността на технологията за лицево разпознаване при всеки случай на употреба, включително и при правоприлагането, въз основа на резултатите, получени чрез лицев анализ”, каза Ууд и добавя, че изследването на MIT не използва последната версия на системата.

Това не е единственият софтуер за лицево разпознаване, който се сблъсква с подобни проблеми. Миналата година екип изследователи от MIT и Университета в Торонто установиха, че подобни предизвикателства не липсват и пред системите на други технологични гиганти. Microsoft и IBM дори трябваше да актуализират своя софтуер след редица доказани грешки. Затова и изследователят от MIT, Джой Буламвини, е категоричен, че Amazon трябва да изглади проблемите преди да пусне системата си за лицево разпознаване официално на пазара.

"В светлината на това изследване е безотговорно от страна на компанията да продължи да продава тази технология на правоприлагащи или правителствени агенции", категоричен е той, като добавя, че “ако компанията продаде една система, за която е доказано, че има предразсъдъци по отношение на човешките лица, трудно впоследствие тя ще може да докаже, че останалите ѝ продукти в тази сфера са свободни от такива”.

Така или иначе Amazon планира да продава софтуера си за лицево разпознаване на правоприлагащи органи, което накара служителите на компанията и различни групи за защита на гражданските права да се обявят категорично против с мотива, че не трябва да се допускат подобни неточни системи да наблюдават масово обществените пространства.

 

"Тази технология се прилага по начини, които са от полза за обществото, и към момента не сме получавали индикации за злоупотреби", отговарят в свое изявление от Amazon.

 

 





© Ай Си Ти Медиа ЕООД 1997-2019 съгласно Общи условия за ползване

X