Заплахи

Да "изчезнеш за секунди", или как приложение задълбочава проблема с "лъжливите лица"

Владимир Владков

Zao, ново мобилно приложение, разработено в Китай, може да замени герои от телевизионния екран или от видеоклипове с лицевото изображение на потребителя, като това става за секунди. Това обаче повдига нови тревоги по отношение на личната неприкосновеност и измамите.

Разработено от компанията Momo, която е позната с приложението Tantan, Zao бързо набра популярност на редица пазари веднага, след като се появи в iOS App Store в Китай, Япония, Индия, Корея и още няколко азиатски страни. То позволява на потребителите да заменят герои от видео клип в лицето на потребителя. Той би могъл да избере в "кожата" точно на кой герой да влезе, като често това са звезди от холивудски филми или популярни телевизионни програми. След това качва снимка, която да бъде използвана, а приложението прави замяната в облака. Цялата процедура отнема 8 секунди, след което потребителят може да сподели подмененото видео в социалните мрежи.

Макар че мнозина се наслаждават на причудливото приложение, в други то предизвиква притеснения. Първото е тревогата за поверителността. Преди потребителят да качи свои снимки, за да може приложението да извършва размяна, той трябва да въведе телефонния си номер и своята електронна поща, буквално "губейки лицето си" и давайки своята идентичност на приложението. По-притеснително е, че при по-ранната версия на условията на приложението, то поема пълните права върху променените видеоклипове, следователно и върху правата за изображенията на потребителите.

Другата тревога са измамите. Лицевото разпознаване се използва масоово в Китай, при добронамерени и не толкова добронамерени обстоятелства. В този случай, когато видеоклип с подменено лице на потребителя бъде споделен в социалните мрежи, той остава извън контрола на потребителя и може да стане обект на злоупотреба от злоумишлени страни. Една от възможните злоупотреби би била плащането. Alipay, онлайн и мобилната платежна система на Alibaba, даде възможност за осъществяване на покупка само с лицето, тоест клиентът трябва да погледне камерата при излизане от онлайн магазина на търговеца и сметката ще бъде изпратена към акаунта на потребителя в Alipay. Напускането само чрез проверка на лицето не само улеснява транзакциите на дребно, но и непрекъснато обогатява базата данни на Alibaba. (Не би било изненада, ако това е една от причините за еуфорията към AI гласа на Джак Ма, основател на Alibaba.) Платежната платформа се втурна да уверява своите потребители, че системата няма да бъде подмамена от изображенията на Zao, но не сподели подробности за това как ще стане това.

Въпреки че Zao не е първото приложение за "задълбочена измама", разчитащо на изкуствен интелект, то е едно от най-добре разработените, следователно и най-неудобните. В друг неотдавнашен случай, включващ гласова симулация и участие на противоречивия учен Джордан Питърсън, гласовият симулатор с изкуствен интелект дава възможност на потребителите да въведат изречения до 280 знака, за да може инструментът да чете на глас с отчетливия, неприлично точен глас на Джордан Питърсън. Това накара Питърсън да призове за създаване на широкообхватно законодателство, което да защити "светостта на вашия глас и вашия имидж". Той нарече кражбата на гласа на други хора "истински престъпно деяние, независимо от намеренията". Човек може само да си представи въздействието на подобни симулирани образи, съчетани с безупречна гласова симулация, върху всички аспекти на живота, не на последно място върху вече изчезващото доверие към новините.

Добрата новина е, че разработчикът на Zao се вслуша в опасенията на потребителите. Приложението заяви в официалния си акаунт в Weibo (китайският вариант на Twitter), че са разбрали опасенията относно неприкосновеността на личния живот и обмислят как да решат проблемите, но "молят за малко време". Скоро правилата на приложението бяха актуализирани. Сега приложението ще използва качените данни само за целите на подобряване на приложението. След като потребителят изтрие видеото от приложението, то ще бъде изтрито и от облака.




© Ай Си Ти Медиа ЕООД 1997-2019 съгласно Общи условия за ползване

X