Сигурност

Как може да бъде излъган изкуствен интелект

Александър Главчев

Системите, използващи изкуствен интелект все повече навлизат в ежедневния живот и работните процеси. Затова не е учудващo, че AI се радва на особен интерес от страна на злоумишленици, търсещи начини за неговото саботиране и предподчиняване.

Средствата за измама на ИИ могат да бъдат разделени на две големи категории: физически и програмни.

Първите, като правило са по-прости и най-често са по-надеждни. Практиката от протестите в Хонконг например показа, че умните системи за разпознаване на лица могат да бъдат заслепявани с обикновени лазерни показалки. Разбира се, идеята не е нова - налице са военни разработки за изгаряне на оптиките на шпионски спътници. Към същата категория може да се добавят още например системите за модифициране на гласа, за да не може да бъде разпознат, и т.н.

Програмните средства са доста разнообразни. При обучаването на невронни мрежи, на системата се подават реални данни и правили отговори, затова очевидна идея нарочно добавяне на грешни данни. По този начин доскоро добре работещ механизъм за разпознаване на изображения може да започне да предоставя погрешни отговори. Разбира се, подобна замяна на данни трудно може да бъде реализирана от външен човек. Реализиран такъв саботаж обаче би бил трудно установим, тъй като към момента взиманите от невронните мрежи решения не могат да бъдат проследени и в процеса участва хиляди параметри.

Как може да бъде излъган изкуствен интелект

Преди време изследователи показаха как може да бъде излъгана система за управление на безпилотен автомобил, чрез леко изменяне на вида на пътни знаци. Човек без да се замисли би разпознал, че на картинката долу става въпрос за знак Стоп, независимо от черните и бели правоъгълници. Системата за управление на автомобила обаче го приема като знак за ограничение на скоростта до 45 мили в час (72 км.ч.).

Как може да бъде излъган изкуствен интелект

Друга област, в която се използва изкуствен интелект е киберсигурността. Компаниите работещи в тази сфера, се опитват да използват такива системи за откриване на атаки, докато престъпниците - да ги използват за тяхното осъществяване. Интернет представлява отлично поле за тренировка на зловредни ИИ. Затова занапред важността на осигуряването на сигурността на системите, използващи такива технологии, ще стане важна част от сферата на киберсигурността.




© Ай Си Ти Медиа ЕООД 1997-2020 съгласно Общи условия за ползване

X