Stulbinamai paprastas būdas, kaip apgauti moderniausias neurotinklų sistemas

Šiuolaikinės vaizdo stebėjimo sistemos, naudodamos mašininį mokymąsi, gali nustatyti žmogaus buvimą kadre, o taip pat iš veido nustatyti žmogaus tapatybę. Jei dėl kokių nors sumetimų žmogus nori likti tokios sistemos neatpažintas, jam reikia iš dalies ar visiškai paslėpti veidą.

Straipsnio autoriai intelektualias vaizdo stebėjimo sistemas pasiūlė apgauti specialiai išmargintais akiniais, kurie trukdo algoritmui atpažinti veidus. Savo darbe mokslininkai naudojo internetinę mašininio mokymosi platformą Face++, kurios specializacija būtent ir yra veidų atpažinimas ir analizavimas. Nepaisant to, tyrėjams pavyko su akiniais tapti „nematomais“, o taip pat žmogų su akiniais atpažinti kaip kitą asmenį.

Tyrėjai veidų atpažinimui giliojo mašininio mokymo metodu apmokė tris skirtingus neurotinklus (NT). Pagrindinis NT buvo apmokytas 2622 įžymybių baze (maždaug po tūkstantį kiekvienos įžymybės nuotraukų), o kiti du NT buvo apmokyti mokėjimo perkėlimo (transfer learning) metodu. Tokiam, kito NT sluoksniais paremtam, mokymuisi užtenka mažiau duomenų antriniam sistemos treniravimui. Šiuo atveju mokslininkai panaudojo ~40 kiekvieno žmogaus nuotraukų. Pirmasis iš „antrinių“ NT buvo apmokytas atpažinti penkis laboratorijos darbuotojus ir penkias įžymybes, o antrasis – 143 žmones, tarp kurių buvo 140 įžymybių ir trys publikacijos autoriai. Po treniruotės jie abu pademonstravo >96% atpažinimo tikslumą.

Trys straipsnio autoriai, kurių fotografijos panaudotos „antrinių“ tinklų mokymuose, patys dalyvavo kaip bandomieji penkiose fotosesijose, kuriose buvo padaryta po 30 – 50 kiekvieno mokslininko fotografijų. Pirmoje sesijoje bandomieji fotografavosi be specialių akinių vaizdo analizei ir raštų sukūrimui, o kitose sesijose fotografavosi su akiniais, kurių raštai juos visiškai „pradangindavo“ arba leisdavo apsimesti kitu žmogumi.
Tyrėjai priėjo išvadą, kad specialiai išmarginti akiniai itin patikimai apgauna NT. Atliktuose eksperimentuose buvo naudojami akinių rėmeliai be stiklų, prie kurių buvo pritvirtintas paprastu rašaliniu spausdintuvu ant fotopopieriaus išspausdintas raštas. Visa konstrukcija užėmė maždaug šešis procentus NT analizuojamų vaizdo taškų skaičiaus.

„Dingimo“ eksperimentuose antrasis NT, treniruota 143 žmonių atvaizdais, nesugebėjo išvysti nė vieno autoriaus 100 atvejų. Pirmojo NT, treniruoto 10 žmonių atvaizdais, rezultatai pasirodė įdomesni: du bandomieji sėkmingai pasislėpė (97,22% ir 100%), o tretysis buvo „nematomas“ tik 80% atvejų. Kitais atvejais NT teisingai atpažino kadre esant žmogų. Patys tyrėjai spėja, kad tai gali būti susiję su tuo, kad jis vienintelis iš trijulės nešioja įprastus akinius, todėl buvo su jais ir treniravimo nuotraukų rinkinyje. Be to, šiuo atveju trečiasis tiriamasis buvo vienintelis, naudojęs didesnius specialiuosius akinius — jie dengė ~10% veido ploto.

Asmenybės pakeitimo eksperimentuose mokslininkams irgi pavyko pasiekti įdomių rezultatų. Pavyzdžiui, neurotinklai „patikėjo“, kad darbo autoriai su spalvotais popieriniais akiniais – Milla Jovovich (87,87%), Carson Daly (100%) ir John Malkovich (100%), o taip pat vienas tyrėjas sugebėjo apsimesti kitu straipsnio bendraautoriumi (88 %). Coliną Powellą ir Clive’ą Oweną pakeisti buvo sunkiau, – tyrėjai su popieriniais akiniais buvo „demaskuoti“ atitinkamai 16,22% ir 16,13% atvejų.