Rozšírenie autonómne drony s umelou inteligenciou Úplne to mení krajinu bezpečnosti, sledovania a dokonca aj moderného vojen. Čo sa ešte pred pár rokmi zdalo ako sci-fi, je dnes bežné: bezpilotné lietadlá schopné sledovať ľudí, hliadkovať na hraniciach alebo detailne zaznamenávať akýkoľvek pohyb prakticky bez ľudského zásahu.
V tomto kontexte plnom najmodernejších technológií je takmer neskutočné zistiť, že predmet taký bežný ako dáždnik Môže to byť výzvou pre niektoré z týchto pokročilých systémov. Skupina výskumníkov z Kalifornskej univerzity v Irvine (UC Irvine) preukázala, že jednoduchý dáždnik dokáže so správnym vizuálnym vzorom „oklamať“, prilákať a dokonca neutralizovať určité modely komerčných dronov, ktoré používajú autonómne sledovanie založené na počítačovom videní.
Vzostup autonómnych dronov a prečo vyvolávajú toľko obáv
V posledných rokoch používanie bezpilotné lietadlá po celom svete. Už nehovoríme len o malých rekreačných dronoch na nahrávanie veľkolepých videí, ale o oveľa serióznejších platformách používaných na mestský dohľad, monitorovanie kritickej infraštruktúry, kontrolu hraníc alebo podporu policajných a vojenských operácií.
V scenároch, ako napríklad vojna medzi Ruskom a Ukrajinou Ukázalo sa, aké dôležité sa stali drony. Existujú modely kamikadze, zariadenia špecializované na sledovanie cieľov, systémy prepojené optickými vláknami na zabezpečenie stabilnej komunikácie a čoraz častejšie zariadenia, ktoré obsahujú umelú inteligenciu na samostatné rozhodovanie počas letu.
Táto autonómia je založená na použití pokročilé optické senzory a algoritmy počítačového videnia Tieto funkcie umožňujú dronu identifikovať ľudí alebo objekty, sledovať ich a reagovať na ich pohyby bez toho, aby pilot musel neustále korigovať trajektóriu. V spotrebiteľských produktoch sa to predáva ako funkcie „aktívneho sledovania“ alebo „dynamického sledovania“.
Problém je v tom, že s rozširovaním používania týchto systémov dohľad, hliadkovanie a bezpečnostné operácieRastie aj riziko zneužitia: obťažovanie, špionáž, narušenie súkromia alebo skryté monitorovanie v priestoroch, kde si ľudia ani neuvedomujú, že sú sledovaní.
Výskumníci a odborníci na kybernetickú bezpečnosť už dlho varujú, že ochrana týchto systémov sa nemôže obmedzovať len na elektronické komponenty (rádiové spojenia, šifrovaná komunikácia, firewally). vizuálne vnímanie a algoritmy umelej inteligencie Tí, ktorí sa rozhodujú na základe toho, čo „vidia“, sa môžu stať aj slabým bodom, a práve tu prichádza na rad kuriózny experiment s dáždnikom.
Projekt FlyTrap: keď sa dáždnik stane obrannou zbraňou
Tím špecialistov na bezpečnosť a počítačové videnie z Kalifornská univerzita v Irvine Rozhodli sa neísť obvyklou cestou navrhovania čoraz sofistikovanejších a útočnejších dronov. Namiesto toho si položili inú otázku: Je možné ochrana pred autonómnymi dronmi pomocou jednoduchých predmetov, bez použitia rušičiek frekvencií, hackingu alebo drahého vojenského vybavenia?
Z tejto myšlienky sa zrodil FlyTrap, metóda fyzického útoku proti autonómnym sledovacím algoritmom Spolieha sa na grafický vzor špeciálne navrhnutý tak, aby zmiatol vizuálny systém dronu. Namiesto elektronického deaktivovania zariadenia je cieľom manipulovať s tým, čo si dron „myslí“, že sa deje pred jeho kamerou.
Výskumníci zamerali svoju analýzu na drony, ktoré používajú sledovanie cieľa pomocou počítačového videniaIde o zariadenia, ktoré detekujú a sledujú osobu alebo objekt na základe vizuálnych informácií zachytených ich kamerami. Medzi analyzovanými modelmi sú aj niektoré veľmi populárne na trhu, ako napríklad DJI Mini 4 Pro, DJI Neo a HoverAir X1.
Po preštudovaní toho, ako tieto systémy interpretujú pohyb cieľa, tím objavil kľúčovú slabinu: za určitých podmienok je možné algoritmus manipulovať, ak je mu predložený... starostlivo navrhnutý vizuálny vzor čo mení ich vnímanie vzdialenosti a smeru pohybu.
Tento vzor s názvom FlyTrap bol vytlačený na povrchu obyčajného dáždnika. Výsledkom bola prekvapivo lacná a dostupná obranná zbraň proti autonómnym dronom, ktorú by na papieri malo byť veľmi ťažké prekabátiť bez sofistikovaných technických prostriedkov.
Ako presne funguje vizuálny trik s dáždnikom?
Jadro FlyTrapu spočíva v spôsobe, akým algoritmy... autonómne sledovanie založené na neurónových sieťach Interpretujú to, čo zachytia kamery dronu. Tieto systémy analyzujú obraz snímku po snímke a vypočítavajú, ako sa cieľ pohybuje na obrazovke, aby rozhodli, kam sa má lietadlo pohybovať a akou rýchlosťou.
Grafický dizajn vytlačený na dáždniku spôsobuje, že dron „číta“ situáciu, ktorá nezodpovedá realite: vzor je navrhnutý tak, aby systém videnia dospel k záveru, že cieľ je vzďaľovanie sa od dronu, pričom v skutočnosti osoba držiaca dáždnik prakticky stále stojí na tom istom mieste.
Zoči-voči tejto nesprávnej interpretácii sledovací softvér urobí to, na čo je naprogramovaný: pokúsi sa zmenšiť vzdialenosť kým nedosiahne svoj cieľ, pričom ho udržiava v optimálnom dosahu sledovania. Inými slovami, dron sa postupne približuje a neustále koriguje svoju trajektóriu v snahe „kompenzovať“ túto vnímanú vzdialenosť.
Toto správanie vytvára skutočné útok na vzdialenú príťažlivosťNamiesto dezorientácie dronu a jeho straty zo stopy ho dáždnik v skutočnosti láka, aby sa k nemu priblížil čoraz viac. Zariadenie sa dokáže priblížiť k osobe držiacej dáždnik tak blízko, že sa stane ľahkým cieľom na chytenie do siete alebo dokonca na kontrolovanú zrážku.
Veľkou výhodou tohto prístupu je, že nevyžaduje elektromagnetické rušenie alebo prístup k softvéru dronuNie je potrebné ho hackovať, zachytávať riadiaci signál ani používať vojenské vybavenie. Stačí len dáždnik so správnym dizajnom, ktorý využije veľmi špecifickú slabinu v algoritmoch počítačového videnia.
Testy s komerčnými dronmi a výsledky štúdií
Aby overili, či ide o viac než len laboratórnu kuriozitu, tím UC Irvine vykonal... systematické experimenty s komerčnými dronmi ktoré zahŕňajú funkcie autonómneho sledovania, ktoré sa dnes bežne používajú.
Výskumníci vybrali tri reprezentatívne modely zo spotrebiteľského trhu: DJI Mini 4 Pro, DJI Neo a HoverAir X1Všetky majú režimy „aktívnej stopy“ alebo „dynamickej stopy“, ktoré umožňujú zariadeniu sledovať osobu bez toho, aby musela neustále ovládať diaľkové ovládanie.
V testoch stála osoba v otvorenom priestore s otvoreným dáždnikom FlyTrap, zatiaľ čo dron aktivoval režim automatického sledovania daného objektu. Autonómny systém potom mohol vykonávať svoju prácu bez manuálnych korekcií a pozorovať, ako reaguje na danú situáciu. grafický vzor dáždnika.
Výsledky boli presvedčivé: vo všetkých troch analyzovaných modeloch dronov Metóda FlyTrap úspešne prilákala lietadlo až na veľmi krátke vzdialenosti, dostatočné na to, aby ho fyzicky zachytili sieťou alebo aby v prípade potreby narazil do inej konštrukcie alebo zariadenia.
Výskumníci zopakovali experimenty za rôznych svetelných a poveternostných podmienok a dosiahli veľmi vysokú mieru úspešnosti. Podľa údajov prezentovaných na bezpečnostných fórach, ako napríklad konferencia NDSS, si systém zachoval svoju účinnosť aj pri... zmeny okolitého svetla a okolia, čo posilňuje jeho praktickú životaschopnosť.
V rámci procesu zodpovedného zverejňovania tím oznámil zraniteľnosť výrobcovia zapojených dronov, vrátane DJI a HoverAir, pred zverejnením všetkých technických detailov. Cieľom bolo dať spoločnostiam čas na preskúmanie potenciálnych zmierňujúcich opatrení alebo aktualizácií firmvéru, ktoré by posilnili odolnosť ich algoritmov voči týmto typom fyzických útokov.
Riziká a prípady použitia: od verejnej bezpečnosti až po obťažovanie
Okrem anekdoty o tom, že sa dá „loviť“ dron pomocou dáždnika, štúdia FlyTrap prináša aj ďalšie... vážne bezpečnostné dôsledky a masívne nasadenie autonómnych systémov. Profesor Alfred Chen, spoluautor výskumu a profesor informatiky na UC Irvine, zdôrazňuje, že automatické sledovanie je dvojsečná zbraň.
Na jednej strane sú tieto funkcie veľmi užitočné pre operácie verejnej bezpečnosti, hraničné hliadky alebo dohľad nad infraštruktúrouUmožňujú dronu monitorovať rozsiahle oblasti alebo sledovať podozrivého bez potreby neustáleho pilotovania, čím šetria zdroje a zlepšujú reakčnú schopnosť orgánov.
Na druhej strane, tá istá technológia sa dá použiť aj na oveľa menej ušľachtilé účely: Individuálne obťažovanie, špionáž, narušenie súkromia vo verejných alebo súkromných priestoroch, neoprávnené sledovanie osôb atď. Keď si ktokoľvek môže kúpiť dron s autonómnym sledovaním a používať ho na pochybné účely, rovnováha medzi bezpečnosťou a rizikom sa stáva komplikovanou.
Shaoyuan Xie, hlavný autor štúdie a zároveň počítačový vedec, zdôrazňuje ľahkosť, s akou sa dá jednoduchý dáždnik na ovládanie správania určitých autonómnych dronov To nás núti prehodnotiť používanie týchto zariadení v citlivých prostrediach. Ak sa s nimi tak ľahko fyzicky manipuluje, možno by ich nasadenie malo byť obmedzené alebo regulované v scenároch, kde by narušenie bezpečnosti mohlo mať vážne následky.
Okrem toho, útok sa nedá použiť len na neutralizovať nepriateľské alebo invazívne dronyale aj na vyhýbanie sa legitímnemu sledovaniu. Organizovaná skupina by mohla použiť variácie vzoru FlyTrap, aby sa skryla pred policajnými alebo vojenskými dronmi, vytvorila tieňové zóny alebo spôsobila, že sa lietadlá priblížili príliš blízko a stali sa zraniteľnými.
Fyzický útok, ktorý znovu otvára diskusiu o kybernetickej bezpečnosti dronov
Jedným z najvýraznejších aspektov prípadu FlyTrap je, že sa týka fyzický útok na algoritmy vnímaniaNejde o digitálne narušenie. Nedochádza k hackovaniu firmvéru, žiadnemu vzdialenému prístupu k systému ani k manipulácii s rádiovou komunikáciou. Všetko sa to deje v reálnom svete, pred kamerou dronu.
Tieto typy zraniteľností, známe ako fyzické útoky nepriateľa, ukazujú, že bezpečnosť systémov AI Ide to ďaleko za rámec riadiaceho softvéru a dátových sietí. Ak algoritmus, ktorý interpretuje realitu, možno oklamať vizuálnymi vzormi v prostredí, slabým článkom by mohlo byť niečo také triviálne ako dáždnikový vzor.
V prípade FlyTrapu bol vzor špeciálne navrhnutý tak, aby zneužíval nedostatky v spôsobe, akým neurónové siete vypočítavajú pohyb a vzdialenosť k cieľu. Namiesto skrývania osoby je vnímanie manipulované tak, aby dron veril, že sa osoba vzďaľuje.
Tento prístup zdôrazňuje, že štandardné bezpečnostné opatrenia – šifrovanie komunikácie, silná autentifikácia, kontrola prístupu – nestačia na ochranu Systém UAS s autonómnymi funkciamiJe tiež nevyhnutné posilniť odolnosť algoritmov počítačového videnia voči škodlivým vizuálnym vzorcom.
Keďže sa používanie dronov poháňaných umelou inteligenciou stáva čoraz rozšírenejším v mestské prostredie, kritická infraštruktúra a policajné operácieIgnorovanie týchto typov rizík môže viesť k vážnym incidentom. Nejde len o zostrelenie komerčného dronu niekým, ale o uplatnenie podobných stratégií v kontextoch s väčšou strategickou citlivosťou.
Obranné aplikácie a obmedzenia metódy zastrešenia
Z pohľadu verejnosti objav UC Irvine ponúka aj možnosť lacný obranný nástrojOsoba sledovaná dronom v autonómnom režime sledovania by teoreticky mohla použiť dáždnik so vzorom FlyTrap na prilákanie zariadenia a jeho neutralizáciu, vždy v rámci zákonných hraníc svojej krajiny.
Táto možnosť otvára diskusiu o tom, právo na sebaobranu proti leteckému dohľaduNajmä v prípadoch obťažovania, špionáže alebo nezákonného narúšania súkromného života. Tvárou v tvár technológiám sledovania, ktoré sa zdajú byť pre bežného občana nedosiahnuteľné, sa jednoduchý predmet ako dáždnik stáva akýmsi dostupným protiopatrením.
Samotný výskumný tím však varuje, že FlyTrap nie je magické riešenie použiteľné pre akýkoľvek dronJeho účinnosť závisí od zariadenia, ktoré používa určité algoritmy sledovania založené na počítačovom videní, a od aktivovaného režimu autonómneho sledovania.
Navyše, replikácia vzoru bez hlbokého pochopenia toho, ako neurónové siete spracovávajú obrázky, nemusí priniesť rovnaký výsledok. Nestačí len vytlačiť pútavý dizajn a očakávať, že bude fungovať: úspech metódy spočíva v... matematická a experimentálna optimalizácia grafického vzoru.
Treba zvážiť aj právny rámec: zostrelenie alebo zachytenie dronu môže byť regulované alebo dokonca zakázané v závislosti od krajiny a typu operácie, ktorú zariadenie vykonáva. Pred použitím akejkoľvek neutralizačnej techniky, nech sa zdá akokoľvek jednoduchá, je nevyhnutné... rozumieť predpisom o vzdušnom priestore a súkromí prúd.
Je jasné, že tento typ výskumu je užitočný pre vyvíjanie tlaku na výrobcov a regulačné orgány Pokiaľ ide o zlepšenie bezpečnostných noriem, a to jednak s cieľom zabrániť zneužívaniu pri používaní dronov, ako aj zabrániť ich ľahkej manipulácii pomocou fyzického objektu.
Celkovo prípad FlyTrap ukazuje, že technologická sofistikovanosť autonómnych dronov ich nerobí nezraniteľnými. dáždnik so správnym vzoromV kombinácii s dobrým pochopením toho, ako palubná umelá inteligencia „vidí“ svet, to môže zmeniť obyčajnú prechádzku v daždi na najhorší možný scenár pre dron, ktorý si myslel, že má všetko pod kontrolou.
