Neustály nárast digitálne podvody a podvody Kyberzločin na sociálnych sieťach a v aplikáciách na odosielanie správ prinútil veľké technologické spoločnosti výrazne zlepšiť svoje bezpečnostné opatrenia. Kyberzločinci sa čoraz častejšie pokúšajú ukradnúť účty, bankové údaje alebo sa vydávajú za známe značky prostredníctvom správ, reklám a kontaktov, ktoré sa na prvý pohľad zdajú neškodné.
V tomto kontexte, meta posilňuje svoju bezpečnostnú stratégiu novou generáciou Umelá inteligencia proti podvodom aplikovaná na Facebook, WhatsApp a MessengerPrístup je jasný: varovať používateľa skôr, ako padne do pasce, minimalizovať vystavenie škodlivému obsahu a čo najviac sťažiť život podvodníkom pôsobiacim na ich platformách.
Umelá inteligencia proti podvodom, ktorá vám pomôže vyhnúť sa podvodom na Meta
Meta nasadzuje sadu funkcií, ktoré kombinujú umelá inteligencia na samotnom zariadení a analýza na vzdialených serverochTáto architektúra umožňuje na jednej strane rešpektovať end-to-end šifrovanie v službách ako WhatsApp a Messenger a na druhej strane ponúkať ďalšiu vrstvu pokročilej detekcie, keď sa používateľ rozhodne odoslať určitý podozrivý obsah na kontrolu.
Nástroje sa spoliehajú na modely schopné analyzovať text, obrázky, odkazy a vzorce správaniaCieľom je identifikovať všetko od podvodných reklám, ktoré používajú tváre celebrít bez ich povolenia, až po správy „technickej podpory“, ktoré sa snažia získať overovacie kódy, ako aj žiadosti o priateľstvo z falošných účtov, ktoré sa snažia získať dôveru obete.
Podľa údajov, ktoré spoločnosť zdieľala, problém nie je zanedbateľný: Meta tvrdí, že má narušila milióny účtov a reklám spojených s organizovanými podvodnými sieťami na Facebooku, Instagrame a WhatsApp, v niektorých prípadoch prepojených so skutočnými podvodnými centrami rozmiestnenými po viacerých krajinách.
Táto technologická ofenzíva sa tiež spolieha na tímy pre ľudskú kontrolu, ktoré spolupracujú s umelou inteligenciou, aby sa modely trénovali na skutočných príkladoch a znížila sa miera chybovosti pri klasifikácii pochybného obsahu.
WhatsApp: firewall proti únosu účtov a podozrivým skupinám
V prípade WhatsAppMeta AI proti podvodom sa zameriava na niekoľko obzvlášť bežných vektorov útokov: únos účtu prostredníctvom prepojenia zariadení, podvody a klamstvá týkajúce sa technickej podpory v neznámych skupinách.
Jednou z kľúčových nových funkcií je systém Upozornenia, keď sa niekto pokúsi prepojiť účet s nerozpoznaným zariadením.Ak sa zistí podozrivá požiadavka, aplikácia zobrazí informácie, ako napríklad miesto, z ktorého pokus pochádzal, spolu s výslovným upozornením, že by mohlo ísť o podvod. To umožňuje používateľovi zastaviť proces skôr, ako tretia strana získa plný prístup k jeho konverzáciám.
UI zasahuje aj v situáciách zdieľanie obrazovky počas videohovorov s neznámymi kontaktmiKeď sa zistí tento rizikový vzorec, systém vydá automatické varovanie, pretože mnohé podvody typu „technická podpora“ sa spoliehajú na živé sledovanie obrazovky používateľa na zachytenie bankových údajov, jednorazových kódov alebo iných obzvlášť citlivých informácií.
Okrem toho, skupiny, ku ktorým sa používatelia pripájajú bez toho, aby o svojich členoch veľa vedeli, teraz vykazujú preventívny bezpečnostný panelTento panel ponúka podrobnosti o skupine, tipy na odhaľovanie pokusov o podvod a možnosť odísť bez interakcie, pričom stlmí upozornenia, kým používateľ nepotvrdí, že chce zostať.
Meta tiež testuje Kontextové upozornenia pri začatí chatu s číslami, ktoré nie sú v adresáriAk systém identifikuje typické znaky phishingu, falošných investícií alebo nejasných žiadostí o peniaze, odporúča postupovať s mimoriadnou opatrnosťou a ponúka možnosť zablokovania alebo nahlásenia niekoľkými klepnutiami.
Facebook: Kontroluje žiadosti o priateľstvo a falošné stránky „podpory“
En FacebookUmelá inteligencia v boji proti podvodom má dva hlavné fronty: podozrivé žiadosti o priateľstvo a webové stránky, ktoré sa vydávajú za oddelenia služieb zákazníkom alebo zavedené značky.
Po prijatí žiadosti o priateľstvo môže platforma zobraziť upozornenie, ak zistí rizikové faktory: účty s veľmi malým počtom spoločných priateľov, nedávno vytvorené profily, geografický pôvod, ktorý nezodpovedá sieti používateľa, alebo správanie, ktoré zodpovedá vzorcom spojeným s botovými sieťami. Používateľ tak môže lepšie posúdiť, či žiadosť prijať, ignorovať alebo zablokovať predtým, ako otvoríte dvere potenciálnemu podvodníkovi.
Ďalším relevantným zameraním je falošné stránky a účty podpory ktoré sa snažia oklamať používateľov hľadajúcich pomoc s obnovením účtu alebo vyriešením problému. Meta tvrdí, že podnikla kroky proti desiatkam tisícov týchto stránok, ktoré zvyčajne požadovali prihlasovacie údaje, doklady totožnosti alebo platby na „urýchlenie“ údajných procesov obnovy.
Spoločnosť tiež posilňuje svoje mechanizmy pre Overenie inzerenta a odhaľovanie podvodných reklámPatria sem aj tí, ktorí používajú obrázky celebrít, podnikateľov alebo verejne známych osobností bez ich povolenia. Umelá inteligencia porovnáva tváre a identifikuje opakujúce sa manipulácie používané na legitimizáciu falošných investícií, neexistujúcich propagačných akcií alebo produktov, ktoré nikdy nedorazia.
Tento bod je obzvlášť citlivý pre spoločnosti a tvorcov obsahu v Španielsku a zvyšku Európy, kde reklamy používajúce používanie obrazu podnikateľov alebo známych miestnych osobností na prilákanie obetíčo spôsobuje zmätok a poškodenie reputácie, ktoré je ťažké napraviť.
Messenger: Používateľom konfigurovateľná detekcia podvodov
Aplikácia na odosielanie správ prepojená s Facebookom, posol, obsahuje špecifickú funkciu s názvom „Detekcia podvodov“Táto možnosť, dostupná prostredníctvom nastavení ochrany osobných údajov a zabezpečenia, podrobnejšie analyzuje konverzácie iniciované neznámymi kontaktmi. Po aktivácii táto funkcia poskytuje hlbšiu analýzu konverzácií.
UI sa zameriava na charakteristické vzorce falošných ponúkPatria sem: ponuky práce na diaľku požadujúce platby vopred, investície s garantovaným výnosom, urgentné správy so žiadosťou o peniaze alebo pokusy o vydávanie sa za podporný personál známych spoločností. Ak zistí niečo nezvyčajné, zobrazí upozornenie označujúce typ prítomného rizika a navrhne zablokovanie alebo nahlásenie odosielateľa.
Ak to používateľ výslovne povolí, označené správy je možné odosielať v jednotlivých prípadoch Meta servery pre hlbšiu analýzu AITento krok dočasne preruší šifrovanie typu end-to-end iba pre daný obsah, čo je rozhodnutie, ktoré musí každá osoba zvážiť podľa svojej tolerancie rizika a obáv o súkromie.
Súbežne s tým Messenger vylepšil svoj systém ochrana odkazovFunkcia Bezpečné prehliadanie, ktorá už predtým analyzovala adresy URL priamo na zariadení, sa teraz spolieha na ďalšiu vrstvu nazývanú pokročilá ochrana, ktorá je prepojená s neustále aktualizované zoznamy z nebezpečných stránok. Cieľom návrhu je blokovať prístup k phishingovým stránkam alebo sťahovaniu škodlivého softvéru bez odhalenia identity používateľa alebo úplnej histórie prehliadania.
Pre tímy podpory, predaja alebo zákazníckeho servisu, ktoré používajú Messenger ako svoj bežný kanál, predstavujú tieto vylepšenia Ďalšia bariéra proti podvodom zameraným na vašu vlastnú značku ako o niečo bezpečnejšie prostredie pre používateľov, s ktorými denne interagujú.
Umelá inteligencia pod kapotou
Nové bezpečnostné funkcie spoločnosti Meta sa spoliehajú na hybridnú architektúru, ktorá kombinuje dva doplnkové prístupy. Prvým je analýza na zariadeníFunguje priamo na mobilnom telefóne alebo počítači používateľa a rešpektuje šifrovanie end-to-end, pretože na detekciu rizikových vzorcov nemusí odosielať obsah na externé servery.
Táto lokálna analýza sa zameriava na signály, ako napríklad fakt, že prijímať správy z neuložených číselPatria sem pokusy o zdieľanie obrazovky s cudzími ľuďmi, náhle zmeny v správaní účtu alebo zobrazenie odkazov, ktoré zodpovedajú predchádzajúcim hláseniam o podvodoch. Prevádzkovaním samotného zariadenia sa znižuje objem údajov odosielaných externe, čo poskytuje okamžitú prvú obrannú líniu.
Druhá vrstva sa aktivuje, keď sa používateľ rozhodne Odošlite obsah na kontrolu pomocou umelej inteligencie v cloudeV tomto prípade označené správy alebo položky spracúvajú systémy spoločnosti Meta, ktoré používajú zložitejšie modely na posúdenie, či sa deje niečo, čo zodpovedá známemu typu podvodu. Ak analýza dospeje k záveru, že existuje riziko, platforma zobrazí vysvetlenia k potenciálnemu podvodu a odporučí konkrétne kroky.
Spoločnosť zdôrazňuje, že okrem umelej inteligencie existujú aj tímy ľudských moderátorov, ktoré denne kontrolujú milióny kusov obsahuTento ľudský prvok umožňuje okrem iného zdokonaľovanie modelov, riešenie najcitlivejších prípadov a rušenie rozsiahlych koordinovaných kampaní, ktoré idú nad rámec jednoduchých izolovaných posolstiev.
Celý tento mechanizmus dopĺňajú dohody s bezpečnostnými silami a ďalšími aktérmi v technologickom sektore s cieľom zdieľať spravodajské informácie o škodlivých doménach, sieťach falošných účtov a nových taktikách používaných zločineckými organizáciami.
Hlavné typy podvodov, ktorým sa umelá inteligencia od Mety snaží zabrániť
Metaplatformy sú živnou pôdou pre široká škála digitálnych podvodovNové nástroje sú navrhnuté tak, aby okrem iného odhaľovali a zastavovali nasledujúce typy bežných podvodov zameraných na používateľov v Španielsku a Európe:
- Falošné podvody s technickou podporou: Ľudia, ktorí sa vydávajú za bankové podporné služby, operátorov alebo dokonca samotnú Meta, aby si vyžiadali overovacie kódy, heslá alebo vzdialený prístup k zariadeniu.
- Podvod so zdieľaním obrazovky: videohovory, v ktorých podvodník presviedča obeť, aby ukázala svoju obrazovku, aby získala bankové údaje, SMS s jednorazovými kódmi alebo prihlasovacie údaje pre služby, ako je online bankovníctvo alebo platobné brány.
- Neexistujúce pracovné ponuky a štipendiá: Reklamy alebo súkromné správy sľubujúce jednoduché alebo dobre platené pracovné miesta výmenou za počiatočnú platbu za „procedúry“ alebo za poskytnutie citlivých osobných údajov.
- Investičné schémy a kryptomeny: kampane, ktoré sľubujú rýchle a zaručené výnosy, často podporované neoprávneným využívaním slávnych ľudí alebo známych podnikateľov.
- Phishing a škodlivé odkazy: URL adresy, ktoré napodobňujú legitímne portály – banky, platformy elektronického obchodu, verejné služby – s cieľom ukradnúť prihlasovacie údaje alebo nainštalovať malvér do zariadenia.
Kombinácia automatizovaného monitorovania, čiernych zoznamov nebezpečných stránok a mechanizmov hlásenia používateľmi to umožňuje Systém sa rýchlo prispôsobuje novým variáciám týchto podvodov.ktoré často mutujú, aby sa vyhli ľahšej detekcii.
Dopad na používateľov, spoločnosti a zakladateľov, ktorí sú závislí od Mety
Okrem ochrany priemerného používateľa majú nové funkcie umelej inteligencie proti podvodom priamy vplyv na Firmy, ktoré používajú Facebook, WhatsApp a Messenger ako svoju základnú infraštruktúru pre predaj, zákaznícky servis alebo budovanie komunity.
Na jednej strane, ak spoločnosť používa WhatsApp Business alebo Messenger na komunikáciu so zákazníkmi, Ich správy by mohli spustiť upozornenia, ak ich systém vníma ako podozrivé.Napríklad zahrnutím mnohých odkazov alebo vyžadovaním citlivých údajov. To si vyžaduje kontrolu scenárov, tónu a frekvencie, aby sa minimalizovali falošne pozitívne výsledky a zachovala dôvera publika.
Na druhej strane, startupy v obzvlášť citlivých sektoroch – ako napr. finančné technológie, digitálne zdravotníctvo alebo právne služby– v týchto nástrojoch nachádzajú jasné znamenie: zabezpečenie založené na umelej inteligencii už nie je „dodatočnou funkciou“ a je teraz súčasťou minimálnych očakávaní v každom produkte alebo službe, ktorá spracováva kritické údaje.
Rastúca spolupráca spoločnosti Meta s ďalšími technologickými hráčmi a verejnými orgánmi tiež otvára dvere k Nové príležitosti pre spoločnosti špecializujúce sa na kybernetickú bezpečnosť, ktoré môžu integrovať svoje riešenia s ekosystémami detekcie hrozieb veľkých platforiem alebo poskytovať konzultačné služby menším spoločnostiam.
Účinnosť týchto opatrení bude v konečnom dôsledku závisieť od toho, či používatelia aj organizácie prijmú osvedčené postupy: aktivácia dostupných funkcií proti podvodom, udržiavanie aplikácií aktualizovaných, opatrnosť pri nevyžiadaných správach a hlásenie akéhokoľvek podozrivého správania systémom na detekciu kanálov.
S implementáciou svojho nového Umelá inteligencia proti podvodom na Facebooku, WhatsApp a MessengeriMeta robí dôležitý krok smerom k digitálnemu prostrediu, ktoré je o niečo ťažšie pre podvodníkov a o niečo bezpečnejšie pre tých, ktorí denne využívajú jej služby, od individuálnych používateľov až po spoločnosti, ktoré sa na tieto platformy spoliehajú pre podstatnú časť svojej činnosti.
