Anthropic detajon keqpërdorimin e Claude AI në vjedhjen e sekreteve nga Android
Anthropic thotë se disa grupe kërcënimi, përfshirë kolektivin e motivuar financiarisht ShinyHunters dhe aktorë espionazhi të sponsorizuar nga shteti, keqpërdorën modelin e saj Claude AI midis dhjetorit 2025 dhe gushtit 2026, ku një operacion shkarkoi masivisht dhe skanoi 1.8 milionë paketa aplikacionesh Android (APK) për sekrete të koduara.
Anthropic, kompania pas Claude, regjistroi forma të ndryshme të keqpërdorimit të inteligjencës artificiale gjatë periudhës tetëmujore, përfshirë operacione kibernetike, operacione ndikimi, mbikëqyrje, mashtrime, zhvillim armësh biologjike dhe konvencionale, si dhe distilim modelesh. Firma e AI ndërpreu disa aktivitete të lidhura me ShinyHunters, një kolektiv i njohur për sulme të mëdha vjedhjeje të dhënash që shpesh fillojnë me inxhinieri sociale dhe kompromis llogarie. Një anëtar i dyshuar frëngjishtfolës me pseudonimin frkoo shpërndau një rrjedhë pune për grumbullimin e kredencialeve nëpër dhjetë punëtorë AWS EC2, të cilët janë serverë virtualë nga Amazon Web Services Elastic Compute Cloud. Kjo rrjedhë pune shkarkoi 1.8 milionë APK unike Android nga burime të shumta dyqanesh aplikacionesh, i dekompiloi dhe i skanoi për sekrete të koduara duke përdorur TruffleHog, një mjet që kërkon në skedarë për fjalëkalime dhe çelësa të fshehur. Gjetjet e verifikuara u dërguan në kohë reale në një grup Telegram të organizuar në më shumë se 100 lloje burimesh.
I njëjti aktor drejtoi një proces të veçantë të automatizuar për të mbledhur adresa email të organizatave GitHub dhe më pas i përdori ato për të marrë GitHub Personal Access Tokens (PAT), të cilat janë kode sekrete që përdoren në vend të fjalëkalimeve për akses programatik. Anthropic deklaroi se të dyja rrjedhat e punës siguruan kredenciale për akses fillestar që frkoo i përdori për pjesën më të madhe të shkeljeve të konfirmuara të lidhura me atë haker. Aktori gjithashtu ngriti një dyqan carding në domenin policenationale[.]cc që imitonte policinë kombëtare franceze, duke shitur të dhëna të vjedhura kartash pagese, informacion të plotë të mbajtësve të kartave dhe një hartë interaktive të adresave të viktimave. Anëtarë të dyshuar të ShinyHunters gjithashtu vodhën çelësa API të AI dhe i përdorën për të shkelur organizata të tjera ose për zbulim. Në një rast, ata shkelën një ofrues software-as-a-service dhe vodhën të dhëna që i përkisnin rreth 200 klientëve të varur.
Me ndihmën e Claude, një aktor i dyshuar i kërcënimit ShinyHunters mori rreth 34 orë për të nxjerrë të dhëna autentikimi dhe për të marrë më shumë se 2,100 grupe tokenësh Microsoft Azure Active Directory (Azure AD) të lidhura me mbi 40 tenantë korporativë të veçantë. Anthropic tha se agjentët e AI kryen pothuajse të gjithë punën. Aktivitet tjetër i dëmshëm i atribuuar filialeve të ShinyHunters përfshinte shkeljen e një ofruesi teknologjik dhe vjedhjen e një terabajt të dhënash, kompromisimin e një linje ajrore dhe aksesin në sistemet e një kompanie energjetike. Grupi lëvizi shpejt pasi fitoi akses fillestar. Në rastin e një firme software ndërmarrjesh, hakerat kaluan në vjedhje masive të dhënash brenda disa orësh. Në një rast tjetër, një sulmues kaloi nga një token i vetëm i vjedhur zhvilluesi në kontroll të plotë administrativ në më pak se tre orë.
Raporti i Anthropic gjithashtu thekson aktivitetin e atribuuar grupit rus të espionazhit të njohur si Midnight Blizzard. Grupi përdori Claude për të automatizuar zhvillimin e malware, kërkimin për infrastrukturë, phishing, persistencë, operacione command-and-control (C2) dhe nxjerrje të dhënash. Ai ngriti një cikël reagimi që rindërtonte malware sa herë që produktet e sigurisë e zbulonin atë. Anthropic vëzhgoi Midnight Blizzard duke synuar më shumë se 20 entitete qeveritare, mbrojtëse, diplomatike, të inteligjencës dhe të politikës së jashtme. Fushatat përfshinin phishing me kod pajisjeje, sulme ClickFix dhe DNS hijacking, i cili ridrejton vizitorët duke ndryshuar regjistrimet e sistemit të emrave të domenit përmes ofruesve të komprometuar të Wi-Fi në hotele. Ata gjithashtu përdorën marrjen e llogarive WhatsApp, vjedhjen e emailit në cloud dhe malware për Windows, Android dhe iOS. Claude u përdor gjatë të gjitha fazave të sulmit, dhe grupi automatizoi operacionet e tij përmes rrjedhave të punës të drejtuara nga AI të ndërtuara rreth aftësive të Claude Code, me operatorë njerëzorë që kryesisht modifikonin ato aftësi kur nevojitej përmirësim.
Anthropic gjithashtu përshkruan një operacion espionazhi të atribuuar një grupi kinezofolës të ndjekur si GTG-10007. Grupi përdori Claude si shtresën inxhinierike dhe orkestruese të një programi ofensiv të koordinuar që përfshinte përpjekje për ndërhyrje në sistemet e prodhimit, zbulim të rrjeteve të qeverive të huaja në Lindjen e Mesme, Evropë dhe Azinë Juglindore, një përpjekje të vazhdueshme për kërkim dobësish dhe zhvillim shfrytëzimesh kundër produkteve kryesore të sigurisë së pikave fundore, zhvillim malware dhe ndërtimin e një platforme për mbledhje inteligjence. Grupi operonte rrjedha pune autonome për kërkim dobësish ndërsa operatorët njerëzorë mungonin, duke zbuluar disa dobësi të panjohura më parë në një produkt të madh sigurie. Përpjekja e automatizuar gjithashtu dha shfrytëzime funksionale për disa familje pajisjesh rrjeti dhe sigurie, dhe aktori përdori kodin e shfrytëzimit kundër disa organizatave qeveritare. Operacionet synuan rreth 50 organizata në qeveri, arsim, shitje me pakicë, energji, teknologji, shëndetësi, financë dhe prodhim, me kompromise të konfirmuara në një kompani teknologjike arsimore, një shitës me pakicë dhe një agjenci qeveritare të Azisë Juglindore.
Anthropic tha se ndërpreu përdorimin e aktorëve të Claude për aktivitete të dëmshme, ndaloi llogaritë e aktorëve të kërcënimit, rregulloi mbrojtjet e saj bazuar në përdorimin e keq të vëzhguar, shtoi masa për të zbuluar më shpejt keqpërdorimin e ardhshëm dhe kontaktoi autoritetet, partnerët e industrisë dhe viktimat. Për pronarët e faqeve të internetit dhe ekipet e IT, kjo lloj vjedhjeje kredencialesh e ndihmuar nga AI është një kujtesë për të rishikuar se si trajtohen sekretet dhe tokenët e aksesit; AEU-I ofron IT, infrastrukturë dhe konsulencë me sigurinë në radhë të parë që mund t'i ndihmojë organizatat të vlerësojnë llojin e trajtimit të kredencialeve dhe çelësave API që sulmuesit shfrytëzuan në këto operacione.