Sulmuesit abuzojnë me lidhjet e Claude dhe ChatGPT për të përhapur malware

Aktorët e kërcënimit po i kthejnë platformat e besuara të AI si Claude dhe ChatGPT në një sipërfaqe sulmi duke abuzuar me lidhjet e ligjshme të përbashkëta, mini-aplikacionet publike dhe vendosjet e sponsorizuara të kërkimit për të shpërndarë malware, sipas një raportimi të ri nga Huntress Labs. Gjatë nëntë muajve të fundit, Qendra e Operacioneve të Sigurisë e Huntress, ose SOC, ka ndjekur incidente në të cilat sulmuesit armëtuan përmbajtje të përbashkët AI, mini-aplikacione publike në platformat AI dhe vendosje të sponsorizuara kërkimi për të synuar përdoruesit e AI dhe për të shpërndarë malware. Rreziku më i madh i përditshëm, thotë Huntress, vjen nga sulmuesit që abuzojnë me veçoritë e AI që njerëzit tashmë i besojnë dhe mbështeten tek ato, sesa nga sulmet e drejtpërdrejta ndaj vetë kompanive të AI ose ndaj modeleve themelore të gjuhës.

Veçoritë e abuzuara janë të gjitha pjesë reale të shërbimeve të AI të përdorura gjerësisht. Claude Artifacts janë pjesë përmbajtjeje që asistenti Claude gjeneron dhe shfaq në një panel paraprak të bisedës, dhe përdoruesit mund t'i publikojnë ato përmes një lidhjeje publike. Lidhjet claude.ai/share janë URL të përbashkëta të krijuara kur dikush publikon një bisedë Claude; këto lidhje mund të shfaqen në motorët e kërkimit kur postohen në vende të indeksueshme si forumet ose mediat sociale. Bisedat e përbashkëta të ChatGPT dhe Grok janë biseda publike, të indeksueshme të hostuara në chatgpt.com dhe grok.com, dhe ato mund të renditen për kërkime zgjidhjeje problemesh. Secila prej këtyre faqeve qëndron brenda një kufiri besimi. Vizitori njeh platformën, markën dhe përmbajtjen përreth, kështu që udhëzimet ose shkarkimet e dëmshme duken legjitime edhe kur nuk janë.

Një fushatë e quajtur FakeAgent ilustron se si një Artifact publik mund të bëhet një faqe shpërndarjeje malware. Në korrik, Huntress pa FakeAgent të godiste më shumë se 29 organizata. Filloi me një Claude Artifact të dëmshëm të hostuar në domenin e vërtetë claude.ai. Për shkak se Artifacts publikë janë menduar për demonstrime të lehta dhe marrin verifikim minimal nga Anthropic përtej një shënimi të përgjithshëm, sulmuesit ndërtuan një faqe bindëse false për shkarkimin e Claude Desktop brenda atij Artifact. Viktimat që kërkuan në Bing për aplikacionin Claude desktop përfunduan në faqen false dhe klikuan atë që dukej si një lidhje legjitime shkarkimi. Në vend të kësaj, ata u ridrejtuan në një domen të jashtëm që shpërndau malware SectopRAT, një mjet aksesi në distancë që u jep sulmuesve kontroll mbi një makinë të infektuar. Huntress raportoi Artifact-in dhe Anthropic e hoqi atë deri më 22 korrik, por incidentet e lidhura me të njëjtin domen ridrejtimi vazhduan deri në gusht.

Një incident i veçantë abuzoi një lidhje claude.ai/share në një mënyrë tjetër. Një viktimë që kërkoi në Google për "Claude on Mac" klikoi një rezultat të sponsorizuar që çoi në një lidhje claude.ai/share që shtirej si një udhëzues instalimi i Apple Support. Për shkak se faqja jetonte në domenin e vetë Anthropic, ajo nuk mbante asnjë nga shenjat e zakonshme të alarmit: asnjë URL të ngjashme, asnjë paralajmërim certifikate. Udhëzuesi false udhëzoi viktimën të ngjiste një komandë curl në Terminal, programi i bazuar në tekst në një Mac ku komandat e shtypura ekzekutohen drejtpërdrejt. Ajo komandë filloi një zinxhir gjashtë-fazor që vendosi MacSync stealer, një lloj malware që mbledh të dhëna private nga kompjuteri i infektuar. Huntress raporton se MacSync stealer mblodhi cookies, kredencialet, sekretet e keychain, sesionet e Telegram dhe çelësat SSH dhe cloud.

Një model i tretë synon vetë këshillat e zgjidhjes së problemeve të gjeneruara nga AI. Në dhjetor, një kërkim rutinë për "clear disk space on macOS" nxori në pah biseda të ChatGPT dhe Grok me renditje të lartë që jepnin udhëzime të stilit ClickFix në vend të rregullimeve të vërteta. ClickFix është një stil mashtrimi që shfaq udhëzime false dhe i thotë përdoruesit të ekzekutojë një komandë ose të klikojë një buton "rregullo", por komanda në të vërtetë instalon malware. Sulmuesit kishin krijuar bisedat, klikuan butonin e ndarjes për të gjeneruar një URL publike në domenin e besuar të platformës dhe përdorën SEO poisoning për ta shtyrë lidhjen në krye të rezultateve të Google. SEO poisoning do të thotë të mashtrosh motorët e kërkimit që të renditin faqe të dëmshme afër kryes. Për shkak se lidhjet jetonin në domenet e vërteta chatgpt.com dhe grok.com, viktimat i besuan këshillës dhe ekzekutuan komandat e sugjeruara në Terminal, të cilat shpërndanë AMOS stealer, një familje tjetër malware që vjedh të dhëna.

Asnjë nga këto sulme nuk theu kontrollet e sigurisë të vetë platformave të AI, thekson Huntress. Në vend të kësaj, ato shfrytëzuan besimin që përdoruesit vendosin në markat e njohura dhe domenet e vërteta. Mbrojtësit duhet të trajtojnë ekzekutimin e drejtuar nga clipboard dhe zgjidhjen e problemeve të asistuar nga AI si rreziqe sigurie. Ekzekutimi i drejtuar nga clipboard do të thotë të ekzekutosh komanda që janë kopjuar dhe ngjitur nga një faqe web. Huntress rekomandon kufizimin e ekzekutimit të skripteve nga clipboard dhe zbatimin e application allow-listing, një cilësim sigurie që lejon vetëm programet e miratuara të ekzekutohen në një pajisje. Ekipet e sigurisë duhet gjithashtu të vëzhgojnë për detyra të reja të planifikuara dhe ndryshime në përjashtimet e antivirusit, dhe të trajnojnë përdoruesit të njohin kurthet e stilit ClickFix. Raportimi i shpejtë i përmbajtjes së dyshimtë të hostuar nga AI tek ofruesi i platformës mund të zvogëlojë kohën që një fushatë mbetet aktive. Për administratorët që kërkojnë të shtojnë një pikë kontrolli në nivel rrjeti, AEU DNS ofron zgjidhje DNS private dhe të sigurt.

Këto fushata priren të jenë jetëshkurtra, shpesh zgjasin vetëm orë ose ditë përpara se një ofrues ta heqë përmbajtjen, por kjo është kohë e mjaftueshme për të mashtruar viktimat përpara se të kapen. Raportimi i shpejtë dhe kontrollet e shtresuara mund të zvogëlojnë dritaren që sulmuesit marrin për t'i shfrytëzuar ato. Pronarët e faqeve të internetit dhe përdoruesit e përditshëm duhet ta trajtojnë çdo faqe web, edhe një në një domen të njohur, si të pabesueshme kur ju kërkon të ekzekutoni një komandë ose të shkarkoni një skedar.