AI exploits po ndërtohen më shpejt nga security patches
AI exploits po bëhen më të shpejta për t’u ndërtuar dhe vendosur, ndërsa threat actors po shkojnë përtej kërkesës ndaj artificial intelligence për përgjigje të veçanta. Google Threat Intelligence Group (GTIG) thotë se sulmuesit po përdorin autonomous, multi-agent frameworks, domethënë disa software agents që mund të kryejnë detyra të ndërlidhura me pak drejtim njerëzor, për të realizuar intrusions me shumë etapa dhe me shpejtësi më të madhe.
Frameworks të përmendura nga GTIG përfshijnë ARTEX, CAIRN, CyberStrikeAI dhe PentAGI. Threat actors po keqpërdorin gjithashtu open-source penetration-testing frameworks, të cilat janë mjete të krijuara për të vlerësuar sigurinë, për të automatizuar etapa të veçanta dhe detyra operative gjatë sulmeve në zhvillim. Google thotë se grupe të motivuara financiarisht dhe aktorë të dyshuar spiunazhi të lidhur me Kinën janë parë duke eksperimentuar me këto frameworks dhe sisteme të ngjashme.
Sipas GTIG, ndryshimi më i gjerë është se sulmet tani mund të organizohen me shpejtësinë e makinës. Metodat bazë të sulmit mund të mos jenë të reja, por mjetet e automatizuara mund të lidhin rrugë të ndryshme sulmi dhe të zgjerojnë operacionet më shpejt. Open-source frameworks gjithashtu ulin barrierën teknike për sulmuesit më pak të aftë, duke e bërë më të lehtë integrimin e exploits, zgjerimin e sulmeve dhe krijimin e phishing campaigns bindëse.
Një fushë kryesore shqetësimi është përdorimi i large language models, ose LLMs, të cilat janë sisteme AI të trajnuara për të gjeneruar dhe analizuar gjuhë dhe kod. Sulmuesit po përdorin LLMs dhe agentic frameworks, sisteme që u mundësojnë mjeteve AI të planifikojnë dhe kryejnë detyra, për të bërë reverse engineering të software patches përmes differential analysis. Kjo nënkupton krahasimin e një versioni të patch-uar me një version më të hershëm, për të identifikuar çfarë ka ndryshuar dhe për të nxjerrë përfundimin se cila vulnerability është rregulluar.
Ky proces mund t’i ndihmojë sulmuesit të bëjnë weaponization shpejt të flaws të sapozbuluara. Google e vërejti këtë aktivitet në lidhje me vulnerabilities në PaperCut NG/MF në fillim të këtij shtatori. GTIG thotë se sulmuesit mund ta konsiderojnë më efikase përqendrimin e një LLM në një koleksion të kufizuar materialesh, duke përfshirë versione të ndryshme të source code, versione para publikimit ose preview, release notes, kërkime sigurie dhe proof of concept code. Një proof of concept, ose POC, është një demonstrim funksional që tregon se si mund të shfrytëzohet një vulnerability.
Ky proces mund ta shkurtojë periudhën midis publikimit të një patch-i dhe exploitation aktiv. Software-i i prekur mund ta ketë tashmë një fix të disponueshëm, por organizatat duhet ta aplikojnë atë përpara se sulmuesit të përdorin informacionin e zbuluar nga ndryshimi. Për pronarët e websites dhe ekipet IT, ky zbulim e bën veçanërisht të rëndësishme shpejtësinë e patch management, sepse një fix publik mund të japë gjithashtu të dhëna të dobishme për flaw-in që trajton.
Google përshkroi gjithashtu keqpërdorimin e shërbimeve dhe frameworks të tjera. ZeroHollow është një inference service e përdorur për exploit development dhe për routimin e kërkesave midis LLMs. Agent Zero është një open-source agent framework që përfshin autonomous code execution dhe dynamic tool generation, duke e lejuar të krijojë ose të zgjedhë mjete ndërsa ndryshojnë detyrat.
Sulmuesit po synojnë edhe AI infrastructure për përfitim financiar. Në sulmet LLMjacking, ata vjedhin LLM credentials, domethënë të dhënat e aksesit që përdoren për t’u lidhur me AI services, si edhe cloud resources nga enterprise environments të komprometuara. Aksesi i vjedhur më pas mund të rishitet përmes proxy services në underground, si APIMart dhe JetNight, me çmime të reduktuara. Këto resale services njihen gjithashtu si LLM mixers.
Phishing po automatizohet paralelisht. Jieyou, një phishing platform në gjuhën kineze, ka shtuar një LLM chatbot assistant që u lejon klientëve të konfigurojnë phishing panels dhe të ndryshojnë templates ekzistuese duke përdorur komanda në gjuhë natyrore. Phishing është përdorimi i mesazheve ose faqeve mashtruese për t’i shtyrë njerëzit të japin informacion ose akses.
GTIG thotë se kjo pasqyron një prirje më të gjerë mes ofruesve phishing-as-a-service, ose PhaaS. Këto services ofrojnë phishing infrastructure për klientë që mund të mos kenë aftësitë për ta ndërtuar vetë. Në vend që të modifikojnë payloads manualisht, affiliates me më pak aftësi mund të përdorin udhëzime nga chatbot për të përshtatur histori mashtruese dhe phishing interfaces ndërsa një operation është në zhvillim. Rezultati është një rrugë më e shkurtër nga synimi i sulmuesit te një phishing campaign e përshtatur.
Bizneset mund ta ulin ekspozimin duke aplikuar security patches pa vonesë, duke rishikuar se cilët punonjës dhe services mund të kenë akses te AI dhe cloud accounts, si dhe duke mbrojtur hyrjet në accounts me multi-factor authentication, e cila kërkon një konfirmim shtesë përtej password-it. Pronarët e websites duhet gjithashtu ta mbajnë hosting software dhe applications e lidhura të përditësuara, ndërsa stafi duhet t’i trajtojë me kujdes kërkesat e papritura për login dhe mesazhet urgjente. AEU-I ofron security-first IT, infrastructure dhe consulting, gjë që është e rëndësishme për organizatat që po i shqyrtojnë këto risks në të gjithë sistemet e tyre.
Gjetjet nuk nënkuptojnë se çdo sulm është plotësisht autonomous, por tregojnë se si AI agents dhe open-source tools mund të automatizojnë mjaft detyra të veçanta për ta bërë exploitation dhe phishing më të shpejtë, më të gjerë dhe më të arritshëm për sulmuesit.