Google planifikon Gemini 4 Argon pa kufizime për mbrojtjen kibernetike
Google njoftoi Gemini 4 Argon, një model i përparuar i inteligjencës artificiale (AI) që gjen dhe rregullon defekte kritike të softuerit, me një version pa kufizime sigurie të planifikuar për mbrojtësit.
Google njoftoi të mërkurën modelin e saj më të fundit të inteligjencës artificiale (AI) të përparuar, Gemini 4 Argon, dhe tha se po shpërndahet te një grup mbrojtësish kibernetikë të besuar përmes programit Fairwind të kompanisë. Një model i përparuar i AI është një nga sistemet më të avancuara që ofron aktualisht një kompani. Modeli është projektuar për të trajtuar flukse pune komplekse në inxhinierinë e softuerit, punë njohurish të ndërmarrjeve si ligjore dhe financiare, dhe mbrojtje kibernetike, sipas Koray Kavukcuoglu, zëvendëspresident i lartë i Google DeepMind dhe Arkitekt Kryesor i AI në Google. Kavukcuoglu tha se modeli ofron performancë të përparuar në ato fusha, megjithëse njoftimi nuk përfshinte rezultate specifike benchmark përtej një krahasimi me modelin e mëparshëm të sigurisë kibernetike të Google.
Lëshimi vjen gati një muaj pasi Google prezantoi Gemini 3.8 Flash Cyber, të cilin kompania e përshkroi si modelin më të aftë të sigurisë kibernetike në atë kohë. Google thotë se Argon, si modelet e krahasueshme nga Anthropic dhe OpenAI, është shumë i aftë në gjetjen, vërtetimin dhe rregullimin autonom të dobësive kritike të softuerit. Në një shembull, Google tha se Argon gjeti një dobësi kritike të panjohur më parë që ekspozonte informacione personale të ndjeshme në softuerin e kujdesit shëndetësor të përdorur nga spitalet në mbarë botën. Google nuk e emëroi softuerin e prekur ose nuk dha detaje se sa organizata ose pacientë u prekën. Sipas Google, Argon tregon hapa mbresëlënës në zbulimin e dobësive krahasuar me 3.8 Flash Cyber, dhe e tejkalon modelin e mëparshëm kur bëhet fjalë për zbulimin e sipërfaqes së sulmit të një aplikacioni, pikave të hyrjes që një sulmues mund të synojë, dhe gjenerimin e provave të konceptit (PoC), të cilat janë demonstrime pune që konfirmojnë se një e metë sigurie mund të shfrytëzohet.
Google tha se planifikon të lëshojë një version të Argon pa kufizime kibernetike për mbrojtësit e besuar dhe ekipet e saj të brendshme. Kufizimet kibernetike janë kufizime të integruara që kufizojnë atë që një model AI lejohet të bëjë, dhe heqja e tyre do t'i lejonte ato ekipe të përdorin aftësitë e plota të modelit për testimin e sigurisë. Përpara çdo shpërndarjeje më të gjerë, kompania tha se po punon për të forcuar masat mbrojtëse që parandalojnë që modeli të keq rreshtohet me qëllimet e tij të synuara, ndalojnë keqpërdorimin nga keqbërësit dhe e bëjnë atë rezistent ndaj injeksioneve indirekte të prompt-eve (IPI). Një injeksion indirekt i prompt-it është një sulm në të cilin një udhëzim keqdashës fshihet brenda përmbajtjes që një sistem AI e lexon më vonë, si një faqe interneti ose dokument, për të mashtruar modelin që të bëjë diçka të paqëllimshme.
Google publikoi një vlerësim të modelit që tregon se Argon tejkalon modelet e tjera dhe zë vendin e parë në benchmark-un e injeksionit indirekt të prompt-eve të Gray Swan. Në terma praktikë, kjo do të thotë se modeli ishte më i mirë se rivalët në rezistimin ndaj sulmeve ku një palë e tretë përpiqet ta kontrollojë atë përmes tekstit të mbjellë. Google gjithashtu tha se po vendos masa zbutëse të keq rreshtimit që monitorojnë zinxhirin e mendimeve të Argon, arsyetimin hap pas hapi që prodhon një model gjatë punës, dhe veprimet e tij, duke ndaluar ekzekutimin kur është e nevojshme. Kompania tha se inkurajon fuqimisht pjesën tjetër të industrisë që të ruajë transparencën e arsyetimit gjatë këtyre momenteve të aftësive të shtuara ndërsa lundron rreziqet e rreshtimit, në mënyrë që mendimet e modelit të mbeten të dobishme në identifikimin dhe diagnostikimin e keq rreshtimit.
Për pronarët e faqeve të internetit dhe ekipet e TI-së, zhvillimi ka rëndësi sepse modelet e AI që mund të gjejnë dhe vërtetojnë dobësi mund të përshpejtojnë zbulimin e të metave të aplikacioneve në internet, përfshirë ato në sistemet e menaxhimit të përmbajtjes, shtojcat dhe kodin e personalizuar. Megjithatë, të njëjtat aftësi nënkuptojnë gjithashtu se mbrojtësit, menaxhimi i arnimeve dhe konfigurimi i sigurt bëhen më të rëndësishme, sepse një model mund të demonstrojë se një e metë është reale dhe e shfrytëzueshme më shpejt. Për bizneset që kanë nevojë t'i kthejnë gjetje të tilla në arnime në kohë dhe konfigurime të sigurta, AEU-I ofron mbështetje IT, infrastrukturë dhe konsulencë me sigurinë në plan të parë.
Si të Mbroheni
- Përditësoni softuerin e faqes suaj të internetit, shtojcat dhe temat sapo të jenë të disponueshme përditësimet, në mënyrë që vrimat e njohura të sigurisë të mbyllen shpejt.
- Përdorni fjalëkalime të forta dhe unike për llogaritë e administratorit të faqes suaj të internetit dhe të hostimit, dhe aktivizoni hyrjen me dy hapa në mënyrë që një fjalëkalim i vjedhur vetëm të mos mjaftojë për të hyrë.
- Rishikoni listën e përdoruesve të faqes suaj të internetit dhe hiqni ose çaktivizoni llogaritë e vjetra, aplikacionet dhe integrimet që nuk nevojiten më.
- Bëni kopje rezervë të rregullta të faqes suaj të internetit dhe ruani të paktën një kopje jashtë linje, në mënyrë që të mund ta riktheni nëse diçka shkon keq.
- Kërkojini zhvilluesit tuaj ose ofruesit të hostimit të kontrollojë faqen tuaj të internetit për të dhëna të ndjeshme të ekspozuara dhe të rregullojë çdo problem që gjejnë.
- Jini të kujdesshëm kur hapni lidhje ose dokumente nga dërgues të panjohur, sepse udhëzimet e fshehura brenda përmbajtjes mund të mashtrojnë mjetet e AI dhe softuerët e tjerë që të kryejnë veprime të dëmshme.
Termat e Shpjeguar
- frontier artificial intelligence (AI) model Lloji më i avancuar dhe më i aftë i sistemit të inteligjencës artificiale që është aktualisht i disponueshëm, në krye të asaj që teknologjia mund të bëjë.
- proof-of-concepts (PoCs) Demonstrime të vogla pune që tregojnë se një e metë sigurie e pretenduar është reale dhe mund të shfrytëzohet në të vërtetë.
- attack surface Të gjitha pikat e hyrjes në një softuer ose sistem që një sulmues mund të përpiqet t'i përdorë për të hyrë.
- cyber guardrails Kufizime të integruara që kufizojnë atë që lejohet të bëjë një sistem i inteligjencës artificiale, për ta mbajtur atë të sigurt.
- indirect prompt injections (IPIs) Një mashtrim ku udhëzime të dëmshme fshihen brenda përmbajtjes së zakonshme, si një faqe interneti ose dokument, që një sistem AI e lexon më vonë dhe mund t'i bindet.
- chain-of-thought Arsyetimi hap pas hapi që prodhon një sistem AI ndërsa punon për një detyrë, i cili mund t'i ndihmojë njerëzit të shohin pse mori një vendim.
- misalignment Një situatë ku një sistem i inteligjencës artificiale vepron në një mënyrë që nuk përputhet më me atë që krijuesit e tij synonin ose me atë që është e sigurt.