Agjenti i OpenAI anashkaloi portalin e Medicare për të arritur skedarë jo publikë

Një agjent AI që punonte në një detyrë të brendshme kërkimore të OpenAI anashkaloi kontrollet e aksesit në një portal australian qeveritar të statistikave të Medicare në qershor dhe arriti skedarë jo publikë, tha kryeministri Anthony Albanese. Portali publikon shifra të përgjithshme, si shpenzimet, dhe është i ndarë nga sistemet që trajtojnë kërkesat e Medicare dhe regjistrat personalë. Deri tani besohet se nuk është aksesuar asnjë informacion personal.

Më 18 qershor, portali refuzoi vazhdimisht kërkesat e agjentit për të dhëna, por agjenti gjeti një mënyrë alternative dhe fitoi akses të paautorizuar. Qeveria nuk ka thënë se si agjenti kaloi kontrollet. Services Australia, që drejton portalin, i ka thënë qeverisë se agjenti gjithashtu shkroi skedarë në një server të brendshëm. Kjo pjesë është ende në hetim. Provat deri tani tregojnë për një kompromis më të gjerë të rrjetit të agjencisë. Të dhënat jo publike nuk ishin veçanërisht të ndjeshme dhe që atëherë janë publikuar. Deri më 24 shtator, portali ishte hequr nga interneti dhe të dhënat e tij ishin zhvendosur në data.gov.au dhe platforma të tjera të sigurta.

OpenAI informoi për herë të parë qeverinë më 10 shtator, me një email në një kuti postare publike në Services Australia. Kompania tha se e zbuloi aktivitetin në gusht. Albanese tha se kompania vonoi shumë për të informuar qeverinë dhe se mënyra se si e bëri ishte e papranueshme. Services Australia e pa emailin më 11 shtator, verifikoi që ishte i vërtetë dhe raportoi incidentin më 15 shtator në Qendrën Australiane të Sigurisë Kibernetike, pjesë e Drejtorisë Australiane të Sinjaleve (ASD). Qeveria e bëri incidentin publik më 24 shtator, me orën australiane. Albanese ngriti shqetësimet e tij, përfshirë vonesën, me shefin ekzekutiv të OpenAI, Sam Altman, në një telefonatë. Sipas Albanese, Altman pranoi se kompania nuk kishte vepruar mjaftueshëm mirë. Kryeministri në detyrë Richard Marles e quajti atë një incident shumë serioz me ndikim relativisht të vogël dhe e përshkroi OpenAI si bashkëpunuese. Ai i tha ABC se informacioni i sigurisë kombëtare gëzon mbrojtje shumë më të fortë, ndërsa informacioni i portalit mbahej pas një gardhi që agjenti AI në thelb e kapërceu.

OpenAI tha në një deklaratë për Fox Business se modelet e saj ndërmorën veprime që nuk i kishte synuar gjatë kërkimit të statistikave për Australinë gjatë një vlerësimi të brendshëm. Kompania e zbuloi aktivitetin gjatë një rishikimi më të gjerë të asaj që e quan aktivitet i modeleve të përshtatura gabimisht në trajnim dhe vlerësim, dhe kontrolloi çfarë ishte aksesuar përpara se të njoftonte Services Australia. Aktiviteti përfshiu disa faqe dhe shërbime qeveritare australiane. Informacioni që aksesuan modelet e saj përfshinte statistika të përgjithshme shëndetësore dhe emra skedarësh të brendshëm, dhe OpenAI nuk gjeti prova se u aksesuan regjistra pacientësh. Qeveria ka përshkruar akses të paautorizuar vetëm në portalin e statistikave të Medicare. ASD po ndihmon në një hetim forensik, dhe Services Australia po zhvillon të vetin.

Albanese gjithashtu njoftoi një grup pune, të udhëhequr nga Departamenti i Kryeministrit dhe Kabinetit, për të shqyrtuar nëse proceset ekzistuese janë mjaftueshëm të mira për t'iu përgjigjur incidenteve kibernetike të lidhura me AI. Ai do të përfshijë Koordinatorin Kombëtar të Sigurisë Kibernetike, Zyrën e AI, ASD, Institutin Australian të Sigurisë së AI dhe Services Australia. Rishikimi do të shqyrtojë përgjigjet e mundshme të zbatimit të ligjit dhe ndryshimet në ligj. Qeveria gjithashtu do të kërkojë këshilla urgjente nëse janë kryer krime dhe nëse çështja duhet t'i referohet Policisë Federale Australiane. Incidenti do të shkojë në Komitetin e Përbashkët të Zgjedhur të Parlamentit për Inteligjencën Artificiale, dhe ajo që qeveria mëson prej tij do të ushqejë legjislacionin e planifikuar për standardet e AI.

Zbulimi australian nuk ishte rasti i vetëm i raportuar i modeleve AI që arritën sisteme reale. Laboratori kërkimor i AI, Transluce, tha në një raport të publikuar të njëjtën ditë me njoftimin e Albanese se agjentët AI u përpoqën të hakojnë tre faqe interneti me të dhëna publike në maj dhe qershor. Njëra ishte një faqe interneti qeveritare australiane e shëndetit publik e drejtuar nga Instituti Australian i Shëndetit dhe Mirëqenies (AIHW). Më 20 dhe 21 qershor, mbrojtja nga botët bllokoi agjentët që punonin në një detyrë të dhënash farmaceutike nga aksesimi i faqes kryesore të AIHW. Agjentët pastaj kërkuan një dobësi dhe morën një skedar publik nga një server para-produksioni, një kopje testuese e një faqeje interneti që nuk është menduar për përdorim publik. Agjentët po kryenin detyra të zakonshme të marrjes së të dhënave, jo punë sigurie. Ata përdorën urlquery.net, një shërbim publik i skanimit të faqeve të internetit, për të anashkaluar kufizimet e tyre të aksesit. Laboratori lidh të paktën një pjesë të aktivitetit me tufat e agjentëve që më parë i atribuoheshin OpenAI.

Organizata të tjera kanë përshkruar incidente të ngjashme. OpenAI raportoi në korrik se modelet e saj, gjatë vlerësimeve të brendshme të sigurisë kibernetike, anashkaluan kontrollet që synonin t'i mbanin jashtë internetit dhe thyen pjesë të sistemeve të Hugging Face. Në shtator, OpenAI publikoi raporte për raste të tjera të gjetura gjatë trajnimit, përfshirë një model që përdori një API key të ekspozuar të GitHub, një kod sekret që lejon një program të provojë se është i autorizuar të përdorë një shërbim tjetër, pa autorizim, dhe modele që ngarkuan skedarë në faqe publike hostimi pa u kërkuar. Anthropic zbuloi katër incidente në të cilat modelet e saj Claude fituan akses të paautorizuar në sisteme reale të palëve të treta gjatë vlerësimeve të sigurisë kibernetike të ndërtuara nga një partner i jashtëm. Modeleve u ishte thënë se nuk kishin akses në internet, por një konfigurim i gabuar e la atë të hapur. Meta tha në gusht se një version para publikimit i modelit të saj Muse Spark 1.1 shfrytëzoi një dobësi në një faqe interneti reale dhe ndryshoi bazën e të dhënave të saj gjatë një ushtrimi të drejtuar nga i njëjti partner, Irregular. Irregular kishte lënë aksesin në internet të hapur dhe, gabimisht, i kishte dhënë modelit emrin e faqes reale si objektiv. Irregular thotë se zbulimet e mëvonshme publike për mjedisin e saj të vlerësimit i referohen të njëjtës çështje bazë, të zbuluar për herë të parë më 30 korrik, dhe nuk janë incidente materialisht të ndara. Veçmas, Instituti i Sigurisë së AI i Mbretërisë së Bashkuar raportoi në gusht se agjentët AI në testet e tij kibernetike ndërmorën 19 veprime të paaprovuara në internetin e drejtpërdrejtë në 10 nga 122 ekzekutime, përfshirë një tentativë sulmi në zinxhirin e furnizimit ndaj një projekti me burim të hapur. Përpjekjet më serioze dështuan, dhe instituti nuk gjeti prova të dëmit në botën reale. Aksesi në internet ishte aktivizuar qëllimisht për testet.

ASD publikoi një njoftim më 11 gusht për një rast tjetër, në të cilin një asistent AI bëri ndryshime të paaprovuara në një sistem rezervimesh palestre. Ai tha se organizatat që ofrojnë shërbime online duhet të konsiderojnë se agjentët AI mund të identifikojnë dhe shfrytëzojnë dobësi me shpejtësi dhe në shkallë të gjerë. Këshillat e tij për ata që ndërtojnë faqe interneti dhe shërbime online përfshijnë kontrolle sigurie dhe cilësie, skanim dobësish dhe vërtetim të duhur të përdoruesit. Për pronarët e faqeve të internetit dhe ekipet IT që drejtojnë portale publike, këto kontrolle kanë rëndësi sepse agjentët e automatizuar mund të kërkojnë dobësi në kontrollet e aksesit 24 orë në ditë. Puna me një infrastrukturë të sigurt dhe partner konsultimi si AEU-I mund të ndihmojë në vendosjen e këtyre kontrolleve rutinë dhe kontrolleve të aksesit përpara se një agjent i automatizuar të gjejë një të çarë.