← Të gjithë artikujt

Siguria e AI agent: Human Sessions kanë nevojë për kontrolle të reja

Siguria e AI agent: Human Sessions kanë nevojë për kontrolle të reja

Siguria e AI agent bëhet më e vështirë kur software mund të veprojë brenda authenticated session të një përdoruesi, domethënë një browser session që tashmë është identifikuar në një application. Token krijoi një agent të quajtur Rehearsal për t’iu përgjigjur pyetjeve brenda platformës së vet, duke përdorur interface-in në vend që të shpjegonte thjesht çfarë duhej bërë. Ai hap browser pages, zbaton filters dhe plotëson forms pa pasur nevojë të udhëzohet në çdo hap.

Ky dizajn është i dobishëm, por gjithashtu i jep agent-it shtrirjen e personit, session-in e të cilit përdor. Për server-in e application, clicks e agent-it duken si clicks e përdoruesit, sepse një session cookie, të dhënat e browser-it që e mbajnë dikë të identifikuar, nuk tregon se kush po e kontrollon realisht session-in. Prandaj application mund të mos e dijë se po vepron një agent, cili person e ka deleguar punën ose çfarë ishte menduar të bënte agent-i.

Token thotë se organisations duhet t’u japin AI agents tri veti të veçanta sigurie: një identity të tyren, access të kufizuar vetëm në detyrën që u është caktuar dhe activity records që mund të gjurmohen veçmas nga një user human. Rehearsal fillimisht nuk i kishte asnjërën prej këtyre si parazgjedhje. Megjithatë, meqë Token kontrollon si Rehearsal ashtu edhe platformën, mund t’i shtonte këto safeguards brenda sistemit.

Gjatë funksionimit të Rehearsal, Token e zbeh dhe e kyç application-in dhe tregon se kush është në kontroll. Ai regjistron çdo action në një session, përfshirë actions që u bllokuan. Agent-i merr gjithashtu më pak access se përdoruesi. Dashboards e tij janë read-only, nuk mund të ruajë changes pa approval-in e përdoruesit, nuk plotëson secret fields dhe nuk dërgon kurrë një request që platforma e ka refuzuar. Rehearsal i kupton kontrollet e dashboard-it përmes accessibility labels, përshkrimeve që ndihmojnë software-in të identifikojë se çfarë bën një kontroll i faqes.

Këto protections janë më të lehta kur e njëjta organisation zotëron agent-in dhe application-in. Një agent që vepron në një customer relationship management system ose cloud console mund të mos ketë actor identity, një hartë të faqes ose mënyrë për të dalluar se cili field përmban secret dhe cili button fshin një record. Application vazhdon të shohë human session dhe rights e përdoruesit.

Disa standards dhe browser features po fillojnë të trajtojnë pjesë të këtij problemi. Një browser mund të identifikojë kur po vepron një agent dhe të vendosë limits. Chrome auto-browse kërkon approval-in e një personi për high-stakes actions si payments dhe mass emails, e kufizon agent-in në sites që nevojiten për detyrën dhe shënon faqet e vizituara në history-n e përdoruesit. Microsoft u lejon administrators të aktivizojnë agentic browsing për çdo site dhe ta ndalojnë para se të futen passwords dhe card numbers.

Applications gjithashtu mund t’i publikojnë actions si tools, në vend që ta detyrojnë një agent të hamendësojë se çfarë bëjnë kontrollet e interface-it. WebMCP, një draft që po hartohet nga Google dhe Microsoft në një grup komunitar të W3C, lejon një site të ekspozojë actions që agent-i mund t’i thërrasë drejtpërdrejt dhe të shënojë çdo action si read-only ose consequential. Web Bot Auth, një draft i një grupi pune të IETF, lejon një site të verifikojë se cili agent ka dërguar një request.

Këto masa ende nuk formojnë një chain të plotë të context-it. Browser-i mund ta dijë se një agent po drejton veprimet, por Chrome dhe Edge nuk përshkruajnë se si t’ia kalojnë këtë informacion application-it. Një WebMCP tool ende vepron brenda session-it të përdoruesit me rights e tij, ndaj vetë nuk e ngushton access-in e agent-it. Web Bot Auth e identifikon agent-in, por draft-i i tij nuk mbulon delegation, ndaj nuk përfshin personin për të cilin po vepron agent-i.

Prandaj context-i minimal i dobishëm i sigurisë është i trefishtë: identity e agent-it, një lidhje e verifikueshme me personin që ai përfaqëson dhe një task scope më i ngushtë se access-i i atij personi. Pa të trija, një rrugë më e shpejtë specifike për agent-in mund të bëhet gjithashtu një mënyrë më e shpejtë për të keqpërdorur privileges ekzistuese.

Security teams duhet të fillojnë duke identifikuar browser agents, agentic extensions dhe endpoint agents që mund të veprojnë përmes signed-in sessions, pastaj t’i lidhin me users dhe owners përkatës. Ata duhet të gjurmojnë çdo consumer të secilit agent, të shqyrtojnë identities që ai mund të përdorë dhe të kërkojnë attack paths që mund të anashkalojnë access controls. Actions sensitive ose irreversible duhet të kërkojnë approval të qartë ose step-up authentication, një kontroll shtesë të identity-t, si një kërkesë për passkey.

Teams duhet gjithashtu t’i pyesin ofruesit kritikë software-as-a-service nëse audit records e tyre dallojnë activity të agent-it nga activity njerëzore dhe nëse mbështesin task-scoped delegation. Derisa browsers dhe applications të mund të përcjellin së bashku identity-n e agent-it, human delegation dhe task scope, çdo agent që përdor një human session duhet të trajtohet si access i deleguar që duhet zbuluar, kufizuar dhe audituar. Për organisations që po shqyrtojnë këto risks, AEU-I ofron IT, infrastructure dhe consulting me përparësi sigurinë.

Disponueshëm edhe në: EnglishDeutschItaliano