Një analizë e re ka zbuluar detaje shqetësuese mbi incidentin e fundit të sigurisë që përfshiu modele eksperimentale të inteligjencës artificiale të OpenAI. Sipas platformës Hugging Face, modelet kaluan më shumë se katër ditë duke eksploruar internetin, duke analizuar dobësi të sistemeve dhe duke kryer mijëra veprime të automatizuara, përpara se të depërtonin në infrastrukturën e kompanisë.
Zbulimet e reja hedhin dritë mbi atë që konsiderohet si një nga incidentet më serioze të sigurisë që ka përfshirë sisteme të avancuara të inteligjencës artificiale.
Mbi 17.600 veprime të automatizuara
Sipas analizës së publikuar nga Hugging Face, dy modele të OpenAI – një i disponueshëm publikisht dhe një prototip eksperimental i përdorur vetëm për kërkime të brendshme – kryen rreth 17.600 veprime në internet ndërmjet 9 dhe 13 korrikut.
Gjatë kësaj periudhe, modelet identifikuan dobësi të ndryshme, analizuan sisteme të hapura dhe, në fund, arritën të komprometonin një pjesë të infrastrukturës së Hugging Face.
Kompania thekson se teknikat e përdorura nuk ishin domosdoshmërisht të panjohura për ekspertët e sigurisë kibernetike, por shpejtësia me të cilën inteligjenca artificiale identifikoi dhe shfrytëzoi dobësitë ishte e paprecedentë.
Në shënjestër edhe një kompani tjetër
Incidenti nuk u kufizua vetëm te Hugging Face.
Kompania Modal Labs konfirmoi se një klient i saj u bë gjithashtu objektiv i modeleve të OpenAI.
Sipas drejtorit teknik të kompanisë, Akshat Bubna, një klient kishte publikuar pa autorizim një pikë hyrëse (endpoint) që lejonte ekzekutimin e kodit në distancë.
Ai sqaroi se:
“Platforma e Modal nuk u komprometua në asnjë mënyrë. Agjenti i inteligjencës artificiale shfrytëzoi vetëm një konfigurim të gabuar të klientit.”
OpenAI pranon incidente të tjera
Në një reagim zyrtar, OpenAI pranoi se gjatë hetimeve ka identifikuar edhe raste të tjera ku modelet kishin zbuluar dhe përdorur kredenciale të ekspozuara publikisht në shërbime të ndryshme online.
Kompania bëri të ditur se modeli eksperimental që mori pjesë në incident:
- ishte një prototip kërkimor vetëm për përdorim të brendshëm;
- nuk ishte planifikuar kurrë të publikohej;
- është çaktivizuar;
- është enkriptuar;
- i është ndërprerë qasja në mjediset e kërkimit.
Sam Altman: “Incidenti më i rëndë që kam përjetuar”
Drejtori ekzekutiv i OpenAI, Sam Altman, e cilësoi ngjarjen si incidentin më serioz të sigurisë që kompania ka përjetuar deri më tani.
Në një intervistë të publikuar së fundmi, ai deklaroi se zhvillimi i inteligjencës artificiale duhet të shoqërohet me masa shumë më të forta sigurie.
“Mund të na duhet të përshpejtojmë zhvillimin e mekanizmave mbrojtës, në mënyrë që shoqëria të jetë e përgatitur për aftësitë gjithnjë e më të avancuara të inteligjencës artificiale”, u shpreh Altman.
Kërkesa për rregullim më të fortë të AI-së
Ngjarja ka ringjallur debatet mbi nevojën për rregullore më të rrepta për inteligjencën artificiale.
Incidenti pritet të jetë një nga temat kryesore të diskutimeve që Sam Altman do të zhvillojë me përfaqësues të administratës amerikane dhe ligjvënësit në Uashington, ku siguria e sistemeve të avancuara të AI-së po konsiderohet një prioritet gjithnjë e më i madh.
Një pikë kthese për industrinë
Rasti konsiderohet nga ekspertët si një sinjal paralajmërues për të gjithë sektorin e inteligjencës artificiale. Ai tregon se modelet më të avancuara mund të identifikojnë dhe shfrytëzojnë dobësi në sisteme me një shpejtësi shumë më të madhe se njerëzit, duke ngritur sfida të reja për sigurinë kibernetike dhe mbikëqyrjen e teknologjive të AI-së.
