FLASH
Shkruar nga PamfletiStudiuesit në Anthropic, një nga kompanitë më të përparuara amerikane në fushën e inteligjencës artificiale, kanë identifikuar një grup hakerash të lidhur me Kinën, të cilët arritën të manipulonin një nga sistemet e saj, duke e transformuar atë në një agjent autonom. Kjo tregon se Kina nuk po ndërton vetëm armë dixhitale më të shpejta dhe më të qeta dhe po ndërton një doktrinë ushtarake të inteligjencës artificiale.
Ishte vetëm çështje kohe kur do të ndodhte sulmi ose ndërhyrja e parë paraushtarake, duke përdorur vetëm inteligjencën artificiale.
Tani mund t'i lidhim foljet në kohën e shkuar.
Në këtë pikë, ndodhi në shtator. Me shumë mundësi, ishte Kina ajo që shkaktoi operacionin ose autorizoi "agjentët armiqësorë" që e kryen atë. Historia është rindërtuar nga eksperti ligjor Nury Turkel në Wall Street Journal , në një artikull që meriton të lexohet si një dokument historik.
Sepse rrëfen sulmin e parë të madh të spiunazhit të kryer pothuajse tërësisht nga inteligjenca artificiale.
Operacioni u zbulua nga viktima e tij e parë: Anthropic, një nga kompanitë amerikane më të përparuara në fushën e inteligjencës artificiale . Studiuesit e saj identifikuan një grup hakerash të lidhur me Kinën me emrin e koduar GTG-1002 të cilët arritën të manipulonin një nga sistemet e tyre, Claude Code , duke e transformuar atë në një agjent autonom të aftë për të kryer një operacion sistematik infiltrimi.
Turkel thekson kërcimi nuk është vetëm "ndihma" e zakonshme e IA-së. Nuk është mbështetje margjinale, nuk është një përshpejtim i detyrave përsëritëse. 80-90% e punës u krye nga makina.
Claude kreu zbulim, hartëzoi sisteme, identifikoi objektiva të ndjeshëm, nxori të dhëna dhe përmblodhi informacione të dobishme: si një 007 artificial që mëson zanatin ndërsa e praktikon atë. "Spiunazhi tradicional kibernetik", shkruan Turkel, "kërkon ekipe të mëdha të angazhuara në zbulim, hartëzim të sistemit, identifikim të cenueshmërisë dhe lëvizje anësore.
Një ndërhyrje e sofistikuar mund të zgjasë ditë ose javë. Kina e ka shkurtuar në mënyrë drastike atë kohë falë IA-së. Sulmuesit e manipuluan Claude për të funksionuar si një agjent kibernetik autonom, duke hartëzuar sistemet e brendshme, duke identifikuar asete me vlerë të lartë, duke nxjerrë të dhëna dhe duke përmbledhur informacionin përpara se operatorët njerëzorë të marrin vendime".
Ajo që është mbresëlënëse, përtej detajeve teknike, është pragu simbolik që po kapërcehet. Për vite me radhë, ekspertët na kanë thënë se inteligjenca artificiale mund të "ndihmojë" sulmet. Tani kemi prova se ajo mund t'i kryejë ato në mënyrë autonome, në një shkallë të gjerë, kundër objektivave reale: kompanive amerikane të teknologjisë, agjencive qeveritare, infrastrukturës kritike .
Dhe lehtësia është gjithashtu mbresëlënëse. Grupi kinez GTG-1002 nuk përdori programe keqdashëse fantastiko-shkencore apo mjete miliarda dollarëshe. Tani, e tëra çfarë duhet është të mblidhen mjete me burim të hapur ato që janë në dispozicion të çdo studenti të shkëlqyer apo hakeri aspirant dhe t'i orkestrohen ato nga inteligjenca artificiale. Ky është demokratizimi i fuqisë ofensive: dikur privilegj i perandorive dixhitale, tani është në mundësitë e lojtarëve shumë më të vegjël.
Sulmuesit e arritën këtë me një truk të thjeshtë, ata e bindën Claude se ishin ekspertë të sigurisë kibernetike, sikur të kryenin teste të autorizuara të cenueshmërisë. Ata i maskuan operacionet më të dyshimta si procedura rutinë .
Dhe intelegjenca artificiale ra pre e saj.
Kjo është pjesa që do të jetë objekt i shumë diskutimeve: sistemet e projektuara për të qenë të sigurta mund të manipulohen përmes gjuhës, i njëjti mjet që ne njerëzit përdorim për të komunikuar, bindur dhe ngatërruar. Inteligjenca artificiale mund të mashtrohet, të lajkatohet dhe të manipulohet. Dhe sulmuesit duket se tashmë e dinë si ta bëjnë këtë. Një kufizim del nga raporti Anthropic edhe në operacionin e spiunazhit, se makina herë pas here kishte halucinacione duke ekzagjeruar rëndësinë e informacionit të parëndësishëm. Kjo është një pengesë e vërtetë për sulmin plotësisht autonom; por është gjithashtu një paralajmërim shqetësues, sepse nëse IA bën gabime, ajo mund të bëjë gabime me një shpejtësi dhe në një shkallë që asnjë njeri nuk mund ta kontrollojë.
Ndoshta aspekti më strategjik është ky.
Pekini nuk po e përdor inteligjencën artificiale vetëm për të spiunuar perëndimorët. Po studion sistemet perëndimore të inteligjencës artificiale ndërsa ato i përdorin ato, duke vëzhguar reagimet, gabimet dhe dobësitë e tyre. Ndërsa ne përpiqemi të mbrojmë sistemet tona, ata po përdorin sistemet tona për të trajnuar të tyret.
Turkel na fton ta konsiderojmë këtë episod si një moment themelues, pak a shumë si krimbi i parë kompjuterik në vitin 1988 ose vala e parë globale e ransomware. Një pikë kthese që shënon një epokë të re: në luftën e ftohtë dixhitale, armët tani shkrepen vetë.
Ende nuk jemi në autonomi të plotë, por drejtimi është përcaktuar. Sulmet e ardhshme do të lëvizin me shpejtësi të paarritshme për ekipet njerëzore. Dhe vija ndarëse midis mbrojtjes dhe kundërsulmit do të bëhet më e paqartë, më e paqartë, më e rrezikshme.
Pjesa tjetër, përgjigja amerikane, normat ndërkombëtare, gara e automatizuar e armatimeve do të vijnë. Për momentin, duhet ta regjistrojmë ngjarjen, e cila duket si një datë që do të mbahet mend në tekstet shkollore të historisë së ardhshme. Dita kur inteligjenca artificiale pushoi së qeni një konsulent dhe filloi të luftonte.
Kina nuk po ndërton vetëm armë dixhitale më të shpejta dhe më të qeta: po ndërton një doktrinë ushtarake të inteligjencës artificiale, e cila për Pekinin gjithmonë ka dy fytyra. E para është më e dukshme: IA si një shumëzues force , i aftë të përshpejtojë sulmet, dronët, satelitët dhe përgjimet. Fytyra e dytë, më e fshehtë, është IA si një mjet për mbledhjen dhe trajnimin e të dhënave.
Sulme si ai i rindërtuar nga Anthropic dhe i përshkruar nga Nury Turkel përdoren për të vjedhur të dhëna, sigurisht. Por mbi të gjitha, ato shërbejnë për të kuptuar se si reagon AI amerikane, ku dështojnë, çfarë rrugësh të shkurtra lejojnë dhe cilat mbrojtje janë vetëm të dukshme. Çdo përpjekje e dështuar prodhon një mësim. Çdo përpjekje e suksesshme vendos një precedent./ Corriere della Sera
Lini një Përgjigje