Un sistem de inteligență artificială care interferează cu o rețea de comandă nucleară sau lansează o operațiune cibernetică militară ar putea lăsa Washingtonului sau Beijingului doar câteva minute pentru a decide dacă celălalt guvern a atacat, potrivit unor experți în securitate din SUA și China, relatează AFP.

Experții, care fac parte dintr-un dialog SUA-China a cărui activitate contribuie la informarea discuțiilor oficiale, îndeamnă ambele guverne să se pregătească pentru astfel de scenarii, pe fondul îngrijorărilor în creștere cu privire la sistemele din ce în ce mai puternice și mai autonome.

Propunerile lor includ linii roșii în jurul sistemelor nucleare, control uman asupra atacurilor cibernetice consecutive și o linie telefonică directă pentru incidentele care implică inteligența artificială autonomă.

Recomandările au fost publicate săptămâna trecută înainte de discuțiile planificate la nivel guvernamental despre inteligența artificială și de o întâlnire așteptată pe 24 septembrie la Washington între președintele american Donald Trump și președintele chinez Xi Jinping.

Autorii Melanie Sisson, cercetătoare la grupul de experți Brookings Institution, și Tianjiao Jiang, profesor asociat la Universitatea Fudan, au participat la dialogul dintre SUA și China privind inteligența artificială și securitatea națională, convenit încă din 2019 de Brookings Institution și de Centrul pentru Securitate și Strategie Internațională al Universității Tsinghua.

Propunerile lor arată cum rivalitatea dintre SUA și China privind inteligența artificială depășește concurența pentru cipuri și modele avansate și se apropie de întrebări asociate de mult timp cu controlul armelor: cum să se prevină ca accidentele să fie confundate cu atacuri, cum să se limiteze deciziile militare luate de mașini și cum să se stabilească protocoale de comunicare pentru rivalii înarmați nuclear atunci când tehnologia se comportă neașteptat.

Ministrul Securității de Stat din China, Chen Yixin, a scris săptămâna aceasta într-o publicație guvernamentală că inteligența artificială 'transformă fundamental forma luptei militare'. El a spus că aceasta a trecut de la un rol secundar pe câmpul de luptă la un rol cheie, invocând atacurile dirijate de inteligența artificială în războiul dintre SUA și Israel cu Iranul.

Sisson de la Brookings Institution a susținut că oamenii ar trebui să păstreze autoritatea exclusivă de a iniția atacuri cibernetice bazate pe inteligență artificială împotriva sistemelor de comandă, control și comunicații nucleare sau a infrastructurii importante din punct de vedere strategic ale celeilalte țări.

Un sistem autonom ar putea funcționa defectuos, și-ar putea depăși instrucțiunile sau ar putea fi compromis, în timp ce țara atacată ar putea avea dificultăți în a stabili dacă acțiunea a fost accidentală sau ordonată de rivalul său.

Jiang de la Universitatea Fudan a propus linii roșii explicite care să împiedice inteligența artificială să decidă independent să utilizeze arme nucleare sau să atace autonom sistemele de comandă nucleară, împreună cu protecții în ceea ce privește infrastructura critică, inclusiv energia, finanțele și asistența medicală.

De asemenea, el a cerut o definiție comună a 'controlului uman semnificativ' pentru a împiedica ambele țări să folosească un limbaj identic pentru a justifica niveluri diferite de autonomie a mașinilor.

Ideea se bazează pe un principiu aprobat de președintele american de atunci, Joe Biden, și de președintele chinez Xi Jinping în noiembrie 2024, conform căruia oamenii ar trebui să păstreze controlul asupra deciziilor de utilizare a armelor nucleare.

Lora Saalman, cercetător senior asociat la Institutul Internațional de Cercetare a Păcii din Stockholm, a scris în februarie că acesta a fost un punct important al convergenței SUA-China, chiar dacă ambele țări au arătat semne de integrare mai profundă a inteligenței artificiale în sistemele nucleare și conexe.

Jiang a propus, de asemenea, o linie telefonică SUA-China dedicată armatei pentru incidentele legate de AI, avertizând că schimburile cibernetice automate s-ar putea intensifica prea rapid pentru intervenția umană.

Inteligența artificială defensivă a unei țări ar putea răspunde automat la activități suspecte, în timp ce cealaltă parte ar putea interpreta acest răspuns ca un atac și ar putea riposta înainte de a înțelege ce s-a întâmplat de fapt.

O linie telefonică ar putea permite unui guvern să-i spună celuilalt că o operațiune neobișnuită cu AI a fost accidentală, neautorizată sau încă în curs de investigare înainte de a fi tratată ca o acțiune deliberată a statului.

Cu toate acestea, experți, inclusiv Carla Freeman de la Școala de Studii Internaționale Avansate Johns Hopkins, au pus la îndoială utilitatea liniei telefonice existente pentru comunicarea în criză militară SUA-China, invocând refuzul oficialilor chinezi de a răspunde la apelurile omologilor americani cu privire la 'incidentul balonului spion' din februarie 2023.

Ierarhia rigidă de sus în jos a birocrației chineze îi împiedică, de asemenea, pe ofițerii de rang inferior să ia inițiativa în timpul angajamentelor cu omologii americani, a scris ea într-un articol pentru War on the Rocks în ianuarie.

'Nimeni din sistemul chinez nu vrea să comunice cu Statele Unite până când conducerea superioară, în consultare cu actorii relevanți din cadrul statului-partid al Chinei, nu va decide asupra unui răspuns, ceea ce ar putea dura zile întregi, dacă nu mai mult', a spus ea.

Niciun guvern nu a aprobat public propunerile Brookings-Tsinghua, dar China a plasat din ce în ce mai mult inteligența artificială în cadrul birocrației existente de control al armelor.

AI este un portofoliu formal al Departamentului de Control al Armelor din cadrul Ministerului de Externe, care se ocupă și de armele nucleare, neproliferarea, rachetele și alte probleme de securitate internațională.

Shen Jian, ambasadorul Chinei pentru afaceri de dezarmare, a declarat la o reuniune a ONU de la Geneva din iunie că inteligența artificială militară ar putea afecta stabilitatea strategică și ar putea crește riscurile de calcul greșit și escaladarea conflictelor și că armele ar trebui să rămână sub control uman. China susține, de asemenea, că siguranța AI nu ar trebui să devină un pretext pentru bariere tehnologice.

Washingtonul nu are o singură autoritate echivalentă pentru controlul armelor în domeniul inteligenței artificiale, politica de securitate națională fiind răspândită între Consiliul de Securitate Națională al Casei Albe, Departamentul de Stat, Pentagon și alte agenții.

Ambele guverne rămân precaute cu privire la măsurile care ar putea încetini propria dezvoltare tehnologică. Trump a avertizat că restricțiile ample ar putea oferi Chinei un avantaj, în timp ce Beijingul consideră multe controale tehnologice americane ca fiind încercări de a păstra dominația SUA. AGERPRES/(AS - redactor: Ionuț Mareș, editor: Gabriela Ionescu, editor online: Anda Badea)