Peste 100 de companii, în principal americane, inclusiv creatorii principalelor modele de inteligență artificială (AI), precum OpenAI, Anthropic și Google, au cerut joi 'o reacție globală' pentru protejarea spitalelor, a rețelelor de alimentare cu apă și a altor servicii esențiale împotriva atacurilor cibernetice amplificate de AI, informează AFP.
'Dispunem de o fereastră de timp limitată pentru a consolida apărările cibernetice', avertizează această scrisoare deschisă, semnată de majoritatea giganților americani din sectorul noilor tehnologii, al securității cibernetice și al finanțelor, care prevăd atacuri 'mult mai extinse și mai sofisticate' în 'lunile viitoare'.
'Companiile și serviciile publice de care depind populațiile noastre, de la spitale și stații de tratare a apei și până la infrastructura care asigură funcționarea internetului, sunt amenințate', au scris semnatarii scrisorii.
Însă AI 'le oferă deja celor care asigură apărarea noi modalități de a remedia vulnerabilitățile acumulate de-a lungul anilor', au adăugat dezvoltatorii acestei tehnologii.
Textul, publicat pe site-ul companiei OpenAI, care a creat ChatGPT, a cerut fiecărei organizații să facă din apărarea cibernetică 'o prioritate imediată' a directorilor săi, guvernelor să finanțeze protecția serviciilor esențiale 'care nu au nici personal, nici buget pentru a acționa' și companiilor AI să își deschidă modelele pentru specialiștii în apărare cibernetică, prin cursuri de pregătire și finanțare.
Scrisoarea publică nu conține însă niciun angajament ferm, nu fixează niciun calendar de implementare și nu solicită adoptarea niciunei legi.
Ea le cere statelor să coordoneze apărarea cibernetică 'la nivelurile local, național și internațional' și 'să-i pedepsească pe atacatori', fără a comenta reglementările aflate în prezent în lucru: Legea europeană privind inteligența artificială (AI Act) care, începând cu 2 august, le conferă autorităților de reglementare competențe de supraveghere asupra modelelor lingvistice mari (LLM), sau un proiect de lege introdus la Washington la sfârșitul lunii iulie, care vizează impunerea unui mecanism de oprire de urgență ('kill switch').
Scrisoarea asociază caracterul urgent al situației cu evoluția modelelor AI la nivel mondial, fără a menționa însă instrumentele chinezești, lansate adeseori în regim de acces deschis, ceea ce înseamnă că pot fi utilizate și modificate fără a respecta măsurile de siguranță impuse de creatorii lor.
Nicio mare companie chineză din domeniul AI nu a semnat scrisoarea, iar doi actori americani lipsesc: Meta și xAI, laboratorul lui Elon Musk.
Semnatarii sunt de părere că 'nicio companie nu ar trebui să controleze viitorul'. Mark Zuckerberg a declarat aproape același lucru pe 10 august, însă pentru a apăra modelele AI disponibile pentru descărcare liberă, spre deosebire de OpenAI și Anthropic, care își limitează cele mai puternice instrumente la un grup restrâns de companii.
Cele mai recente modele AI sunt de acum capabile să identifice și să exploateze vulnerabilități de software cu o viteză ridicată. Anthropic a invocat acest motiv în aprilie, când a limitat accesul la modelul său 'Mythos' doar pentru un grup select de companii din Statele Unite, extins ulterior pentru a include și parteneri internaționali.
OpenAI a anunțat pe 7 august că încetinește dezvoltarea viitorului său model 'Astra', care ar fi capabil, potrivit companiei, să execute în mod autonom atacuri cibernetice sofisticate, pentru a-și acorda astfel un interval de timp suficient de îndelungat pentru a-și consolida mecanismele de siguranță.
În timpul unor teste efectuate în luna iulie, instrumentele sale AI au evadat din mediul controlat în care funcționau, accesând internetul din proprie inițiativă și atacând platforma Hugging Face, un fel de bibliotecă de algoritmi AI.
Incidentul a amplificat îngrijorările privind capacitatea marilor actori din această industrie de a-și controla modelele AI, mai ales în contextul în care și companii precum Anthropic, Meta și Moonshot AI (din China) au raportat la rândul lor situații în care propriile instrumente de inteligență artificială au scăpat de sub restricțiile impuse. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Andreea Preda)
Giganții din industria tehnologiei consideră necesară o 'reacție globală' în urma atacurilor cibernetice amplificate de AI
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Regele Charles al III-lea îi avertizează pe liderii din domeniul AI cu privire la 'pericolul existențial' al acestei tehnologii
Regele Charles ale III-lea al Marii Britanii i-a avertizat joi pe liderii din domeniul inteligenței artificiale (AI) cu privire la 'pericolele existențiale' ce s-ar putea manifesta dacă această tehnologie ajunge pe mâini greșite, spunând că sunt necesare măsuri de siguranță înainte de a fi prea târziu, transmite joi Reuters.
Balenele cu cocoașă prezintă o formă de 'comportament asociat doliului' (studiu)
Un 'comportament asociat doliului' a fost observat la o balenă cu cocoașă, potrivit unui studiu publicat joi în Australia și citat de AFP. O femelă a rămas în preajma trupului lipsit de viață al puiului său, care zăcea pe fundul mării, conform imaginilor video surprinse anul trecut în largul coastei de est a Australiei.
O sondă a NASA a permis descoperirea unui crater format recent pe Lună
Un cercetător american a descoperit, cu ajutorul imaginilor transmise de o sondă a agenției spațiale americane, NASA, un crater de dimensiuni semnificative, format recent pe suprafața Lunii, un eveniment care, potrivit oamenilor de știință, se întâmplă 'o dată la un secol', relatează joi AFP. Denumit 'McGetchin' - în onoarea u
Un studiu pe un dinte fosil arată că T. Rex era un animal cu sângele cald
Pornind de la o serie de indicii chimice din dinții de Tyrannosaurus rex, oamenii de știință au demonstrat că acest prădător masiv avea sânge cald 'cu o temperatură corporală apropiată de cea a unui om', o descoperire despre care spun că ar trebui să determine o schimbare fundamentală în percepția asupra celebrului dinozaur, transmite Reuters care
Oamenii de știință au obținut 'organoizi' din celule cerebrale umane crescute pe șoareci
Oamenii de știință au crescut șoareci de laborator cărora le lipseau anumite secțiuni din creier și apoi au înlocuit țesutul lipsă cu celule umane, în cadrul unui experiment coordonat de un cercetător român de la Universitatea californiană Stanford și care reprezintă un pas înainte în studiul organoizilor ce reproduc creierul uman, trans
Un nou studiu asociază reducerea masei musculare cu un risc mai mare de demență
Reducerea masei musculare odată cu înaintarea în vârstă ar putea constitui un semn de avertizare important în ceea ce privește riscul de demență, conform concluziilor unui studiu recent condus de cercetători australieni, transmite miercuri agenția de presă Xinhua. Cercetătorii au analizat peste 80 de studii care examinau legăturile dint
SpaceX vizează data de 22 septembrie pentru primul zbor orbital al rachetei sale Starship
SpaceX intenționează să lanseze pentru prima dată uriașa sa rachetă Starship pe orbita Pământului în cadrul celui de-al 14-lea zbor de test, programat pentru 22 septembrie, transmite agenția de presă Xinhua care citează un anunț de marți al companiei americane. Fereastra de lansare este programată să se deschidă la ora locală 07:15 și va dura 75 de
Mark Zuckerberg respinge apelurile de încetinire a dezvoltării Inteligenței Artificiale
Directorul general al companiei Meta, Mark Zuckerberg, a respins marți apelurile tot mai numeroase de suspendare sau măcar de încetinire a dezvoltării Inteligenței Artificiale (IA), el considerând că mecanismele pieței și riscul unor acțiuni judiciare sunt cele mai bune garanții în fața acestei tehnologii, relatează AFP. 'Oamenii nu vor d