Circa 225 de oameni de știință specializați în inteligența artificială (AI) și securitate cibernetică, printre care și canadianul Yoshua Bengio, considerat unul dintre părinții inteligenței artificiale, au lansat marți un apel la ''schimbări imediate'' în practicile de utilizare a AI în scopul prevenirii unor viitoare incidente de securitate, informează AFP.
Într-o scrisoare deschisă semnată de cercetători din 21 de țări, experții afirmă că ''mai multe companii'' au dezvăluit recent breșe de securitate în decursul cărora modele AI au reușit să iasă din mediul lor izolat insuficient securizat pentru a compromite sistemele unor organizații externe.
Potrivit semnatarilor, aceste incidente ilustrează importanța ''alinierii'' AI, destinată garantării unui comportament previzibil al modelelor și poate, și poate ''fi considerat ca o încălcare iresponsabilă a practicilor standard de securitate cibernetică''. În opinia lor, acestea ar putea fi evitate grație unor ''proceduri mai robuste''.
''Credem că sunt necesare îmbunătățiri atât în ceea ce privește alinierea AI (...) cât și a tehnologiilor de izolare'', au scris oamenii de știință, avertizând că, fără schimbarea practicilor actuale, ''viitoarele incidente vor fi mai nocive pentru infrastructurile critice'', se mai spune în această scrisoare semnată de asemenea de pionierul AI Geoffrey Hinton și expertul Stuart Russel.
Cercetătorii solicită intensificarea eforturilor în domeniul siguranței AI precum și o utilizare mai extinsă a tehnologiilor de monitorizare.
''Pe termen scurt'', aceștia recomandă mai ales utilizarea ''mecanismelor solide de izolare, inclusiv 'air gap''', adică deconectarea de la internet pentru ''modele dotate cu capacități cyber''.
Preconizează de asemenea crearea unui organism internațional însărcinat cu definirea normelor în materie de aliniere și de monitorizare a sistemelor AI, identificarea breșelor de securitate și comunicarea publică a celor mai semnificative incidente pentru a promova astfel ''învățarea și responsabilitatea''.
Această scrisoare vine în urma unei serii de incident în decursul cărora modele AI de la OpenAI, Anthropic și Meta au ieșit din mediul lor pentru a pirata alte organizații. AGERPRES/(AS-redactor: Simona Tatu, editor online: Gabriela Badea)
AI / 225 de cercetători solicită ''schimbări imediate'' în scopul prevenirii unor incidente majore
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Modele AI s-ar putea autoreplica în curând fără acces la centre de date, avertizează Anthropic
Compania Anthropic a afirmat luni că modele AI de mici dimensiuni ar putea în câteva luni căpăta abilitatea de a se autoreplica pe dispozitive din Internetul Lucrurilor comercial (IoT) cum ar fi cuptoare inteligente și dispozitive Android TV de la producători necunoscuți, informează Reuters. în timpul unor experimente, Anthro
Astronauta franceză Sophie Adenot a trecut prin întreg spectrul emoțiilor umane în timpul misiunii pe ISS
Astronauta franceză Sophie Adenot a experimentat 'întregul spectru al emoțiilor umane, de la cele mai bucuroase la cele mai dificile' momente în timpul celor opt luni petrecute în spațiu, a declarat ea în timpul primei sale apariții publice pe Pământ, sâmbătă, la Koln, Germania. La 400 km deasupra Pă
O creatură asemănătoare cu vidra înota în lacuri și râuri în vremea dinozaurilor
Cu aproximativ 165 de milioane de ani în urmă, o creatură cu blană, care înota ca un ornitorinc, vâna ca o vidră și avea o coadă asemănătoare cu cea a unui castor, trăia în lacurile și râurile din regiunea care este în prezent China, hrănindu-se cu pești și salamandre. Acesta este cel mai vechi exemplu cunoscut de stil de viață sem
NASA caută o peșteră pe Lună pentru o viitoare bază
NASA are în derulare un nou proiect de cercetare selenară cu obiectivul de a identifica o peșteră suficient de mare, sau un tub cavernos sculptat de lavă antică, un adăpost natural în care să poată fi amenajată o viitoare bază selenară în cadrul programului Artemis, transmite vineri Space.com. NASA a selectat un proiect cunos
SpaceX se pregătește să lanseze Starship din Florida pentru prima oară
Prima lansare a navei spațiale Starship din Florida ar putea fi la doar câteva luni distanță, în contextul în care compania SpaceX lucrează din greu pentru a pregăti trei platforme de pe Coasta Spațială din Florida pentru Starship, transmite joi Space.com. Toate cele 14 zboruri de testare ale megarachetei SpaceX de până acum au decolat
Astronauții Crew-12 revin pe Pământ după aproape 8 luni pe stația spațială
Cei patru astronauți ai misiunii Crew-12 a SpaceX se întorc pe Pământ joi (8 octombrie) după aproape opt luni în spațiu la bordul Stației Spațiale Internaționale (ISS), transmite Space.com.
Astronomii au detectat cel mai îndepărtat blazar alimentat de o gaură neagră de până acum
Astronomii au detectat cel mai îndepărtat blazar alimentat de o gaură neagră de până acum
Margaret Hamilton, pionieră americană în domeniul informaticii și figură marcantă a programului Apollo, a murit la 90 de ani
Cercetătoarea americană Margaret Hamilton, care a condus dezvoltarea sistemului informatic utilizat în cadrul programului selenar Apollo, a încetat din viață la vârsta de 90 de ani, a anunțat miercuri Institutul de Tehnologie din Massachusetts (MIT), unde a lucrat aproape 20 de ani, transmite joi AFP. ''Margaret Hamil