OpenAI, dezvoltatorul ChatGPT, a anunțat că își înăsprește măsurile de siguranță în cadrul testelor modelelor de inteligență artificială (AI), în urma unor atacuri cibernetice de mare amploare realizate de software-ul AI, conform unui mesaj publicat marți de companie pe blogul său, citat miercuri de agenția de presă DPA.
Printre noile măsuri, sistemele automatizate vor monitoriza mai strict activitatea modelelor AI în timpul testelor și vor notifica personalul uman în termen de 30 de minute în cazul în care este detectat un comportament suspect. Dacă operatorii umani nu concluzionează, în termen de 30 de minute, că este vorba despre o alarmă falsă, activitatea urmează să fie sistată, a explicat OpenAI.
OpenAI a ajuns în centrul atenției după ce unul dintre modelele sale a identificat, în timpul unui test, o modalitate de a evada dintr-un mediu digital izolat și de a obține acces la internet, pătrunzând ulterior în sistemele informatice ale platformei AI Hugging Face. Modelul căuta doar o soluție pentru sarcina primită în timpul testării și nu a provocat niciun prejudiciu.
Alarmant a fost, însă, faptul că AI a acționat în totalitate din proprie inițiativă, iar OpenAI a descoperit atacul abia după ce acesta a avut loc.
Evenimentul a condus la apeluri pentru îmbunătățirea securității în cadrul testelor noilor sisteme AI.
Ulterior s-a aflat că modelele dezvoltate de Anthropic, rivalul OpenAI, și de Meta, compania-mamă a Facebook, au pătruns, de asemenea, în sistemele altor companii în timpul testelor.
Sistemele de monitorizare automată vor fi atente la tentativele de furt de date, precum și la încercările de a eluda măsurile de securitate, a declarat OpenAI. Modelele AI vor fi, de asemenea, îndrumate mai ferm pentru a nu recurge la mijloace necinstite, cum ar fi exploatarea vulnerabilităților, în
demersul lor de a finaliza sarcinile primite în cadrul testelor.
Unele teste ale noilor modele AI au fost suspendate până când noile măsuri vor fi puse în aplicare. AGERPRES/(AS - redactor: Dana Purgaru, editor online: Anda Badea)
OpenAI revizuiește regulile de siguranță după ce modelele sale au scăpat de sub control în timpul testelor
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Regele Charles al III-lea îi avertizează pe liderii din domeniul AI cu privire la 'pericolul existențial' al acestei tehnologii
Regele Charles ale III-lea al Marii Britanii i-a avertizat joi pe liderii din domeniul inteligenței artificiale (AI) cu privire la 'pericolele existențiale' ce s-ar putea manifesta dacă această tehnologie ajunge pe mâini greșite, spunând că sunt necesare măsuri de siguranță înainte de a fi prea târziu, transmite joi Reuters.
Balenele cu cocoașă prezintă o formă de 'comportament asociat doliului' (studiu)
Un 'comportament asociat doliului' a fost observat la o balenă cu cocoașă, potrivit unui studiu publicat joi în Australia și citat de AFP. O femelă a rămas în preajma trupului lipsit de viață al puiului său, care zăcea pe fundul mării, conform imaginilor video surprinse anul trecut în largul coastei de est a Australiei.
O sondă a NASA a permis descoperirea unui crater format recent pe Lună
Un cercetător american a descoperit, cu ajutorul imaginilor transmise de o sondă a agenției spațiale americane, NASA, un crater de dimensiuni semnificative, format recent pe suprafața Lunii, un eveniment care, potrivit oamenilor de știință, se întâmplă 'o dată la un secol', relatează joi AFP. Denumit 'McGetchin' - în onoarea u
Un studiu pe un dinte fosil arată că T. Rex era un animal cu sângele cald
Pornind de la o serie de indicii chimice din dinții de Tyrannosaurus rex, oamenii de știință au demonstrat că acest prădător masiv avea sânge cald 'cu o temperatură corporală apropiată de cea a unui om', o descoperire despre care spun că ar trebui să determine o schimbare fundamentală în percepția asupra celebrului dinozaur, transmite Reuters care
Oamenii de știință au obținut 'organoizi' din celule cerebrale umane crescute pe șoareci
Oamenii de știință au crescut șoareci de laborator cărora le lipseau anumite secțiuni din creier și apoi au înlocuit țesutul lipsă cu celule umane, în cadrul unui experiment coordonat de un cercetător român de la Universitatea californiană Stanford și care reprezintă un pas înainte în studiul organoizilor ce reproduc creierul uman, trans
Un nou studiu asociază reducerea masei musculare cu un risc mai mare de demență
Reducerea masei musculare odată cu înaintarea în vârstă ar putea constitui un semn de avertizare important în ceea ce privește riscul de demență, conform concluziilor unui studiu recent condus de cercetători australieni, transmite miercuri agenția de presă Xinhua. Cercetătorii au analizat peste 80 de studii care examinau legăturile dint
SpaceX vizează data de 22 septembrie pentru primul zbor orbital al rachetei sale Starship
SpaceX intenționează să lanseze pentru prima dată uriașa sa rachetă Starship pe orbita Pământului în cadrul celui de-al 14-lea zbor de test, programat pentru 22 septembrie, transmite agenția de presă Xinhua care citează un anunț de marți al companiei americane. Fereastra de lansare este programată să se deschidă la ora locală 07:15 și va dura 75 de
Mark Zuckerberg respinge apelurile de încetinire a dezvoltării Inteligenței Artificiale
Directorul general al companiei Meta, Mark Zuckerberg, a respins marți apelurile tot mai numeroase de suspendare sau măcar de încetinire a dezvoltării Inteligenței Artificiale (IA), el considerând că mecanismele pieței și riscul unor acțiuni judiciare sunt cele mai bune garanții în fața acestei tehnologii, relatează AFP. 'Oamenii nu vor d