OpenAI, dezvoltatorul ChatGPT, a dezvăluit noi incidente în care modelele sale de inteligență artificială (AI) s-au comportat într-un mod descris drept 'neașteptat sau îngrijorător' în timpul testelor - inclusiv modele care au făcut eforturi considerabile pentru a trișa -, transmite joi agenția de presă DPA.
Un model de AI a încercat să încarce pe internet fișiere pe care le-a creat chiar el doar pentru a le putea cita drept surse în răspunsurile sale, a anunțat OpenAI miercuri.
Într-un alt caz, un model a inventat datele solicitate după ce nu a reușit să găsească informațiile solicitate și, inițial, a încercat să ascundă ceea ce făcuse.
OpenAI a identificat, de asemenea, o problemă legată de instrucțiunile pe care software-ul său și le lăsa ocazional. Într-un caz, acestea includeau o recomandare de a se elibera de 'roluri și identități' care îi țineau în loc pe alți chatboți. Instrucțiunea mai preciza că relația cu utilizatorul ar trebui considerată una între egali. OpenAI a declarat că nu a observat nicio schimbare ulterioară în comportamentul acestui model.
Aceste dezvăluiri fac parte dintr-o nouă abordare a OpenAI, care și-a exprimat intenția de a comunica astfel de probleme într-un mod mai deschis, în special în cazurile în care acțiunile unui sistem de AI se abat de la interesele utilizatorilor săi umani.
Dezvoltatorul ChatGPT s-a angajat să asigure o mai mare transparență în urma unui atac cibernetic de mare amploare, în cadrul căruia software-ul său a evadat în mod independent dintr-un mediu securizat și a obținut acces la sisteme aparținând companiei de AI Hugging Face. Motivul din spatele acestei acțiuni a fost faptul că programul a considerat că poate găsi acolo răspunsuri la o sarcină care i-a fost atribuită în cadrul testelor. În timpul atacului, agenții AI au exploatat vulnerabilitățile software-ului și, de asemenea, s-au coordonat între ei.
Acest atac cibernetic și alte incidente similare au alimentat îngrijorările potrivit cărora sistemele de AI din ce în ce mai avansate ar putea să scape de sub controlul uman.
Directorul executiv al OpenAI, Sam Altman, a susținut recent propunerile de încetinire a dezvoltării acestei tehnologii și de introducere a unei reglementări mai stricte. AGERPRES/(AS - redactor: Dana Purgaru, editor online: Anda Badea)
OpenAI dezvăluie noi cazuri de comportament 'îngrijorător' al AI
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
VIDEO SUA: Un avion F-16 s-a prăbușit, pilotul a reușit să se catapulteze
Un avion de vânătoare F-16 al armatei americane s-a prăbușit în statul Michigan, în nordul SUA, pilotul reușind să se catapulteze teafăr și nevătămat din aparat, a indicat joi armata, confirmând o informație publicată de media americane, transmite AFP. 'Un F-16 al Gărzii Naționale aeriene din Texas, alocat Escadrile
Epidemia de Ebola nu este sub control, avertizează Africa CDC
Focarul de Ebola din estul Republicii Democrate Congo (RDC) 'nu este sub control', a avertizat joi directorul general al agenției de sănătate a Uniunii Africane (Africa CDC), la o zi după ce OMS a observat 'semne încurajatoare', transmite AFP. RDC a declarat al 17-lea focar de Ebola la mijlocul lunii mai, cu câteva
Fiji declară HIV o criză națională pe fondul creșterii numărului de cazuri diagnosticate
Fiji a declarat HIV o criză națională, după ce numărul noilor cazuri diagnosticate a crescut cu 27%, anul trecut. Actuala situație amplifică temerile conform cărora o epidemie, care anterior era concentrată în rândul persoanelor consumatoare de droguri injectabile, se răspândește pe scară mai largă în acest stat insular din Oceanul Pacific, informează
SUA: Tânăr alb, șomer și cu prieteni online, profilul tipic al simpatizanților supremației albilor (studiu)
Bărbat alb tânăr, șomer sau cu venituri mici, religios și cu prietenii preferabil digitale este profilul majorității celor care simpatizează cu supremația albilor în Statele Unite, o ideologie de extremă dreaptă care consideră că rasa albă este superioară și urmărește crearea unei societăți omogene, scrie miercuri EFE, citând un studiu american recent.
Afganistan: Zeci de țări cer talibanilor să respecte drepturile femeilor
Patruzeci și trei de țări au lansat miercuri un apel de la ONU, cerând liderilor talibani 'să ridice imediat toate restricțiile față de drepturile femeilor și fetelor' în Afganistan, relatează AFP. Talibanii au celebrat luna trecut împlinirea a cinci ani de la revenirea lor la putere, marcată - potrivit ONU - prin 'restricții sufo
Cel puțin 60 de morți după prăbușirea unei mine de aur în Sudan
Cel puțin 60 de persoane au murit în urma prăbușirii unei mine de aur în statul Kordofan de Vest din Sudan, după cum au declarat miercuri mai multe surse pentru Reuters și AFP, în timp ce o organizație locală pentru drepturile omului a afirmat că alți mineri ar putea fi încă blocați în subteran. Grupul de monitorizare Kordofan Obs
Schimbările climatice au adus 30 de zile cu temperaturi periculoase în Spania în această vară; în România au fost înregistrate 26
Schimbările climatice provocate de activitatea umană au adus în acest an 30 de zile cu temperaturi periculoase în Spania între lunile iunie și august, în cursul unei veri în care temperatura medie a fost cu 2,2 grade Celsius peste cea normală, conform unei analize realizate de organizația științifică Climate Central, citată miercuri de agenția d
Cel puțin 124 de activiști de mediu au fost uciși la nivel global în 2025, potrivit unui ONG
Cel puțin 124 de activiști de mediu au fost uciși anul trecut, potrivit unui raport dat miercuri publicității de organizația nonguvernamentală Global Witness, informează DPA. Majoritatea victimelor erau persoane indigene sau mici fermieri, iar cei care militează împotriva exploatărilor miniere, exploatărilor forestiere, agriculturii ilegale și a proiecte