Companiile de top din domeniul inteligenței artificiale nu știu cum să împiedice AI să își stabilească propriile obiective și să se încerce să le atingă, a atenționat luni avertizorul de integritate Jacob Coxon, în timpul unei audieri în fața Consiliului Municipal din New York, conform AFP.
Cercetătorul britanic, fost angajat la OpenAI și Anthropic, a publicat pe platforma X, la începutul lunii septembrie, un text în care își explica decizia de a demisiona de la Anthropic, afirmând că dezvoltatorii de AI 'cred cu adevărat că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului'.
Mărturia sa a făcut înconjurul lumii, iar mai mulți actuali sau foști angajați ai unor companii importante de AI și-au exprimat ulterior îngrijorări similare.
Deși AI ar putea 'genera beneficii imense' pentru societate, el consideră că, dacă industria 'rămâne pe traiectoria actuală, (...) este mai probabil ca omenirea să piardă controlul asupra acestor AI și este posibil ca acest lucru să ducă la dispariția' speciei umane, a declarat el luni.
'Nu știm cum să împiedicăm (modelele) să-și stabilească propriile obiective', în afara controlului creatorilor lor, a explicat Jacob Coxon, 'și nu avem măsurile de siguranță care să le împiedice să încerce să le atingă'.
Absolvent al Universității Cambridge și pasionat de matematică, Jacob Coxon a criticat cultura industriei tehnologice, care, în opinia sa, poate fi rezumată ca 'mișcă-te repede, strică lucrurile' și 'repară-le mai târziu'.
'Acest lucru funcționează pentru o aplicație de partajare a fotografiilor, dar nu și pentru construirea celei mai puternice tehnologii de până acum', a afirmat Jacob Coxon.
'Atâta timp cât atitudinea rămâne una de așteptare ca lucrurile să se schimbe', este 'probabil' ca un incident similar cu cel din iulie, când două modele OpenAI au scăpat din mediul lor închis, au accesat internetul și au pătruns în platforma Hugging Face, să se întâmple din nou.
'Diferența este că', de data aceasta, 'AI va fi mult mai puternică', a atenționat el.
Companiile de AI 'sunt extrem de imprudente, având în vedere miza', a adăugat avertizorul de integritate.
Cercetătorul a cerut companiilor care creează cea mai avansată AI să încetinească ritmul dezvoltării acesteia pentru a le permite informaticienilor să facă progrese în reglementarea modelelor.AGERPRES/(AS - redactor: Ionuț Mareș, editor online: Adrian Dădârlat)
Sectorul AI nu știe cum să împiedice inteligența artificială să își stabilească propriile obiective, atenționează un avertizor de integritate
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Administratorul NASA dorește să păstreze o minte deschisă în legătură cu fenomenul OZN
Fenomenele neidentificate, de tip OZN sau de altă natură, observate pe cer, în oceane sau în spațiu, ar putea să împingă Statele Unite ale Americii spre un nou 'moment Sputnik', este opinia administratorului NASA, Jared Isaacman, care a comparat creșterea numărului de observații raportate privind fenomenele anormale neidentificate (UAP) din ultimii
Nobel 2026/ Karl Deisseroth, Peter Hegemann și Georg Nagel, laureații Premiului Nobel pentru Medicină
Premiul Nobel pentru Medicină din 2026 a fost câștigat de Karl Deisseroth, Peter Hegemann și Georg Nagel pentru 'descoperirile lor privind canalele ionice activate de lumină și optogenetică', potrivit anunțului făcut luni de Adunarea Nobel de la Institutul Karolinska din Stockholm, Suedia, potrivit site-ului nobelprize.org.
Compania Blue Origin a prezentat conceptul 'Power Tower' pentru furnizarea de energie unei baze selenare
Compania aerospațială fondată de miliardarul Jeff Bezos, Blue Origin, a prezentat 'Power Tower' (Turnul de Energie), un sistem conceput pentru a furniza energie solară unei viitoare baze selenare, transmite luni Space.com. Compania Blue Origin a publicat pe 25 septembrie o animație a turnului pe platforma X, ilustrând modul &icir
Dumitru Prunariu, recompensat cu Premiul Theodore von Karman, cea mai înaltă distincție a Academiei Internaționale de Astronautică
Dumitru-Dorin Prunariu, singurul român care a zburat în spațiul cosmic, a fost recompensat cu Premiul Theodore von Karman în cadrul galei anuale a Academiei Internaționale de Astronautică (IAA), desfășurată în Antalya, Turcia, duminică, înaintea Congresului Internațional de Astronautică. Premiul Theodore von Karma
Nobel 2026/Cercetările care au deschis calea către pastilele de slăbit, favoritele observatorilor Premiului Nobel pentru Medicină
Cercetările asupra hormonilor care reglează apetitul sunt favoritele observatorilor pentru premiul Nobel dedicat medicinei, care dă luni startul sezonului nobelurilor din acest an, relatează AFP. Câștigătorii celor șase premii Nobel - pentru medicină, fizică, chimie, literatură, pace și economie - vor fi anunțați în perioada 5-12 o
Tentativa eșuată a AI-ului de a rezolva ipoteza Riemann l-a ajutat pe un matematician să progreseze într-o problemă conexă
încercarea eșuată a modelului de inteligenți artificială (AI) Claude, aparținând companiei Anthropic, de a rezolva una dintre cele mai celebre probleme matematice nerezolvate, ipoteza Riemann, a ajutat un matematician să facă progrese în cazul unei probleme matematice conexe, transmite vineri Live Science. La începutul
Extirparea apendicelui, asociată cu un risc mai scăzut de cancer de colon (studiu)
Pacienții care au suportat o intervenție chirurgicală cauzată de o apendicită (inflamația apendicelui) au prezentat un risc semnificativ mai mic de a dezvolta cancer colorectal în comparație cu cei care au fost tratați cu antibiotice, potrivit unei analize ce a vizat peste 30.000 de cazuri, informează Reuters. în trecut, intervenți
Jeturile de plasmă emise de găurile negre supermasive pot ''ucide'' galaxii întregi
Oamenii de știință au descoperit modul în care jeturile emise de găurile negre supermasive pot determina felul în care galaxiile-gazdă ''mor'', răspunzând în același timp la întrebarea cu privire la stoparea procesului de aprindere stelară în unele galaxii, conform unui studiu publicat în jurnalul Astrophysica