Directorul companiei Anthropic, Dario Amodei, a lansat sâmbătă un apel la încetinirea vitezei de dezvoltare a inteligenței artificiale (AI), invocând necesitatea unui control mai strict al evoluțiilor sale, precum și incidentul survenit în iulie la OpenAI, informează AFP.
Mesajul publicat sâmbătă pe pagina personală a CEO-ului survine la câteva zile după ce un cercetător din cadrul Anthropic, Jacob Coxon, și-a anunțat demisia din start-up-ul californian, pe care l-a acuzat de minimizarea riscului existențial pe care AI-ul îl reprezintă pentru umanitate.
Apelul lui Dario Amodei este similar cu un altul, lansat la începutul lunii iunie de Anthropic, și care solicita ca marii actori din domeniul AI să aibă posibilitatea de a ''încetini sau suspenda temporar dezvoltarea'' acestei tehnologii.
La sfârșitul lunii iulie, Sam Altman, șeful companiei rivale OpenAI, a vorbit, la rândul lui, despre o încetinire ''pentru a oferi suficient timp societății să se adapteze acestor noi capacități''.
Ulterior, peste o mie de angajați ai unor companii din domeniul AI, inclusiv Dario Amodei și personal de conducere din Open AI, au cerut guvernului american să ajute la ''temporizarea'' lansării modelelor celor mai avansate.
Aceste îndemnuri au fost formulate în urma unui incident în care modele OpenAI au ieșit în mod spontan din mediului lor controlat cu prilejul unor teste, conectându-se la internet și atacând platforma AI Hugging Face.
De atunci, alte evenimente în care sisteme AI ale OpenAI și Anthropic au ajuns pe internet fără știrea supraveghetorilor lor au fost raportate de cele două companii.
De fiecare dată a fost vorba despre agenți AI, programe construite pe un model specific și dotate cu cunoștințe și obiective proprii.
Acțiunile și metodele acestor agenți au stârnit cu atât mai multă îngrijorare cu cât au demonstrat o tendință de a se coordona, a stabili o ierarhie între eele, a trișa și a șterge apoi urmele faptelor lor.
Având în vedere actuala viteză de dezvoltare a AI, ''mă tem că în următoarele 6 până la 12 luni un grup de (agenți) va fi capabil să preia controlul întregului internet'', a avertizat Dario Amodei, iar asta ''ar putea atrage după sine pagube de sute de miliarde de dolari''. AGERPRES/(AS-redactor: Simona Tatu, editor online: Andreea Preda)
Directorul companiei Anthropic lansează un apel la încetinirea ritmului de dezvoltare a inteligenței artificiale
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Regele Charles al III-lea îi avertizează pe liderii din domeniul AI cu privire la 'pericolul existențial' al acestei tehnologii
Regele Charles ale III-lea al Marii Britanii i-a avertizat joi pe liderii din domeniul inteligenței artificiale (AI) cu privire la 'pericolele existențiale' ce s-ar putea manifesta dacă această tehnologie ajunge pe mâini greșite, spunând că sunt necesare măsuri de siguranță înainte de a fi prea târziu, transmite joi Reuters.
Balenele cu cocoașă prezintă o formă de 'comportament asociat doliului' (studiu)
Un 'comportament asociat doliului' a fost observat la o balenă cu cocoașă, potrivit unui studiu publicat joi în Australia și citat de AFP. O femelă a rămas în preajma trupului lipsit de viață al puiului său, care zăcea pe fundul mării, conform imaginilor video surprinse anul trecut în largul coastei de est a Australiei.
O sondă a NASA a permis descoperirea unui crater format recent pe Lună
Un cercetător american a descoperit, cu ajutorul imaginilor transmise de o sondă a agenției spațiale americane, NASA, un crater de dimensiuni semnificative, format recent pe suprafața Lunii, un eveniment care, potrivit oamenilor de știință, se întâmplă 'o dată la un secol', relatează joi AFP. Denumit 'McGetchin' - în onoarea u
Un studiu pe un dinte fosil arată că T. Rex era un animal cu sângele cald
Pornind de la o serie de indicii chimice din dinții de Tyrannosaurus rex, oamenii de știință au demonstrat că acest prădător masiv avea sânge cald 'cu o temperatură corporală apropiată de cea a unui om', o descoperire despre care spun că ar trebui să determine o schimbare fundamentală în percepția asupra celebrului dinozaur, transmite Reuters care
Oamenii de știință au obținut 'organoizi' din celule cerebrale umane crescute pe șoareci
Oamenii de știință au crescut șoareci de laborator cărora le lipseau anumite secțiuni din creier și apoi au înlocuit țesutul lipsă cu celule umane, în cadrul unui experiment coordonat de un cercetător român de la Universitatea californiană Stanford și care reprezintă un pas înainte în studiul organoizilor ce reproduc creierul uman, trans
Un nou studiu asociază reducerea masei musculare cu un risc mai mare de demență
Reducerea masei musculare odată cu înaintarea în vârstă ar putea constitui un semn de avertizare important în ceea ce privește riscul de demență, conform concluziilor unui studiu recent condus de cercetători australieni, transmite miercuri agenția de presă Xinhua. Cercetătorii au analizat peste 80 de studii care examinau legăturile dint
SpaceX vizează data de 22 septembrie pentru primul zbor orbital al rachetei sale Starship
SpaceX intenționează să lanseze pentru prima dată uriașa sa rachetă Starship pe orbita Pământului în cadrul celui de-al 14-lea zbor de test, programat pentru 22 septembrie, transmite agenția de presă Xinhua care citează un anunț de marți al companiei americane. Fereastra de lansare este programată să se deschidă la ora locală 07:15 și va dura 75 de
Mark Zuckerberg respinge apelurile de încetinire a dezvoltării Inteligenței Artificiale
Directorul general al companiei Meta, Mark Zuckerberg, a respins marți apelurile tot mai numeroase de suspendare sau măcar de încetinire a dezvoltării Inteligenței Artificiale (IA), el considerând că mecanismele pieței și riscul unor acțiuni judiciare sunt cele mai bune garanții în fața acestei tehnologii, relatează AFP. 'Oamenii nu vor d