Compania Anthropic a afirmat luni că modele AI de mici dimensiuni ar putea în câteva luni căpăta abilitatea de a se autoreplica pe dispozitive din Internetul Lucrurilor comercial (IoT) cum ar fi cuptoare inteligente și dispozitive Android TV de la producători necunoscuți, informează Reuters.
În timpul unor experimente, Anthropic a încercat să verifice dacă modelele AI pot detecta dispozitive vulnerabile pe care se să copieze și să se răspândească fără ajutor uman.
Compania a descoperit că modele mai mici de 30 de miliarde de parametrii pot finaliza numeroșii pași necesari pentru replicare.
Cu toate acestea, astfel de modele AI au întâmpinat dificultăți în completarea întregii secvențe de la început până la final.
În cadrul unor teste simplificate, care au presupun renunțarea la o parte din măsurile de securitate, Anthropic a descoperit că modele precum GLM-5.2 sau modele mai mari sunt capabile de o autoreplicare completă.
Modelele care încep procesul de autoreplicare sunt dificil de oprit întrucât nu există un punct de oprire și, spre deosebire de malware non-AI, pot identifica singure dispozitive necunoscute și pot viza procesoarele din centre de date, a avertizat Anthropic.
În cadrul studiului, compania s-a concetrat pe dispozitive IoT precum televizoare Android, electrocasnice inteligente, precum și alte dispozitive conectate la internet întrucât acestea sunt, de obicei, slab securizate.
Gigantul AI a avertizat că, dacă modelele mici continuă să se perfecționeze în același ritm istoric, vor fi capabile de a se autoreplica autonom până la sfârșitul acestui an și vor fi urmate și de alte modele la scurt timp după aceea.
Anthropic a mai spus că astfel de sisteme autonome AI se pot autoreplica într-un ritm lent și că să se bazează pe resurse de calcul disponibile pe scară largă, dar relativ nesigure. Potrivit companiei, sistemele ar trebui consolidate pentru a îngreuna răspândirea unor astfel de agenți AI. AGERPRES/(AS-redactor: Simona Tatu, editor online: Ady Ivaşcu)
Modele AI s-ar putea autoreplica în curând fără acces la centre de date, avertizează Anthropic
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Astronauta franceză Sophie Adenot a trecut prin întreg spectrul emoțiilor umane în timpul misiunii pe ISS
Astronauta franceză Sophie Adenot a experimentat 'întregul spectru al emoțiilor umane, de la cele mai bucuroase la cele mai dificile' momente în timpul celor opt luni petrecute în spațiu, a declarat ea în timpul primei sale apariții publice pe Pământ, sâmbătă, la Koln, Germania. La 400 km deasupra Pă
O creatură asemănătoare cu vidra înota în lacuri și râuri în vremea dinozaurilor
Cu aproximativ 165 de milioane de ani în urmă, o creatură cu blană, care înota ca un ornitorinc, vâna ca o vidră și avea o coadă asemănătoare cu cea a unui castor, trăia în lacurile și râurile din regiunea care este în prezent China, hrănindu-se cu pești și salamandre. Acesta este cel mai vechi exemplu cunoscut de stil de viață sem
NASA caută o peșteră pe Lună pentru o viitoare bază
NASA are în derulare un nou proiect de cercetare selenară cu obiectivul de a identifica o peșteră suficient de mare, sau un tub cavernos sculptat de lavă antică, un adăpost natural în care să poată fi amenajată o viitoare bază selenară în cadrul programului Artemis, transmite vineri Space.com. NASA a selectat un proiect cunos
SpaceX se pregătește să lanseze Starship din Florida pentru prima oară
Prima lansare a navei spațiale Starship din Florida ar putea fi la doar câteva luni distanță, în contextul în care compania SpaceX lucrează din greu pentru a pregăti trei platforme de pe Coasta Spațială din Florida pentru Starship, transmite joi Space.com. Toate cele 14 zboruri de testare ale megarachetei SpaceX de până acum au decolat
Astronauții Crew-12 revin pe Pământ după aproape 8 luni pe stația spațială
Cei patru astronauți ai misiunii Crew-12 a SpaceX se întorc pe Pământ joi (8 octombrie) după aproape opt luni în spațiu la bordul Stației Spațiale Internaționale (ISS), transmite Space.com.
Astronomii au detectat cel mai îndepărtat blazar alimentat de o gaură neagră de până acum
Astronomii au detectat cel mai îndepărtat blazar alimentat de o gaură neagră de până acum
Margaret Hamilton, pionieră americană în domeniul informaticii și figură marcantă a programului Apollo, a murit la 90 de ani
Cercetătoarea americană Margaret Hamilton, care a condus dezvoltarea sistemului informatic utilizat în cadrul programului selenar Apollo, a încetat din viață la vârsta de 90 de ani, a anunțat miercuri Institutul de Tehnologie din Massachusetts (MIT), unde a lucrat aproape 20 de ani, transmite joi AFP. ''Margaret Hamil
Nobel 2026/Premiul pentru Chimie obținut pentru cercetări legate de sinteza organică asimetrică
Premiul Nobel pentru Chimie 2026 este împărțit între cercetătorul francez Henri Kagan și cel nipon Kenso Soai pentru descoperirea efectelor neliniare și a autocatalizei în sinteza organică asimetrică, a anunțat miercuri Academia Regală Suedeză de Științe, conform site-ului nobelprize.org. Unele molecule, precum aminoacizii, e