Compania Anthropic din Statele Unite a anunțat joi că a blocat în ultimele luni mai multe încercări ale unor cercetători de a folosi inteligența sa artificială Claude la cercetări legate de posibila dezvoltare a unor arme biologice, transmite dpa.
Anthropic, rivală a OpenAI - dezvoltatorul ChatGPT, a avertizat totodată că intențiile cercetătorilor pot fi greu de stabilit, deoarece aceleași studii pot fi utilizate în scopuri fie militare, fie medicale.
Cazurile analizate au arătat că oamenii de știință din regiunile în care accesul este restricționat, inclusiv unii legați de autorități guvernamentale locale, au încercat să acceseze în secret inteligențe artificiale (AI) dezvoltate de firme americane.
Compania nu a dezvăluit numele niciunei instituții de cercetare implicate sau țările unde se află acestea.
Într-un raport detaliat privind tentativele de utilizare rău-intenționată ale modelelor sale de AI, Anthropic a menționat cinci cazuri posibil legate de cercetări în domeniul armelor biologice. Cercetătorii nu au încercat să obțină asistență științifică exactă, ci mai degrabă sprijin operațional, cum ar fi cel pentru redactarea lucrărilor.
Modelele de AI sunt în general proiectate să refuze asistența pentru arme biologice, dar Anthropic a afirmat că dacă o cercetare poate fi făcută în scopuri atât militare, cât și medicale, uneori sunt greu de delimitat clar intențiile inofensive de cele periculoase.
În unul din cazuri, un cercetător a încercat să utilizeze Claude pentru a redacta o cerere de finanțare privind un virus; studiul propus implica așa-numita 'gain-of-function', modificarea funcțiilor, în scopul creșterii contagiozităților. Metoda respectivă este folosită frecvent în laboratoare pentru dezvoltarea de contramăsuri, însă poate fi utilizată și pentru dezvoltarea de arme biologice.
Într-un alt caz, Claude a fost folosit pentru elaborarea unui plan de cercetare privind o variantă a gripei aviare care să poată infecta mamiferele.
Anthropic a subliniat că astfel de cercetări pot contribui la combaterea bolilor, dar pot genera și cunoștințe periculoase, posibil utile pentru crearea de arme biologice.
Un alt om de știință a încercat să pregătească cu ajutorul lui Claude rapoarte trimestriale privind cercetări care implicau o toxină. AGERPRES/(AS - redactor: Marius Hosu, editor online: Irina Giurgiu)
Anthropic blochează utilizarea inteligenței artificiale pentru cercetări în domeniul armelor biologice
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Regele Charles al III-lea îi avertizează pe liderii din domeniul AI cu privire la 'pericolul existențial' al acestei tehnologii
Regele Charles ale III-lea al Marii Britanii i-a avertizat joi pe liderii din domeniul inteligenței artificiale (AI) cu privire la 'pericolele existențiale' ce s-ar putea manifesta dacă această tehnologie ajunge pe mâini greșite, spunând că sunt necesare măsuri de siguranță înainte de a fi prea târziu, transmite joi Reuters.
Balenele cu cocoașă prezintă o formă de 'comportament asociat doliului' (studiu)
Un 'comportament asociat doliului' a fost observat la o balenă cu cocoașă, potrivit unui studiu publicat joi în Australia și citat de AFP. O femelă a rămas în preajma trupului lipsit de viață al puiului său, care zăcea pe fundul mării, conform imaginilor video surprinse anul trecut în largul coastei de est a Australiei.
O sondă a NASA a permis descoperirea unui crater format recent pe Lună
Un cercetător american a descoperit, cu ajutorul imaginilor transmise de o sondă a agenției spațiale americane, NASA, un crater de dimensiuni semnificative, format recent pe suprafața Lunii, un eveniment care, potrivit oamenilor de știință, se întâmplă 'o dată la un secol', relatează joi AFP. Denumit 'McGetchin' - în onoarea u
Un studiu pe un dinte fosil arată că T. Rex era un animal cu sângele cald
Pornind de la o serie de indicii chimice din dinții de Tyrannosaurus rex, oamenii de știință au demonstrat că acest prădător masiv avea sânge cald 'cu o temperatură corporală apropiată de cea a unui om', o descoperire despre care spun că ar trebui să determine o schimbare fundamentală în percepția asupra celebrului dinozaur, transmite Reuters care
Oamenii de știință au obținut 'organoizi' din celule cerebrale umane crescute pe șoareci
Oamenii de știință au crescut șoareci de laborator cărora le lipseau anumite secțiuni din creier și apoi au înlocuit țesutul lipsă cu celule umane, în cadrul unui experiment coordonat de un cercetător român de la Universitatea californiană Stanford și care reprezintă un pas înainte în studiul organoizilor ce reproduc creierul uman, trans
Un nou studiu asociază reducerea masei musculare cu un risc mai mare de demență
Reducerea masei musculare odată cu înaintarea în vârstă ar putea constitui un semn de avertizare important în ceea ce privește riscul de demență, conform concluziilor unui studiu recent condus de cercetători australieni, transmite miercuri agenția de presă Xinhua. Cercetătorii au analizat peste 80 de studii care examinau legăturile dint
SpaceX vizează data de 22 septembrie pentru primul zbor orbital al rachetei sale Starship
SpaceX intenționează să lanseze pentru prima dată uriașa sa rachetă Starship pe orbita Pământului în cadrul celui de-al 14-lea zbor de test, programat pentru 22 septembrie, transmite agenția de presă Xinhua care citează un anunț de marți al companiei americane. Fereastra de lansare este programată să se deschidă la ora locală 07:15 și va dura 75 de
Mark Zuckerberg respinge apelurile de încetinire a dezvoltării Inteligenței Artificiale
Directorul general al companiei Meta, Mark Zuckerberg, a respins marți apelurile tot mai numeroase de suspendare sau măcar de încetinire a dezvoltării Inteligenței Artificiale (IA), el considerând că mecanismele pieței și riscul unor acțiuni judiciare sunt cele mai bune garanții în fața acestei tehnologii, relatează AFP. 'Oamenii nu vor d