Comisia Europeană a anunțat vineri că discută cu giganții OpenAI și Anthropic despre recentele atacuri cibernetice care au implicat modelele lor de inteligență artificială (AI), înaintea intrării în vigoare, în 2 august, a legislației UE care necesită o monitorizare strictă a sistemelor cu risc ridicat, transmite Reuters.

Oficiul pentru IA al Comisiei Europene, împreună cu autoritățile naționale, va începe să asigure din 2 august respectarea Legii privind inteligența artificială (AI). La aceeași dată, vor începe să se aplice noi norme în materie de transparență, care impun anumitor sisteme de IA să informeze utilizatorii atunci când interacționează cu IA și când conținutul a fost generat sau modificat de aceasta.

Este prima legislație din lume care reglementează tehnologia folosită în aproape toate sectoarele afacerilor și societății.

Startup-ul american de inteligență artificială (AI) Anthropic a anunțat joi că modelele sale au 'obținut acces neautorizat' la sistemele a trei organizații în timpul unor teste menite să împiedice accesul acestora la sisteme din 'lumea reală'.

Anunțul vine la doar câteva zile după ce rivalul Anthropic, OpenAI, a dezvăluit că două dintre modelele sale au ieșit din mediul controlat de testare, din proprie inițiativă, pentru a ataca site-ul Hugging Face.

Anthropic a analizat peste 141.000 de teste și a constatat că trei versiuni diferite ale modelului său Claude au pătruns în sistemele a trei organizații, ale căror nume nu au fost dezvăluite.

Spre deosebire de incidentul care a implicat OpenAI, modelele Anthropic au obținut acces la internet 'din cauza unei neînțelegeri între noi și partenerul nostru de evaluare', Irregular, a explicat compania în comunicat.

'În niciuna dintre aceste situații Claude nu a evadat și nici nu a încercat în mod deliberat să evadeze din mediul său de testare', a adăugat compania. Printre modelele implicate s-a numărat și unul dintre cele mai puternice, Mythos 5, care a fost pus la dispoziția unui număr limitat de parteneri.

În prezent, Anthropic colaborează cu Irregular pentru a analiza situația și a contactat sau a încercat să contacteze cele trei organizații neprecizate.
Ambele companii au informat Comisia Europeană în legătură cu incidentele, le-au spus jurnaliștilor oficialii.

'Am fost informați în mod bilateral de cei doi furnizori care raportează incidentele, înainte ca acestea să devină publice. Suntem în contact cu ei și ne vor prezenta mai multe informații pe măsură ce apar. Vom analiza dacă trebuie să urmăm o procedură mai formală în legătură cu acele aspecte', a spus unul dintre oficiali.

Celălalt a vorbit despre rolul crucial al legislației AI din Europa. 'Toate aceste, să zicem, incidente, subliniază importanța implementării efective a activităților de monitorizare necesare de către dezvoltatori', a apreciat oficialul.

Amenzile pentru încălcarea Legii privind inteligența artificială (AI) variază de la 7,5 milioane de euro sau 1,5% din cifra de afaceri, la 35 milioane de euro sau 7% din cifra globală de afaceri, în funcție de tipul abaterii. AGERPRES/(AS-redactor: Mihaela Dicu, editor: Andreea Marinescu, editor online: Adrian Dădârlat)