Explozia inteligenței artificiale (AI) se bazează pe ideea că mai mare înseamnă mai bine, însă un studiu recent sugerează că de fapt contrariul ar putea fi în curând adevărat: modelele lingvistice mici care rulează pe computere desktop ar putea fi capabile să gestioneze majoritatea sarcinilor efectuate în prezent de modelele lingvistice mari, conform lui Joachim Klement, expert în investiții pentru Panmure Liberum, transmite joi Reuters.
Dacă acest lucru este adevărat, companii precum Anthropic, OpenAI și SpaceX ar putea avea motive de îngrijorare. Viitorul pentru AI ar putea fi legat de dimensiuni reduse, preț mic și un profit substanțial redus față de așteptările investitorilor.
Pe 1 iunie Nvidia a dezvăluit o nouă platformă AI desktop care rulează pe PC-uri Windows, ridicând posibilitatea ca viitorul AI să nu fie legat exclusiv de giganticele centre de date. Un studiu al Universității Stanford publicat cu două săptămâni mai devreme a sugerat același lucru. Acesta a comparat modelele lingvistice locale mici (SLM) care rulează pe PC-uri desktop cu modelele lingvistice mari (LLM) care rulează în centre de date.
Cercetătorii au testat o gamă de SLM-uri, folosind atât PC-uri, cât și Mac-uri, pe 500.000 de cereri de chat și 500.000 de sarcini de raționament. Studiul a constatat că, în medie, aceste SLM-uri au fost la fel de bune sau mai bune decât LLM-urile în peste 80% din sarcini, cu rate de succes care se apropie de 100% în aplicațiile de vânzări, management și divertisment.
Acest lucru nu înseamnă că SLM-urile sunt, în general, superioare, susține Klement. În cele mai dificile sarcini de raționament acestea țin pasul cu LLM-urile în doar aproximativ 50% din cazuri. Dar este o creștere substanțială față de doar 8% acum doi ani, ceea ce arată că decalajul de performanță dintre SLM-uri și LLM-uri se reduce rapid.
Mai important, SLM-urile se îmbunătățesc rapid într-o metrică pe care cercetătorii o numesc 'inteligență pe watt', care măsoară precizia unui SLM pe un PC desktop în raport cu 'energia consumată'. Această măsură s-a îmbunătățit de peste cinci ori în ultimii doi ani. Rezultatul nu este doar că SLM-urile pot funcționa la fel de bine sau mai bine decât LLM-urile în 'majoritatea cazurilor', ci și că pot face acest lucru utilizând cu 50% până la 80% mai puțină energie - adică la un cost mai mic.
Dacă această tendință continuă și SLM-urile elimină decalajul de performanță față de LLM-uri mai repede decât se așteaptă piața, consecințele pentru companiile care stimulează boom-ul actual AI ar putea fi severe, avertizează Joachim Klement.
Un studiu realizat la Stanford sugerează acum că LLM-urile sunt cea mai viabilă soluție din punct de vedere economic în doar o cincime din cazurile de utilizare actuale. Dacă este adevărat, acest lucru ar submina evaluările ridicate pe care OpenAI și Anthropic speră să le atingă în IPO-urile lor și ar pune sub semnul întrebării evaluarea de 2,85 trilioane de dolari a SpaceX, care este înrădăcinată în mare parte în speranțele legate de dezvoltarea AI.
Aceste firme ar putea intra în cursa pentru SLM-uri prin micșorarea sau 'simplificarea' modelelor lor existente. Dar problema este că cele mai avansate SLM-uri sunt open source, ceea ce înseamnă că sunt disponibile gratuit sau la un cost extrem de scăzut. Prin urmare, marjele de profit pentru furnizorii LLM ar fi mult mai mici în spațiul SLM.
Mai mult, un SLM nu are nevoie de un centru de date. Dacă majoritatea sarcinilor pot fi efectuate la costuri mai mici pe un PC desktop, argumentele pentru centre de date vaste, dotate cu GPU, TPU și cipuri Trainium scumpe, slăbesc considerabil.
Singurele companii care ar beneficia probabil de o astfel de schimbare ar fi producătorii de computere desktop precum Apple - și, potențial, Nvidia, dacă noua sa platformă AI desktop va avea succes. În lumina acestui studiu, incursiunea Nvidia în domeniul desktopurilor pare mai puțin o strategie de diversificare și mai mult o măsură de protejare a riscurilor pentru a rămâne relevantă, indiferent de modul în care evoluează această tehnologie, mai susține expertul în investiții de la Panmure Liberum. AGERPRES/(AS - editor: Codruț Bălu, editor online: Simona Aruştei)
Viitorul pentru AI ar putea însemna dimensiuni reduse, preț mic și marje reduse de profit (expert)

Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Regele Charles al III-lea îi avertizează pe liderii din domeniul AI cu privire la 'pericolul existențial' al acestei tehnologii
Regele Charles ale III-lea al Marii Britanii i-a avertizat joi pe liderii din domeniul inteligenței artificiale (AI) cu privire la 'pericolele existențiale' ce s-ar putea manifesta dacă această tehnologie ajunge pe mâini greșite, spunând că sunt necesare măsuri de siguranță înainte de a fi prea târziu, transmite joi Reuters.
Balenele cu cocoașă prezintă o formă de 'comportament asociat doliului' (studiu)
Un 'comportament asociat doliului' a fost observat la o balenă cu cocoașă, potrivit unui studiu publicat joi în Australia și citat de AFP. O femelă a rămas în preajma trupului lipsit de viață al puiului său, care zăcea pe fundul mării, conform imaginilor video surprinse anul trecut în largul coastei de est a Australiei.
O sondă a NASA a permis descoperirea unui crater format recent pe Lună
Un cercetător american a descoperit, cu ajutorul imaginilor transmise de o sondă a agenției spațiale americane, NASA, un crater de dimensiuni semnificative, format recent pe suprafața Lunii, un eveniment care, potrivit oamenilor de știință, se întâmplă 'o dată la un secol', relatează joi AFP. Denumit 'McGetchin' - în onoarea u
Un studiu pe un dinte fosil arată că T. Rex era un animal cu sângele cald
Pornind de la o serie de indicii chimice din dinții de Tyrannosaurus rex, oamenii de știință au demonstrat că acest prădător masiv avea sânge cald 'cu o temperatură corporală apropiată de cea a unui om', o descoperire despre care spun că ar trebui să determine o schimbare fundamentală în percepția asupra celebrului dinozaur, transmite Reuters care
Oamenii de știință au obținut 'organoizi' din celule cerebrale umane crescute pe șoareci
Oamenii de știință au crescut șoareci de laborator cărora le lipseau anumite secțiuni din creier și apoi au înlocuit țesutul lipsă cu celule umane, în cadrul unui experiment coordonat de un cercetător român de la Universitatea californiană Stanford și care reprezintă un pas înainte în studiul organoizilor ce reproduc creierul uman, trans
Un nou studiu asociază reducerea masei musculare cu un risc mai mare de demență
Reducerea masei musculare odată cu înaintarea în vârstă ar putea constitui un semn de avertizare important în ceea ce privește riscul de demență, conform concluziilor unui studiu recent condus de cercetători australieni, transmite miercuri agenția de presă Xinhua. Cercetătorii au analizat peste 80 de studii care examinau legăturile dint
SpaceX vizează data de 22 septembrie pentru primul zbor orbital al rachetei sale Starship
SpaceX intenționează să lanseze pentru prima dată uriașa sa rachetă Starship pe orbita Pământului în cadrul celui de-al 14-lea zbor de test, programat pentru 22 septembrie, transmite agenția de presă Xinhua care citează un anunț de marți al companiei americane. Fereastra de lansare este programată să se deschidă la ora locală 07:15 și va dura 75 de
Mark Zuckerberg respinge apelurile de încetinire a dezvoltării Inteligenței Artificiale
Directorul general al companiei Meta, Mark Zuckerberg, a respins marți apelurile tot mai numeroase de suspendare sau măcar de încetinire a dezvoltării Inteligenței Artificiale (IA), el considerând că mecanismele pieței și riscul unor acțiuni judiciare sunt cele mai bune garanții în fața acestei tehnologii, relatează AFP. 'Oamenii nu vor d









