Thinking Machines Lab, me ekip ish-hulumtuesish nga OpenAI dhe financim miliarda dollarësh, po zhvillon teknologji që synon të bëjë përgjigjet e inteligjencës artificiale më të parashikueshme e të riprodhueshme.
Thinking Machines Lab, e udhëhequr nga Mira Murati, ka zgjuar kureshtje të madhe në botën e teknologjisë falë financimit prej 2 miliardë dollarësh dhe ekipit të përbërë nga ish-hulumtues të OpenAI. Laboratori publikoi së fundmi postimin e tij të parë kërkimor, duke zbuluar një projekt që synon krijimin e modeleve të AI me përgjigje të riprodhueshme.
Artikulli, i titulluar “Defeating Nondeterminism in LLM Inference”, analizon burimin e rastësisë në përgjigjet e modeleve të mëdha gjuhësore. Sipas studiuesve, edhe kur një përdorues bën të njëjtën pyetje disa herë, përgjigjet mund të ndryshojnë dukshëm. Ky fenomen, i njohur si mospërcaktueshmëri, është pranuar prej kohësh në komunitetin e AI, por Thinking Machines Lab e sheh si një problem të zgjidhshëm.
Autori i postimit, studiuesi Horace He, thekson se problemi qëndron në mënyrën se si lidhen kernelët e GPU-ve – programet e vogla që ekzekutohen brenda çipeve Nvidia – gjatë procesit të inferencës, pra pasi përdoruesi shtyp “enter” në ChatGPT. Ai argumenton se kontrolli i kujdesshëm i këtij procesi mund të bëjë që modelet të japin përgjigje më të qëndrueshme.
Përfitimet e kësaj qasjeje nuk kufizohen vetëm te përdoruesit komercialë apo shkencorë. Sipas He, kjo mund të përmirësojë edhe procesin e trajnimit me mësim përforcues (RL), i cili shpërblen modelet për përgjigje të sakta. Kur përgjigjet ndryshojnë, të dhënat bëhen të zhurmshme, duke e bërë trajnimin më të vështirë. Stabiliteti më i madh mund të e bëjë procesin e RL më “të lëmuar” dhe efikas.
Thinking Machines Lab ka deklaruar më parë për investitorët se synon të përdorë RL për të personalizuar modelet e AI për bizneset, duke ofruar zgjidhje të dedikuara për nevojat e tyre. Kjo përputhet me vizionin e Murati, e cila në korrik u shpreh se produkti i parë i laboratorit do të shfaqet në muajt në vijim dhe do të jetë i dobishëm për studiuesit dhe startup-et që zhvillojnë modele të personalizuara.
Ende nuk është e qartë nëse ky produkt do të përdorë teknikat e përshkruara në këtë kërkim për të gjeneruar përgjigje më të riprodhueshme, por publikimi i hulumtimit tregon qartë drejtimin e laboratorit.
Laboratori ka njoftuar gjithashtu se do të publikojë rregullisht postime, kode dhe materiale të tjera kërkimore për të kontribuar në përfitimin publik dhe për të përmirësuar kulturën e vet kërkimore. Ky postim është pjesë e serisë së re “Connectionism”, që pritet të shërbejë si hapësirë për ndarjen e njohurive.
Ndërkohë, krahasimi me OpenAI është i pashmangshëm. OpenAI, që në fillim premtoi hapje të plotë kërkimore, është bërë gjithnjë e më e mbyllur teksa është rritur. Mbetet për t’u parë nëse Thinking Machines Lab do të mbajë fjalën për transparencë.
Publikimi ofron një dritare të rrallë në një nga startup-et më të fshehta të Silicon Valley. Megjithëse nuk zbulon të gjitha drejtimet teknologjike, ai tregon se laboratori po merret me një nga sfidat më të mëdha të kërkimit në AI.
Suksesi i kësaj nisme do të varet nga aftësia e laboratorit për të kthyer kërkimin në produkte të suksesshme që justifikojnë vlerësimin marramendës prej 12 miliardë dollarësh.