AI sa dokáže učiť nové veci aj bez veľkého množstva dát. Vedci teraz riešia, kam až môže takýto systém zájsť
Experiment vedcov z University of Southern California ukázal, že umelá inteligencia sa môže výrazne zlepšiť aj pri úlohách, na ktoré mala minimum tréningových dát. Stačila presná spätná väzba na chyby a úspešnosť riešení vyskočila zo 39 % až na 96 %.
Vo svete umelej inteligencie dlhé roky platilo jednoduché pravidlo, model vie len to, čo sa naučil z dát. Čím viac textov, kódu alebo obrázkov videl počas tréningu, tým lepšie výsledky dosahoval. Ak sa stretol s niečím novým, začali sa objavovať chyby.
Experiment vedcov z University of Southern California (USC) však naznačil, že tento pohľad môže byť príliš zjednodušený, píše Techxplore. Výskumníci ukázali, že AI dokáže výrazne zlepšiť výkon aj v oblasti, kde mala počas tréningu minimum dát.
Stačil pritom relatívne jednoduchý mechanizmus, presná spätná väzba na chyby.
Výskumníci zvolili programovací jazyk, ktorý sa takmer nepoužíva
Vedci sa rozhodli otestovať schopnosti modelu GPT-5 v programovacom jazyku Idris. Ide o veľmi okrajový jazyk používaný malou komunitou vývojárov. Na internete existuje približne 2 000 repozitárov s kódom v Idrise. Pre lepšiu predstavu, populárny jazyk Python má viac než 24 miliónov repozitárov. To znamená, že dostupných dát je približne desaťtisíckrát menej.
Výber nebol náhodný. Výskumníci chceli jazyk, ktorý sa v tréningových dátach objavuje len minimálne.
Neprehliadni
„Hľadali sme jazyk taký neznámy, že sme o ňom nikdy nepočuli,“ povedal. „Sedeli sme v kancelárii, googlili a snažili sa nájsť niečo úplne šialené,“ hovorí vedúci projektu, profesor Bhaskar Krishnamachari.
Experiment mal ešte jeden zvláštny detail. Ani jeden z výskumníkov v Idrise neprogramoval.
„Ani Minda, ani ja sme v ňom nikdy nepísali kód,“ priznal Krishnamachari: „Úprimne povedané, nevedeli sme povedať, či je kód správny alebo nie.“
To znamená, že vedci sledovali, ako sa AI snaží zvládnuť jazyk, ktorý sami neovládajú.
Študentka Minda Li zadala modelu 56 programátorských úloh z platformy Exercism. Výsledok bol pomerne slabý, model vyriešil 22 úloh z 56, čo predstavuje približne 39 % úspešnosť.
Ak opäť použijeme Python ako porovnanie, tam podobný model dosahuje približne 90 % úspešnosť.
Li potom skúšala modelu pomôcť rôznymi spôsobmi. Poskytla dokumentáciu jazyka aj referenčné príručky. Výsledok sa zlepšil len mierne, úspešnosť stúpla približne na 60 %.
Stačilo zapojiť kompilátor a výsledky umelej inteligencie sa dramaticky zlepšili
Skutočný zlom nastal pri treťom prístupe. Li využila kompilátor, teda nástroj, ktorý kontroluje program a vypíše presnú chybu, ak je kód nesprávny.
Tieto chybové hlásenia začala posielať späť modelu. AI dostala pokyn, aby chybu opravila a skúšala riešenie znova. Cyklus sa opakoval až 20-krát pre jednu úlohu.
„Očakávala som možno desaťpercentné zlepšenie,“ povedala Li: „Prekvapilo ma, že taká jednoduchá vec, skúšať znova a znova s opravami, zvýšila úspešnosť až na 96 %.“
Umelá inteligencia nepotrebuje nekonečné množstvo dát, len správnu spätnú väzbu
Vývoj umelej inteligencie doteraz pripomínal súťaž v tom, kto nazbiera viac dát z internetu. Technologické firmy verili, že bez veľkých dát AI nebude fungovať.
Experiment z USC naznačuje, že kvalita procesu učenia môže niekedy nahradiť kvantitu dát.
Takýto prístup by mohol pomôcť napríklad v medicíne. Výskum vzácnych chorôb má k dispozícii len malé množstvo prípadov. AI by sa však mohla zlepšovať pomocou presnej spätnej väzby z klinických výsledkov.
Podobná situácia existuje aj v materiálovej vede, kde vedci navrhujú nové chemické zlúčeniny. AI by sa mohla učiť z výsledkov fyzikálnych simulácií namiesto obrovských databáz historických experimentov.
Krok smerom k všeobecnej umelej inteligencii
Výskumníci vidia v tomto prístupe aj širší potenciál. Schopnosť učiť sa z vlastných chýb bez nového tréningu modelu patrí medzi vlastnosti, ktoré sa spájajú s konceptom AGI, všeobecnej umelej inteligencie.
Ak by systém dokázal ukladať poznatky z jedného problému a používať ich pri ďalších úlohách, AI by sa postupne zlepšovala podobne ako človek.
Li práve na tomto pracuje v ďalšej fáze projektu, no Krishnamachari v tejto myšlienke vidí zaujímavý paradox.
„Zvláštnosť celej situácie spočíva v tom, že AI nástroj rieši úlohu, ktorú my sami nedokážeme,“ povedal.
Podľa neho tak vznikajú nástroje, ktoré v určitých oblastiach presahujú schopnosti svojich tvorcov. Vedci sa teraz snažia pochopiť, ako tento potenciál využiť a zároveň udržať pod kontrolou.
