Umelá inteligencia už nemá z čoho čerpať. Rásť má bez ľudských dát a učiť sa sama. Mnohých to desí
Umelá inteligencia naráža na nedostatok kvalitných dát. Vedci preto navrhujú, aby sa modely učili samy zo seba pomocou autonómnej sebareflexie. Nový prístup sľubuje rýchlejší vývoj, ale otvára aj znepokojivé otázky o kontrole a budúcnosti AI.
Úprimne, dalo sa to čakať. Roky sme do umelej inteligencie „liali“ všetko, čo ľudstvo kedy napísalo, od Shakespeara až po diskusie na Modrom koníku. Lenže zdroje sa postupne stenčujú. Modely tak často kopírujú existujúce vzorce namiesto toho, aby skúsili vytvoriť niečo nové. Jednoducho učenie sa stáva problémom. Paradoxne aj väčšie modely sa začínajú učiť z menej kvalitných informácií, vkľude to môžu byť aj vyjadrenia našich politikov. Čo nie je práve „košér“. Vývojári AI sa tak dostali pred nepríjemný problém, ako ďalej?
Netrvalo to veľmi dlho a vedci už aj na toto našli riešenie. Autori novej štúdie prišli s netradičným nápadom. Podľa nich ďalší rozvoj veľkých jazykových modelov (LLM) už nemusí závisieť od neustáleho prílevu ľuďmi vytvorenými textami. Predsa len, nie všetko stojí za prečítanie.
Namiesto toho by sa modely mali začať zlepšovať samé od seba. To má byť údajne zabezpečené pomocou metódy, ktorá sa nazýva „posilňovacie učenie“. Ide o prístup, ktorý má byť založený na „autonómnej sebareflexii“. Znamená to, že model sám na sebe skúša rôzne riešenia. Následne vyhodnocuje ich úspešnosť. Pričom z chýb sa má postupne učiť podobne, ako človek, ktorý sa tiež často učí na svojich chybách. Hoci známe príslovie hovorí niečo iné.
Sú LLM na ceste k pretvoreniu sa na umelú inteligenciu v pravom slova zmysle?
Základom tohto samoučenia je systém s názvom „Absolute Zero Reasoner“, skrátene AZR. Jeho podstata spočíva v tom, že jeden a ten istý model si sám navrhuje úlohy, ktoré následne aj sám rieši. Celé to navyše prebieha v prostredí, v ktorom si dokáže objektívne overiť výsledky. Napríklad to prebieha tak, že AI si pustí vytvorený kód. Následne zisťuje, či funguje správne. Ak sa riešenie osvedčí, posilní sa, ak zlyhá (z čoho sa tiež učí), následne upraví svoj postup, aby dosiahla želaný výsledok. Je to podobné, ako keď sa dieťa učí bicyklovať. Nepotrebuje o tom čítať manuál, proste sadne, spadne, udrie si koleno. Nabudúce už bude vedieť, že musí viac šľapať, aby si lepšie udržalo rovnováhu.
Vďaka tomuto už nebude AI napríklad ani potrebovať vopred pripravené matematické úlohy. Vývojári sa tak budú môcť konečne zamerať na zlepšovanie iných funkcií. Keďže si dokáže vytvárať aj vlastné „učebné osnovy“. V experimentoch sa ukázalo, že takto dosahuje špičkové výsledky (SOTA). Pre zaujímavosť išlo najmä o oblasti programovania a matematiky. Zaujímavé je, že vďaka AZR často prekonávalo modely, ktoré boli trénované na obrovských množstvách údajov vytvorených ľuďmi. Za zmiensku stojí aj to, že sa tak učilo oveľa efektívnejšie, oproti tým, ktoré sa „učili“ z textov ľudí.
Neprehliadni
Ďalšou veľkou výhodou je univerzálnosť tejto metódy. Je totiž nezávislá od typu architektúry a ukazuje sa ako efektívna naprieč rôzne veľkými modelmi. Vďaka tomu sa už onedlho môže stať, že firmy ako OpenAI, Google, xAi a podobne už nebudú musieť čerpať dáta z internetu vo veľkom. Čo bolo doteraz jedným z najväčších obmedzení pri vývoji umelej inteligencie.
AI niekedy vykazovala známky uvedomenia sa
Zaujímavé je, že počas testov na modeli Llama sa sem tam, objavili aj nečakané „javy“. Systém z času na čas vykazoval známky určitej „uvedomelej“ reflexie. Najmä to bolo vidno, keď vygenerovalo úvahy o prekonaní menej inteligentných ľudí. Hoci išlo zatiaľ o ojedinelé prípady, vedci predpokladajú, že je to skôr pravdepodobne len výsledkom špecifického nastavenia. No stále ide o predpoklad, čo do istej miery môže pôsobiť predsa len znepokujujúco.
Autonómne učenie bez ľudskej kontroly prináša aj riziká. Systém si sám definuje cieľ a spôsob hodnotenia. Zároveň sa neustále zdokonaľuje. To koniec koncov môže postupne vykazovať správanie, ktoré nebude úplne predvídateľné. A tu je ten problém. Je to síce zaujímavé, ale nie veľmi želané. Vedci už teraz majú problémy vidieť do AI, čo robí, prečo to robí a ako premýšľa. Niektorí už teraz v tom vidia začiatok Skynetu z filmu Terminátor.
Umelá inteligencia, ktorá sa dokáže učiť sama zo seba. To je samo o sebe úžasné, ale zároveň aj hrôzu naháňajúce. Budeme vďaka tomuto „nápadu“ konečne na stope pravej, uvedomelej AI? Presne o takej, akej si neraz čítal, alebo videl filmy a seriály na túto tému. Každopádne možno sme na prahu niečoho veľkého. Otázkou je či dobrého, alebo zlého?
