Klubovňa s Andrejom Lúčnym

Ako môže stroj pomocou jazykového modelu čítať ako človek

Experta na umelú inteligenciu sme už mali v klubovni viackrát, v tejto oblasti však rastú poznatky raketovým tempom.

Veľký úspech veľkých jazykových modelov ako je ChatGPT viedol ku snahe podobným spôsobom  pristúpiť ku spracovaniu obrazu, čoho výsledkom bolo vytvorenie vizuálnych transformerov (ViT). Ich kombináciou s jazykovým modelom sa podarilo prvý krát urobiť holistické OCR, t. j. strojové čítanie textu, ktoré nefunguje po písmenách ale naraz ako kus textu. Takýmto modelom je napríklad TrOCR, ktorý v sebe spája vizuálny kóder DeIT a jazykový dekodér z modelu Roberta. Taký systém vykazuje dokonca podobné chyby aké pri čítaní robí človek.

Kombináciou vizuálneho a jazykového modelu možno urobiť aj viac. Populárny je dnes napríklad model CLIP spájajúci v sebe vizuálny a jazykový kóder, ktorý vie odlíšiť akýkoľvek objekt, ktorý vieme slovne pomenovať či opísať od iného takého objektu. Vývoj umelej inteligencie sa tak dostáva do fázy,  kedy používatelia nepotrebujú modely pretrénovať na svojich dátach, ale miesto toho do nich vložiť opis svojej aplikácie vo forme prirodzeného jazyka.

V prednáške vysvetlíme, čo sa nachádza vo vnútri týchto modelov a vďaka čomu fungujú. Poslucháč pritom zistí, že sa vedcom ani tak nepodarilo urobiť skvelé produkty vedy a techniky, lež podarilo sa im ukázať, že úžasné schopnosti ľudí môžu fungovať na pomerne primitívnom princípe.

Prednášajúci: RNDr. Andrej Lúčny, PhD., mensan,  do súčasnosti pôsobil niekoľko rokov  na Katedre aplikovanej informatiky na Matfyze v Bratislave, kde vyštudoval (pod vedením prof. Jozef Kelemena) odbor umelá inteligencia a získal doktorát z aplikovanej informatiky. V súčasnosti pôsobí v komerčnej sfére (MicroStep-MIS, ME-Inspection). Je spoluzakladateľom občianskych združení Robotika.SK a Trojsten. Istý čas pôsobil ako hlavný porotca Central European Regional ACM Programming Contest a je pravidelným porotcom súťaže mobilných robotov ISTROBOT.

Link na online: https://us06web.zoom.us/j/89037769695?pwd=y7OvbOMIbukOVueBXuJx6juJXZMoVw.1