Podcast #6: Umelá inteligencia v praxi – tipy, nástroje a bezpečné využívanie

V ďalšej epizóde podcastu Na vlne kódu sme sa inšpirovali poslucháčmi. Ponoríme sa hlbšie do sveta AI spolu s dátovým vedcom Michalom Bystrickým a systémovým administrátorom Jakubom Novákom z msg life Slovakia. Počúvaj a získaj cenné tipy, ako sa dá AI efektívne využiť v praxi a ako si z nej môžeš spraviť pomocníka namiesto konkurenta.  

AI éra je už tu a neustále napreduje. Je jasné, že sa s ňou budeme stretávať čoraz častejšie a závisí len od nás, či nás posunie vpred a otvorí nové možnosti alebo nás nechá stáť na mieste. Umelá inteligencia nám môže pomôcť ušetriť čas a energiu na veci, ktoré nás skutočne bavia. Dnes sa pozrieme na užitočné tipy ako efektívne využívať nástroje AI.  

Naše pozvanie prijali dátový vedec Michal Bystrický, špecializujúci sa na jazykové modely a predikciu trendov, a systémový administrátor Jakub Novák, ktorý AI denne využíva pri optimalizácii procesov a pomáha mu vyhnúť sa preťaženiu. Započúvaj sa do epizódy s názvom AI v praxi s našou HR manažérkou Ivanou Hricovou alebo si prečítaj jej prepis. 

Michal, ako by si niekomu, kto o AI veľa nevie, vysvetlili, čo to vlastne je? 

Michal: AI vnímam ako zjednodušený ľudský mozog, pretože medzi nimi vidím veľa podobností. Najnovšie modely už dokážu selektívne zabúdať nepodstatné informácie a podobne ako my si pamätajú si len dôležité fakty. Google koncom roka 2024 predstavil v článku „Learning to Memorize at Test Time“ novú generáciu modelov Titans, známu aj ako Transformers 2. Novinka spočíva v tom, že tieto modely sa učia nielen počas tréningu, ale aj počas testovacieho času (inference zime) – teda v momente, keď s nimi interagujeme. 

To znamená, že ak model AI napríklad požiadame, aby bol striktnejší, zapamätá si to a pri ďalšej odpovedi už bude striktnejší. Tento proces je teraz zabudovaný priamo do modelu, takže už nie je potrebné používať externé aplikácie na správu pamäte, čo ho robí flexibilnejším a schopnejším prispôsobiť sa novým situáciám. 

Ďalšia fascinujúca vec je spôsob, akým si modely ukladajú informácie. Nový výskum ukazuje, že tento model AI sa učí lepšie, keď ho niečo prekvapí, podobne ako ľudia. Keď narazí na nečakanú informáciu, zapamätá si ju rýchlejšie. Vedci sa tak snažia replikovať spôsob, akým funguje náš mozog – čím viac podnetov o nejakej udalosti máme, tým hlbšie si ju zapamätáme. 

AI sa tiež učí postupne zabúdať nepodstatné detaily, aby sa nestratila v množstve informácií. Článok tiež popisuje, že pamäť je súčasťou neurónovej siete a nové modely majú tri formy pamäte – krátkodobú, dlhodobú a perzistentnú, čo im umožňuje selektovať relevantné dáta a lepšie reagovať na nové situácie. 

Jakub, aký je tvoj názor?  

Jakub: Ja by som to vysvetlil jednoduchšie. Pre mňa AI stále nie je na úrovni ľudského mozgu, hoci k tomu smeruje. Vývojári využívajú princípy, ktoré už poznáme z prírody – keď niečo funguje v biologickom svete, snažia sa to aplikovať aj na stroje. Robíme to pri výrobe áut, lietadiel, pri optimalizácii systémov a teraz aj pri umelej inteligencii. Čiže podľa mňa sa to stále snaží priblížiť k tomu mozgu, ale pre mňa je to stále nejaká online simulácia niečoho, čo má mozog replikovať. 

Ak by som mal AI popísať niekomu, kto o nej ešte nikdy nepočul, povedal by som, že je to malý pomocník, ktorý dokáže pomôcť takmer s čímkoľvek – od písania, cez riešenie technických problémov. Nie je dokonalá, ale čím lepšie ju využiješ, tým viac ti ušetrí času a energie. 

Takže AI sa inšpiruje ľudským mozgom – dokáže sa učiť počas používania, zapamätať si dôležité informácie a postupne zabúdať nepodstatné detaily. Napriek tomu má stále ďaleko k zložitosti nášho mozgu. Vývojári však čoraz viac uplatňujú jeho princípy, aby AI fungovala efektívnejšie. Správne? 

Michal: Ja by som nadviazal na Jakuba, keď spomenul, že AI je len online simulácia. A čo ak je aj ľudský mozog istou formou simulácie inteligencie? Celý vesmír, vrátane nás, funguje na základe fyzikálnych zákonov a chemických procesov. Ľudská inteligencia je výsledkom neurálnych spojení a chemických signálov, ktoré sme zatiaľ pochopili len čiastočne. Čo ak je aj ona len biologickou simuláciou? Prečo si myslíme, že tá naša je tá „pravá“? Možno sme len zaujatí vlastnou subjektivitou a skúsenosťami. 

Jakub: Toto je už na mňa priveľmi filozofické na to, že je jedenásť hodín a mám pred sebou dlhý deň. Nerád by som si „uvaril mozog.“ 😊 

Poďme teda do praxe. Aký bol prvý nástroj umelej inteligencie, ktorý ste použili? Bol to ChatGPT alebo niečo menej známe? A aká bola vaša prvá reakcia? 

Michal: Prvý prelomový článok, ktorý ma ovplyvnil, bol „Attention is All You Need“ od Google. Predstavil prvú generáciu Transformer modelov a mechanizmus self-attention, vďaka ktorému model dokáže analyzovať rôzne časti vstupného textu s rôznou mierou pozornosti. Tento koncept sa stal základom pre ďalšie modely, ako sú BERT a GPT, ktoré sa začali špecializovať na rôzne úlohy – GPT na konverzáciu, BERT na klasifikáciu. 

Čo sa týka môjho prvého reálneho kontaktu s AI, zásadným zlomom bolo GPT-3 v roku 2020. Tento model priniesol oveľa sofistikovanejšie prejavy inteligencie, čo bolo pre mňa veľkým prekvapením. V tej dobe sa objavil aj ďalší významný článok „Scaling Laws for Neural Language Models“, ktorý sa zaoberá zákonmi škálovania. Autori v ňom ukázali, že zvyšovanie veľkosti modelu, množstva trénovacích dát a výpočtového času má priamo predvídateľný vplyv na zlepšenie jeho výkonu. Tento princíp je dnes základom pre vývoj pokročilých jazykových modelov. 

Jakub: Ja som začal experimentovať s rôznymi online platformami, ktoré vedeli preformulovať text, rozšíriť ho alebo zmeniť jeho tón. Nebolo to však nič prevratné – vždy bolo potrebné poskytnúť vstupný text a nástroje si často informácie vymýšľali. V praxi som ich teda využíval len občasne. 

Najväčší problém bol v tom, že keď AI niečo doplnila, musel som si výsledok dôkladne skontrolovať, pretože často generovala nesprávne alebo úplne vymyslené informácie. Buď som nevedel správne promptovať, alebo bol samotný model ešte nedokonalý. Nedokázal som dosiahnuť konzistentne kvalitný výstup. 

Zlom prišiel v roku 2023, keď OpenAI uvoľnilo GPT-3. To bol moment, keď sa umelá inteligencia naozaj rozbehla a dostala do podoby, akú poznáme dnes. Pre bežných používateľov bol tento skok obrovský. Práve v tom roku GPT-3 získalo obrovskú popularitu – len za prvý týždeň sa naň zaregistrovalo milión používateľov. To ukazuje, aký masívny dopyt bol po tejto technológii a aké rýchle bolo jej prijatie verejnosťou. 

Ako vlastne umelá inteligencia funguje? Ako rozumie našim potrebám, predvída ich a reaguje tak, aby nám zjednodušila život? 

Michal: Ak sa bavíme o jazykových modeloch, ich základom je predikcia ďalšieho slova – na základe predchádzajúceho textu odhadujú, čo bude nasledovať. Je to v podstate ako nejaká štatistická regresia. AI modely sú vlastne veľké štatistické modely, ktoré sa učia z obrovského množstva dát z internetu. 

Zaujímavé je, že takmer všetky dostupné dáta už boli využité, preto sa dnes výskum zameriava na tvorbu syntetických dát pre ďalšie zlepšovanie modelov. Nová generácia modelov, ako spomínané Transformers 2, prináša zásadnú zmenu – práve my budeme môcť rozšíriť tie modely počas testovacieho času (inference time). To znamená, že modely sa dokážu učiť, prispôsobovať a upravovať svoje odpovede počas toho, ako ich dopytujeme. Tým sa stávajú ešte presnejšími a efektívnejšími. 

Jakub, aký je tvoj pohľad? 

Jakub: Ja sa na to pozerám skôr zo strany používateľa. Každý deň pracujem primárne s modelmi od OpenAI – GPT, DALL–E a najnovšie aj Sora. Nehovorím, že iné modely sú zlé, no mne najviac vyhovujú práve tieto. 

Pre mňa nie je až tak dôležité, ako presne fungujú, ale čo mi vedia priniesť. Keď si vyberám nástroj, skúmam ho podľa troch hlavných kritérií: 

• Pomôže mi v osobnom rozvoji? Získam z toho nejaké cenné informácie poznatky, pomôže mi to rozšíriť obzory? 

• Ušetrí mi čas? Dokáže mi uľahčiť prácu alebo optimalizovať úlohy, prinesie mi časom nejakú pridanú hodnotu v práci alebo v osobnom živote? 

• Dokáže mi to zarobiť peniaze? Viem ho využiť na niečo, čo mi pomôže vrátiť späť peniaze minuté na využívanie nástroja? 

Pri GPT-čku som si už po pár dňoch uvedomil, že je to nástroj, ktorý mi pomôže rýchlo rásť a ušetriť čas. 

Čím ťa ChatGPT najviac uchvátil? Kedy si si povedal, že toto budem využívať, toto sa mi oplatí? 

Jakub: Prvýkrát som ho použil na strednej škole. Vtedy som ešte nevedel, ako správne promptovať, čo mám napísať, aby som dostal požadovaný výstup. Bol okolo toho veľký boom – milión používateľov za menej ako týždeň, takže som mal obavy, že ho stiahnu. Systém často padal, bol preťažený. Snažil som sa ho naučiť používať, kým sa stane nedostupným. To sa však nestalo, postupne sa vyvíjal a dnes je v oveľa lepšej forme. 

Dnes mi AI šetrí hodiny práce a množstvo mentálnej energie. Preberá úlohy, ktoré by ma inak vyčerpávali – napríklad pri vývoji konceptov. Nedávno som potreboval navrhnúť nový model a GPT mi pomohol analyzovať kroky, určiť ďalší postup a v priebehu deviatich hodín som mal funkčný koncept. Nemusel som manuálne analyzovať všetky detaily, ani písať zdĺhavú dokumentáciu – GPT presne vedel, čo urobilo, napríklad navrhlo časť kódu a dokázalo to jasne opísať. 

Okrem kreatívnej podpory mi AI pomáha aj pri rozhodovaní. Keď mám viac možností, vypíšem kľúčové body a pomôže mi vyhodnotiť, ktorá je najvýhodnejšia z logického hľadiska. Niekedy je užitočné mať nezávislý pohľad a umelá inteligencia mi ho dokáže ponúknuť. 

Keďže témou je AI v praxi, mohli by ste uviesť obaja niekoľko ďalších príkladov, ako ju efektívne používať a ako často s ňou prichádzate do kontaktu? 

Michal: V prvom rade AI používam v práci – pri programovaní a trénovaní modelov. Veľké jazykové modely nám pomáhajú vyhľadávať informácie a optimalizovať procesy. 

Okrem toho využívam AI aj v investovaní, obchodovaní a sledovaní noviniek. Pracujem s modelmi časových radov, ktoré dokážu predikovať trendy, pričom si niektoré modely vytváram sám. Sú omnoho sofistikovanejšie než bežné štatistické indikátory, ako napríklad kĺzavé priemery. Rovnako používam modely vizuálnej analýzy, ktoré dokážu spracovať obrázky a analyzovať grafy, identifikovať úrovne či trendy a následne ich využiť v rôznych aplikáciách. 

AI mi však pomáha aj pri bežnom učení a lepšom porozumení svetu. Dnes je pomerne jednoduché pochopiť komplexné výskumné texty – stačí ich vložiť do ChatGPT a nechať si ich vysvetliť jednoduchým jazykom. Každý si to môže vyskúšať. Je to naozaj veľká pomoc, najmä ak nepoznáš odborné vzorce či terminológiu. Odporúčam každému, nech si to vyskúša na téme, ktorej nerozumie, ako to dokáže AI vysvetliť. 

A teraz trochu odľahčene – AI používam aj na netradičné veci. Napríklad cez víkendy si rád pripravujem kreatívne raňajky a na tanieri vytváram rôzne obrazy z vajíčok a zeleniny. Posledný level tejto zábavy? Nechám AI analyzovať môj „umelecký výtvor“ a povedať mi, čo na ňom vidí. Je fascinujúce, ako dokáže rozpoznať rôzne vzory – tam, kde ja vidím sopku s lávou zo žĺtka, AI zeleninu okolo interpretuje napríklad ako kvety. Často sa až spätne zamyslím a vidím v tom obraze niečo nové. Je to taký nečakaný kreatívny experiment. 

Jakub, čo by si ešte doplnil z praxe? 

Odkedy mám v GPT možnosť prehľadávať internet a získavať zdroje, tak oveľa menej gúglim. Keď niečo potrebujem, najskôr sa spýtam GPT a až potom zamierim do vyhľadávača. AI mi totiž urobí rýchly výcuc informácií a priamo mi poskytne zdroj, čo mi šetrí čas. 

Dôležité pre mňa je, odkiaľ informácia pochádza, nie len čo mi AI povie. Mňa nezaujíma čo mi povie, mňa zaujíma, odkiaľ to vzal. Preto sa vždy pýtam na zdroj. Čiže nemusím ani formulovať prompty. Stačí mi stručne popísať problém a GPT mi pomôže nájsť odpoveď rýchlejšie, než keby som sa snažil správne formulovať otázku v Google. 

Aké praktické využitie ChatGPT by ste poradili úplným začiatočníkom, ktorí nevedia, ako začať, ale aj pokročilým používateľom? 

Michal: ChatGPT je určite vzrušujúci nástroj. Umožňuje spracovávať text, analyzovať obrázky, rozmýšľať a robiť rozhodnutia. Veľmi mi uľahčuje prácu, a to hlavne v troch oblastiach. 

Pre tých, ktorí vyvíjajú systémy, ako ja – modely nám pomáhajú eliminovať šum od vstupu používateľa. Kedysi musel používateľ presne formulovať, čo chce, ale dnes to už nemusí byť také exaktné. Model rozumie približnému zadaniu a dokáže z neho extrahovať to podstatné. Napríklad, keď programujem, nemusím písať celé vety, stačí mi dvoj-troj slovný opis, pár kľúčových slov a model už vie, čo potrebujem. 

Druhá oblasť je logika a schopnosť „rozmýšľať“. Niekedy postavím viacero AI modelov proti sebe – jeden vezme môj vstup a generuje výstup, teda to čo od neho chcem. Druhý kritizuje to, čo vyprodukoval prvý. A tretí funguje ako moderátor konsenzu. Nechám ich tak pracovať aj pol hodinu, a tým pádom získam rôzne pohľady na problém. Často to vedie k riešeniam, na ktoré by som sám neprišiel. 

Tretia oblasť je spracovanie komplexných tém a komunikácia v reálnom čase. ChatGPT mi pomáha pochopiť aj úplne nové alebo zložité témy bez toho, aby som bol na ne expert. Stačí, že sa ho opýtam a on mi to vysvetlí v jednoduchej forme. Navyše, Advanced Voice Mode je ďalšia funkcia, ktorú často využívam – umožňuje AI reagovať prirodzene. Dokonca ju môžem prerušiť a upraviť otázku, ak chcem odpoveď iným smerom. Pre mňa je to doslova digitálny parťák, s ktorým preberám rôzne témy, napríklad cestou z práce. 

Jakub, aký je tvoj pohľad na ChatGPT? 

Jakub: Využívam ho denne – je to pre mňa kľúčový nástroj. Skôr si ale všímam, ako ho vnímajú ľudia okolo mňa, ktorí s AI nemajú veľké skúsenosti. Často ho berú ako veštca, ktorý im okamžite dá odpoveď presne na to, čo potrebujú. Lenže tak to nefunguje. 

To, čo Michal spomenul – že stačí napísať dve – tri slová a model si to domyslí, je pravda, ale len vtedy, keď už má nejaký kontext. Ja ho tiež používam tak, že zadám krátky súhrn a ChatGPT pochopí, čo potrebujem. Ale ak začnem úplne novú konverzáciu, výsledky môžu byť úplne mimo, pretože model nemá predchádzajúce informácie. 

Povedzme si to na príklade. Predstav si, že chcem jesť. Prídem k tebe a poviem ti: „Urob mi moje obľúbené jedlo.“ Ako by si reagovala? Nemáš poňatia, čo je moje obľúbené jedlo. Čiže asi by si skúsila improvizovať, lebo musíš niečo urobiť. Musíš vrátiť nejakú odpoveď. Asi by si skúsila pripraviť niečo, čo si myslíš, že by som mohol chcieť. Ale bolo by to naozaj to, čo chcem? Asi nie. A rovnako funguje aj ChatGPT – ak mu neposkytneš kontext, musí si domýšľať. 

Ak by som ale prišiel s rovnakou otázkou za mamou alebo babkou, ktoré ten kontext majú, hneď by vedeli, čo mám rád. Nemuseli by hádať. To isté platí aj pre umelú inteligenciu – ak má kontext, pracuje presnejšie. Netreba sa báť AI trochu viac naviesť, komunikovať s ňou. Môžeš jej na začiatku dať viac detailov. Opýtaj sa jej, aký vstup od teba potrebuje, aby ti dala požadovaný výstup. 

Ľudia vnímajú ChatGPT ako veštca, ktorý im okamžite odpovie na všetko, čo potrebujú. AI pracuje presnejšie, ak má kontext.  

Jedno je ale isté – AI ti nenavarí také dobré jedlo ako babka. 

Jakub: To určite nie. Ale napríklad pred dvoma týždňami som chcel pripraviť večeru a mal som len zopár surovín. Dal som ich do ChatGPT a spýtal som sa, čo by sa z toho dalo uvariť. Výsledok bol prekvapivo chutný. Takže aj keď nenavarí, dokáže vymyslieť zaujímavé recepty. 

Ako správne klásť ChatGPT otázky? Totiž nedávno som sa Michala spýtala jednoduchú otázku: „Kedy si sa narodil?“ A on odpovedal: „V máji.“ Bola som prekvapená, pretože som chcela vedieť rok, ale zle som otázku naformulovala. Funguje to podobne aj pri ChatGPT? Ak zle položíme otázku, dostaneme nepresnú odpoveď? 

Michal: Presne tak. Ak je otázka nejasná alebo príliš široká, dostaneme odpoveď v podobnom duchu. Platí tu jednoduché pravidlo – čím konkrétnejšia otázka, tým presnejšia odpoveď. 

Ľudia pri práci s AI robia viacero chýb. Jednou z nich je, že kombinujú príliš veľa otázok do jednej. Model sa potom môže „stratiť“ a neodpovie presne na to, čo chceme. Je preto dobré klásť otázky jasne a jednoznačne. 

Ďalšia častá chyba je, že ľudia slepo veria všetkému, čo AI vygeneruje. ChatGPT je síce veľmi pokročilý, ale stále môže produkovať nepresné alebo skreslené informácie. Preto je dôležité si fakty overovať, napríklad klasicky cez Google. Stačí napísať kľúčové slová a skontrolovať si zdroje. 

Mnohí tiež predpokladajú, že umelá inteligencia vie všetko, ale to nie je pravda. Jej znalosti sú obmedzené a nemá aktuálny prístup k všetkým informáciám. Ďalšia chyba je používanie príliš komplikovaného jazyka – ak je otázka zbytočne zložitá, model môže odpovedať menej presne. Najlepšie je formulovať otázky jednoducho a priamo. 

Ako teda začať s umelou inteligenciou a aké sú s tým spojené náklady? Poznáte zaujímavé nástroje, ktoré by ste odporučili poslucháčom? A na čo všetko sa dajú využiť? Respektíve, ako si vybrať ten správny AI nástroj a koľko mesačne miniete na predplatné AI softvéru? 

Jakub: Ja som momentálne bežný používateľ, nevyužívam AI cez API (webový prehliadač), aj keď mám na to účet. Aktuálne si platím len ChatGPT Plus, ale ak potrebujem niečo viac, môžem si priplatiť. V priemere ide o desiatky eur mesačne, čiže nič zásadné. Ak niekto začína úplne od nuly, určite odporúčam začať s GPT – základná verzia je zadarmo a stačí na zoznámenie sa s technológiou. 

Michal: Súhlasím. ChatGPT od OpenAI je najlepší štart – je zadarmo, hoci má limity. Ak človek narazí na obmedzenia, môže si priplatiť 20 dolárov mesačne za pokročilé funkcie. 

Ja však využívam AI aj cez API – píšem si program, ktorý sa napája na ChatGPT. Ako som už spomínal, staviam viac modelov proti sebe na kritické hodnotenie výstupov. Ak chceš mať prístup k najnovším modelom OpenAI cez API, musíš najprv minúť 1 000 dolárov, aby si získala status Tier 5 (dlhodobý používateľ) – teda úroveň, ktorá umožňuje využívať najnovšie verzie modelov. 

Zaujímavé je, že 20. januára vydala čínska spoločnosť DeepSeek nový otvorený model, dosahujúci výsledky O1, ktorý je aktuálne jeden z najlepších modelov. Otvorený znamená, že si ho môžeš nainštalovať priamo na svoj počítač a nemusíš posielať dáta na externé servery. 

Ak ide o používanie AI cez API a stačia ti aj slabšie modely, tak ceny sú v skutočnosti veľmi nízke – platí sa za tokeny (slová, ktoré model spracuje). Mesačne ma to vyjde asi 5 dolárov, čo je menej než predplatné ChatGPT Plus.  

Jakub: Ale zase, ak ide o pohodlie, stále je jednoduchšie zaplatiť 20 dolárov mesačne a mať to bez starostí v aplikácii. Ak by cena stúpla na 100 dolárov, už by som zvažoval vlastné riešenie, ale pri súčasnej cene mi to za ten komfort stojí. 

Michal, spomínal si pokročilé funkcie. Oplatí sa ich využívať? A na čo ich konkrétne využívaš? 

Michal: Napríklad jednou z nich je Advanced Voice Mode, o ktorom som už hovoril. To je funkcia, vďaka ktorej sa s AI môžem rozprávať v reálnom čase. Pôvodne bola dostupná len v platenej verzii, ale ak sa aj medzičasom sprístupnila širšiemu publiku, stále je tam nejaké obmedzenie. Ak teda chcete s AI brainstormovať alebo viesť prirodzenú konverzáciu, určite sa oplatí ju vyskúšať. 

Ďalšou pokročilou výhodou Plus verzie je prístup k najnovším modelom. Akonáhle OpenAI vydá nový model, predplatitelia ho dostanú ako prví, zatiaľ čo používatelia free verzie čakajú dlhšie. Ak teda chcete mať vždy k dispozícii to najnovšie a najvýkonnejšie, oplatí sa investovať do platenej verzie. 

Ak niekto uvažuje nad používaním nástrojov ako ChatGPT, čo by mal vedieť, aby z toho vyťažil maximum? Sú všetky verzie spoplatnené? Čomu by sa mal používateľ radšej vyhnúť? A v čom je platená verzia lepšia? 

Jakub: ChatGPT sa dá používať aj zadarmo. Dokonca istý čas bolo možné ho vyskúšať aj bez registrácie, neviem, či to ešte platí. V zásade stačí otvoriť web, zaregistrovať sa behom chvíľky, prípadne použiť Google účet na prihlásenie. 

Momentálne je k dispozícii GPT-4o s limitovaným prístupom. OpenAI priamo nezverejňuje, koľko správ alebo tokenov môžu používatelia bezplatnej verzie využiť. Ak však prekročíš limit, systém ťa prepne na GPT-3.5, alebo ťa vyzve, aby si sa vrátila o nejaký čas a môžeš znova využiť plnú verziu. A ak potrebuješ napísať viac, môžeš si doplatiť. Ak nepotrebuješ, neplatíš. Táto filozofia sa mi na OpenAI páči – umožnia prístup každému, keď vyvinú nejakú novinku. Najprv samozrejme platiacim používateľom, ale o pár mesiacov je uvoľnená v limitovanej verzii. 

Tých 20 dolárov mesačne za Plus verziu nie je veľká suma. Z môjho pohľadu je to dobrá investícia, pretože technológia sa neustále vyvíja. Pikoška, ktorú veľa ľudí nevie je, že OpenAI v posledných rokoch masívne podporil Microsoft, ktorý doň investoval okolo 13 miliárd dolárov. Mnohí ľudia si to neuvedomujú, ale vďaka tomu OpenAI disponuje značnými zdrojmi na vývoj. Microsoft zase tieto modely integruje do Bingu, Copilota a Bing chatu pri vyhľadávaní. Tam to beží GPT-4 Turbo, ktorý nie je dostupný priamo cez web ChatGPT. Ak si spustíš Bing chat, získaš prístup k verzii modelu, ktorá je výkonnejšia ako tá bežne dostupná v bezplatnej verzii ChatGPT. 

Čo sa týka verzií – dnes sú už všetky pokročilé AI modely spoplatnené. Pamätám si, keď OpenAI uvoľnilo DALL-E (generovanie obrázkov). Najskôr to bolo zadarmo s obmedzeným počtom tokenov mesačne. Bolo možné vygenerovať 10 až 15 obrázkov, každý token znamenal 4 obrázky. Dokázalo to vygenerovať na základe textu dosť abstraktné obrázky. Niečo, čo v podstate neexistovalo. Napríklad mačka na skateboarde alebo mačka ako astronaut vo vesmíre. 

Teraz sa objavujú modely o1 a o3, ktoré pokročili v logickom myslení a plánovaní. Zaujímavá je aj multimodálna AI Sora, ktoré spája text, obraz a video. Testujem v nej generovanie videí, ale ešte stále nie som úplne spokojný s výstupmi. 

Každý si musí vybrať model podľa toho, čo potrebuje. Ak by som s AI začínal od nuly, určite by som siahol po ChatGPT. Stačí sa zaregistrovať a vyskúšať ho. Ak ti stačí bezplatná verzia, super. Ak nie, vždy máš možnosť si priplatiť a využívať pokročilé funkcie. 

Aký je vlastne rozdiel medzi nižšou a najnovšou verziou, naozaj sa líšia až tak výrazne? Hovorili sme o rôznych modeloch – ChatGPT je dostupný aj zdarma, DALL-E sa viac sústreďuje na oblasť marketingu a grafického dizajnu, o1 je skôr na vedu a matematiku, teda na pokročilejšie analýzy. Pre bežného používateľa úplne postačuje ChatGPT? 

Jakub: Áno, presne tak, buď využiješ bezplatnú verziu alebo si zaplatíš predplatné. Ja osobne DALL-E a Soru nevyužívam tak často. Viem, že Sora má v rámci predplatného určité obmedzenia. Napríklad, aj keď si platiaci používateľ, nemôžeš generovať videá v najvyššej kvalite – mal som limit 4 sekundy na video a tiež obmedzený počet znakov v popise či celkový počet videí, ktoré môžem vygenerovať. Dáva to zmysel, pretože generovanie videa je oveľa náročnejšie na výpočtový výkon, ako keď si s ChatGPT píšem.  

Keď sa pýtaš na rozdiely, ide hlavne o rýchlosť odpovedí a dostupné funkcie. Ak vyčerpáš limit GPT-4o, automaticky ťa to prepne na o4-mini. Je o niečo pomalší a môže mať slabšiu kvalitu odpovedí a obmedzené funkcie. 

Ako sú vlastne nastavené tie algoritmy? Minule som rozmýšľala nad tým, kedy ma prepne z vyššej verzie na mini verziu. Ako to funguje? 

Jakub: To je presne to, čo spomínal Michal – ide o tokeny. Model počíta, koľko ich spotrebuješ – koľko vstupných aj výstupných slov bolo spracovaných. Keď narazíš na limit, jednoducho ťa prepne na slabšiu verziu. Nie je to náhodné, nie je to algoritmus, ktorý by ťa „vypol“ len tak. Proste ti oznámi, že si vyčerpala povolený počet tokenov a že sa môžeš vrátiť o pár hodín. 

Michal: Ešte by som doplnil k modelu o1 – nie je určený len na výskum a matematické analýzy. Má funkciu chain of thought, čo znamená, že pred odpoveďou určitý čas premýšľa. Výstupy sú potom logickejšie a kvalitnejšie. Pri jednoduchých otázkach odpovie rýchlo, ale ak dostane zložitejšiu úlohu, môže nad ňou rozmýšľať aj minútu. Takže podľa mňa je využiteľný aj pre bežných používateľov, nielen pre vedcov a analytikov. 

Jakub: To je dobrá poznámka, na toto som úplne zabudol. Pri modeli o1 je zaujímavé, že keď mu zadáš príkaz, nielenže ukáže, koľko sekúnd premýšľal. Ale ak na to klikneš, môžeš si pozrieť celý chain of thought – teda sled jeho úvah. 

Vidíš krok za krokom, ako model postupoval – čo zvážil, aké možnosti vyhodnotil, aké premenné bral do úvahy a prečo nakoniec dospel k určitému záveru. Nie je to teda len vygenerovaná random odpoveď alebo umelo oddialený čas reakcie. Naozaj vidíš, že prešiel nejakým logickým procesom, než ti poskytol finálnu odpoveď. 

Ako môžu IT profesionáli efektívne využívať AI nástroje vo firmách tak, aby boli v súlade s bezpečnostnými pravidlami? Na čo by si mali dať najväčší pozor? 

Jakub: Pre mňa je základné pravidlo jednoduché – žiadne citlivé údaje, či už firemné alebo súkromné. AI vnímam ako databázu, do ktorej síce ukladám určité informácie, ale nikdy tam neposielam nič dôverné. Či ide o firemné alebo súkromné dáta, vždy premýšľam, čo do AI posielam.  

Napríklad, keď riešim technický problém používateľa vo firme, nikdy tam nezadám konkrétne číslo stroja alebo citlivé údaje. Namiesto toho problém popíšem všeobecne: „Mám takýto a takýto problém, našiel som toto riešenie, ale potrebujem sa poradiť.“ Takto získam odpoveď, bez toho, aby som ohrozil bezpečnosť. 

Platí to isté, čo na internete. Ani na Facebook nedávaš fotky, ktoré nechceš, aby na teba niekto o 10 rokov vytiahol. S AI je to podobné – treba si dvakrát rozmyslieť, čo tam posielaš. Každý by si mal nastaviť vlastné hranice, ale určite je dobré používať AI s rozumom a dbať na bezpečnosť. 

Žiadne citlivé údaje z práce či súkromia do AI nástroja nepatria. 

Michal: Ešte by som to trochu rozšíril – nejde len o osobné či firemné dáta, ale aj o informácie, ktoré by mohli odhaliť fungovanie firmy, jej systémy, architektúru alebo strategické plány. Ak AI poskytneme detaily o tom, ako niečo plánujeme, môže sa to obrátiť proti nám. 

Je dôležité zdieľať čo najmenej konkrétnych informácií. Ak potrebujeme s AI konzultovať nejaký problém, je lepšie ho formulovať vo všeobecnej rovine, bez priamej spojitosti s našou firmou či projektom. 

Ak niekto modelom vôbec nedôveruje a nechce, aby dáta opustili jeho počítač, môže si ich spustiť lokálne na svojom počítači. Na rýchly chod AI modelov však treba výkonnú grafickú kartu – ideálne dve, s minimálne 45 až 55 GB NVRAM. 

Medzi otvorené modely, ktoré si môžete nainštalovať, patria napríklad Llama 3.3 alebo niektoré Vision modely schopné analyzovať obrázky. Dnes sa dá taká zostava s potrebným výkonom kúpiť za približne 1 000 eur. Ak hľadáte výhodnú možnosť, tak NVIDIA 3090. Z druhej ruky sa dá zohnať okolo 500 eur. Pri nej stále platí najlepší pomer cena/ výkon.  

AI model sa dá spustiť aj bez grafickej karty, ale potom sa všetko vykonáva v RAM-ke a na procesore, čo je extrémne pomalé. Existuje aj možnosť kombinácie – časť modelu môže bežať v RAM a časť na grafike, ale stále to nie je ideálne. 

Jakub: Rozdiel je v počte procesorov. GPU má oveľa viac výpočtových jadier ako bežné CPU. Preto sú grafické karty v AI nevyhnutné – zvládnu paralelné výpočty oveľa rýchlejšie. 

Michal: Malé modely do 10 GB VRAM sa síce dajú použiť, ale ich schopnosti sú dosť obmedzené. Fungujú na jednoduché úlohy, ale veľa muziky s nimi neurobíte. 

Využili ste niekedy AI aj na niečo nezvyčajné. Napríklad v čom vás tento nástroj milo prekvapil alebo aj nemilo? 

Michal: Používam aj čínske modely a je fascinujúce, ako fungujú pri analýze obrázkov. Model najprv extrahuje prvky z obrázka a potom nad nimi premýšľa. Nedávno som narazil na zaujímavú situáciu – analyzoval som anglický text. Keďže išlo o čínsky model, nesprávne ho interpretoval ako čínske znaky. To je príklad, ako tréningové dáta ovplyvňujú fungovanie AI. Pri vývoji týchto systémov sa s podobnými prekvapeniami stretávam často – nie vždy sú príjemné. 

Michal a Jakub, ďakujem vám, že ste nám dnes priblížili svet umelej inteligencie. Ak by ste mali poslucháčom na záver odporučiť jednu vec, čo by to bolo? 

Jakub: Nebať sa AI! Veľa ľudí panikári, že im AI vezme prácu. Ale pozrime sa do histórie – ľudia kedysi orali s koňmi a pluhom, potom prišli traktory. Práca nezmizla, len sa zmenili nástroje. Namiesto strachu je lepšie naučiť sa AI využívať vo svoj prospech a vytvárať s ňou pridanú hodnotu. AI nehryzie, treba sa s ňou pohrať a používať ju s rozumom. 

AI nám prácu nevezme. Menia sa s ňou iba nástroje, ktoré k práci využívame. 

Michal: Agentová AI je budúcnosť. Tento trend umožňuje, aby medzi sebou AI agenti komunikovali a riešili úlohy spolu. Môžeme tak modelovať dynamiku ich spolupráce a myslím si, že je to budúcnosť – vytváranie celých tímov strojov, ktoré budú pracovať namiesto nás. 

Milí poslucháči, dnešný podcast bol pre mňa skutočne cestou za poznaním. Verím, že bol pre vás nielen zaujímavý, ale že sme ho okorenili aj štipkou humoru a priniesli vám množstvo nových poznatkov. AI nás môže fascinovať, prekvapiť a občas aj pobaviť. Posolstvo na záver? Nebojte sa skúšať nové technológie. Čím viac ich spoznáte, tým ľahšie ich využijete vo svoj prospech. Teším sa na vás pri ďalšej epizóde podcastu Na vlne kódu.