Podcast #9: AI mind reading – ako blízko sme k tomu, aby umelá inteligencia čítala naše myšlienky?
Dnešná epizóda podcastu Na vlne kódu sa nachádza na rozhraní reality a sci-fi. Je čítanie myšlienok realitou, alebo len technologickou utópiou? Pozvanie do štúdia opäť prijal Michal Bystrický, odborník na dátovú vedu, ktorý nám priblíži, čo je dnes skutočne možné a čo zatiaľ ostáva len vo svete fantázie. Vypočuj si ho alebo si prečítaj jeho skrátený prepis.

Na Slovensku nie je táto oblasť ešte podrobne spracovaná, no na podnet našich poslucháčov sme sa rozhodli otvoriť aj túto – čiastočne kontroverznú – tému, ktorá vo svete vyvoláva čoraz intenzívnejšie diskusie.
Ako blízko sme k tomu, aby sme dokázali dešifrovať ľudské myšlienky? Aké technológie sa dnes používajú – EEG, MR-ko alebo iné? Môže AI mind reading pomôcť v medicíne či vzdelávaní? Alebo sa môže zvrhnúť na nástroj manipulácie? A kde je hranica nášho súkromia?
…Na vlne kódu je podcast IT spoločnosti msg life Slovakia, ktorý ti pravidelne prináša témy z oblasti psychológie, HR a novinky zo sveta IT? Vypočuj si aj ďalšie epizódy podcastu Na vlne kódu.
Michal, pozrime sa na čítanie myšlienok z rôznych uhlov. V súčasnosti sa technológia a výskum v oblasti neurovedy a umelej inteligencie dostali na úroveň, kde sú schopné rozpoznať určité vzorce v mozgových vlnách, ktoré môžu naznačovať myšlienky alebo úmysly osoby. Napriek tomu stále existuje veľa otázok, či je možné dosiahnuť priamy a úplný prístup k myšlienkam. Michal, je to naozaj len mýtus, alebo sme už tak ďaleko, že je to naozaj možné?
Čítanie myšlienok (po ang. mind reading) vnímam ako schopnosť systému, napríklad počítača alebo umelej inteligencie, interpretovať signály, ktoré meriame. Tieto signály korelujú s myšlienkovými procesmi jednotlivcov. Ide o časové rady, ktoré ukazujú, kedy a cez ktorý neurón prechádza elektrický impulz. Umelá inteligencia vie tieto signály rozpoznať a priradiť im význam v počítači.
Jednoducho si predstav, že myslíš na auto. A 300-krát zaznamenáme aktivitu mozgu a 700-krát nie. Vytvorí sa vzorec. Tento vzorec je potom „auto“ a umelá inteligencia sa to vie naučiť. Treba však zdôrazniť, že nejde o doslovné čítanie myšlienok. Ide skôr o identifikáciu vzorcov – napríklad reakcie na podnety alebo úmysly, ako je pohyb končatiny. Vtedy sa aktivuje konkrétna časť mozgu.
Treba zdôrazniť, že AI nečíta myšlienky doslova. Skôr identifikuje vzorce – napríklad reakcie na podnety alebo úmysly, ako je pohyb končatiny.Michal Bystrický, Data Scientist msg life SlovakiaMichal Bystrický, Data Scientist msg life Slovakia
Čiže, ak to zhrnieme – počítač sleduje mozgovú aktivitu. Ak opakovane myslím na auto, mozog reaguje vždy rovnakým spôsobom. Počítač si tento vzorec zapamätá a dokáže ho rozpoznať. Ale neznamená to, že vie prečítať, čo si konkrétne myslím, napríklad že chcem šoférovať auto. Skôr vie, že tá myšlienka súvisí s konkrétnym objektom. Čiže ide o rozpoznávanie vzorcov v mozgu, nie o priame čítanie myšlienok.
Áno, presne tak.
V súvislosti s témou čítania myšlienok sa šíri nielen veľa rôznych informácií, ale, žiaľ, aj dezinformácií. Napadol mi moment počas pandémie, keď na Slovensku prebiehali vášnivé diskusie ohľadom zavádzania mikročipov do mozgu pomocou testovacích paličiek. Určite si na to aj ty spomínaš – bolo to počas pandémie. Môžeme si o tom povedať trošku viac? Bolo by vôbec niečo také technicky možné?
Áno, kedysi koloval hoax, že testovacie paličky používané na odber vzoriek na diagnostiku COVID-19 obsahovali mikročipy. Tieto mikročipy mali byť údajne zavedené do tela, konkrétne do mozgu, cez nos, a potom použité – nevedno kým – na ovládanie myšlienok alebo sledovanie činností. Treba však povedať, že žiadna kontrola mysle ani prístup na internet cez takéto niečo zatiaľ technicky nie sú možné.
V súčasnosti máme k dispozícii rôzne technológie ako elektroencefalografia (EEG) alebo fMRI – funkčná magnetická rezonancia – ktoré umožňujú sledovať mozgovú aktivitu. Ako tieto technológie fungujú? Na akom princípe sú založené? A ktoré technológie považuješ ty za najdôležitejšie pri pokusoch o dekódovanie myšlienok? Čím sú unikátne?
Ak sa bavíme o čítaní myšlienok, existujú tri základné metódy. Meranie elektrickej aktivity mozgu – keď napríklad rozmýšľame, vykonávame nejakú aktivitu, tak to produkuje elektrickú energiu. Druhá je meranie okysličenia mozgu – napríklad magnetom alebo infračerveným svetlom. Teda, keď rozmýšľame, tak máme rôzne množstvo kyslíku v rôznych oblastiach. A tretia je použitie röntgenového žiarenia.
Pri elektrickej aktivite ide napríklad o EEG, ktoré meriame pomocou elektród priložených na pokožku hlavy. Tie zachytávajú elektrické potenciály, teda napäťové rozdiely na povrchu hlavy, ktoré vznikajú pri aktivite neurónov. Mozog stále spracúva informácie, napríklad reguluje telesné funkcie a podobne. Zaujímavé je, že podobne sa dnes programuje umelá inteligencia. Funguje vlastne ako slučka. Agent v umelej inteligencii spracováva informácie a prijíma rozhodnutia v rámci tejto slučky. Rovnako aj mozog nepretržite spracováva informácie. Elektródy na koži dokážu zbierať elektrické signály, ktoré vznikajú, keď neuróny medzi sebou komunikujú. Zachytávajú elektrické zmeny, ktoré nastávajú pri aktivácii veľkých skupín neurónov.
Túto elektrickú aktivitu môžeme rozdeliť do vĺn – delta, alfa, beta, gama. Čiže keď mám hlboký spánok, keď som uvoľnený, keď mám aktívny stav mysle, alebo keď mám vysokú aktivitu.
Na báze elektriky funguje aj BCI, teda Brain-Computer Interface. Príkladom je napríklad Neuralink, ktorý bol založený v roku 2016. Používa mikroskopické elektródy, ktoré sú implantované priamo do mozgu. Je to potom oveľa presnejšie. V tejto skupine je ešte MEG, čo je dosť drahé zariadenie, ktoré meria magnetické polia generované elektrickou aktivitou neurónov.
Potom tu máme ďalšiu skupinu – technológie založené na okysličení mozgu. Patrí sem napríklad fMRI. Ide o veľký magnet, ktorý využíva atómy vodíka vo vode (alebo teda v mozgu), ktoré sú vystavené magnetickému poľu. Tieto atómy reagujú a vydávajú slabé signály. Podstata je v tom, že aktívne časti mozgu spotrebujú viac kyslíka, takže vidíme, ktoré oblasti sú viac aktívne. Ďalšou metódou v tejto kategórii je NIRS. Táto metóda využíva infračervené svetlo na meranie okysličenia. Svetlo preniká cez tkanivá a odráža sa rôzne podľa hladiny kyslíka.
Posledná metóda je pomocou röntgenu, teda CT scan alebo počítačová tomografia. Ide o röntgenové lúče, pričom počítač vytvára priečne snímky z viacerých uhlov. Podstata je v tom, že kosti pohlcujú viac röntgenového žiarenia ako mäkké tkanivá, takže sa na výslednom obraze ukážu belšie. Vďaka snímkam z rôznych uhlov sa dá obraz rekonštruovať do 2D rezov.
Vypočuj si aj: Podcast #6: Umelá inteligencia v praxi – tipy, nástroje a bezpečné využívanie
Zhrniem to. EEG meria elektrickú aktivitu mozgu cez elektródy na hlave. S týmto vyšetrením sa už niektorí stretli v praxi – ide o sledovanie mozgových aktivít, napríklad pri diagnostike neurologických stavov, ako je epilepsia. Pri vyšetrení dostaneme špeciálnu čiapku, ktorá sa priloží na hlavu a pomocou elektród sa zachytáva mozgová aktivita. Je to rýchle, ale nezobrazuje podrobnosti o hlbších častiach mozgu. Rozumiem tomu správne?
Presne tak.
Potom si spomínal BCI, ktoré umožňuje priamu komunikáciu medzi mozgom a počítačom. Používa EEG na dekódovanie signálov z mozgu. Ako si to môžem predstaviť? Aký je rozdiel medzi EEG a BCI?
Keď sa bavíme o rozdiele medzi EEG a BCI, v rámci BCI som spomínal konkrétne Neuralink. V tomto projekte sú elektródy priamo implantované do mozgu, čo znamená, že musí prebehnúť operácia. Presnosť je teda oveľa vyššia, ako keď signály snímame len z kože. EEG zachytáva celkové elektrické aktivity, zatiaľ čo Neuralink zachytáva extrémne jemné detaily, to znamená individuálne neuróny alebo malé skupiny.
A potom je tu aj magnetická rezonancia, ktorá meria prietok krvi v mozgu spojený s mozgovou aktivitou. Poskytuje vysoké priestorové rozlíšenie, ale na druhej strane je MR v porovnaní s EEG pomalé a oneskorené.
Áno.
No a potom máme CT. To používa röntgenové lúče na vytvorenie obrazov mozgu. Je rýchle a poskytuje jasný pohľad na anatomické problémy, ako sú zlomeniny či krvácanie. Na druhej strane ale nezobrazuje funkcie mozgu. Z toho vyplýva, že každá technológia má svoje plusy aj mínusy. A prečo sme sa pri nich zastavili? Je to preto, aby sme sa dostali k podstate tejto témy. Sú dnes niektoré z týchto technológií používané aj na mapovanie ľudských myšlienok?
Už sme spomenuli, že máme technológie, ktorými vieme zachytiť mozgovú aktivitu. Čiže máme nejaké signály. Predstav si napríklad EEG záznam od jedného človeka. Dáme mu robiť rôzne aktivity, napríklad keď sedí v pokoji alebo keď hýbe rukou.
Tieto úseky zaznamenáme a označíme. Keď sa pohne ruka, vznikne určitá aktivita a označíme to ako pohyb. Keď človek nerobí nič, označíme úsek ako kľud. Pomocou týchto označených segmentov dokážeme trénovať umelú inteligenciu, konkrétne neurónové siete.
Umelá inteligencia potom prechádza cez EEG záznam a učí sa tieto aktivity rozlišovať. Vie identifikovať, čo je pohyb ruky a čo je kľud. Neskôr dokáže na nových, neoznačených záznamoch na základe vzoru pomerne presne identifikovať úseky spojené s pohybom ruky.
Máme sa obávať, že čítanie myšlienok raz naruší naše súkromie?
Najbližšie k tomu, čo si spomenula, je práve Neuralink, založený v roku 2016. Používa mikroskopické elektródy, ktoré sa zavádzajú priamo do mozgu. To znamená, že pacient musí podstúpiť operáciu. Už od roku 2023 prebiehajú prvé klinické skúšky na ľuďoch.
Prvým pacientom bol človek s kvadruplegiou, teda s dysfunkciou alebo stratou motorických a senzorických funkcií v oblasti krčnej miechy. Implantovali mu čip, vďaka ktorému dokázal napríklad pohybovať kurzorom na obrazovke. To mu umožnilo ovládať hudbu, hrať hry ako šach.
Súčasťou štúdie bol aj ďalší pacient, ktorý mohol vytvárať 3D návrhy pomocou softvéru CAT Fusion 360. Takže už sme na úrovni, keď prebiehajú klinické skúšky na ľuďoch.
Čiže takýmto spôsobom by to mohlo pomôcť ľuďom s telesným postihnutím, ktorý by mohli lepšie komunikovať.
Áno, najmä v medicínskej oblasti môže táto technológia veľmi pomôcť.
Kde okrem medicíny by mohlo mať čítanie myšlienok najväčší prínos? Napadá mi ešte oblasť vzdelávania. Budeme sa vedieť napríklad jednoduchšie učiť jazyky? Alebo by to mohlo pomôcť v oblasti bezpečnosti?
Táto téma je veľmi rozsiahla. Najväčší prínos vidím v medicíne, ako som už spomínal. Napríklad obnova motorických funkcií – pacient, ktorý bol schopný pohybovať kurzorom na obrazovke len pomocou svojich myšlienok. Ďalej protetické ovládanie – mozgové rozhranie môže umožniť ovládanie bionických končatín s väčšou presnosťou a rýchlosťou. Ide o presnejšiu technológiu.
Pri liečbe neurodegeneratívnych chorôb, ako je Parkinsonova choroba, môže implantát pomôcť kontrolovať tras alebo zlepšiť motorickú koordináciu. Pri Alzheimerovej chorobe by takéto technológie mohli pomáhať posilniť pamäťové procesy alebo obnoviť stratené spomienky. Možno v budúcnosti by Neuralink mohol uchovávať dôležité informácie priamo v mozgu alebo pomáhať pri ich vybavovaní.
Vo všeobecnosti, ako si spomenula aj ty, by ovládanie zariadení mysľou mohlo mať mnohostranný dopad na všetky aspekty nášho života, aj spoločnosti.
Keď sme vysvetľovali EEG, spomenula som aj epilepsiu. Dočítala som sa, že pri epilepsii dochádza k nadmernej aktivácii neurónov, čo môže viesť k záchvatu. V umelej inteligencii sa zase môže stať, že určitá časť systému dostane príliš veľa signálu a výstup je nezmyselný alebo extrémny. Vidíš podobnosť medzi týmto preťažením v mozgu pri epilepsii a v systémoch umelej inteligencie?
Áno, vidím určitú podobnosť v správaní pri epilepsii a v umelej inteligencii. Spomeniem dva príklady. V umelej inteligencii, keď úmyselne alebo náhodne modifikuješ vstupy, môže to viesť k nezmyselným alebo extrémnym výstupom. V AI sa to nazýva adversariálne útoky. Takéto útoky môžu systém dezorientovať. Podobne ako abnormálna elektrická aktivita môže dezorientovať mozog pri epileptickom záchvate.
Druhý príklad: v umelej inteligencii sa môže stať, že určitá vrstva alebo neurónová cesta dostáva priveľa signálu alebo aktivácie. To môže viesť k tomu, že výstup je neprirodzene extrémny alebo za hranicami toho, čo očakávame. Tento jav je konceptuálne podobný nadmernej neurálnej aktivite počas záchvatu.
Mohlo by byť čítanie myšlienok nástrojom na manipuláciu? Ako tomu môžeme predísť?
Doteraz sme hovorili o čítaní myšlienok. Teda že čítame to, čo zmeriame, a interpretujeme z toho informácie. Ale ešte sme nehovorili o zápise. Hneď na začiatok treba povedať, že zatiaľ ide iba o stimuláciu. Nie je možné zapísať skutočnú myšlienku alebo konkrétnu informáciu.
A čo je to teda stimulácia? Cieľom je ovplyvniť neuróny v špecifickej oblasti, čo sa potom dá využiť na obnovu funkcií, ktoré sú poškodené napríklad kvôli neurologickým poruchám. Používa sa to na zlepšenie motorických schopností, na zastavenie záchvatov alebo na podporu pamäte a učenia.
Už existujú technológie, ktoré sa na toto využívajú. Napríklad Deep Brain Stimulation (DBS), teda hlboké mozgové stimulátory. Sú to medicínske zariadenia, ktoré dodávajú elektrickú stimuláciu do určitých častí mozgu.
Čo sa týka stimulácie v AI, tam vieme zosilniť váhy, ktoré sú slabé. Znamená to, že určitá časť neurónovej siete má vyššiu pravdepodobnosť aktivácie. Jednoducho si to môžeme predstaviť tak, že ak stimulujeme určitú časť vetvy neurónovej siete, ktorá súvisí s posilňovaním, táto časť bude aktívnejšia a „bude o nej hovoriť častejšie“.

Je zaujímavé spomenúť, ako sa tieto hlboké mozgové stimulátory implementujú. Používajú sa pri tom techniky ako MR alebo CT, ktoré presne identifikujú cieľovú oblasť súvisiacu s konkrétnou poruchou alebo príznakmi.
Malé elektródy sú chirurgicky implantované do špecifických oblastí mozgu, ktoré sa vyberú podľa MR alebo CT. Potom je tu generátor, ktorý vysiela riadené elektrické impulzy cez elektródy do cieľových oblastí mozgu.
Tieto impulzy menia alebo modulujú abnormálne elektrické vzorce, čo môže zmierniť symptómy, napríklad tras alebo stuhnutie. Konkrétne ide o prejavy Parkinsonovej choroby. Následne lekár spolu s pacientom nastavujú správne parametre stimulácie – intenzitu, frekvenciu a trvanie.
Ešte spomeniem tú paralelu s AI. Vieme merať, ktoré časti virtuálnych neurónov sa aktivujú, a zosilniť ich váhy, teda stimulovať ich.
Zhrniem to. Nie je možné zapísať konkrétnu informáciu, pretože mozog je extrémne zložitý a nerozumieme úplne, ako funguje. Prenos konkrétnych údajov by vyžadoval presné pochopenie toho, ako neuróny kódujú rôzne typy informácií. A tam prichádza strojové učenie, ktoré pomáha dekódovať aspoň vzory.
Ďalší problém je, že ak by sa niečo zapísalo, muselo by sa to urobiť tak, aby neuróny správne interpretovali nové signály bez narušenia existujúcich procesov. Takže zatiaľ nevieme zapísať konkrétnu informáciu. Prínos, ako tu už zaznelo, je skôr medicínskeho charakteru.
Myslíš si, že by bolo možné s našimi myšlienkami manipulovať? Lebo ja už teraz mám niekedy pocit, že mi niekto číta myšlienky – napríklad keď si chcem kúpiť lyžiarsku čiapku a zrazu celú zimu všade vidím len reklamy na lyžiarske čiapky. Takže niekto mi možno číta myšlienky, ale ešte mi ju nikto nekúpil.
K tej lyžiarskej čiapke – niekedy sa nám môže zdať, že súčasné systémy nám už čítajú myšlienky. Funguje to tak, že keď sa napríklad s kamarátkou rozprávaš o lyžiarskych čiapkach a ste zároveň aktívne na rôznych zariadeniach, ako sú mobil alebo počítač, algoritmy vás dokážu spojiť cez informácie ako lokalizácia, IP adresa alebo sieť. Potom ti ukážu reklamy na lyžiarske čiapky, aj keď si ich predtým nevyhľadávala – stačí, že ste sa o tom rozprávali.
Ak by sme mali špekulovať, prečo by bolo v budúcnosti možné čítanie myšlienok, možno by to súviselo s neuroplasticitou. To znamená, že mozog má schopnosť prispôsobiť sa a reorganizovať svoje štruktúry a funkcie v reakcii na nové skúsenosti, učenie alebo poškodenie. Možno raz bude mozog schopný naučiť sa prijímať nové externé informácie, napríklad z Neuralinku.
Dobrým príkladom je hranie na hudobný nástroj. Keď v mladosti hráme, v mozgu pozorujeme fyzické zmeny, teda vyššiu aktivitu v špecifických oblastiach, zlepšenú konektivitu a trvalé zmeny.
„Niekedy sa nám môže zdať, že nám systémy čítajú myšlienky – napríklad keď po rozhovore o lyžiarskej čiapke vidíme všade reklamy. Nie je to mágia, ale kombinácia dát, zariadení a algoritmov.“
Myslíš si, že by sme mali používať čítanie myšlienok na odhaľovanie lží? Nebolo by to príliš nebezpečné?
Poviem svoj názor. Myslím si, že nikdy by sme nemali dovoliť, aby niekto mohol čítať naše konkrétne myšlienky. Mohli by byť zle interpretované alebo zneužité, čo by porušilo súkromie. Keď hovoríme o ovládaní počítača podvedomím, to je niečo iné. Ale pri čítaní konkrétnych myšlienok hrozí problém so zlým prekladom týchto vzorcov do reality.
Myslím si, že nikdy by sme nemali dovoliť, aby niekto mohol čítať naše konkrétne myšlienky. Mohli by byť zle interpretované alebo zneužité, čo by porušilo súkromie.“
S technológiami na čítanie myšlienok prichádzajú aj rôzne etické dilemy týkajúce sa najmä ochrany súkromia. Ak by sa tieto technológie používali bez súhlasu alebo správneho dohľadu, mohli by sme naraziť na problémy. Aké opatrenia by si odporučil prijať, aby sa predišlo možnému zneužívaniu týchto schopností?
Je to opäť veľká téma, preto by som tu rád spomenul len niektoré významné aspekty. Ide hlavne o súkromie. Mali by sme zabezpečiť, aby naše myšlienky zostali súkromné, a to je veľmi dôležité. Každý zásah do mozgu by mal byť dobrovoľný a informovaný, teda používateľ by mal dať na takýto zásah súhlas.
Potom sa treba pýtať, čo sa stane ak niekto zmení vaše myšlienky alebo spomienky? Aký to bude mať vplyv na vašu identitu a osobnú autonómiu? Ide o otázky identity, integrity a slobodnej vôle. A napokon je tu riziko zneužitia týchto technológií, napríklad na neetické účely, manipuláciu alebo kontrolu myslenia.
Myslíš si, že sa tieto technológie stanú bežnou súčasťou nášho života alebo zostanú len pre úzku skupinu odborníkov?
Pomôžem si príkladom z histórie. Keď sa na začiatku 20. storočia začali objavovať autá, mnohí boli skeptickí. Mestá boli plné konských záprahov, ktoré za sebou zanechávali odpad. Napriek počiatočnej nedôvere praktickosť a efektívnosť automobilov túto skepsu prekonali.
Podobne dnes máme blockchain technológie. Aj napriek počiatočným ťažkostiam už menia spôsob, akým uchovávame hodnotu (napríklad bitcoin) alebo dôveru, keďže umožňujú transparentné vykonávanie zmlúv bez sprostredkovateľov. Praktické výhody môžu časom zabezpečiť, že blockchain bude rovnako bežnou súčasťou nášho života ako autá.
Keď sa bavíme o Neuralinku a podobných technológiách, tie sú ešte na úplnom začiatku vývoja – podobne ako autá vo svojich počiatočných dňoch. Neuralink je momentálne predmetom diskusií a výskumu, a je možné, že sa časom stane integrovaným do nášho každodenného života. Ale to podľa mňa ešte istú chvíľu potrvá.
Michal, ako by si dnešnú tému zhrnul v kocke?
Tému vnímam v dvoch hlavných rovinách – čítanie a zápis informácií. Čo sa týka čítania, aktuálne vieme len veľmi obmedzene merať a interpretovať vzory toho, čo sa deje v mozgu. Zápis momentálne nie je možný – vieme iba stimulovať určité oblasti. Tieto technológie teda neumožňujú doslovné čítanie myšlienok, o zápise už vôbec nehovoriac. Prínos je zatiaľ najmä medicínskeho charakteru.
Veľmi blízko k tejto téme je umelá inteligencia, konkrétne neurónové siete. Aj tam je stále veľa neznámych, no práve umelé neurónové siete nám môžu pomôcť lepšie pochopiť, ako funguje skutočný mozog. Rozdiel je v tom, že na umelej neurónovej sieti môžeme ľahko robiť experimenty – napríklad aktivovať alebo deaktivovať určité oblasti – a sledovať, ako sa systém správa. S človekom je to, samozrejme, oveľa ťažšie. Ak niekoho táto téma zaujala, odporúčam začať skúmať umelé neurónové siete.
Milí poslucháči, ďakujem za počúvanie dnešnej epizódy Na vlne kódu, ktorý pre vás pripravuje msg life Slovakia. Lúčim sa s mojím hosťom Michalom Bystrickým, ktorý sa snami podelil o fascinujúcu tému AI a čítanie myšlienok. Moje meno je Ivana Hricová a teším sa na ďalšie spoločné stretnutia pri nových témach.