Čo je tenzor?

Tenzor (z anglického výrazu tensor) je viacrozmerná dátová štruktúra, ktorá slúži ako základný stavebný prvok pre ukladanie a spracovanie dát v oblasti strojového učenia a hlbokého učenia. Tenzor možno chápať ako zovšeobecnenie skalárov, vektorov a matíc na ľubovoľný počet dimenzií. V kontexte umelej inteligencie umožňujú tenzory efektívne reprezentovať a manipulovať s veľkými objemami numerických dát, ktoré modely potrebujú počas trénovania aj inferencie.

Štruktúra a typy tenzorov

Tenzory sa klasifikujú podľa počtu dimenzií, ktorý sa označuje ako rank alebo poradie. Skalár (jediné číslo) predstavuje tenzor s rankom 0, vektor je tenzor s rankom 1 a matica má rank 2. Tenzory s vyšším počtom dimenzií sa využívajú napríklad pri spracovaní obrazových dát, kde trojrozmerný tenzor môže reprezentovať výšku, šírku a farebné kanály obrázka.

Každý tenzor má definovaný tvar (shape), ktorý určuje veľkosť v každej dimenzii. Napríklad tenzor s tvarom (32, 224, 224, 3) môže reprezentovať dávku 32 farebných obrázkov s rozlíšením 224×224 pixelov a tromi farebnými kanálmi.

Tenzory v praxi

Moderné frameworky pre strojové učenie ako TensorFlow a PyTorch sú postavené na efektívnej práci s tenzormi. Tieto nástroje poskytujú optimalizované operácie pre tenzorovú aritmetiku, ktoré sa vykonávajú na grafických procesoroch (GPU) pre dosiahnutie vysokého výkonu. Knižnica NumPy, ktorá je základom pre vedecké výpočty v jazyku Python, pracuje s podobnou dátovou štruktúrou označovanou ako ndarray.

Vieš, že…

…názov frameworku TensorFlow priamo odkazuje na tenzory? Tok (flow) tenzorov cez výpočtový graf bol pôvodnou koncepciou, na ktorej bol tento nástroj od Google postavený.

Operácie s tenzormi

S tenzormi možno vykonávať rôzne matematické operácie vrátane sčítania, násobenia, transpozície či konvolúcie. Tieto operácie tvoria základ výpočtov v neurónových sieťach. Počas trénovania modelu sa tenzory využívajú na ukladanie váh siete, vstupných dát, medzivýsledkov aj gradientov potrebných pre optimalizáciu.

Efektívna práca s tenzormi vyžaduje pochopenie konceptu broadcastingu, ktorý umožňuje vykonávať operácie medzi tenzormi rôznych tvarov za predpokladu, že ich dimenzie sú kompatibilné.

Zdroje a odkazy

Použité zdroje:

• TensorFlow Documentation – Introduction to Tensors: https://www.tensorflow.org/guide/tensor
• PyTorch Documentation – Tensors: https://pytorch.org/tutorials/beginner/basics/tensorqs_tutorial.html

Odporúčané zdroje:

• NumPy Documentation – Array fundamentals: https://numpy.org/doc/stable/user/basics.html