➡️ PLNÁ VERZIA NA YOUTUBE: https://youtu.be/KTGJvI4Wago-Všetci ich míňame, málokto vie, čo sú. Token nie je slovo ani písmeno, ale najmenšia jednotka informácie, s ktorou jazykový model pracuje. Rozoberáme tokenizáciu aj embedding, prečo modely nevedia rýmovať ani spočítať písmená v slove strawberry a prečo slovenčina spotrebuje takmer dvojnásobok tokenov oproti angličtine. Vysvetľujeme, prečo si token nemôžete kúpiť, načo slúžia päťhodinové okná, koľko vás stojí agent a ako spotrebu znížiť od oddelenia vlákien po prompt caching.
-
Moderovali Dávid Tvrdoň a Filip Vítek.
-
Podpor podcast s predplatným Link Plus: https://linkplus.sk
-
Kapitoly:
00:00 Úvod do témy tokenov01:13 Čo je vlastne token01:54 Prečo token nie je slovo02:43 Prečo token nie je písmeno03:23 Tokenizácia verzus embedding04:17 Ako vznikla dĺžka tokenu06:15 Ako rástol slovník modelov07:00 Kráľ mínus muž plus žena08:51 Obrázky, zvuk a multimodalita12:22 Strawberry a počítanie písmen14:04 Koľko tokenov spáli slovenčina18:38 Tri druhy tokenov21:23 Router tokenov a effort23:30 Najčastejší zlozvyk používateľov26:12 Prečo si token nekúpiš30:37 Koľko tokenov zožerie strana A434:05 Agenti a ich spotreba37:44 Ako začať šetriť tokeny[ LINK PLUS ⬇️ ]♦️ Projekty, inštrukcie a skilly♦️ Zadávať po anglicky, výstup slovensky♦️ Prompt caching pre firmy♦️ Prečo nepoužívať hlasový mód♦️ Záver
-
A ďalšie technologické novinky nájdete v Link newslettri:
https://podcastlink.sk
-
Pridajte sa na Discord Linku: https://discord.gg/BayTaGPCqq
Podden och tillhörande omslagsbild på den här sidan tillhör
skpodcasty.sk. Innehållet i podden är skapat av skpodcasty.sk och inte av,
eller tillsammans med, Poddtoppen.