První podcast věnovaný čistě umělé inteligenci, který je srozumitelný opravdu pro každého. Tvůj průvodce světem AI. Podcast nechávám číst umělou inteligenci, aby bylo vidět, na jaké úrovní aktuálně je. Jeden posluchač to popsal slovy: Zní jako profesionální dabér, co si trochu víc přihnul, a čte to ze sešitu v jedné ruce, zatímco druhou hledá bačkory pod postelí.
Průlom: vědcům se podařilo zachytit, jak AI vnitřně přemýšlí
Stvořili jsme umělou inteligenci, ale sotva tušíme, jak uvnitř funguje. Ponořte se do fascinujícího světa výzkumu vnitřního fungování AI, kde vědci odkrývají, jak doopravdy pracují velké jazykové modely typu ChatGPT nebo Claude. Co se děje, když AI skládá báseň nebo překládá mezi jazyky? Pomocí speciálních analytických nástrojů (kterým říkají "sparse autoencodery") výzkumníci identifikují stavební bloky AI uvažování - jakési vzorce reprezentující jak konkrétní místa a objekty, tak překvapivě abstraktní koncepty jako ironie či lhaní. Speciální vizualizace pak ukazují jejich vzájemné interakce, odhalující skutečné myšlenkové postupy - například jak model postupuje od Dallasu přes Texas k Austinu.
Tyto nálezy vědci experimentálně ověřují vypínáním konkrétních vzorců a sledováním, jak se změní výstup. Přes dosažené pokroky zůstává část aktivity AI jako "temná hmota" - zatím nevysvětlená. Toto nahlédnutí pod kapotu AI není jen akademickou zvědavostí, ale klíčem k zajištění bezpečnosti budoucích systémů umělé inteligence.
#konverzace
6 Aug 2025
Štít, který zastaví AI v poskytování nebezpečných informací
Velké jazykové modely jsou mocné nástroje, ale jak je ochránit před zneužitím? Podíváme se na inovativní způsob obrany proti "jailbreakům" - útokům, které se snaží z AI získat zakázané informace. Konstituční klasifikátory fungují jako systém digitálních strážců, kteří kontrolují jak vstupy, tak výstupy modelu. Jejich síla spočívá v principu "švýcarského sýra" - více vrstev ochrany, kde každá zachytí jiné typy útoků. Klíčovou roli hraje "konstituce" - soubor pravidel definujících nežádoucí obsah, který lze průběžně aktualizovat proti novým hrozbám. Testování je působivé: 400 expertů strávilo přes 3000 hodin pokusy o prolomení, všechny neúspěšně. Praktické nasazení přidává pouhých 24% k době odpovědi a minimálně falešných poplachů. Nejcennější schopností je detekce problémů za běhu - systém nemusí čekat na celou odpověď, může ji zastavit během generování.#konverzace
30 Jul 2025
Od AI, která neposlouchala, k asistentům jako ChatGPT
Před nástupem dnešních konverzačních asistentů existoval zásadní problém - umělá inteligence uměla generovat text, ale neuměla spolehlivě následovat pokyny. Podíváme se na klíčový průlom z roku 2022, kdy výzkumníci vyvinuli nový způsob učení, při kterém AI dostávala lidskou zpětnou vazbu. Nejprve jí ukázali vzorové odpovědi, pak naučili systém hodnotit kvalitu podle lidských preferencí, a nakonec umělou inteligenci trénovali pomocí "odměn" za dobré odpovědi. Výsledky byly ohromující - nový model byl preferován lidmi v 85% případů a dokonce i mnohem menší verze předčila původní obří systém. Tento výzkum ukázal, že cesta k užitečným asistentům nevede jen přes větší modely, ale hlavně přes jejich přizpůsobení lidským záměrům. Právě tato metoda umožnila vznik systémů jako ChatGPT, které dokážou vést dialog a plnit úkoly.#konverzace
Contact Uměligence
Guest appearances
Does not typically book guests
Based on episode analysis; this does not confirm that the show is currently accepting guests.
Host of Uměligence?
Claim your podcast to manage its listing and keep your show details accurate.
Pod Engine is an independent podcast discovery and analytics service and is not affiliated with or endorsed by this podcast. Artwork and show content belong to their owners. Full legal notice.
Explore this show Podcast research with Pod Engine
