Co znamená zkratka LLM?

Large Language Model, česky velký jazykový model.

Je LLM totéž co umělá inteligence?

LLM je jeden druh umělé inteligence zaměřený na jazyk. Umělá inteligence zahrnuje i jiné obory, například rozpoznávání obrazu nebo řízení robotů.

Proč si LLM vymýšlí?

Model skládá nejpravděpodobnější pokračování textu, neověřuje fakta v databázi. Když informaci nezná, může vytvořit věrohodně znějící odpověď. Riziko snižuje napojení na ověřené podklady.

Jsou data, která do LLM zadám, v bezpečí?

Záleží na službě a jejích podmínkách. U firemního nasazení si ověřte, zda poskytovatel zadaná data nepoužívá k tréninku a kde je ukládá. Citlivé údaje do veřejných nástrojů nepatří.

Co je LLM? Velký jazykový model jednoduše

Jak LLM funguje

Model se při tréninku učí předpovídat, jak má text pokračovat. Text si dělí na tokeny, tedy slova a jejich části, a pro každý další token počítá pravděpodobnost. Z miliard takových příkladů se naučí gramatiku, fakta, styl i postupy řešení úloh. Dnešní LLM používají architekturu transformer, popsanou v roce 2017 v článku Attention Is All You Need. Její mechanismus pozornosti umožňuje modelu vážit souvislosti mezi slovy napříč celým textem.

Základní pojmy

• Prompt — zadání, které modelu napíšete. • Token — jednotka textu, se kterou model pracuje. • Kontextové okno — množství textu, které model udrží v jednom rozhovoru. • Halucinace — přesvědčivě znějící, ale nepravdivá odpověď. • RAG — postup, při kterém si model před odpovědí dohledá podklady v zadaných dokumentech.

Co LLM umí a kde má hranice

LLM dobře shrnuje, překládá, přepisuje a třídí texty, odpovídá na dotazy, píše a kontroluje kód a vytahuje údaje z dokumentů. Má také limity. Nezná události po datu, kdy skončil trénink, pokud nemá přístup k vyhledávání. Může si vymyslet fakt nebo citaci. Výpočty a práci s aktuálními daty proto přenechává nástrojům, které si umí zavolat.

Použití ve firmě a na webu

• Chatbot nad obsahem webu a nápovědou. • Návrhy popisků produktů a článků, které redaktor zkontroluje. • Třídění e-mailů a poptávek. • Vytěžování údajů z faktur a smluv. • Vyhledávání ve firemní dokumentaci přirozeným jazykem. Do vlastních aplikací se modely zapojují přes API poskytovatele nebo se provozují na vlastním serveru, pokud data nesmějí opustit firmu.

LLM a vyhledávání

AI vyhledávače a přehledy od AI ve výsledcích Googlu odpovídají pomocí LLM a v odpovědi citují zdroje. Optimalizaci webu, aby byl takovým zdrojem, se říká GEO (Generative Engine Optimization). Pomáhá jasná odpověď hned na začátku stránky, ověřitelná fakta a strukturovaná data.

LLM

Jak LLM funguje

Základní pojmy

Co LLM umí a kde má hranice

Použití ve firmě a na webu

LLM a vyhledávání

Chcete, aby váš web citovaly AI vyhledávače?

Související pojmy

Nejčastější otázky o LLM

Potřebujete pomoc s vaším webem?