Co to je
LLM je zkratka anglického Large Language Model, česky velký jazykový model. Jde o program umělé inteligence, který byl natrénován na velkém množství textů a díky tomu se naučil, jak slova a věty obvykle navazují. Když mu zadáte úkol, takzvaný prompt, zjednodušeně řečeno skládá odpověď po částech tak, že opakovaně odhaduje, co v textu pravděpodobně následuje.
Na takových modelech jsou postaveny nástroje typu chatbot, které odpovídají na dotazy, píšou texty, shrnují dokumenty nebo překládají.
Proč na tom záleží
Pro firmu je LLM univerzální pomocník při práci s textem: koncepty příspěvků, shrnutí dlouhých materiálů, návrhy odpovědí zákazníkům nebo třídění e-mailů. Má ale omezení. Model sám o sobě nevyhledává pravdu, ale vytváří věrohodně znějící text, proto může vymýšlet nepravdivé údaje, čemuž se říká halucinace. Nemusí znát nejnovější informace ani interní data firmy, pokud mu je někdo nedodá.
Modelový příklad
Malý e-shop s hračkami nechá LLM navrhnout první verzi popisů produktů z podkladů dodavatele. Pracovnice texty zkontroluje, opraví nepřesnosti v údajích o věku a bezpečnosti a doladí styl značky. Model ušetřil čas psaní, odpovědnost za správnost ale zůstává u firmy.
Co byste měli vědět
- Fakta, čísla a právní či zdravotní tvrzení vždy ověřujte v důvěryhodném zdroji.
- Do veřejných služeb nevkládejte osobní údaje zákazníků ani obchodní tajemství, dokud neznáte podmínky zpracování dat.
- Kvalita výstupu závisí na zadání. Přesný prompt a ukázka žádoucího stylu pomáhají.
- Aby model odpovídal podle vašich dokumentů, používá se postup zvaný RAG: systém před odpovědí dohledá v podkladech, které mu dodáte, relevantní pasáže a předá je modelu. Zeptejte se dodavatele, z čeho odpovědi čerpá.