Proč je natural language processing tak důležitá součást AI modelů?

Zpracování přirozeného jazyka, neboli NLP je samostatný obor vědy o umělé inteligenci, jemuž vděčíme za to, že nás AI nástroje dokážou tak dobře chápat. Není to zatím ideální, ale rozumíme si 🙂 Nedávno jsme psali o tom, že neuronové sítě potřebují vstupy hlavně v podobě čísel, ostatně celá informatika je spíše o číslech, než o lidských slovech. Proto je zpracování přirozeného jazyka revoluční událostí, která de facto zpřístupnila AI i obyčejným lidem a nikoliv pouze vývojářům a programátorům. Nejen, že rozumí obyčejným promptům, ale dokáže i analyzovat lidský jazyk (třeba analýzu sentimentu) a poslední dobou zvládá chápat i humor a sarkasmus.

Využívá deep learning a machine learning, tedy strojové učení k tomu, aby lidem usnadnil spolupráci a komunikaci se stroji. To se hodí tam, kde je zákaznická podpora tvořená výhradně AI chatbotem. NLP se stará o to, aby člověk na druhé straně byl uspokojen.

NLP umožňuje pokročilým jazykovým modelům  vytvářet text podobný lidskému  pro různé účely. Předtrénované modely, jako je GPT-4, dokáží generovat články, zprávy, marketingové texty, popisy produktů a dokonce i kreativní psaní na základě pokynů od uživatelů. Nástroje založené na NLP mohou také pomoci s automatizací úkolů, jako je psaní e-mailů, příspěvků na sociálních sítích nebo právní dokumentace. 

Proč je to vlastně tak složité?

Lidský jazyk je plný nuancí, které pro stroj představují obrovskou výzvu. Narozdíl od programovacích jazyků, kde má každý příkaz jen jeden význam, náš jazyk je plný:

• Dvojznačnosti (ambiguity): Vezměte si větu: „Viděl jsem muže na kopci s dalekohledem.“ Kdo měl dalekohled? Já, nebo muž na kopci? Člověk význam často odhadne z kontextu, ale pro počítač je to složitý oříšek.
• Synonym a homonym: Slova jako „let“ (letadlo) a „let“ (ročních období) se píší stejně, ale znamenají něco jiného. Naopak „chlapec“ a „hoch“ znamenají totéž.
• Ironie a sarkasmu: Když napíšete „To je ale skvělý den!“ během bouřky, počítač bez hlubšího kontextu vezme vaši větu doslova. Porozumět skutečnému záměru je pro AI velmi obtížné.

Aby se s těmito výzvami vypořádal, dělí si systém NLP úkol na dvě hlavní části: porozumění jazyku a generování jazyka.

Krok 1: Porozumění přirozenému jazyku (NLU)

V této fázi se počítač snaží pochopit, co mu vlastně říkáme. Tento proces má několik úrovní:

1. Rozbor textu (Parsing):
   • Tokenizace: První, základní krok. Věta se rozdělí na jednotlivá slova a znaménka (tokeny): [Rád] [demonstruji] [,] [jak] [funguje] [NLP] [.]
   • Syntaktická analýza: Počítač analyzuje gramatickou strukturu věty. Určuje slovní druhy (např. „kočka“ [podstatné jméno] „spí“ [sloveso]) a snaží se pochopit, jaká je vazba mezi slovy. Díky tomu ví, kdo co dělá (kdo je podmět, co je přísudek atd.).
2. Pochopení významu (Sémantická analýza):
   • Toto je klíčová část. Počítač se zde snaží odvodit skutečný význam a záměr. Právě zde se potýká s dvojznačností.
   • Součástí je i rozpoznávání pojmenovaných entit (NER – Named Entity Recognition). Systém identifikuje klíčová slova a zařadí je do kategorií. Ve větě „Elon Musk založil SpaceX v Kalifornii“ rozpozná „Elona Muska“ jako [Osobu], „SpaceX“ jako [Organizaci] a „Kalifornii“ jako [Místo]. To je zásadní například pro vyhledávače nebo extrakci dat z dokumentů.

Krok 2: Generování přirozeného jazyka (NLG)

Poté, co počítač pochopil náš dotaz nebo příkaz, přichází často druhý krok: vytvoření odpovědi. NLG je proces, kdy stroj převádí strukturovaná data zpět do srozumitelného, lidsky znějícího textu.

• Když se zeptáte hlasové asistentky na počasí, ona si z databáze vezme data (teplota: 20 °C, stav: slunečno) a pomocí NLG je převede na větu: „Dnes bude slunečno s teplotami okolo 20 stupňů.“
• Chatboti používají NLG k formulaci odpovědí na vaše dotazy.
• Pokročilé AI modely jako ChatGPT využívají NLG k psaní e-mailů, článků nebo třeba básní.

Jaký motor to vše pohání?

V minulosti se NLP spoléhalo hlavně na statistické metody. Dnes je ale jeho hybnou silou hloubkové učení (deep learning), tedy komplexní neuronové sítě. Absolutním přelomem se stala tzv. transformer architektura, která přišla v roce 2017. Tyto modely dokáží skvěle pracovat s kontextem a pochopit, jak na sebe slova ve větě navzájem odkazují, i když jsou od sebe daleko. Právě Transformery stojí za úžasnými schopnostmi nejmodernějších nástrojů, jako jsou pokročilé překladače nebo generativní AI.

Kde nachází NLP nejvíce využití

• Korekce pravopisu a gramatiky: Nástroje, které vám podtrhávají chyby a navrhují opravy, využívají morfologickou a syntaktickou analýzu z NLP.
• Ovládání dronů hlasem: Místo složitého ovládání na ovladači můžete dronu jednoduše říct „udělej přemet“ nebo „leť nahoru“ a on poslechne. NLP zde překládá váš mluvený příkaz na akci stroje.
• Odhalování podvodů: NLP systémy analyzují obrovské množství textových dat, jako jsou e-maily nebo záznamy v databázích pojišťoven, a hledají v nich podezřelé vzorce. Dokážou tak identifikovat pokusy o pojistný podvod dříve, než způsobí škodu.
• Automatická anonymizace dat: V odvětvích jako zdravotnictví nebo bankovnictví je klíčové chránit osobní údaje. NLP nástroje dokážou automaticky projít dokumenty (např. zprávy z klinických studií) a najít a skrýt (redigovat) citlivé údaje jako jména, adresy nebo kontaktní informace.
• Klasifikace toxicity: Jedná se o specializovanou formu analýzy sentimentu, která nerozlišuje jen pozitivní a negativní, ale identifikuje konkrétní typy nepřátelského obsahu, jako jsou urážky, výhrůžky či nenávistné projevy. Cílem je moderovat online diskuze a odhalovat nevhodné komentáře.
• Modelování témat: Technika, která bez předchozího zadání sama objeví abstraktní témata skrytá ve velkém množství dokumentů. Systém projde texty a seskupí slova, která se často vyskytují spolu, čímž vytvoří „témata“. Pomáhá to například právníkům rychle najít relevantní důkazy v tisících dokumentů.
• Optimalizace pro vyhledávače (SEO):  NLP je skvělý nástroj pro dosažení vyššího umístění vaší firmy ve vyhledávání online. Analýza vyhledávání umožňuje optimalizovat obsah. Vyhledávače používají NLP k hodnocení výsledků vyhledávání – a znalost efektivního používání těchto technik vám usnadní umístění nad konkurencí. To povede k větší viditelnosti vaší firmy.

Pro pokročilé: 2 metody zpracování přirozeného jazyka

Metod je samozřejmě více, ale zde si pro ilustraci představíme dvě z nich. Pro lepší porozumění doporučujeme se přečíst článek o neuronových sítích.
Představte si, že máte za úkol naučit počítač rozumět textu. Jak jsme si řekli, počítač nezná slova, zná jen čísla. Musíme tedy najít způsob, jak slova na čísla převést. K tomu slouží různé metody, od těch nejjednodušších po velmi sofistikované. Dvěma základními jsou Bag-of-Words a Word Embedding.

1. Metoda Bag-of-Words (Pytel slov)

Tohle je ta jednodušší, starší, ale stále užitečná metoda. Její název ji perfektně vystihuje.

Jak to funguje: Představte si, že vezmete dokument (třeba větu), vezmete všechna slova a hodíte je do jednoho pytle. Vůbec vás nezajímá jejich pořadí, gramatika nebo souvislosti. Jediné, co vás zajímá, je, kolikrát se které slovo v pytli nachází.

Postup vypadá takto:

1. Vytvoříme si slovník: Projdeme všechny dokumenty, se kterými chceme pracovat, a vytvoříme si seznam všech unikátních slov.
2. Počítáme slova: Pro každý dokument pak vytvoříme číselný seznam (vektor), který má stejnou délku jako náš slovník. Na každé pozici v tomto seznamu bude číslo, které udává, kolikrát se dané slovo ze slovníku v našem dokumentu vyskytlo.

Příklad v praxi: Mějme dva krátké dokumenty:

• Dokument 1: „Pes běhá za míčem.“
• Dokument 2: „Kočka honí psa.“

1. Slovník: [pes, běhá, za, míčem, kočka, honí]
2. Převedeme dokumenty na čísla (vektory):
   • Dokument 1: [1, 1, 1, 1, 0, 0] (Pes je 1x, běhá 1x, za 1x, míčem 1x, kočka 0x, honí 0x)
   • Dokument 2: [1, 0, 0, 0, 1, 1] (Pes je 1x, kočka 1x, honí 1x, ostatní 0x)

Výhody:

• Je to extrémně jednoduché a rychlé na výpočet.
• Pro některé základní úkoly (jako je detekce spamu nebo základní třídění dokumentů podle témat) funguje překvapivě dobře.

Nevýhody (a ty jsou velké):

• Ztrácí veškerý kontext a pořadí slov. Pro tuto metodu jsou věty „Muž kousl psa“ a „Pes kousl muže“ téměř identické, přestože jejich význam je naprosto opačný.
• Nerozumí významu. Pro počítač jsou slova „král“ a „královna“ úplně cizí a nesouvisející pojmy. Stejně tak nerozliší slovo „let“ (letadlo) a „let“ (ročních období).

Hovorová analogie: Bag-of-Words je jako vysypat nákupní košík na pás u pokladny. Je jedno, jestli jste nejdřív do košíku dali mléko, nebo rohlíky. Pokladní jen spočítá, kolik máte kusů od každého druhu zboží.

2. Metoda Word Embedding (Vnoření slov)

Tohle je moderní a mnohem chytřejší přístup, který je základem téměř všech dnešních pokročilých NLP modelů.

Jak to funguje: Místo jednoduchého počítání výskytu se každému slovu přiřadí sada čísel (hustý vektor), která reprezentuje jeho význam a kontext. Cílem je, aby slova s podobným významem měla i podobné sady čísel.

Představte si, že každé slovo dostane souřadnice na obrovské vícedimenzionální mapě.

• Slova jako „král“, „královna“, „princ“ a „princezna“ by na této mapě byla blízko u sebe v oblasti „panovníci“.
• Slova „pes“, „kočka“, „štěně“ a „kotě“ by zase tvořila jiný shluk v oblasti „domácí mazlíčci“.

Tato metoda navíc dokáže zachytit i vztahy mezi slovy. Slavným příkladem je matematická operace:

vektor(„Král“) – vektor(„Muž“) + vektor(„Žena“) ≈ vektor(„Královna“)

Počítač se z milionů textů naučil, že vztah mezi králem a mužem je podobný jako vztah mezi královnou a ženou. Nejde mu tedy jen o význam slova samotného, ale i o jeho roli a vazby na ostatní.

Tyto „chytré“ číselné reprezentace (embeddingy) se netvoří počítáním, ale jsou výsledkem trénování neuronových sítí na obrovském množství textu (třeba celé Wikipedii).

Výhody:

• Zachytává sémantický význam a kontext slov.
• Rozumí vztahům mezi slovy (synonyma, protiklady, analogie).
• Výrazně zlepšuje výkon téměř všech NLP úkolů od překladu po analýzu sentimentu.

Nevýhody:

• Výpočetně náročnější na vytvoření.
• Potřebuje velké množství dat k natrénování.

Hovorová analogie: Word Embedding je jako GPS navigace pro slova. Nejenže vám řekne, kde se slovo „Paříž“ nachází (je to město v Evropě), ale také vám ukáže, že je blízko „Francie“, že se v něm nachází „Eiffelovka“ a že je podobného typu jako „Londýn“ nebo „Řím“.

Shrnutí v kostce:

Kdybychom to měli shrnout, zpracování přirozeného jazyka je technologie, která přestala nutit lidi, aby se učili jazyk počítačů, a místo toho naučila počítače ten náš. Díky schopnosti rozebrat větu, pochopit její záměr a dokonce vycítit emoce, se z umělé inteligence stal nejen výkonný nástroj, ale i spolupracovník, asistent a tvůrce.

Od automatizace nudných úkolů až po ovládání dronu hlasem, NLP odemyká dveře k budoucnosti, kde bude interakce s technologií stejně přirozená jako rozhovor s přítelem. A tato budoucnost, jak se zdá, už dávno začala.

Aktualizováno dne: 11. 7. 2025

Zdroje:

1. What Is NLP (Natural Language Processing)? | IBM [online]. [cit. 11. 07. 2025]. Dostupné z: https://www.ibm.com/think/topics/natural-language-processing
2. Natural Language Processing (NLP) [A Complete Guide] [online]. [cit. 11. 07. 2025]. Dostupné z: https://www.deeplearning.ai/resources/natural-language-processing/
3. Natural Language Processing (NLP): Definition and Principles [online]. [cit. 11. 07. 2025]. Dostupné z: https://datascientest.com/en/natural-language-processing-definition-and-principles