Když AI jen hádá další slovo, jak může řešit matematiku?

Představte si, že vám někdo řekne: „AI přece jen hádá, jaké slovo bude následovat.“ O chvíli později čtete, že AI vyřešila složitou matematickou úlohu. Obojí může být pravda. Zmatek způsobuje hlavně slovo jen.

Jazykový model opravdu vytváří odpověď po malých částech. Těm se říká tokeny — mohou to být celá slova, jejich části nebo znaménka. Další část ale nevybírá jako při hodu kostkou. Bere v úvahu otázku, předchozí text a vztahy, které se během učení naučil.

Jak AI předpovídá další slovo — a další krok

Představte si šachistu. Také pokaždé „jen“ vybírá další tah. Jenže k dobrému výběru musí vidět rozložení figurek, znát pravidla a odhadovat, co bude následovat. Popsat šachy jako vybírání dalšího tahu je tedy pravda, ale nevysvětluje to nejtěžší část.

Podobné je to s jazykovým modelem. Ve větě „Peníze jsem uložil do banky“ chápe slovo banka jinak než ve větě o říčním břehu. Okolní slova mění význam. Mechanismus, který pomáhá modelu sledovat tyto vztahy, je základem architektury zvané Transformer.

Matematika je ještě přísnější jazyk. Další řádek důkazu nemůže být libovolný. Musí navazovat na zadání, definice a předchozí kroky. Pokud se model naučil dost vzorů matematického uvažování, může navrhovat další možný krok, potom další a postupně sestavit řešení, které v tréninkových textech nikdy nebylo přesně v této podobě.

Proč matematika není kouzlo

To neznamená, že každá hezky napsaná odpověď je správná. Samotný model může vytvořit přesvědčivou chybu. Úspěšné matematické systémy proto často přidávají hledání více cest a kontrolu výsledku.

Například systém AlphaProof od Google DeepMind spojil jazykový model s hledáním možných důkazů a programem Lean, který umí každý krok formálně ověřit. V roce 2024 pomohl vyřešit nové úlohy z Mezinárodní matematické olympiády. To je působivé, ale není to totéž jako automaticky vyřešit libovolný desítky let otevřený problém.

Co z toho plyne pro běžné používání AI

„Předpovídá další token“ popisuje způsob, jakým odpověď vzniká. Neříká, jak jednoduchá nebo spolehlivá odpověď bude.

Ve firmě proto používejte AI jako schopného navrhovatele, ne jako posledního rozhodčího. Nechte ji připravit návrh e-mailu, výpočtu nebo postupu. Tam, kde chyba něco stojí, přidejte kontrolu kalkulačkou, firemními pravidly nebo člověkem. Síla AI není v tom, že se nikdy nesplete. Je v tom, že umí rychle navrhnout další rozumný krok.

Zdroje

Máte proces, ve kterém AI potřebuje spolehlivou kontrolu? Ozvěte se — navrhneme řešení, které nestojí jen na hezky znějící odpovědi.