Postavili jsme asistenta na architektuře RAG (Retrieval-Augmented Generation). Jazykový model neodpovídá „z hlavy“, ale z úryvků, které systém nejprve dohledá v obsahu portálů.

Díky tomu odpovídá jen tím, co bylo ze strany ČŠI a MŠMT skutečně publikováno, a u každého tvrzení ví, odkud pochází.

Protože portály nemají API, vyvinuli jsme scrapovací agenty, kteří portály kvalitniskola.cz a edu.gov.cz pravidelně procházejí, rozpoznají nový nebo změněný obsah a zpracují jen ten. Text se vyčistí, rozdělí na úryvky a u každého se od první chvíle uchovává zdrojová URL, název a sekce. Když stránka zmizí, zmizí i z indexu, takže odkazy v odpovědích zůstávají platné. Digitální PDF zpracováváme lokálně, OCR se volá jen pro skenované stránky.

Dotaz uživatele, případně přeformulovaný podle předchozí konverzace, prochází hybridním vyhledáváním: významové vyhledávání zachytí smysl i při jiné formulaci, fulltext zase přesné názvy kritérií. Kandidáty ještě přeřadí model relevance a teprve nejlepší úryvky dostane jazykový model jako podklad. Ten sestaví obsažnou odpověď v češtině a pod ni doplní seznam použitých zdrojů s prokliky na konkrétní místo v portálu.

Jádro řešení je oddělené od konkrétních technologií úzkými rozhraními. Jazykový model, vektorovou databázi, embedding i jednotlivé datové zdroje lze vyměnit změnou konfigurace nebo jednoho adaptéru, bez zásahu do logiky. Všechny modely voláme přes jednotnou bránu (LiteLLM), která hlídá rozpočtové limity a eviduje spotřebu. Celé řešení běží v kontejnerech a může být kdykoli přenositelné do infrastruktury ČŠI, on-premise nebo cloudu.

Místo klasického díla s pevným termínem převzetí, jsme asistenta schopni nabízet jako službu, která se platí jen za měsíce, kdy ji zákazník využívá. Flexibilnější a bez nároků na vlastní odborné kapacity je pak i aktualizace obsahu, ladění struktury odpovědí, obsažnosti i citací, které probíhají průběžně a přímo na základě zpětné vazby skutečných uživatelů. Součástí služeb je také provoz, pravidelná aktualizace dat, governance, monitoring, ticketing a měsíční reporting využití.

‍