Průmyslová AI není chatbot: Proč Siemens sází na vysvětlitelnost a škálovatelnost

Spotřební versus průmyslová AI

Velké jazykové modely typu ChatGPT fungují na principu statistické pravděpodobnosti. Generují text, který vypadá správně, ale nemají žádný vnitřní model reality. V průmyslovém prostředí takový přístup nestačí. Když AI optimalizuje plynovou turbínu, řídí chemický proces nebo plánuje údržbu větrné elektrárny, musí každé její doporučení odpovídat fyzikálním zákonům a bezpečnostním normám. Chyba chatbotu v e‑mailu nikoho neohrozí. Chyba v řízení výrobní linky nebo zařízení kritické infrastruktury může stát miliony nebo ohrozit lidské životy.

„Průmyslová AI musí splňovat tři základní podmínky, které spotřební modely zas až tak řešit nemusejí,“ vysvětluje Tomáš Froněk, ředitel pro rozvoj prodeje ve střední a východní Evropě ze společnosti Siemens. „Jde o determinismus, kdy stejný vstup musí vést ke stejnému výstupu, robustnost, kdy model nesmí selhávat na neobvyklých podmínkách, a vysvětlitelnost, kdy musí být možné zpětně rekonstruovat, jak rozhodovací proces probíhal a proč AI dospěla ke konkrétnímu závěru,“ míní Froněk.

Vysvětlitelnost není luxus, ale nutnost

Modely a řešení průmyslové umělé inteligence musejí umět poskytnout člověku srozumitelné zdůvodnění svého výstupu. V regulovaných odvětvích, jako jsou farmaceutický průmysl, potravinářství, doprava nebo energetika, jde o základní podmínku nasazení.

Chyba v řízení výrobní linky nebo zařízení kritické infrastruktury může stát miliony nebo ohrozit lidské životy.

Foto: Siemens

V praxi to znamená, že v průmyslu AI nesmí fungovat jako černá skříňka. Lidský kolega AI musí vidět, že systém doporučil snížit teplotu v peci nikoli proto, „že to řekl algoritmus“, ale proto, že senzor vlhkosti vstupní suroviny indikoval hodnotu mimo obvyklé pásmo. Teprve když lidé, kteří v průmyslu s AI pracují, rozumějí logice doporučení, začnou mu důvěřovat. Pak má smysl uvažovat o širším nasazení.

Proč většina průmyslových firem bojuje se škálováním AI

„Po počátečním nadšení z AI v průmyslu přichází vystřízlivění. Firmy zjišťují, že nasadit pilotní projekt je jedna věc, ale škálovat ho napříč celým závodem nebo dodavatelským řetězcem je něco úplně jiného,“ upozorňuje Froněk.

Většina průmyslových AI projektů úspěšně projde fází nazvanou proof‑of‑concept, ale nedokáže překročit hranici plošného nasazení. Příčiny jsou systémové: data jsou roztříštěná v desítkách různých systémů, provozní technologie nekomunikují s podnikovým IT a lidé z provozu nedůvěřují doporučením, jejichž logiku nevidí. Právě tady se uzavírá bludný kruh. Bez důvěry lidí v provozu nedojde k nasazení. Bez nasazení chybí zpětná vazba. A bez zpětné vazby se model nezlepšuje.

„Klíčem je propojit doménovou znalost s datovou infrastrukturou – a to je přesně to, co Siemens dělá s platformou Industrial Copilot a ekosystémem Xcelerator,“ vysvětluje Froněk. „Aby AI byla pro průmyslové firmy skutečně přínosná, musí se nasadit do digitalizovaného prostředí. Je to mimořádně mocný nástroj, ale má své nároky na digitalizaci a kvalitu dat i lidí, kteří s ním pracují.“

Tři pilíře průmyslové AI Siemens

Prvním jsou desetiletí průmyslového know‑how, včetně rozsáhlých zkušeností z provozování vlastních výrobních závodů po celém světě. Tato hluboká doménová znalost, tedy pochopení výrobních procesů, bezpečnostních limitů a provozu je něco, co žádný obecný AI model trénovaný na internetových datech nemá. Siemens ji do svých AI řešení přímo vkládá.

Budoucnost průmyslu

Stáhněte si přílohu v PDF

Druhým pilířem je Siemens Xcelerator – otevřená digitální platforma, která pod jednou střechou nabízí hardware, software a digitální služby Siemensu i jeho partnerů. Pro průmyslovou AI je Xcelerator zásadní: místo izolovaných pilotních projektů umožňuje nasazovat AI řešení jako přirozenou součást širší digitální architektury podniku a díky tomu je škálovat.

Třetí pilíř je Siemens Industrial Copilot – AI asistent, který spojuje oba předchozí pilíře do nástroje, který je přístupný a srozumitelný. Lidé v provozu se mohou systému zeptat přirozeným jazykem a dostanou odpověď, která vychází z reálných provozních dat a zároveň respektuje výrobní procesy a bezpečnostní pravidla daného odvětví. Nejde o obecný chatbot – Industrial Copilot „ví“, jak konkrétní výrobní linka funguje, a dokáže vysvětlit, proč konkrétní zásah nebo postup navrhuje.

Průmyslová umělá inteligence není vylepšený chatbot. Vyžaduje hlubokou doménovou znalost, robustní datovou architekturu a transparentní rozhodování. Siemens kombinací vlastního hardwaru, softwaru a desetiletí průmyslového know‑how ­ukazuje, že AI lze v průmyslu nejen nasadit, ale i úspěšně škálovat.

Článek byl publikován ve speciální příloze HN Budoucnost průmyslu.