AI agenti uzavřou smlouvy dříve, než je právo dožene

Ještě donedávna byla umělá inteligence nástrojem, který člověku pomáhal rozhodnout. Dnes už s ní pracujeme jako s někým, kdo rozhoduje sám – objednává služby, vyjednává podmínky, odsouhlasí nabídku. A firmy, se kterými pracujeme, se čím dál častěji ptají: je takové jednání AI agenta vůbec právně závazné?

Odpověď zní ano – a v tom je právě ten problém. Naše právo dlouhodobě počítá s tím, že smlouvu uzavírá člověk nebo firma jednající prostřednictvím člověka. Jakmile ale rozhodnutí činí autonomní systém podle předem nastavených pravidel, hranice mezi „nástrojem“ a „jednajícím“ se rozostřuje. Firma se pak snadno ocitne v situaci, kdy je smluvně zavázaná k něčemu, co žádný člověk fakticky neschválil.

V praxi to řešíme čím dál častěji – u firem, které nasazují AI do nákupu, do vyjednávání s dodavateli nebo do schvalování smluv. A ukazuje se jedno: technologie je dnes rychlejší než firemní procesy, které mají rozhodování AI hlídat.

Co by proto měl mít management pod kontrolou ještě před tím, než AI agenta do jednání vůbec pustí:

• Jasně definovat, kde končí doporučení AI a začíná závazné rozhodnutí – a kdo ho musí potvrdit.
• Nastavit finanční a obsahové limity, v jejichž rámci může agent jednat samostatně.
• Mít smluvně i interně ošetřeno, kdo nese odpovědnost, pokud agent jedná mimo zadání.
• Pravidelně ověřovat, že nastavená pravidla skutečně odpovídají tomu, jak agent v praxi jedná.

Otázka, kterou by si dnes měl položit každý statutární orgán, nezní „co všechno AI dokáže“, ale „co všechno jsme jí dovolili udělat bez nás“. Právo se k autonomním agentům teprve propracovává. Odpovědnost za jejich jednání ale nese firma už teď.

Článek byl publikován ve speciální příloze HN ICT revue.