Před několika měsíci se během bezpečnostního testu podařilo zmanipulovat generativního AI chatbota banky, který měl pomáhat s úvěrovými žádostmi, aby zveřejnil citlivé finanční informace. Testujícím se díky tomu podařilo získat podrobný seznam schválených půjček i se jmény klientů.

Tento varovný příklad zdůrazňuje klíčový problém současnosti: generativní umělá inteligence má potenciál zásadně proměnit mnohá odvětví, ale bez důkladných bezpečnostních opatření může přinést i velmi negativní dopady. Dosavadní modely zabezpečení jsou nedostačující a vyžadují urychlenou změnu přístupu.

Zbývá vám ještě 90 % článku

Co se dočtete dál

  • Jak překonání zabezpečení bankovního chatbota odhalilo slabiny AI systémů?
  • Jak si generativní AI klade otázku bezpečnosti?
  • Jaké nové směrnice je třeba zavést pro ochranu dat v AI?
První 2 měsíce předplatného za 40 Kč
  • První 2 měsíce za 40 Kč/měsíc, poté za 199 Kč měsíčně
  • Možnost kdykoliv zrušit
  • Odemykejte obsah pro přátele
  • Všechny články v audioverzi + playlist
Předplatit za 40 Kč
Máte již předplatné?
Přihlásit se

Baví vás číst názory chytrých lidí? Odebírejte newsletter Týden v komentářích, kde najdete výběr toho nejlepšího. Pečlivě ho pro vás každý týden sestavuje Jan Kubita a kromě jiných píší Petr Honzejk, Julie Hrstková, Martin Ehl a Luděk Vainert.