Před několika měsíci se během bezpečnostního testu podařilo zmanipulovat generativního AI chatbota banky, který měl pomáhat s úvěrovými žádostmi, aby zveřejnil citlivé finanční informace. Testujícím se díky tomu podařilo získat podrobný seznam schválených půjček i se jmény klientů.

Tento varovný příklad zdůrazňuje klíčový problém současnosti: generativní umělá inteligence má potenciál zásadně proměnit mnohá odvětví, ale bez důkladných bezpečnostních opatření může přinést i velmi negativní dopady. Dosavadní modely zabezpečení jsou nedostačující a vyžadují urychlenou změnu přístupu.

Zbývá vám ještě 90 % článku

Co se dočtete dál

  • Jak překonání zabezpečení bankovního chatbota odhalilo slabiny AI systémů?
  • Jak si generativní AI klade otázku bezpečnosti?
  • Jaké nové směrnice je třeba zavést pro ochranu dat v AI?
Předplatné bez reklam první 2 měsíce za 80 Kč
  • Veškerý obsah HN.cz
  • Mobilní aplikace
  • Bez reklam
  • Odemykejte obsah pro přátele
  • Články v audioverzi + playlist
  • Možnost kdykoliv zrušit
za 80 Kč s mobilní aplikací
a bez reklam nebo za 40 Kč bez mobilní aplikace
a s reklamou
Máte již předplatné? Přihlásit se

Baví vás číst názory chytrých lidí? Odebírejte newsletter Týden v komentářích, kde najdete výběr toho nejlepšího. Pečlivě ho pro vás každý týden sestavuje Jan Kubita a kromě jiných píší Petr Honzejk, Julie Hrstková, Martin Ehl a Luděk Vainert.