AI agenti ve firmách: přínos, EU AI Act a bezpečný provoz

AI agenti už nejsou pouze experimentální technologií. Dokážou samostatně pracovat s firemními daty a systémy, provádět vícekrokové úkoly, připravovat podklady pro rozhodování nebo automatizovat celé části procesů. S jejich rostoucí samostatností ale vznikají nové otázky týkající se odpovědnosti, kontroly, bezpečnosti a souladu s regulací.

EU AI Act zavádí pro používání AI systémů pravidla založená na jejich účelu, míře rizika a roli konkrétní organizace. Firma proto musí vědět nejen to, kde AI používá, ale také zda vystupuje jako její uživatel, nebo se například úpravou systému, změnou jeho účelu či používáním pod vlastní značkou může stát jeho poskytovatelem. Vedle AI Actu je zároveň potřeba zohlednit související požadavky vyplývající například z NIS2, Cyber Resilience Actu nebo DORA.

Samotný soulad s regulací ale nestačí. Úspěšné nasazení AI agenta vyžaduje realistický business case, jasně stanovenou odpovědnost, lidský dohled a kontrolu nad tím, k jakým datům a systémům má agent přístup. Firma musí řešit také dokumentaci rozhodnutí, smluvní vztahy s dodavateli, ochranu dat, řízení změn modelu a postup pro případ, že systém začne fungovat jinak, než se očekávalo.

Akce proto propojí právní a regulatorní pohled s praktickými otázkami provozu, bezpečnosti a skutečného ekonomického přínosu AI agentů. Účastníci získají konkrétní rámec, podle kterého mohou posoudit připravenost své organizace a bezpečně převést AI řešení z pilotního projektu do běžného firemního provozu.

Co vám účast na akci přinese?

• Získáte přehled o tom, jak se na firemní používání AI vztahuje EU AI Act a související regulace, například NIS2, Cyber Resilience Act nebo DORA.
• Pochopíte rozdíl mezi rolí uživatele neboli deployera a poskytovatele AI systému a zjistíte, ve kterých situacích se může role a odpovědnost firmy změnit.
• Naučíte se rozpoznat, kde mohou AI agenti přinést skutečnou hodnotu a kde naopak náklady, rizika a nutná kontrolní opatření převáží nad očekávaným přínosem.
• Seznámíte se s rizikovými oblastmi, jako jsou HR, nábor, hodnocení klientů, cenotvorba nebo rozhodnutí s přímým dopadem na konkrétní osoby.
• Získáte přehled o technických, regulatorních, organizačních, smluvních a provozních opatřeních potřebných pro bezpečné nasazení AI.
• Dozvíte se, jak nastavit lidský dohled, odpovědnost managementu, evidenci rozhodnutí, přístupová oprávnění a kontrolu nad změnami systému.
• Ujasníte si, co by firma měla udělat během prvních 60 minut incidentu souvisejícího s provozem AI agenta.
• Odnesete si konkrétní otázky a doporučené kroky, podle kterých můžete vyhodnotit připravenost vlastní organizace.

Komu je akce určena?

Akce je určena členům vedení společností, zejména CEO, COO, CRO, CIO a CISO, dále AI officerům, právním a compliance týmům, specialistům na kybernetickou bezpečnost a řízení rizik, interním auditorům a vedoucím pracovníkům odpovědným za konkrétní AI use cases.

Relevantní je také pro firmy, které již AI řešení testují nebo používají a chtějí je převést do běžného provozu, stejně jako pro organizace, které teprve nastavují pravidla, odpovědnosti a interní governance pro bezpečné využívání AI.

Obsah je vhodný pro společnosti z oblasti výroby, energetiky, retailu a e-commerce, dopravy a logistiky, telekomunikací, zdravotnictví, finančních služeb i veřejného sektoru.

Info: AI Act, NIS2, Cyber Resilience Act a DORA. Které povinnosti se mohou na firmu vztahovat a od kdy?

Info: Klasifikace AI systémů, hranice vysokého rizika, povinnosti podle jednotlivých kategorií a AI gramotnost zaměstnanců.

Info: Kdy se může firma úpravou systému, změnou jeho účelu nebo používáním pod vlastní značkou stát jeho poskytovatelem?

Info: Kde AI agenti přinášejí skutečnou hodnotu, jak připravit realistický business case a ve kterých oblastech je potřeba zvýšená opatrnost?

Info: Pět oblastí bezpečného nasazení AI: technická, regulatorní, organizační, smluvní a provozní opatření.

Info: Praktický scénář zaměřený na řešení incidentu spojeného s provozem AI agenta.

Event venue & nearby stays

NHQ Centrála ČSOB, 333/150 Radlická, Praha 5, Czech Republic

Concerts, fests, parties, meetups — all the happenings, one place.

Get the app →