Dominik Vítek

Image

Umělá inteligence a kyberbezpečnost (z pohledu právního)

Rozvoj umělé inteligence (resp. v rozsahu ve kterém dnešní systémy – často založené na principech strojového učení – za umělou inteligenci označujeme) s sebou přináší zásadní právní výzvy – ať již se jedná o otázky odpovědnosti za jednání AI systémů, autorství, ochrany soukromí, nakládání s daty, ale rovněž kybernetické bezpečnosti. Kybernetická bezpečnost přitom hraje zásadní roli při zajišťování odolnosti systémů umělé inteligence proti pokusům změnit jejich využití, chování, výkon nebo jejich vlastností.

Kybernetické útoky na systémy AI mohou využívat aktiva specifická pro AI, jako jsou tréninkové datové soubory (např. narušení těchto data-setů) nebo trénované modely (např. nepřátelské útoky), popř. zneužít slabá místa v digitálních aktivech systému AI nebo základní infrastruktuře ICT. Aby byla zajištěna úroveň kybernetické bezpečnosti odpovídající rizikům vždy konkrétního systému, měli by poskytovatelé systémů umělé inteligence přijmout vhodná opatření. Z právního hlediska přitom set bezpečnostních opatření přitom nelze stanovovat dogmaticky. Zákonodárce obvykle nedisponuje nezbytnými znalostmi, ale především jakákoliv dogmata by významně svazovala další vývoj kybernetické bezpečnosti.

Dominik Vítek

Dominik působí jako seniorní advokát v AK Pierstone, kde se specializuje na právo ochrany soukromí a osobních údajů, práva ICT, IP, telekomunikací a kybernetické bezpečnosti. Pravidelně publikuje a přednáší na odborná témata související s ochranou soukromí, technologiemi, digitalizací a umělou inteligencí. Je spoluautorem komentáře k Obecnému nařízení o ochraně osobních údajů (GDPR) a k Zákonu o zpracování osobních údajů (nakladatelství Leges 2019).


Vytisknout