Jen nutná data
Každý krok má dostat pouze data, která potřebuje. Nevyžadujeme širší přístup jen proto, že je technicky možný.
Bezpečnost a ochrana dat v AI řešeních
Než začneme stavět, zmapujeme data, přístupy, poskytovatele, dobu uchování a rizika. Konkrétní opatření vždy vycházejí z citlivosti dat a provozu klienta.
Čtyři zásady návrhu
Nejmenší oprávnění
Role, služby a integrace dostanou pouze povolené zdroje a úkony. Čtení dat neznamená právo je měnit.
Schválení člověkem
Citlivá změna může čekat na kontrolu a potvrzení. Rozsah schvalování stanovíme podle dopadu chyby.
Dohledatelný průběh
U důležitých kroků zaznamenáme, kdo nebo co akci spustilo, jaký byl výsledek a zda ji člověk schválil.
Co určíme před vývojem
Bezpečnostní návrh začíná popisem toku dat. Teprve potom lze správně zvolit cloud, model, oprávnění a dobu uchování.
1
Zdroje a citlivost
Sepíšeme, odkud data přicházejí, kdo je vlastní a zda obsahují osobní, smluvní nebo jinak chráněné údaje.
2
Poskytovatelé a umístění
Určíme, které služby data zpracují, v jakém regionu a jaké smluvní podmínky se na ně vztahují.
3
Přístupy a integrace
Vymezíme role, povolené zdroje, čtení, zápisy a kroky, které musí potvrdit člověk.
4
Uchování a smazání
Stanovíme, co se ukládá, jak dlouho to zůstane dostupné, kdo může data smazat a co se objeví v zálohách.
Kontroly v průběhu projektu
Architektura
- Oddělená vývojová a produkční prostředí
- Tajné údaje mimo zdrojový kód
- Šifrovaný přenos a podle potřeby šifrované uložení
- Omezené role pro služby a integrace
Vývoj
- Kontrola změn dalším vývojářem
- Kontrola knihoven a známých zranitelností
- Testy oprávnění, chybných vstupů a zamítnutých akcí
- Testovací data bez zbytečných osobních údajů
Provoz
- Monitoring dostupnosti a chyb
- Záznam důležitých přístupů a změn
- Postup pro omezení přístupu při incidentu
- Pravidelné ověření rolí a doby uchování
Co musí být jasné v návrhu řešení
Stejná sada slibů neplatí pro každý projekt. Před zahájením proto písemně potvrdíme hlavní volby.
Tyto body neschováváme do obecného slibu. Zapíšeme je do návrhu řešení a podle potřeby také do smlouvy a dokumentace provozu.
Kde běží aplikace a model
Kteří poskytovatelé a další zpracovatelé dostanou data
Zda poskytovatel může data použít pro trénování modelu
Jak dlouho zůstanou vstupy, výstupy a provozní záznamy uložené
Které role mohou data číst, měnit a mazat
Které kroky vyžadují schválení člověkem
Jak se omezí přístup a obnoví provoz při incidentu
Řešíte AI nad citlivými firemními daty?
Popište zdroje dat, uživatele a požadované úkony. Navrhneme rozsah přístupů, kontroly a provozu.
Probrat bezpečnost řešení