Začátkem února požádal italský úřad na ochranu údajů Garante AI chatbot Replica, aby přestal zpracovávat osobní údaje občanů. Účelem softwaru AI bylo být virtuálním „AI přítelem“ pro sociální interakce, které nevyžadovaly ověření věku. DPA zjistila, že robot AI zpracoval osobní údaje dětí bez jejich souhlasu.
S postupem AI technologií, zejména po spuštění ChatGPT a Google Bard, se může objevit více podobných případů.
A než se nevědomky ocitnete v takové situaci, mělo by velký smysl dozvědět se o ustanoveních GDPR souvisejících s umělou inteligencí:
Osobní data:
Systémy umělé inteligence jsou navrženy tak, aby shromažďovaly velké množství dat, včetně osobních údajů, které jsou následně analyzovány a zpracovávány. K tomu musí být dle GDPR splněny určité požadavky. Důraz je kladen na transparentnost, zákonnost a bezpečnost při zpracování osobních údajů. Systémy umělé inteligence proto musí být vyvíjeny s ohledem na tyto požadavky na ochranu údajů. Uživatelé musí být informováni o tom, jaké údaje jsou shromažďovány a jak jsou využívány. A musí mít možnost spolehnout se na systémy umělé inteligence, aby zajistily důvěrnost, integritu a dostupnost jejich osobních údajů.
profilování
Podle GDPR mají jednotlivci právo, aby jejich údaje nebyly použity k „profilování“. Profilování je automatizovaný proces navržený k předpovídání chování, preferencí nebo zájmů jednotlivce na základě údajů od nich shromážděných. Systémy umělé inteligence by proto měly být navrženy tak, aby uživatel byl jasně informován o tom, jak se profilování používá.
souhlas
Podobně jako u zpracování osobních údajů, aspekt souhlasu GDPR vyžaduje, aby uživatel dal svůj výslovný, vědomý a dobrovolný souhlas se zpracováním svých osobních údajů. Systémy umělé inteligence proto musí být navrženy tak, aby takový souhlas shromažďovaly a poskytovaly uživatelům komplexní informace o shromážděných údajích, o tom, jak jsou údaje sdíleny se třetími stranami a o možnosti souhlas kdykoli odvolat.
Závěr:
Vývojáři AI musí zajistit, aby jejich systémy byly vyvíjeny s ohledem na soukromí a aby uživatelé byli plně informováni o zpracování jejich osobních údajů. Soulad s GDPR je zásadní pro navození důvěry v systémy AI a zajištění jejich používání způsobem, který respektuje práva občanů na soukromí a ochranu dat.
