Sztuczna inteligencja pomaga analizować dokumenty, tworzyć treści i automatyzować zadania. Wygoda może jednak osłabić czujność. Do chatbota trafiają czasem dane klientów, umowy, wyniki finansowe, fragmenty kodu lub firmowa korespondencja. Po ich wysłaniu dalsze przetwarzanie zależy od zasad usługi, konfiguracji konta i umowy z dostawcą.
Najbardziej oczywistym zagrożeniem jest niekontrolowane ujawnienie danych. Polecenie wpisane do zewnętrznego narzędzia może zostać zapisane w historii lub dziennikach technicznych, a niekiedy wykorzystane zgodnie z warunkami danej usługi. Ryzyko rośnie, gdy pracownicy używają prywatnych kont lub aplikacji niezatwierdzonych przez firmę. Taka praktyka, określana jako „shadow AI”, utrudnia ustalenie, gdzie trafiły informacje i kto ma do nich dostęp.
Problem nie kończy się na zachowaniu użytkowników. OWASP wymienia ujawnienie informacji wrażliwych oraz prompt injection wśród istotnych zagrożeń dla aplikacji opartych na dużych modelach językowych. Spreparowana treść może skłonić źle zabezpieczony system do wykonania niepożądanego polecenia lub ujawnienia dostępnych mu informacji. Europejska Rada Ochrony Danych wskazuje też, że model wytrenowany na danych osobowych nie staje się automatycznie anonimowy. W określonych warunkach część informacji może pozostać możliwa do wydobycia.
Czy zatem należy zrezygnować z AI? Nie. Sama technologia nie przesądza o naruszeniu bezpieczeństwa. Zagrożenie powstaje wtedy, gdy narzędzie wdraża się bez analizy ryzyka, jasnych zasad i kontroli nad danymi. NIST zaleca zarządzanie ryzykiem w całym cyklu życia systemu AI: od wyboru rozwiązania i danych, przez testy, aż po monitorowanie.
W praktyce podstawową zasadą powinno być niewprowadzanie do publicznych chatbotów haseł, numerów dokumentów, danych medycznych, tajemnic przedsiębiorstwa ani pełnych baz klientów. Przed przesłaniem materiału warto usunąć dane identyfikujące lub zastąpić je neutralnymi oznaczeniami. Firma powinna zatwierdzić konkretne narzędzia, sprawdzić warunki przechowywania i używania danych, ograniczyć uprawnienia oraz szkolić pracowników. Potrzebna jest również procedura reagowania na pomyłkę lub incydent.
RODO wymaga między innymi minimalizacji danych oraz zapewnienia ich integralności i poufności. Zasady te obowiązują również wtedy, gdy w procesie uczestniczy AI. Najtrafniejsza odpowiedź brzmi więc: sztuczna inteligencja może być zagrożeniem dla danych, lecz skala ryzyka zależy głównie od sposobu jej wdrożenia i używania. Rozsądna selekcja informacji, bezpieczna konfiguracja i nadzór człowieka pozwalają korzystać z zalet AI bez niepotrzebnego wystawiania danych na ryzyko.
Monika Zygmunt-Jakuć (Inspektor ochrony danych)