Shadow AI:
sztuczna inteligencja w cieniu firmy
Pracownik ma do napisania trudne pismo, więc wkleja dokumenty do prywatnego czatu AI. Szybko, wygodnie — i bez wiedzy szefa, działu IT i klienta, którego dane właśnie opuściły firmę. To zjawisko ma swoją nazwę: Shadow AI. Wyjaśniamy, czym jest, dlaczego jest groźne zwłaszcza w kancelariach i gabinetach i dlaczego sam zakup licencji go nie rozwiązuje.
Czym jest Shadow AI
Shadow AI to używanie narzędzi sztucznej inteligencji — ChatGPT, Claude, Gemini i podobnych — bez wiedzy i zgody firmy, poza jej oficjalnymi zasadami. Nazwa nawiązuje do starszego pojęcia Shadow IT, czyli programów i usług, z których pracownicy korzystają na własną rękę.
Pokrewne pojęcia to BYOAI (Bring Your Own AI), czyli używanie w pracy własnego, prywatnego konta AI, oraz węższe określenia Shadow LLM i Shadow GenAI.
Skala zjawiska
W badaniu Microsoft i LinkedIn z 2024 roku (Work Trend Index) 78 procent osób korzystających z AI w pracy przyznało, że używa własnych narzędzi — w małych i średnich firmach było to 80 procent. Autorzy badania wskazali wprost, że takie podejście naraża dane firmy.
Najgłośniejszy przykład skutków pochodzi z 2023 roku: inżynierowie Samsunga wkleili do ChatGPT fragmenty poufnego kodu źródłowego. Firma wprowadziła wtedy zakaz używania publicznych narzędzi AI na służbowych urządzeniach i zapowiedziała budowę własnych.
Co może pójść źle
- Wyciek tajemnicy przedsiębiorstwa. Dokumenty, umowy, strategie i kod trafiają do zewnętrznego dostawcy, na którego warunki firma nie ma wpływu.
- Naruszenie RODO. Dane osobowe klientów trafiają do podmiotu, z którym firma nie zawarła umowy powierzenia przetwarzania danych (art. 28 RODO).
- Naruszenie tajemnicy zawodowej. W zawodach zaufania publicznego to szczególnie poważne. Radca prawny ma obowiązek zachować w tajemnicy wszystko, o czym dowiedział się w związku z udzielaniem pomocy prawnej (art. 3 ust. 3 ustawy o radcach prawnych). Podobne obowiązki mają adwokaci i lekarze.
- Brak kontroli jakości. Nikt nie wie, że pismo powstało z pomocą AI, więc nikt nie sprawdza, czy model nie wymyślił przepisu albo orzeczenia.
- Brak śladu. Firma nie ma dziennika, kto, kiedy i jakie dane przekazał na zewnątrz — nie odtworzy tego po incydencie.
„Kupiliśmy licencje, problem rozwiązany”
Wiele firm kupuje licencje na narzędzia AI, na przykład Copilota, i uznaje temat za zamknięty. Tymczasem zakup licencji często nie eliminuje Shadow AI. Jeśli oficjalne narzędzie jest mniej wygodne, wolniejsze albo słabsze w konkretnym zadaniu, pracownicy i tak sięgają po to, które znają z domu. Zakaz bez dobrej alternatywy przenosi problem jeszcze głębiej w cień.
Jak przeciwdziałać
- Polityka AI w firmie — jasne zasady: jakich narzędzi wolno używać, do czego i jakich danych nigdy nie wolno do nich wklejać.
- Zatwierdzone narzędzia — wersje firmowe z umową powierzenia danych (DPA) albo, jeszcze lepiej, modele działające na własnych serwerach.
- Ochrona przed wyciekiem — systemy DLP (Data Loss Prevention, zapobieganie utracie danych) i monitorowanie ruchu do serwisów AI.
- Szkolenia — od lutego 2025 roku unijny akt o sztucznej inteligencji (AI Act, art. 4) wymaga, by firmy korzystające z systemów AI dbały o odpowiedni poziom kompetencji swoich pracowników w tym zakresie.
- Narzędzie lepsze niż prywatne — najskuteczniejsza obrona. Jeśli firmowe narzędzie zna akta sprawy, wzory pism i procedury, pracownik nie ma powodu sięgać po prywatny czat.
Jak wyprowadzamy AI z cienia
Budujemy dla kancelarii narzędzia, które robią to, po co pracownicy sięgają do prywatnych czatów: szukają orzeczeń i przepisów, porządkują akta, przygotowują szkice pism. Różnica polega na tym, że:
- dokumenty z danymi osobowymi przetwarzają modele na naszych serwerach,
- tam, gdzie korzystamy z modelu w chmurze, dane osobowe są wcześniej maskowane,
- narzędzie zna akta sprawy i wzory kancelarii, więc jest wygodniejsze niż prywatny czat,
- każde użycie zostawia ślad, a powołania przepisów i orzeczeń są sprawdzane w źródle.
Podsumowanie
Shadow AI to nie bunt pracowników, tylko znak, że potrzebują AI w pracy, a firma nie dała im dobrego narzędzia. Zakazy i same licencje nie wystarczą. Potrzebna jest polityka, szkolenia, ochrona danych — i przede wszystkim firmowe narzędzie tak dobre, że nikt nie będzie chciał korzystać z innego.
Źródła
- Microsoft i LinkedIn — 2024 Work Trend Index
- Bloomberg — Samsung zakazuje AI po wycieku przez ChatGPT, maj 2023
- RODO — rozporządzenie 2016/679, art. 28
- AI Act — rozporządzenie 2024/1689, art. 4
- Ustawa z dnia 6 lipca 1982 r. o radcach prawnych, art. 3 ust. 3