Wróć do bloga
Bezpieczeństwo i RODO

Twój pracownik wysłał dane pacjenta do ChatGPT. I nawet o tym nie wie.

Shadow AI w ochronie zdrowia - jak nieświadome używanie ChatGPT przez pracowników grozi naruszeniem RODO i jak anonimizacja danych chroni szpital.

Zespół Medalion5 marca 20267 min czytania

Lekarz ma napisać epikryzę. Jest zmęczony, ma jeszcze dwanaście podobnych do zrobienia, i wie że ChatGPT napisze ją w dziesięć sekund. Kopiuje dane pacjenta. Wkleja. Wysyła.

Dane osobowe właśnie opuściły szpital. Trafiły na serwery OpenAI. Być może zostały użyte do trenowania modelu. Na pewno nie wróciły.

Nikt się nie włamał. Żaden haker. Żaden ransomware. Pracownik chciał dobrze - chciał po prostu skończyć robotę.

To jest shadow AI. I to jest scenariusz, który dzieje się teraz, w polskich szpitalach, codziennie. Tylko nikt o tym głośno nie mówi.

Shadow AI - niewidzialne ryzyko, które już jest w Twojej organizacji

Shadow AI to używanie zewnętrznych narzędzi AI przez pracowników bez wiedzy i zgody organizacji. ChatGPT, Gemini, Copilot - wszystkie działają na zewnętrznych serwerach. Wszystkie mogą przechowywać to co do nich wklejasz.

W ochronie zdrowia ten problem ma szczególny wymiar. Dane pacjenta to dane szczególnej kategorii w rozumieniu RODO. Ich przetwarzanie podlega rygorystycznym wymogom. Wysłanie ich do zewnętrznego serwisu - nawet przez pracownika działającego w dobrej wierze - to naruszenie ochrony danych osobowych. Szpital nie ma z OpenAI żadnej umowy powierzenia przetwarzania danych. Z prawnego punktu widzenia te dane po prostu nie powinny tam trafić.

I to naruszenie, które jest niezwykle trudno wykryć. Nie ma włamania. Nie ma alertu w systemie bezpieczeństwa. Jest tylko lekarz, który chciał napisać epikryzę szybciej.

Badania pokazują że im bardziej intuicyjne i użyteczne narzędzie, tym chętniej pracownicy z niego korzystają - omijając procedury, których często nawet nie znają. ChatGPT jest dziś tak wbudowany w codzienną pracę, że pytanie "czy wysyłasz tam dane pacjentów" wielu pracownikom w ogóle nie przychodzi do głowy.

Rozwiązanie nie jest zakaz. Zakazy nie działają - szczególnie gdy narzędzie jest za darmo, w przeglądarce, i działa lepiej niż cokolwiek co IT zainstalowało na służbowym komputerze.

Rozwiązanie to warstwa anonimizacji przed wysłaniem. Zanim cokolwiek opuści szpital - dane osobowe są usunięte. Zostaje treść kliniczna. Lekarz dostaje to co potrzebuje, pacjent jest chroniony.

Drugi scenariusz: szpital "zanonimizował" dane. Tylko że nie do końca.

Jest taki przypadek, który warto znać na pamięć - jeśli zarządza się danymi medycznymi lub o nich pisze.

Szpital Specjalistyczny im. Świętej Rodziny. Kara UODO - 1,1 miliona złotych. Za brak odpowiednich środków technicznych. Między innymi za dane, które miały być używane w celach statystycznych - i miały być zanonimizowane - ale procedury usuwania identyfikatorów po prostu nie istniały.

To jest scenariusz numer dwa. Nie haker. Nie ransomware. Szpital, który chciał dobrze - chciał dzielić się danymi do badań, do analiz, do współpracy z uczelniami - ale nie miał narzędzia które faktycznie tę anonimizację wykona.

"Zanonimizowane" dane to w praktyce bardzo często dane z usuniętym imieniem i nazwiskiem. I nic więcej. To nie wystarczy. Regulator to wie. I karze za to coraz chętniej.

Trzeci scenariusz: dane do trenowania modeli AI

To jest scenariusz, który będzie coraz częstszy. Bo ustawa o e-zdrowiu, która wchodzi w 2026 roku, wprost otwiera drogę do certyfikowanych narzędzi AI w szpitalach. Projekt ustawy przewiduje Platformę Usług Inteligentnych - centralny system dający szpitalom dostęp do certyfikowanych narzędzi AI. Równolegle RODO i przepisy krajowe nakładają obowiązek pseudonimizacji lub anonimizacji danych przed przekazaniem ich do zewnętrznych systemów.

Żeby zbudować dobry model predykcyjny - do przewidywania rehospitalizacji, do wykrywania ryzyka powikłań, do automatycznego kodowania ICD-10 - trzeba go wytrenować na danych. Dużo danych. Prawdziwych danych klinicznych.

I tu zaczyna się problem. Bo te dane zawierają dane osobowe. I zanim trafią do jakiegokolwiek algorytmu - muszą być z nich usunięte.

NHS i Google DeepMind przekonali się o tym boleśnie. Projekt Streams - algorytm wykrywający wczesną niewydolność nerek - był technicznie znakomity. Ale dane 1,6 miliona pacjentów trafiły do DeepMind bez właściwej de-identyfikacji i bez świadomej zgody pacjentów. Sąd nie miał wątpliwości. Skala naruszenia prywatności była masowa - niezależnie od szlachetności intencji.

Polska nie ma zasobów NHS. Nie ma też zasobów Google. Ale ma te same obowiązki prawne. I coraz więcej szpitali, które chcą wdrożyć AI - i słusznie - ale nie mają narzędzia do tego pierwszego kroku.

Czym właściwie jest anonimizacja - i dlaczego mylimy ją z pseudonimizacją

Małe, ale ważne rozróżnienie. Bo to jest błąd który pojawia się w rozmowach z dyrektorami szpitali częściej niż powinien.

Pseudonimizacja to zastąpienie danych osobowych pseudonimem. Jan Kowalski staje się pacjentem nr 00451. Ale gdzieś istnieje klucz który pozwala wrócić od numeru do nazwiska - czyli identyfikacja jest nadal możliwa. Dane nadal są danymi osobowymi. RODO to mówi wprost.

Anonimizacja to nieodwracalne usunięcie możliwości identyfikacji. Po prawdziwej anonimizacji nie istnieje żaden klucz. Motyw 26 RODO jest tu jednoznaczny: dane zanonimizowane nie podlegają przepisom o ochronie danych osobowych.

To jest różnica, która ma kolosalne znaczenie prawne. Dane zanonimizowane można analizować, udostępniać badaczom, trenować na nich modele - bez zgody pacjenta, bez ograniczeń RODO.

Opinia 05/2014 Grupy Roboczej Art. 29 - dokument który branża nazywa "biblią anonimizacji" - opisuje techniki i ich ograniczenia szczegółowo. Bo prawdziwa anonimizacja jest trudna. Haszowanie, generalizacja, perturbacja danych - każda metoda ma swoje słabe punkty. Stąd znaczenie narzędzi, które robią to automatycznie i konsekwentnie - a nie ad hoc, przez kogoś kto "usunął imię i nazwisko i chyba powinno być OK."

Dlaczego lokalność jest kluczowa

Jest pewna ironia w rozwiązaniach do anonimizacji danych, które działają w chmurze. Żeby zanonimizować dane - musisz je najpierw wysłać. Przez ten moment transmisji dane osobowe istnieją poza Twoją kontrolą.

Lokalność rozwiązuje to strukturalnie. Narzędzie działa na serwerze w szpitalu. Dane nie ruszają się z miejsca. Nie ma momentu podatności.

To jest też odpowiedź na problem shadow AI - jeśli lekarz ma do dyspozycji lokalne narzędzie, które anonimizuje tekst zanim trafi gdziekolwiek, to naturalny przepływ pracy wygląda tak:

  1. Piszę notatkę
  2. Anonim izuję lokalnie
  3. Wklejam czysty tekst do ChatGPT

Dane osobowe nie wychodzą. Lekarz dostaje pomoc. Wszyscy wygrywają.

NIS2, ustawa o e-zdrowiu i rosnąca presja regulacyjna

2026 rok przynosi dwie rzeczy jednocześnie.

NIS2 nakłada na dyrektorów szpitali obowiązek aktywnego zarządzania ryzykiem cybernetycznym. Brak procedur anonimizacji zbiorów używanych do analiz i badań to konkretne ryzyko - mierzalne, dokumentowalne, karane.

Ustawa o e-zdrowiu otwiera rynek dla AI w szpitalach - ale stawia pseudonimizację jako warunek wstępny. Szpital który chce korzystać z certyfikowanych narzędzi AI musi najpierw zadbać o dane.

Te dwa przepisy razem tworzą sytuację w której anonimizacja przestaje być wyborem. Staje się warunkiem koniecznym do robienia czegokolwiek interesującego z danymi klinicznymi.

Dla kogo to jest ważne

Rozmowa o anonimizacji danych medycznych toczy się głównie na konferencjach prawniczych. Brakuje jej w gabinetach dyrektorów - i w rozmowach o strategii cyfryzacji.

A powinna tam być. Bo to nie jest problem techniczny. To problem zarządczy.

Dyrektor który planuje wdrożenie AI - do kodowania ICD-10, do analizy obrazów RTG, do predykcji rehospitalizacji - musi najpierw odpowiedzieć na pytanie: co stanie się z danymi pacjentów w tym procesie? Kto je zobaczy? Gdzie trafią?

I osobno: czy moi pracownicy już teraz nie wysyłają tych danych gdzieś gdzie nie powinny trafić?

Podsumowanie

  • Shadow AI to realne ryzyko - pracownicy używają zewnętrznych narzędzi AI bez wiedzy organizacji, często wysyłając dane pacjentów na zewnętrzne serwery
  • "Zanonimizowane" dane to często dane z usuniętym tylko imieniem i nazwiskiem - regulator coraz częściej nakłada kary za takie podejście (przykład: 1,1 mln PLN dla Szpitala im. Świętej Rodziny)
  • Pseudonimizacja i anonimizacja to nie to samo - tylko dane zanonimizowane wypadają z reżimu RODO i mogą być swobodnie przetwarzane
  • Lokalność narzędzi anonimizacji jest kluczowa - dane nie powinny opuszczać infrastruktury szpitala nawet w celu anonimizacji
  • NIS2 i ustawa o e-zdrowiu w 2026 roku czynią z anonimizacji warunek konieczny - nie opcjonalny dodatek do strategii AI

Wróćmy do lekarza z początku. Zmęczonego, z dwunastoma epikryzami do napisania, który kopiuje dane pacjenta do ChatGPT. Nie jest zły. Nie łamie przepisów celowo. Po prostu chce skończyć robotę. Rozwiązaniem nie jest szkolenie o RODO które zapomni po tygodniu. Rozwiązaniem jest narzędzie, które wchodzi w jego naturalny przepływ pracy i usuwa problem zanim do niego dojdzie. Sprawdź jak to działa w praktyce na anoniminer.medalion.app lub skontaktuj się z nami.

Słowa kluczowe

shadow AI medycynadane pacjentów ChatGPTanonimizacja danych medycznychRODO szpital AI

Potrzebujesz pomocy z wdrożeniem AI?

Skontaktuj się z nami - pomożemy Ci zaplanować i przeprowadzić wdrożenie sztucznej inteligencji w Twojej placówce medycznej.

Skontaktuj się z nami