AI Act - co zmieni się dla szpitali i firm medycznych
Nowe regulacje UE dotyczące sztucznej inteligencji wchodzą w życie. Dowiedz się, jak AI Act wpłynie na szpitale, dostawców systemów medycznych i firmy medtech.
Od sierpnia 2026 roku każdy szpital w Polsce, który korzysta z algorytmów wspierających diagnostykę, analizę dokumentacji czy priorytetyzację pacjentów, będzie musiał spełnić wymogi unijnego rozporządzenia o sztucznej inteligencji. Brzmi odlegle? To niecałe kilkanaście miesięcy - a lista obowiązków jest długa.
Problem: regulacyjna fala, na którą większość placówek nie jest gotowa
Polskie szpitale dopiero zaczynają przygodę ze sztuczną inteligencją. Według najnowszych danych Centrum e-Zdrowia, narzędzia AI stosuje około 13% szpitali w kraju, to dwukrotny wzrost w porównaniu z rokiem wcześniejszym, ale wciąż niewielka mniejszość. Jednocześnie niemal 39% szpitali deklaruje zamiar wdrożenia AI w ciągu najbliższych 12 miesięcy.
I tutaj pojawia się napięcie. Z jednej strony placówki chcą automatyzować opisy badań obrazowych, usprawniać dokumentację i odciążać lekarzy od papierkowej pracy. Z drugiej - nad całym sektorem wisi nowe unijne rozporządzenie, które zmienia zasady gry dla każdego, kto tworzy lub stosuje systemy AI w medycynie.
AI Act (Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689) to pierwsze na świecie tak kompleksowe prawo regulujące sztuczną inteligencję. Weszło w życie 1 sierpnia 2024 roku, ale jego przepisy wdrażane są etapami - a te najważniejsze dla służby zdrowia zaczną obowiązywać już niedługo.
Problem polega na tym, że większość polskich placówek medycznych nie zdaje sobie sprawy, jak głęboko nowe przepisy wchodzą w codzienne funkcjonowanie szpitala. To nie jest kolejne "RODO dla AI", które można załatwić jedną klauzulą informacyjną. To zmiana systemowa, wymagająca nowych procesów, dokumentacji i kompetencji.
Cztery poziomy ryzyka - i dlaczego medycyna jest prawie zawsze "wysoko"
AI Act dzieli systemy sztucznej inteligencji na cztery kategorie w zależności od poziomu ryzyka, jakie stwarzają dla ludzi. To kluczowe rozróżnienie, bo od kategorii zależy zakres obowiązków.
Poziomy ryzyka w AI Act
| Poziom ryzyka | Opis | Przykład w medycynie | Konsekwencje |
|---|---|---|---|
| Niedopuszczalne | Systemy całkowicie zakazane w UE | Manipulacja decyzjami pacjenta w celach finansowych, scoring społeczny | Zakaz stosowania; kary do 35 mln EUR lub 7% obrotu |
| Wysokie | Systemy wpływające na zdrowie, bezpieczeństwo lub prawa ludzi | Analiza obrazów diagnostycznych, wspomaganie decyzji klinicznych, triażowanie pacjentów | Pełen reżim compliance: dokumentacja, audyty, nadzór człowieka, rejestracja w bazie UE |
| Ograniczone | Systemy wymagające transparentności | Chatbot na stronie szpitala, generator podsumowań wizyt | Obowiązek informowania, że użytkownik ma do czynienia z AI |
| Minimalne | Systemy o znikomym wpływie | Filtry spamu w szpitalnej skrzynce e-mail | Brak szczególnych obowiązków |
W medycynie panuje pokusa, żeby każde narzędzie AI automatycznie wrzucić do kategorii "wysokie ryzyko". Ale to uproszczenie, które może niepotrzebnie zablokować wdrożenia.
Systemami wysokiego ryzyka w rozumieniu AI Act są przede wszystkim te, które bezpośrednio wpływają na decyzje kliniczne: algorytmy wspomagające diagnostykę obrazową (CT, MRI, RTG, mammografia), systemy wspomagania rozpoznawania chorób, narzędzia priorytetyzujące pacjentów w izbie przyjęć czy rekomendujące terapię. Wysokie ryzyko dotyczy też każdego systemu AI, który stanowi element wyrobu medycznego w rozumieniu MDR/IVDR. Ale jest cała kategoria narzędzi AI w szpitalu, które podlegają łagodniejszemu reżimowi ograniczonego ryzyka. Kluczowe pytanie brzmi: czy system podejmuje lub bezpośrednio wpływa na decyzje kliniczne, czy raczej dokumentuje i porządkuje informacje, które lekarz już zgromadził?
- System, który automatycznie generuje epikryzę na podstawie danych z HIS i notatek lekarskich, nie stawia diagnoz, on jedynie dokumentuje przebieg leczenia.
- Narzędzie skanujące wyniki laboratoryjne nie interpretuje wyników, tylko je odczytuje.
- Platforma transkrybująca rozmowę lekarza z pacjentem nie podejmuje decyzji terapeutycznych.
Takie systemy klasyfikowane są jako ograniczone ryzyko, gdzie głównym obowiązkiem jest transparentność: lekarz musi wiedzieć, że treść wygenerował algorytm, i zatwierdzić ją przed użyciem.
To ważne rozróżnienie, bo oznacza, że szpital może zacząć wdrażać AI od automatyzacji dokumentacji - obszaru o niższym progu regulacyjnym - jednocześnie przygotowując się na wymogi wysokiego ryzyka tam, gdzie AI faktycznie wspiera diagnostykę. Oczywiście granica nie jest zawsze ostra. Gdyby system dokumentacyjny zaczął automatycznie przypisywać kody ICD trafiające do rozliczeń NFZ bez weryfikacji lekarza, albo gdyby generowane rekomendacje terapeutyczne były bezpośrednio wstawiane do zleceń - klasyfikacja mogłaby się przesunąć w stronę wysokiego ryzyka. Dlatego tak ważna jest precyzyjna inwentaryzacja i analiza każdego narzędzia z osobna.
Co istotne, AI Act traktuje jako systemy wysokiego ryzyka również te rozwiązania, które stanowią element wyrobu medycznego podlegającego rozporządzeniu MDR (Medical Devices Regulation) lub IVDR (In Vitro Diagnostic Regulation). W praktyce oznacza to, że jeśli producent tworzy oprogramowanie AI certyfikowane jako wyrób medyczny, musi spełnić wymogi obu regulacji jednocześnie i AI Act i MDR/IVDR.
Harmonogram: co już obowiązuje, a co dopiero wejdzie
Przepisy AI Act nie wchodzą jednego dnia. Ustawodawca rozłożył je na etapy, dając organizacjom czas na przygotowanie. Oto kluczowe daty:
Oś czasu wdrożenia AI Act
2 lutego 2025 - już obowiązuje:
- Zakaz stosowania systemów o niedopuszczalnym ryzyku (np. manipulacja podprogowa, scoring społeczny, rozpoznawanie emocji w kontekstach nieobjętych wyjątkami).
- Obowiązek zapewnienia "AI literacy" - personel szpitala, który pracuje z systemami AI lub nadzoruje ich działanie, musi posiadać odpowiedni poziom kompetencji. To nie oznacza, że każda pielęgniarka musi rozumieć sieci neuronowe. Chodzi o to, by osoby korzystające z narzędzi AI wiedziały, jak działają, jakie mają ograniczenia i kiedy nie należy im ufać.
2 sierpnia 2025 - już obowiązuje:
- Przepisy dotyczące modeli AI ogólnego przeznaczenia (GPAI), czyli m.in. dużych modeli językowych. Dostawcy takich modeli muszą zapewnić przejrzystość: udostępnić dokumentację techniczną, opisać dane treningowe, respektować prawa autorskie.
- Wejście w życie przepisów o karach finansowych.
- Obowiązek wyznaczenia krajowych organów nadzoru.
2 sierpnia 2026 - kluczowa data dla szpitali:
- Wejście w życie większości wymogów dla systemów wysokiego ryzyka. To moment, od którego szpitale stosujące AI w diagnostyce, terapii czy zarządzaniu pacjentami muszą mieć wdrożone pełne procedury zgodności.
- Obowiązek rejestracji systemów AI wysokiego ryzyka w unijnej bazie danych.
- Wymóg przeprowadzania oceny wpływu na prawa podstawowe (FRIA - Fundamental Rights Impact Assessment).
- Pełna dokumentacja techniczna i ciągły monitoring po wdrożeniu.
2 sierpnia 2027 - termin ostateczny:
- Pełna zgodność wymagana dla systemów AI będących elementem wyrobów medycznych (MDR/IVDR), które wymagają oceny zgodności przez jednostki notyfikowane.
Warto zauważyć, że Komisja Europejska dostrzega opóźnienia w przygotowaniu standardów harmonizowanych i struktur nadzorczych. W ramach pakietu Digital Omnibus zaproponowano mechanizm, który może uzależnić wejście w życie niektórych wymogów od gotowości infrastruktury compliance. Jednak na ten moment oficjalny harmonogram nie został zmieniony.
Kogo dokładnie dotyczą nowe obowiązki
AI Act rozdziela obowiązki pomiędzy dwa typy podmiotów:
Dostawcy (providers) - firmy, które projektują, rozwijają i wprowadzają systemy AI na rynek. W kontekście medycznym to producenci oprogramowania diagnostycznego, platform analitycznych, narzędzi do przetwarzania dokumentacji. Jeśli firma tworzy model AI do analizy notatek lekarskich i udostępnia go szpitalom, jest dostawcą w rozumieniu AI Act.
Podmioty stosujące (deployers) - organizacje, które używają systemów AI w swojej działalności. W naszym przypadku to przede wszystkim szpitale, przychodnie, laboratoria diagnostyczne. Szpital, który kupuje i wdraża system AI do analizy zdjęć RTG, jest podmiotem stosującym.
Każda z tych ról niesie inne obowiązki. Dostawcy mają więcej wymagań np. dostarczenie dokumentacji technicznej przez system zarządzania ryzykiem i ocenę zgodności. Ale szpitale jako podmioty stosujące też mają konkretną listę zadań do wykonania.
Co musi zrobić szpital (podmiot stosujący)?
- Korzystać z systemów AI zgodnie z instrukcjami dostawcy.
- Zapewnić nadzór człowieka nad działaniem systemu - w medycynie oznacza to, że lekarz zawsze podejmuje ostateczną decyzję, a AI pełni rolę wspomagającą.
- Monitorować działanie systemu i reagować na nieprawidłowości.
- Informować pacjentów o tym, że w procesie diagnostycznym lub terapeutycznym wykorzystywane jest AI.
- Przeprowadzić ocenę wpływu na prawa podstawowe (FRIA).
- Prowadzić rejestr wykorzystywanych systemów AI.
- Przechowywać logi generowane przez system AI przez okres wskazany w instrukcji (lub minimum 6 miesięcy).
- Zgłaszać poważne incydenty dostawcy i właściwym organom.
Co musi zrobić firma tworząca AI dla medycyny (dostawca)?
- Wdrożyć system zarządzania ryzykiem AI - identyfikacja zagrożeń, testowanie, minimalizacja ryzyk na etapie projektowania i w trakcie użytkowania.
- Przygotować pełną dokumentację techniczną: dane treningowe, parametry modelu, wyniki walidacji, mechanizmy nadzoru.
- Zapewnić jakość danych - dane treningowe muszą być reprezentatywne, wolne od systemowych błędów (bias) i odpowiednio udokumentowane.
- Prowadzić automatyczne logowanie zdarzeń, umożliwiające odtworzenie "śladu decyzyjnego" algorytmu.
- Zapewnić przejrzystość i wyjaśnialność - użytkownik (lekarz) musi mieć możliwość zrozumienia, dlaczego system wydał konkretną rekomendację.
- Zarejestrować system w unijnej bazie przed wprowadzeniem na rynek.
- Przeprowadzić ocenę zgodności (conformity assessment).
- Prowadzić monitoring po wdrożeniu (post-market monitoring), analogiczny w założeniu do nadzoru nad lekami w systemie pharmacovigilance.
Praktyczne aspekty: jak się przygotować
Przejdźmy od teorii do praktyki. Oto cztery obszary, na których szpitale i firmy medyczne powinny się skupić już teraz.
1. Inwentaryzacja: co tak naprawdę macie
Pierwszym krokiem jest stworzenie rejestru wszystkich systemów AI wykorzystywanych w placówce. I tu pojawia się fundamentalne pytanie: co w ogóle liczy się jako "system AI" w rozumieniu AI Act?
AI Act definiuje system AI jako system oparty na maszynach, zaprojektowany do działania z różnym poziomem autonomii, który generuje dane wyjściowe (prognozy, rekomendacje, decyzje, treści) mogące wpływać na fizyczne lub wirtualne środowiska. To szeroka definicja.
W praktyce szpitalnej może obejmować: algorytm priorytetyzujący wyniki badań w RIS (Radiology Information System), model NLP analizujący notatki lekarskie, system OCR wyciągający dane z wyników laboratoryjnych, chatbot obsługujący pacjentów na stronie szpitala, a nawet zaawansowane reguły w systemie HIS, jeśli opierają się na uczeniu maszynowym.
Dla każdego zidentyfikowanego systemu trzeba określić: kto jest dostawcą, jaka jest klasa ryzyka, czy system przetwarza dane osobowe pacjentów, kto w szpitalu jest odpowiedzialny za jego nadzór i jakie dane loguje.
2. AI governance: powołajcie strukturę zarządczą
Zgodność z AI Act to nie projekt jednorazowy, ale ciągły proces. Szpitale powinny rozważyć powołanie wewnętrznej struktury odpowiedzialnej za zarządzanie AI. Nie musi to być odrębny dział, może to być zespół łączący kompetencje IT, prawne i kliniczne.
Kluczowe elementy AI governance w szpitalu to rejestr systemów AI z przypisanymi właścicielami biznesowymi, polityka danych (skąd pochodzą dane, jak długo są przechowywane, kto ma dostęp), procedury human-in-the-loop (jak zapewnić, że lekarz ma ostatnie słowo), oraz ścieżki zgłaszania incydentów i błędnych rekomendacji systemu.
W Polsce Ministerstwo Cyfryzacji pracuje nad powołaniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która ma wspierać m.in. placówki medyczne w przestrzeganiu przepisów. Jednak na krajowy organ nadzoru nie warto czekać z założonymi rękami - lepiej budować wewnętrzne kompetencje już teraz.
3. Rewizja umów z dostawcami AI
Jeśli szpital kupuje system AI od zewnętrznego dostawcy (a tak jest w większości przypadków), umowa musi jasno określać kwestie kluczowe z perspektywy AI Act.
Warto sprawdzić i wynegocjować: dostęp do logów i metadanych generowanych przez system (szpital jako podmiot stosujący musi mieć możliwość monitorowania), umowy SLA na poprawki i aktualizacje modelu (co się dzieje, gdy model zaczyna działać gorzej?), procedury wycofania wersji (rollback - jak szybko można wrócić do poprzedniej wersji modelu?), podział odpowiedzialności za zgodność z AI Act (kto odpowiada za dokumentację techniczną, kto za monitoring po wdrożeniu?), a także prawo szpitala do audytu systemu.
To szczególnie istotne przy wdrożeniach chmurowych. Jeśli model AI działa na serwerach dostawcy, szpital traci bezpośrednią kontrolę nad danymi i procesami. Rozwiązania wdrażane on-premise (na serwerach szpitala) dają pod tym względem znacznie większą autonomię i kontrolę - co w kontekście AI Act może być istotną przewagą.
4. Szkolenia: AI literacy to wymóg, nie opcja
Obowiązek AI literacy obowiązuje od 2 lutego 2025 roku i dotyczy wszystkich organizacji korzystających z AI. W praktyce oznacza to, że szpital musi zapewnić, by personel rozumiał podstawy działania narzędzi AI, z których korzysta.
Nie chodzi o kurs programowania. Chodzi o to, by radiolog korzystający z systemu wspomagającego analizę zdjęć wiedział, że algorytm może się mylić, rozumiał pojęcie "czułości" i "swoistości" modelu, wiedział, jak zgłosić sytuację, w której system podał nieprawidłową rekomendację, i potrafił samodzielnie ocenić, kiedy wynik AI jest wiarygodny, a kiedy wymaga dodatkowej weryfikacji.
Szkolenia powinny być dostosowane do roli: inny zakres wiedzy potrzebuje lekarz, inny administrator systemu, a jeszcze inny dyrektor szpitala podejmujący decyzje zakupowe.
Kary: ile to może kosztować
AI Act przewiduje trzy poziomy kar finansowych, które mają być "skuteczne, proporcjonalne i odstraszające":
| Rodzaj naruszenia | Maksymalna kara |
|---|---|
| Stosowanie systemów zakazanych (niedopuszczalne ryzyko) | Do 35 mln EUR lub 7% globalnego rocznego obrotu |
| Naruszenie wymogów dla systemów wysokiego ryzyka (brak dokumentacji, brak monitoringu, brak nadzoru człowieka) | Do 15 mln EUR lub 3% globalnego rocznego obrotu |
| Dostarczenie nieprawdziwych informacji organom nadzoru | Do 7,5 mln EUR lub 1% globalnego rocznego obrotu |
Dla szpitali publicznych te kwoty mogą wydawać się abstrakcyjne. Ale AI Act przewiduje, że państwa członkowskie ustalą szczegółowe zasady kar - w tym potencjalnie dostosowane do specyfiki sektora publicznego. Niezależnie od kar finansowych, niezgodność z przepisami może prowadzić do nakazów zaprzestania stosowania systemu AI, co w praktyce oznacza wyłączenie narzędzia, na którym personel medyczny zdążył już polegać.
Warto też pamiętać, że kary z AI Act mogą kumulować się z sankcjami z RODO, jeśli naruszenie dotyczy również przetwarzania danych osobowych. A w medycynie - gdzie przetwarzane są dane wrażliwe (zdrowotne) - to scenariusz bardzo prawdopodobny.
Co to oznacza dla polskiej służby zdrowia - realistycznie
Bądźmy szczerzy: polskie szpitale mierzą się z wieloma wyzwaniami jednocześnie. Niedobory kadrowe, niedofinansowanie, kolejne reformy, wymogi cyberbezpieczeństwa (NIS2), elektroniczna dokumentacja medyczna. AI Act to kolejna warstwa regulacji na i tak już przeciążony system.
Ale jest też druga strona medalu. Porządne wdrożenie zgodności z AI Act nie musi być balastem - może być szansą na uporządkowanie procesów wokół technologii, które i tak wchodzą do szpitali.
Placówka, która ma jasny rejestr systemów AI, zdefiniowane role i procedury nadzoru, przeszkolony personel i solidne umowy z dostawcami, nie tylko spełnia wymogi regulacyjne. Taka placówka po prostu bezpieczniej korzysta z technologii - a to przekłada się na bezpieczeństwo pacjentów.
Jak Medalion Technology wspiera szpitale w przygotowaniu do AI Act
W Medalion Technology od początku projektujemy nasze rozwiązania z myślą o zgodności regulacyjnej. To nie jest "dolepka" na końcu projektu - to fundament architektury naszych produktów. Co istotne, nie każde nasze narzędzie wymaga tego samego reżimu compliance - i to jest dobra wiadomość dla szpitali, które chcą zacząć wdrażać AI bez wielomiesięcznego procesu certyfikacji.
Open Workflows (Agenci LLM) - nasza platforma do tworzenia i zarządzania agentami AI to przykład systemu ograniczonego ryzyka. System automatycznie generuje epikryzy, wypisy i zalecenia na podstawie danych z HIS, notatek lekarskich i wyników badań. Transkrybuje rozmowy lekarz--pacjent i zamienia je w ustrukturyzowane wpisy. Standaryzuje opisy i przypisuje kody ICD. Ale nie stawia diagnoz i nie podejmuje decyzji klinicznych - lekarz zawsze weryfikuje i zatwierdza wygenerowany dokument przed jego użyciem.
Z perspektywy AI Act kluczowe jest to, że Open Workflows ma wbudowane mechanizmy, które i tak spełniają dobre praktyki wymagane od systemów wyższych kategorii: logowanie i audyt działań (kto wygenerował dokument, na podstawie jakich danych, kiedy), reguły walidacji potwierdzające kompletność i zgodność z wytycznymi oddziału, zarządzanie rolami i uprawnieniami, oraz pełna retencja danych zgodna z politykami placówki. Całość działa w infrastrukturze szpitala co oznacza, że dane pacjentów nie opuszczają infrastruktury szpitala, a integracja z systemami HIS i PACS odbywa się przez dwukierunkowe połączenia i API.
To oznacza, że szpital może wdrożyć Open Workflows stosunkowo szybko, bo głównym wymogiem regulacyjnym jest transparentność (personel wie, że dokument wygenerował AI), a jednocześnie platforma buduje fundament zgodności na przyszłość gdyby placówka zdecydowała się rozszerzyć zastosowania AI o narzędzia diagnostyczne wyższego ryzyka.
Platforma Medalion to z kolei środowisko, w którym szpitale mogą budować i testować modele AI o potencjalnie wyższej klasie ryzyka. System AutoML pozwala na kontrolowane tworzenie i walidację modeli z pełną dokumentacją danych treningowych i parametrów. Sandbox AI umożliwia bezpieczne testowanie algorytmów przed wdrożeniem na produkcji czyli dokładnie tak, jak rekomenduje rozporządzenie. Jeśli szpital zbuduje na platformie model wspierający diagnostykę (a więc potencjalnie wysokiego ryzyka), Platforma Medalion dostarcza narzędzia do spełnienia wymagań: od dokumentacji technicznej, przez ślad decyzyjny, po monitoring po wdrożeniu.
Nasze modele AI to narzędzia ograniczonego ryzyka, zaprojektowane z wbudowaną przejrzystością:
| Model | Co robi | Klasyfikacja ryzyka | Dlaczego |
|---|---|---|---|
| Medalioner | Rozpoznawanie encji nazwanych (NER) w notatkach lekarskich | Ograniczone | Ekstrakcja informacji z tekstu, nie podejmowanie decyzji klinicznych |
| LabExtract | OCR wyników badań laboratoryjnych | Ograniczone | Odczyt danych z dokumentów, nie ich interpretacja diagnostyczna |
| Anoniminer | Anonimizacja tekstów medycznych | Minimalne/ograniczone | Narzędzie ochrony prywatności, nie wpływa na decyzje kliniczne |
Oferujemy również szkolenia z zakresu AI literacy dostosowane do potrzeb personelu medycznego i kadry zarządzającej, a także consulting regulacyjny pomagający w przygotowaniu dokumentacji zgodności.
Na co uważaćL pięć najczęstszych pułapek
Pracując z placówkami medycznymi, widzimy powtarzające się błędy w podejściu do AI Act. Oto najczęstsze z nich.
Po pierwsze, "to problem dostawcy, nie nasz". Otóż nie do końca. AI Act nakłada obowiązki na oba podmioty i dostawcę i szpital. Szpital nie może się zwolnić z odpowiedzialności, podpisując umowę z firmą technologiczną. Musi prowadzić własny monitoring, własny rejestr, własne szkolenia.
Po drugie, "nasze narzędzie to nie AI". Definicja systemu AI w rozporządzeniu jest szeroka. Jeśli szpitalny system podejmuje automatyczne decyzje na podstawie danych - nawet jeśli producent nie nazywa go "sztuczną inteligencją" - może podlegać pod AI Act. Warto to zweryfikować.
Po trzecie, "mamy czas do 2027". Kluczowe wymogi dla systemów wysokiego ryzyka wchodzą w sierpniu 2026 roku. A obowiązek AI literacy i zakazy obowiązują już teraz. Poza tym budowa systemu governance, rewizja umów i przeprowadzenie inwentaryzacji to procesy, które zajmują miesiące.
Po czwarte, "wystarczy procedura na papierze". AI Act wymaga rzeczywistego monitoringu, cyklicznych audytów, śledzenia skuteczności modelu, rejestrowania incydentów. Samo posiadanie polityki w szufladzie nie wystarczy.
Po piąte, "RODO załatwia sprawę". AI Act i RODO to odrębne regulacje, choć się uzupełniają. Zgodność z RODO nie oznacza automatycznie zgodności z AI Act. Na przykład wymóg prowadzenia oceny wpływu na prawa podstawowe (FRIA) to osobny obowiązek, niezależny od DPIA wymaganego przez RODO.
Podsumowanie: kluczowe wnioski
- AI Act to unijne rozporządzenie, które bezpośrednio dotyczy szpitali i firm medycznych stosujących lub tworzących systemy sztucznej inteligencji. Nie wymaga transpozycji do prawa krajowego - obowiązuje wprost.
- Niemal wszystkie zastosowania AI w medycynie (diagnostyka, analiza obrazów, wspomaganie decyzji klinicznych) klasyfikowane są jako systemy wysokiego ryzyka, co oznacza najszerszy zakres obowiązków.
- Obowiązek AI literacy i zakazy stosowania systemów niedopuszczalnego ryzyka obowiązują już od lutego 2025 roku. Kluczowe wymogi dla systemów wysokiego ryzyka wejdą w życie w sierpniu 2026, a dla wyrobów medycznych z AI - w sierpniu 2027.
- Szpitale muszą prowadzić rejestr systemów AI, zapewnić nadzór człowieka, monitorować działanie algorytmów, informować pacjentów i zgłaszać incydenty.
- Firmy tworzące AI dla medycyny muszą wdrożyć system zarządzania ryzykiem, przygotować dokumentację techniczną, zapewnić jakość danych treningowych i prowadzić monitoring po wdrożeniu.
- Kary za naruszenia sięgają 35 mln EUR lub 7% globalnego obrotu i mogą się kumulować z sankcjami z RODO.
- Przygotowanie do AI Act warto zacząć od inwentaryzacji systemów AI, powołania struktury governance, rewizji umów z dostawcami i szkoleń personelu.
- Wdrożenia on-premise i rozwiązania z wbudowaną wyjaśnialnością znacząco ułatwiają spełnienie wymogów regulacyjnych.
Chcesz dowiedzieć się więcej o tym, jak przygotować Twój szpital do AI Act? Pomożemy Ci przeprowadzić inwentaryzację systemów AI, zaplanować ścieżkę zgodności i przeszkolić personel. Skontaktuj się z nami
Źródła
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 (AI Act) - pełny tekst rozporządzenia.
- Centrum e-Zdrowia - "Szpitale coraz chętniej korzystają z narzędzi wspieranych przez AI" - VIII edycja badania informatyzacji podmiotów leczniczych.
- Komisja Europejska - AI Act compliance timeline - oficjalna oś czasu wdrożenia.
- MDCG 2025-6 - Guidance on AI Act and MDR/IVDR interplay - wytyczne dotyczące relacji AI Act z rozporządzeniami o wyrobach medycznych.
- PwC Polska - "AI Act: kolejna pula przepisów weszła w życie" - analiza prawna kolejnych etapów wdrożenia.
- Serwis ZOZ - "Akt o AI: jak wpłynie na placówki medyczne od 2025 roku?" - perspektywa zarządzających placówkami.
- MZdrowie.pl - "Europejski AI Act: nowe obowiązki bezpieczeństwa w sektorze zdrowia" - analiza wymogów dla sektora medycznego.
- Osborne Clarke - "Medical devices, diagnostics and pharma win concessions in EU Digital Omnibus proposal" - propozycje zmian w harmonogramie.
Słowa kluczowe
Potrzebujesz pomocy z wdrożeniem AI?
Skontaktuj się z nami - pomożemy Ci zaplanować i przeprowadzić wdrożenie sztucznej inteligencji w Twojej placówce medycznej.
Skontaktuj się z nami