Sztuczna inteligencja weszła do polskich szpitali szybciej, niż powstał język, którym można o niej rozmawiać przy stole zakupowym.

Dyrektor podpisujący umowę na rozwiązanie AI dostaje dziś prezentację, listę referencji i zapewnienie, że algorytm ma „dziewięćdziesiąt kilka procent skuteczności”. Nie dostaje odpowiedzi na pytania, które zadałby przy każdym innym zakupie o podobnej wadze: na jakiej populacji to sprawdzono, co się stanie, gdy dane będą niekompletne, kto odpowiada za błędną rekomendację, ile to naprawdę kosztuje w trzecim roku i co się stanie z danymi, gdy umowa się skończy.

Healthcare Poland Foundation ogłasza AICACT SDAI — Standard Dostawcy AI w Ochronie Zdrowia. To dobrowolny program certyfikacji prowadzony przez Centrum Jakości, Audytu i Certyfikacji Healthcare Poland, którego celem jest jedno: żeby szpital przed podpisaniem umowy miał komplet informacji, a dostawca — jeden zestaw pytań zamiast dwudziestu różnych ankiet od dwudziestu różnych placówek.

Od dziś rozpoczynamy konsultacje standardu i zapraszamy do udziału wszystkich: dostawców rozwiązań AI, szpitale, towarzystwa naukowe, samorządy zawodowe, organizacje pacjentów, ośrodki akademickie i regulatorów. Bez wyjątków, bez kryterium członkostwa, bez podziału na obozy technologiczne. To jest program dobrych praktyk ponad podziałami i tak został zaprojektowany od pierwszego zdania regulaminu.

Dlaczego akurat teraz

Zbiegły się trzy rzeczy.

Problem, który rozwiązujemy: asymetria informacyjna

Dostawca wie o swoim produkcie wszystko: na jakich danych go wytrenowano, gdzie działa gorzej, jak zachowa się przy nietypowym pacjencie, ile kosztuje utrzymanie po trzecim roku. Nabywca nie wie prawie nic i — co gorsza — często nie wie, o co powinien zapytać.

Ta asymetria nie jest niczyją złą wolą. Wynika z tego, że nie ma uzgodnionego formatu ujawnienia. Każdy szpital pyta inaczej, każdy dostawca odpowiada inaczej, a porównanie dwóch ofert obok siebie bywa niemożliwe, bo opisują zupełnie inne rzeczy. Ucierpieć mogą obie strony: szpital wdraża rozwiązanie, którego ograniczeń nie znał, a rzetelny dostawca przegrywa z takim, który obiecuje więcej.

Czym jest AICACT SDAI

AICACT SDAI to dobrowolny znak certyfikacyjny wydawany przez Centrum Jakości, Audytu i Certyfikacji Healthcare Poland dostawcom rozwiązań opartych na sztucznej inteligencji, przeznaczonych dla podmiotów wykonujących działalność leczniczą.

Przedmiotem oceny jest dostawca, jego procesy oraz kompletność i rzetelność dokumentacji, którą ujawnia nabywcy — w odniesieniu do konkretnego rozwiązania, w konkretnej wersji i dla konkretnego zamierzonego zastosowania. Audytor sprawdza, czy dostawca ma to, co deklaruje: opis populacji docelowej, raport walidacji sporządzony zgodnie z uznaną metodyką raportowania, mapę przetwarzania danych, plan reakcji na incydent, procedurę postępowania przy błędnej rekomendacji, warunki wyjścia z umowy, pełną kalkulację kosztu w cyklu życia.

Skąd wzięły się kryteria

Nie budowaliśmy standardu od zera i uważamy to za zaletę, nie za skrót. Podstawą merytoryczną jest Poradnik Nabywcy AI w ochronie zdrowia — dokument przygotowany przez ekspertów Koalicji AI i Innowacji w Zdrowiu, zespołu wZdrowiu oraz Polskiej Federacji Szpitali. Standard AICACT SDAI ma dziesięć domen kryteriów i każda odpowiada dokładnie jednemu pytaniu Poradnika.

Warstwa metodyczna standardu opiera się na uznanych ramach międzynarodowych: normach dotyczących jednostek certyfikujących i systemów zarządzania sztuczną inteligencją, normach oprogramowania zdrowotnego, międzynarodowych wytycznych konsensusowych dla godnej zaufania AI w medycynie oraz uznanych listach kontrolnych raportowania badań z udziałem AI. Standard uznaje dokumentację wytworzoną na potrzeby oceny zgodności i jej nie duplikuje.

Trzy poziomy — bo dostawcy są różni

Startup po pierwszym wdrożeniu i producent wyrobu klasy IIb po badaniu prospektywnym to nie ten sam podmiot i nie powinni być mierzeni tą samą miarą. Standard przewiduje trzy poziomy, różniące się głębokością wymaganego dowodu, okresem ważności i intensywnością nadzoru.

Poziom nie jest rankingiem. Wyższy poziom nie oznacza lepszego rozwiązania — oznacza szerszy zakres zweryfikowanego ujawnienia i głębszy dowód. Rozwiązanie administracyjne wspierające planowanie bloku operacyjnego nie potrzebuje badania prospektywnego i nie powinno być za jego brak karane.

Jak wygląda proces

Proces jest przewidywalny i opisany co do etapu, terminu i osoby odpowiedzialnej. Bez etapów niejawnych i bez ocen uznaniowych.

1. Zgłoszenie. Dostawca wskazuje rozwiązanie, wersję, zamierzone zastosowanie i wnioskowany poziom.
2. Przegląd zgłoszenia. Centrum ustala zakres i pracochłonność, sprawdza brak konfliktu interesów, przedstawia ofertę i umowę.
3. Ocena. Przegląd dokumentacji, rozmowy z zespołem dostawcy, weryfikacja dowodów w źródłach publicznych, demonstracja rozwiązania w środowisku roboczym.
4. Przegląd techniczny. Niezależna weryfikacja ustaleń przez osobę, która nie uczestniczyła w ocenie.
5. Usunięcie niezgodności. Dostawca ma określony czas na przedstawienie dowodów usunięcia. Etap jest normalny, nie wstydliwy — po to jest audyt.
6. Decyzja. Podejmuje ją osoba, która nie uczestniczyła ani w ocenie, ani w przeglądzie technicznym. Decyzja odmowna zawsze zawiera pisemne uzasadnienie.
7. Wydanie certyfikatu i wpis do rejestru publicznego. Wraz z licencją na używanie znaku i zasadami posługiwania się nim.
8. Nadzór. Planowy — w cyklu rocznym. Oraz zdarzeniowy.

Kto może się zgłosić

Program jest otwarty dla każdego. Nie stosujemy kryterium siedziby, formy prawnej, wielkości, przynależności do jakiejkolwiek organizacji ani pochodzenia kapitału. Zgłosić się może:

Zgłosić się mogą także podmioty, które nie uczestniczyły w opracowaniu standardu — na tych samych warunkach, na każdym etapie, bez okresu karencji. Ta zasada jest zapisana w regulaminie i nie podlega uznaniu.

Co z tego ma dostawca, a co szpital

Rejestr publiczny i przejrzystość

Wszystkie certyfikaty — ważne, zawieszone, ograniczone, cofnięte i wygasłe — trafiają do bezpłatnie dostępnego rejestru publicznego, z zachowaniem historii. Wpis obejmuje oznaczenie dostawcy, rozwiązania i wersji, zamierzone zastosowanie, poziom, zakres, daty i status.

Rejestr jest rejestrem, nie katalogiem handlowym. Nie zawiera materiałów promocyjnych, opinii użytkowników ani twierdzeń o skuteczności. Publikujemy fakt certyfikacji i jej zakres — resztę komunikacji handlowej prowadzi dostawca, na własną odpowiedzialność.

Publikujemy także coroczne sprawozdanie z działania programu: liczbę wniosków, wydanych certyfikatów, odmów wraz z anonimizowanymi przyczynami, zawieszeń, cofnięć i odwołań. Program, który nie pokazuje, ilu podmiotom odmówił, nie jest programem certyfikacyjnym.

Program dobrych praktyk ponad podziałami

Certyfikacja jest narzędziem, nie celem. Celem jest to, żeby w polskiej ochronie zdrowia powstał wspólny język opisu rozwiązań AI — używany przez szpitale, dostawców, płatnika i regulatora, niezależnie od tego, kto z kim się zgadza w innych sprawach.

Dlatego AICACT SDAI jest częścią szerszego Programu Dobrych Praktyk Ponad Podziałami, który adresujemy w pierwszej kolejności do Polskiej Federacji Szpitali — jako do organizacji zrzeszającej największą wspólnotę polskich szpitali, a jednocześnie współautora Poradnika Nabywcy AI. Zapraszamy Federację do roli partnera merytorycznego programu: gospodarza debaty, współtwórcy kryteriów i głosu środowiska szpitalnego w organie stanowiącym standard.

Co oznacza „ponad podziałami” w praktyce

Zasady, na których stoimy — i jedna, o której mówimy głośno

Program certyfikacyjny prowadzony w środowisku, w którym uczestniczą nabywcy, musi mieć wbudowane zabezpieczenie przed najprostszym nadużyciem: przekształceniem certyfikatu w barierę wejścia na rynek. Zapisaliśmy to jako zakaz bezwzględny, nie jako deklarację dobrej woli.

Do tego dochodzą reguły bezstronności operatora. Centrum nie doradza podmiotom, które certyfikuje — nie projektuje ich rozwiązań, nie konfiguruje, nie integruje i nie prowadzi dla nich wdrożeń mających na celu spełnienie kryteriów standardu. Osoba, która w ciągu ostatnich dwóch lat świadczyła usługi na rzecz wnioskodawcy w zakresie objętym certyfikacją, nie może uczestniczyć w jego ocenie ani w decyzji. Wynagrodzenie audytorów nie jest powiązane z liczbą wydanych certyfikatów ani z wynikiem oceny.

To nie jest ostrożność nadmierna. To jest różnica między standardem, który buduje zaufanie, a znakiem, który po dwóch latach stanie się przedmiotem sporu.

Ścieżka rozwoju programu

Standard startuje jako mechanizm dobrowolny, oparty na jawnych kryteriach i otwartej procedurze. Równolegle prowadzimy prace nad uzyskaniem przez operatora akredytacji Polskiego Centrum Akredytacji w zakresie dobrowolnej oceny zgodności. Ustawa o systemach oceny zgodności i nadzoru rynku wprost dopuszcza taką akredytację, a precedensy istnieją w innych sektorach.

Do czasu jej uzyskania mówimy wprost: certyfikat AICACT SDAI nie jest certyfikatem jednostki akredytowanej w rozumieniu przepisów o zamówieniach publicznych. Może natomiast funkcjonować jako etykieta w rozumieniu tych przepisów, jeżeli spełnione są warunki otwartości, przejrzystości i niezależności — a standard został tak skonstruowany, żeby je spełniać. Nie obiecujemy więcej, niż możemy dowieźć.

Zakres działania Centrum Jakości, Audytu i Certyfikacji

AICACT SDAI nie powstaje w próżni. Centrum Jakości, Audytu i Certyfikacji Healthcare Poland to wyodrębniony obszar działalności Fundacji, skoncentrowany na badaniu jakości, procesów i zgodności w ochronie zdrowia. Centrum prowadzi audyty i certyfikację zarówno podmiotów leczniczych, jak i dostawców technologii, obejmując w szczególności:

• audyty zgodności procesowej i dokumentacyjnej z normami zarządzania jakością, bezpieczeństwem informacji i ciągłością działania;
• cyberbezpieczeństwo podmiotów leczniczych, w tym przygotowanie do obowiązków z krajowego systemu cyberbezpieczeństwa;
• ochronę danych osobowych i governance danych w środowisku medycznym;
• przygotowanie dostawców wyrobów medycznych do oceny zgodności — z zastrzeżeniem, że samą ocenę zgodności prowadzi wyłącznie jednostka notyfikowana;
• zrównoważony rozwój i raportowanie środowiskowe podmiotów leczniczych;
• wsparcie w budowaniu dowodów formalnych wykorzystywanych w postępowaniach o udzielenie zamówienia publicznego;
• programy szkoleniowe i mikropoświadczenia potwierdzające kompetencje personelu.

Harmonogram i zaproszenie

Ogłaszamy dziś standard w wersji konsultacyjnej. Kolejne kroki:

Zapraszamy do udziału na każdym z tych etapów. Do konsultacji — bo standard tworzony bez udziału tych, których dotyczy, nie ma prawa być dobry. Do pilotażu — bo pierwsi uczestnicy mają realny wpływ na kształt kryteriów. Do rozmowy — także tych, którzy uważają, że robimy to źle, albo że powinien to robić kto inny. Uwagę krytyczną opublikujemy razem z odpowiedzią.

Najczęstsze pytania