Dlaczego lekarze muszą nauczyć się pracować z AI już teraz
AI jako nowa warstwa infrastruktury w ochronie zdrowia
Sztuczna inteligencja w medycynie przestaje być ciekawostką technologiczną, a staje się nową warstwą infrastruktury – taką jak kiedyś systemy HIS, PACS czy elektroniczna dokumentacja medyczna. Różnica polega na tym, że AI wchodzi głębiej: nie tylko porządkuje dane, ale zaczyna wpływać na proces myślenia klinicznego, proponując diagnozy, plany leczenia czy priorytetyzację pacjentów.
Brak przygotowania lekarzy do pracy z AI nie zatrzyma tej zmiany, jedynie sprawi, że decyzje będą zapadać „nad ich głowami” – w działach IT, u producentów oprogramowania, w gabinetach dyrektorów. Lekarz, który nie rozumie zasad działania i ograniczeń systemu, staje się biernym użytkownikiem, a nie partnerem technologii. To bezpośrednio wpływa na jakość opieki, bezpieczeństwo pacjenta i komfort pracy zespołu.
AI wchodzi nie tylko do dużych klinik akademickich. Coraz więcej komercyjnych rozwiązań w radiologii, kardiologii czy medycynie rodzinnej jest wbudowanych w sprzęt i oprogramowanie – lekarz nierzadko korzysta z algorytmu nawet o tym nie wiedząc. Dlatego kompetencje „AI-owe” przestają być domeną entuzjastów technologii, a stają się częścią podstawowej wiedzy zawodowej.
Praktyczne zastosowania AI, które już działają
AI w ochronie zdrowia to nie futurystyczne roboty, ale dziesiątki cichych „pomocników” w tle. Kilka najważniejszych przykładów, z którymi coraz częściej spotykają się lekarze:
Radiologia i diagnostyka obrazowa – algorytmy analizujące RTG klatki piersiowej pod kątem zmian nowotworowych, wyszukujące krwawienia śródczaszkowe na TK, podpowiadające podejrzane ogniska w mammografii czy rezonansie. AI nie stawia ostatecznej diagnozy, ale oznacza obszary do wnikliwej oceny lub priorytetyzuje badania.
Kardiologia i intensywna terapia – systemy analizujące EKG w czasie rzeczywistym, wykrywające arytmie czy wczesne oznaki zawału; algorytmy szacujące ryzyko nagłego pogorszenia stanu pacjenta na OIT na podstawie wielu parametrów monitorowanych równocześnie.
Triage i medycyna ratunkowa – narzędzia, które pomagają pielęgniarkom i lekarzom SOR oceniać pilność przypadku, korzystając z objawów, parametrów życiowych i krótkiego wywiadu. Celem jest skrócenie czasu do interwencji u pacjentów w najgorszym stanie.
Administracja i dokumentacja – systemy do automatycznego streszczania wizyty, podpowiadania kodów ICD i procedur, generowania wypisów czy odpowiedzi na zapytania pacjentów. W wielu miejscach to właśnie ta „nudna” AI ma największy wpływ na codzienność lekarza.
Medycyna rodzinna i teleporady – asystenci konwersacyjni zbierający wstępny wywiad przed wizytą, chatboty pomagające segregować proste sprawy (np. przedłużenie recepty, zaświadczenia), a także systemy wspierające decyzje w typowych problemach internistycznych.
Wspólny mianownik wszystkich tych zastosowań: lekarz nie zastępuje swojej wiedzy algorytmem, tylko zyskuje dodatkowe źródło informacji. Tyle że bez zrozumienia, jak „myśli” system, łatwo albo przecenić jego kompetencje, albo całkowicie je odrzucić.
Ryzyko podwójnego systemu: ci, którzy rozumieją AI, i pozostali
Każda duża zmiana technologiczna w medycynie tworzy podział: na tych, którzy nauczyli się z nią pracować, oraz tych, którzy trzymają się dawnych metod. Przy AI ten podział jest szczególnie ostry, bo dotyczy nie tylko sprawności obsługi, ale także rozumienia procesu decyzyjnego.
Jeśli część lekarzy w szpitalu potrafi świadomie korzystać z narzędzi AI, a część zupełnie im nie ufa, powstaje „podwójny obieg” pacjentów i informacji. Jedni będą częściej sięgać po wsparcie algorytmu, inni – z zasady go wyłączać. To rodzi realne problemy:
różnice w standardach opieki między lekarzami w tym samym oddziale,
napięcia w zespołach – młodsi lekarze naciskają na używanie AI, starsi blokują lub odwrotnie,
chaos organizacyjny – procedury nie nadążają za praktyką, bo każdy pracuje „po swojemu”.
Brak systemowej edukacji prowadzi do sytuacji, w której biegłość w AI zależy od prywatnej pasji lekarza, a nie od jednolitych wymagań zawodowych. To prosta droga do nierówności w jakości opieki i kolejnych sporów o odpowiedzialność.
Konsekwencje braku przygotowania lekarzy
Ignorowanie potrzeby przygotowania lekarzy do współpracy z AI ma konkretne skutki, które szybko wychodzą poza obszar technologii.
Po pierwsze – wypalenie zawodowe. Jeśli AI jest wdrażana „od góry”, bez szkolenia i bez uwzględnienia realnej pracy klinicznej, lekarz doświadcza jej jako kolejnego ciężaru: dodatkowych kliknięć, nowych formularzy, systemu, który „wie lepiej, ale nie bierze odpowiedzialności”. Zamiast odciążyć, narzędzie generuje frustrację. Lekarz ma poczucie, że odpowiada za decyzję, której częściowo nie rozumie.
Po drugie – konflikty z pacjentami. Pacjenci coraz częściej przychodzą z informacją, że „system online” coś zasugerował: od wyszukiwarki objawów po aplikacje mobilne. Jeśli lekarz w gabinecie posługuje się kolejnym systemem AI, a nie umie wyjaśnić, jaką rolę pełni w podejmowaniu decyzji, zaufanie może szybko się załamać. Pojawia się poczucie, że „leczeniem rządzi komputer”, a nie człowiek.
Po trzecie – chaos odpowiedzialności. Brak jasnych zasad, kto odpowiada za błędną rekomendację AI, sprzyja przerzucaniu winy: lekarz na system, szpital na producenta, producent na „niewłaściwe użycie” przez lekarza. Jeśli do tego dochodzi brak dokumentacji, w jakim zakresie korzystano z algorytmu, rozstrzyganie sporów staje się koszmarem zarówno dla prawników, jak i dla samych lekarzy.
Dlatego przygotowanie do pracy z AI to nie luksus dla najnowocześniejszych klinik, ale warunek utrzymania minimalnego ładu organizacyjnego, przejrzystości odpowiedzialności i jakości opieki w każdym typie placówki.
Jakie kompetencje cyfrowe i „AI-owe” są potrzebne lekarzowi
Lekarz nie musi znać równań opisujących działanie sieci neuronowych, ale powinien rozumieć kilka kluczowych pojęć, aby świadomie współpracować z AI.
Model – algorytm „nauczony” na danych, który na wejściu dostaje np. obraz TK lub zestaw parametrów, a na wyjściu zwraca ocenę ryzyka, propozycję diagnozy czy rekomendację działania. Model nie „wie”, co to rak czy zapalenie płuc – rozpoznaje wzorce podobne do tych z danych treningowych.
Dane treningowe – zbiory przypadków, na których model się „uczył”. Jeśli pochodziły z określonej populacji (np. głównie z jednego kraju, z określonej grupy wiekowej), algorytm może gorzej działać w innych grupach. To jeden z głównych powodów tzw. biasu, czyli uprzedzeń algorytmicznych.
Zakres zastosowania – każdy model został zaprojektowany do konkretnego zadania: np. wykrywania krwawienia na TK, a nie diagnozowania wszystkich przyczyn bólu głowy. Używanie AI poza zadeklarowanym zakresem to proszenie się o błędy.
Ograniczenia – system może „myśleć” tylko tym, czym go nakarmiono. Nie widzi wszystkiego, co widzi lekarz – nie zna kontekstu życiowego pacjenta, jego preferencji, subtelnych objawów spoza danych wejściowych.
Ten podstawowy poziom alfabetyzacji pozwala lekarzowi zadawać właściwe pytania przy wdrażaniu narzędzia: z jakich danych korzysta? Jakiej populacji dotyczył trening? Co producent deklaruje jako oficjalny zakres zastosowania?
AI w medycynie nie mówi „tak/nie”, tylko posługuje się prawdopodobieństwem i progami decyzyjnymi. Dlatego lekarz potrzebuje odświeżenia kilku pojęć statystycznych, ale w bardzo praktycznym wydaniu.
Czułość (sensytywność) – jaki odsetek pacjentów faktycznie chorych system „złapie”. Wysoka czułość zmniejsza ryzyko przeoczenia poważnego schorzenia, ale zwykle kosztem większej liczby fałszywie dodatnich wyników.
Swoistość – jaki odsetek zdrowych pacjentów system prawidłowo oznaczy jako zdrowych. Wysoka swoistość ogranicza liczbę niepotrzebnych alarmów, ale może oznaczać większe ryzyko przeoczenia części przypadków.
Fałszywie dodatnie i ujemne – AI zawsze będzie się mylić w obu kierunkach. Kluczowe jest zrozumienie, które ryzyko jest w danym zastosowaniu bardziej akceptowalne. W wykrywaniu zagrażających życiu stanów często wolimy więcej fałszywych alarmów niż przeoczeń.
Próg decyzyjny – punkt, od którego system „uznaje”, że ryzyko jest wystarczająco wysokie, by wygenerować alert lub rekomendację. Ten próg można czasem dostosować do specyfiki oddziału czy populacji pacjentów.
Praktyczny przykład: algorytm analizujący RTG klatki piersiowej może sygnalizować zmiany podejrzane o nowotwór z czułością 95% i swoistością 80%. To oznacza, że przeoczy 5% rzeczywistych zmian, ale wygeneruje też sporo alarmów, które okażą się fałszywe. Lekarz musi umieć to przełożyć na działania: czy każdy sygnał traktować jak pilne podejrzenie, czy raczej jako wskazówkę do uważniejszej oceny?
Umiejętność komunikowania roli AI pacjentowi
Wraz z pojawieniem się AI w gabinecie, lekarz zyskuje nową rolę: tłumacza technologii. Pacjenci mają mieszane uczucia wobec „leczenia przez komputer” – od zachwytu po silny lęk. Jasne wyjaśnienie, w jaki sposób system wspiera, a nie zastępuje lekarza, staje się elementem budowania zaufania.
Przydatne są proste formuły, np.:
„Używam systemu, który pomaga mi szybciej wychwytywać podejrzane zmiany na badaniu. To dodatkowa para oczu, ale to ja podejmuję ostateczną decyzję.”
„Ten program porównuje Pani/Pana wyniki z dużą liczbą podobnych przypadków i podpowiada mi, jakie scenariusze warto rozważyć. Potem zestawiam to z Pani/Pana objawami i historią.”
„Algorytm zasugerował takie i takie ryzyko. Wyjaśnię, co to oznacza w praktyce i jakie mamy możliwości działania.”
Kluczowe jest unikanie wrażenia, że AI jest „tajemniczym autorytetem”, którego nie wolno kwestionować. Pacjent powinien odczuwać, że to lekarz integruje różne źródła informacji, a technologia jest jednym z narzędzi – tak jak USG czy tomografia.
Krytyczna ocena rekomendacji, a nie ślepe zaufanie lub odrzucenie
Z perspektywy bezpieczeństwa pacjenta równie groźne jest bezkrytyczne podążanie za algorytmem, jak i całkowite ignorowanie jego rekomendacji. Potrzebne jest podejście „partnerskie”: AI jako konsultant, którego opinię trzeba skonfrontować z wiedzą kliniczną.
Praktyczna postawa lekarza korzystającego z AI obejmuje kilka odruchów:
Sprawdzenie spójności – czy to, co sugeruje system, pasuje do obrazu klinicznego, wywiadu, innych badań? Jeśli nie, to sygnał do głębszej analizy, a nie automatycznego odrzucenia czy przyjęcia.
Porównanie z własnym „przypuszczeniem wstępnym” – czy rekomendacja potwierdza lub modyfikuje wcześniejsze hipotezy? AI może chronić przed błędem zakotwiczenia, ale może też wprowadzać nowe uprzedzenie.
Świadomość typowych słabości modelu – jeśli wiadomo, że system gorzej działa np. u dzieci czy w określonych schorzeniach współistniejących, lekarz powinien być w tych sytuacjach szczególnie ostrożny.
Gotowość do odstąpienia od rekomendacji i udokumentowania tego – ważne, by decyzja o niepodążaniu za algorytmem nie była intuicyjnym „nie, bo nie”, tylko miała uzasadnienie w dokumentacji.
Można to porównać do konsultacji z doświadczonym kolegą: jego zdanie jest cenne, ale nie zwalnia z samodzielnego myślenia i odpowiedzialności za decyzję wobec konkretnego pacjenta.
Źródło: Pexels | Autor: Thirdman
Edukacja lekarzy: od studiów po szkolenia w szpitalu
Moduły AI w programie studiów medycznych
Jeśli AI ma stać się naturalnym elementem pracy lekarza, edukacja powinna zaczynać się już na studiach. Nie chodzi o tworzenie informatyków w kitlach, ale o wprowadzenie modułów, które zbudują zdrową ciekawość i podstawowe kompetencje.
Przykładowe bloki tematyczne na kierunku lekarskim lub lekarsko-dentystycznym:
Wprowadzenie do AI w medycynie – historia, podstawowe pojęcia, przegląd zastosowań w różnych specjalizacjach, ograniczenia i typowe błędy systemów.
Uczenie na przypadkach: kliniczne „case studies” z udziałem AI
Suche wykłady o AI mało kogo porwą. Lekarze uczą się przede wszystkim na przypadkach, więc także technologia powinna być osadzona w realnej praktyce. Zamiast abstrakcyjnych opisów algorytmów – konkretne historie pacjentów, w których AI pomogła, przeszkodziła lub wprowadziła w błąd.
Takie zajęcia mogą wyglądać jak klasyczne seminarium kliniczne, tylko z dodatkową warstwą:
prezentacja przypadku: objawy, wyniki badań, decyzje terapeutyczne,
pokaz, jakie rekomendacje wygenerował system AI na kolejnych etapach,
dyskusja: które podpowiedzi były pomocne, które mylące, czego zabrakło w danych,
analiza, jak udokumentowano korzystanie z AI w historii choroby.
Na jednym z takich seminariów można prześledzić np. ścieżkę pacjenta z bólem w klatce piersiowej na SOR-ze: od wywiadu, przez EKG analizowane przez algorytm, po decyzję o hospitalizacji. Studenci i rezydenci widzą wtedy, że najważniejsze pytanie brzmi nie „co powiedział system?”, tylko „czy to, co powiedział, ma sens w kontekście tego konkretnego człowieka?”.
Szkolenia „przy łóżku pacjenta” i symulacje z użyciem AI
Drugi filar edukacji to ćwiczenia w warunkach jak najbardziej zbliżonych do rzeczywistej pracy. Nie chodzi tylko o obsługę interfejsu, ale o wyrabianie reakcji w sytuacji presji czasu, hałasu informacyjnego i sprzecznych sygnałów.
Dobre praktyki to m.in.:
symulacje na fantomach i w centrach symulacji, gdzie AI analizuje np. zapis monitorowania, obraz USG czy parametry życiowe i generuje alerty w trakcie scenariusza,
trening zespołowy – lekarz, pielęgniarka, ratownik i koordynator dyżuru wspólnie ćwiczą sytuację, w której AI „dzwoni na alarm” albo, przeciwnie, coś przeocza,
debriefing po symulacji: co ułatwił system, gdzie przeszkodził, czy ktoś czuł się zdominowany przez „opinię algorytmu”.
Takie scenariusze pomagają wychwycić potencjalne punkty zapalne, zanim system trafi do prawdziwego dyżuru: np. kto ma prawo „wyciszyć” alert, co robimy, jeśli AI i lekarz się nie zgadzają, jak to widać w dokumentacji.
Szkolenia wewnątrzszpitalne: od „onboardingu” do audytu
Wdrażanie konkretnego narzędzia AI w szpitalu wymaga dedykowanego pakietu szkoleń. Ogólna wiedza o sztucznej inteligencji nie zastąpi instrukcji obsługi danego systemu, jego ograniczeń i zasad użycia w lokalnym kontekście.
Taki program może obejmować kilka poziomów:
szkolenie startowe – obowiązkowe dla wszystkich użytkowników systemu; prezentacja celu wdrożenia, interfejsu, scenariuszy użycia, procedur bezpieczeństwa,
warsztaty dla „superuserów” – wybranych lekarzy i pielęgniarek, którzy znają narzędzie „od podszewki” i mogą być lokalnymi mentorami,
cykliczne sesje „lessons learned” – wspólne omawianie przypadków, w których AI zadziałała świetnie lub zawiodła, i przekładanie tych doświadczeń na modyfikacje procedur.
Przydatnym elementem jest też prosty audyt po kilku miesiącach użytkowania: jak często system jest używany, w jakich sytuacjach bywa ignorowany, czy są powtarzające się problemy. To nie jest egzamin z posłuszeństwa wobec technologii, tylko narzędzie do dostrajania organizacji pracy.
Uczenie się razem z inżynierami i prawnikami
AI rozcina tradycyjne „silosy” między medycyną, technologią i prawem. Lekarz, który ma współtworzyć bezpieczne wdrożenia, powinien mieć okazję porozmawiać bezpośrednio z twórcami systemów i specjalistami od ochrony danych, zamiast dostawać wyłącznie gotowe instrukcje z działu IT.
Przydatne są wspólne warsztaty, w których biorą udział:
klinicyści – wnoszący wiedzę o realnych ścieżkach pacjenta i „życiu na oddziale”,
inżynierowie i analitycy danych – tłumaczący, co system faktycznie potrafi, a czego nie,
prawnicy i specjaliści ds. compliance – interpretujący regulacje (np. MDR, RODO, nadchodzące regulacje AI) na konkretne procedury szpitalne.
Takie spotkania często obnażają rozjazd oczekiwań: lekarze liczą na „inteligentnego asystenta”, a producent dostarcza narzędzie o bardzo wąskim zakresie zastosowania. Lepiej skonfrontować to przy stole konferencyjnym niż na dyżurze.
Budowanie zaufania lekarzy do AI: psychologia i praktyka
Ambiwalencja wobec technologii: fascynacja i lęk
Reakcje lekarzy na AI rzadko są skrajnie entuzjastyczne albo całkowicie wrogie. Częściej mieszają się ciekawość i niepokój: z jednej strony nadzieja na odciążenie od biurokracji i żmudnej analizy badań, z drugiej – obawa o utratę autonomii, błędy „czarnej skrzynki” i krytykę ze strony pacjentów.
Źródła tego napięcia są dość typowe:
lęk przed deprofesjonalizacją – wrażenie, że „maszyna zrobi to lepiej” i lekarz stanie się tylko podpisującym rekomendacje wykonawcą,
brak zrozumienia mechanizmu działania – im bardziej system wydaje się magiczny, tym łatwiej obdarzyć go albo ślepą wiarą, albo skrajną nieufnością,
złe doświadczenia z innymi systemami IT – toporne oprogramowanie szpitalne, które zamiast pomagać, spowalnia pracę, zostawia ślad w pamięci na długie lata.
Zaufanie nie rodzi się więc z folderów reklamowych, ale z powtarzalnych, przewidywalnych doświadczeń w codziennej praktyce.
Przejrzystość zamiast „magii”: jak prezentować działanie systemu
Jednym z najskuteczniejszych sposobów na budowanie zaufania jest zwiększenie przejrzystości działania AI. Lekarz nie musi oglądać kodu źródłowego, ale potrzebuje sensownego „wyjaśnialnego” interfejsu.
Przykładowe elementy, które pomagają:
wizualne wskazanie, na jakiej części obrazu (np. TK, RTG) skupił się algorytm – podświetlenie obszarów, które zadecydowały o wyniku,
prezentacja wyniku jako rozkładu ryzyk, a nie jednego „werdyktu” – np. „ryzyko A: średnie, ryzyko B: niskie”,
krótka notka o ograniczeniach przy każdym zastosowaniu – na wzór ostrzeżeń w lekach, tylko w języku klinicznym, a nie prawniczym.
Jeśli system od razu pokazuje: „uczyłem się głównie na populacji dorosłych, mam słabsze dane dla dzieci”, lekarz instynktownie obdarza go większym zaufaniem niż narzędzie, które udaje nieomylność.
Najlepszym „lekiem” na sceptycyzm są małe, powtarzalne korzyści widoczne na własnym dyżurze. Zaufanie rośnie, gdy lekarz kilka razy doświadczy, że:
algorytm realnie przyspieszył opis badania i pomógł złapać coś, co w przeciwnym razie wymagałoby drugiej oceny,
system oceny ryzyka ostrzegł przed pogorszeniem stanu pacjenta jeszcze zanim parametry życiowe dramatycznie się zmieniły,
narzędzie do automatycznego wypełniania dokumentacji skróciło czas „klikania” po dyżurze.
Wiele placówek zaczyna więc od ograniczonych pilotaży: jedno narzędzie na jednym oddziale, dobrze monitorowane, z możliwością wyrażenia feedbacku. Lepiej zbudować zaufanie w wąskim obszarze i dopiero potem rozszerzać zastosowania, niż zalać cały szpital nowinkami, których nikt nie czuje się właścicielem.
Bezpieczne miejsce na krytykę i zgłaszanie błędów
Zaufanie do AI jest kruche, jeśli lekarze mają poczucie, że nie mogą otwarcie mówić o błędach systemu. Kultura „zero krytyki” prowadzi do cichego sabotowania narzędzia albo do zamiatania problemów pod dywan.
Potrzebne są jasne kanały zgłaszania wątpliwości:
prosty formularz incydentu związanego z AI, analogiczny do raportowania zdarzeń niepożądanych,
spotkania, na których omawia się przypadki „AI-related” bez obwiniania osoby korzystającej z systemu,
informacja zwrotna: co zrobiono po zgłoszeniu, czy problem jest znany producentowi, czy wymaga modyfikacji procedury.
Jeśli lekarz widzi, że krytyka prowadzi do poprawy narzędzia lub procedur, a nie do szukania winnych, zaczyna podchodzić do AI jak do współpracownika, za którego też bierze współodpowiedzialność.
Granica decyzji: co robi człowiek, co zostawia AI
Decyzje strategiczne vs. mikrozadania
W praktyce klinicznej można wyróżnić dwa poziomy decyzji. Pierwszy to decyzje strategiczne: postawienie rozpoznania, wybór strategii leczenia, rozmowa o ryzyku i korzyściach. Drugi to mikrozadania: wyliczanie skali ryzyka, sortowanie badań wg pilności, podpowiedź dawkowania w oparciu o standardowe schematy.
AI dużo lepiej sprawdza się w drugim obszarze. Automatyczna ocena skali ryzyka krwawienia, priorytetyzacja badań obrazowych na liście do opisu, wsparcie w wyszukiwaniu rzadkich interakcji lekowych – to wszystko są zadania, które angażują pamięć i czas, ale nie wymagają subtelnej oceny wartości pacjenta, jego preferencji czy kontekstu życiowego.
Granica odpowiedzialności bywa więc dość intuicyjna: wszystko, co dotyczy sensu i celu terapii, zostaje po stronie człowieka; wszystko, co przypomina „ciężką pracę obliczeniową”, można delegować algorytmowi, pod warunkiem nadzoru.
Im większe potencjalne konsekwencje błędu, tym mocniej akcentuje się rolę lekarza. Dotyczy to szczególnie decyzji:
o operacji lub jej zaniechaniu,
o włączeniu/odstawieniu terapii o wysokim profilu działań niepożądanych,
o zakresie terapii w stanach terminalnych, gdzie równie ważne jak dane są wartości pacjenta.
AI może w takich sytuacjach dostarczyć dane – prognozę przeżycia, ryzyko powikłań, porównanie z kohortą podobnych pacjentów – ale nie może podjąć za człowieka decyzji, jaką jakość życia uznać za akceptowalną i jaki kompromis między długością a komfortem życia wybrać.
W praktyce warto mieć w procedurach jasno zapisane, że rekomendacje AI w tych obszarach mają charakter pomocniczy, a nie decyzyjny, oraz że wymagają dokumentowanego omówienia z pacjentem lub rodziną.
Algorytmy triażu i kolejkowania: jak nie zgubić kontekstu
Coraz więcej systemów AI wspiera triaż na SOR-ze, w przychodniach czy w telemedycynie. Kuszą one obietnicą „obiektywnego” sortowania pacjentów, ale niosą też ryzyko ślepego podążania za wynikiem.
Zdrowy model pracy może wyglądać tak:
AI wstępnie klasyfikuje zgłoszenia (np. pilne, pilne w ciągu 24 godzin, planowe),
pielęgniarka lub lekarz dyżurny ma obowiązek przejrzenia przypadków z pogranicza kategorii,
każda decyzja o „przebiurokratyzowaniu” lub zmianie priorytetu jest rejestrowana, ale nie wymaga skomplikowanego uzasadnienia – krótkiej adnotacji w stylu „objawy oddechowe + X, niepokój kliniczny”,
system okresowo porównuje decyzje ludzi z pierwotną klasyfikacją i uczy się na odchyleniach.
W takim ujęciu AI nie jest strażnikiem kolejek, ale narzędziem wspomagającym, które daje lekarzom i pielęgniarkom „drugi zestaw oczu”, pozostawiając im jednak ostateczny głos.
Automatyzacja dokumentacji: gdzie postawić kreskę
Duża część entuzjazmu wobec AI dotyczy automatyzacji dokumentacji: generowania notatek z rozmów, uzupełniania wywiadu, podpowiedzi kodów ICD. To obszar, w którym łatwo przekroczyć granicę między wsparciem a utratą kontroli nad treścią wpisu w historii choroby.
Dobrą praktyką jest podział ról:
AI może proponować szkic notatki z wizyty, z wyraźnym oznaczeniem, które fragmenty pochodzą z transkrypcji, a które są „domyślnymi” szablonami,
lekarz musi zatwierdzić, edytować lub odrzucić poszczególne sekcje; nie ma „automatycznego zatwierdzania” bez ludzkiego oka,
w historii choroby zapisuje się, że użyto narzędzia wspomagającego, ale odpowiedzialność za ostateczną treść wpisu podpisanego imieniem i nazwiskiem leży po stronie lekarza.
Źródło: Pexels | Autor: Tima Miroshnichenko
Podział odpowiedzialności: lekarz, szpital, producent systemu AI
„Asystent”, nie „współpodpisujący”: gdzie faktycznie zaczyna się odpowiedzialność lekarza
W polskim (i szerzej europejskim) porządku prawnym pacjent podpisuje zgodę na leczenie prowadzone przez lekarza lub zespół medyczny, a nie przez algorytm. To człowiek decyduje, które narzędzia uwzględnić w procesie diagnostyczno-terapeutycznym i jak je zinterpretować.
Stąd podstawowa zasada: AI jest środkiem pomocniczym. Podobnie jak aparat USG czy test laboratoryjny, może być źródłem błędu, ale to lekarz decyduje, czy wynik pasuje do obrazu klinicznego, czy wymaga weryfikacji. W dokumentacji dobrze jest odzwierciedlić tę rolę algorytmu:
krótką adnotacją typu „wsparcie decyzji: system X – rekomendacja Y, oceniono jako zbieżną/niezbieżną z obrazem klinicznym”,
wzmianką o tym, czy wynik AI miał charakter „przesiewowy” (screening), czy „wspierający decyzję” (decision support).
Taki opis przypomina, że lekarz nie jest „podwykonawcą” systemu, lecz osobą, która ocenia jego rekomendacje w szerszym kontekście.
Obowiązki placówki: wybór, wdrożenie i nadzór nad systemem AI
Szpital lub przychodnia nie może zrzucić całej odpowiedzialności na „samodzielnie myślącego specjalistę”. To placówka decyduje, jakie narzędzia trafią na oddziały, w jakiej konfiguracji i z jakimi ograniczeniami.
Na poziomie instytucji da się wyróżnić kilka kluczowych zadań:
kwalifikacja narzędzia – ocena, czy system ma odpowiednie certyfikaty (np. wyrób medyczny), czy opis jego przeznaczenia pokrywa się z planowanym użyciem na danym oddziale,
definicja scenariuszy użycia – spisanie, w jakich sytuacjach narzędzie jest używane, przez kogo i z jaką wagą rekomendacji (np. pomocniczo, nie decydująco),
monitorowanie efektów – analiza incydentów, fałszywych alarmów, błędnych klasyfikacji, a także realnych korzyści (czas pracy, trafność decyzji),
zapewnienie szkoleń – zamiast jednorazowego „onboardingu” przy wdrożeniu, cykliczne odświeżanie i aktualizowanie wiedzy.
W wielu krajach szpitale tworzą „komitety ds. AI” – małe zespoły złożone z lekarza, pielęgniarki, informatyka, prawnika i przedstawiciela zarządu. Taki zespół pilnuje, by narzędzie nie wymknęło się poza zakres, do którego było zaprojektowane.
Rola producenta: przejrzystość, aktualizacje i „etykieta działania”
Producent narzędzia AI nie odpowiada za indywidualną decyzję kliniczną, ale odpowiada za jakość samego systemu, jego ograniczenia i sposób prezentacji wyników. Coraz częściej wymaga się od dostawców:
„etykiety działania” – krótkiego, zrozumiałego opisu: na jakich danych uczono model, gdzie jest najdokładniejszy, gdzie ma luki,
rejestru znanych ograniczeń – np. gorsza skuteczność w określonych grupach wiekowych, etnicznych czy przy specyficznych chorobach współistniejących,
jasnego cyklu aktualizacji – informowania użytkowników, co zmieniono w nowej wersji, jakie skutki to ma dla praktyki klinicznej,
mechanizmu zwrotnego z placówek – prostego kanału zgłaszania incydentów, który nie kończy się automatycznym mailem „przyjęliśmy zgłoszenie”.
Bez tej warstwy odpowiedzialności po stronie producenta trudno mówić o partnerskiej relacji – lekarz pozostaje wtedy jedynie odbiorcą „czarnej skrzynki”, której nie może realnie ocenić ani współkształtować.
Wspólna odpowiedzialność za „system socjotechniczny”
AI w szpitalu to nie tylko kod, ale też ludzie, procedury, organizacja pracy i otoczenie prawne. Błąd rzadko wynika wyłącznie z jednej przyczyny. Częściej jest efektem splotu: niedopasowanego interfejsu, pośpiechu na dyżurze, braku szkolenia i zbyt dużej wiary w algorytm.
Dlatego mówi się o tzw. systemie socjotechnicznym – całości, w której:
lekarz i pielęgniarka odpowiadają za użycie i oceny kliniczne,
szpital za wdrożenie i nadzór,
producent za projekt, walidację i przejrzystość narzędzia.
Analiza incydentów z udziałem AI powinna więc zawsze pytać: „co zawiodło w całym systemie?”, a nie: „kto pierwszy nadaje się na kozła ofiarnego?”. W przeciwnym razie lekarze zaczną unikać nowoczesnych narzędzi z obawy, że każda pomyłka zostanie zinterpretowana jako „zaufanie maszynie zamiast własnemu rozumowi”.
Organizacja pracy z AI w szpitalu i przychodni
Mapowanie ścieżek pacjenta: gdzie AI naprawdę pomaga
Zanim nowe narzędzie trafi na oddział, warto prześledzić typową ścieżkę pacjenta – od rejestracji po wypis. Na tej mapie dobrze widać miejsca, gdzie AI może realnie coś zmienić, a gdzie byłaby jedynie „gadżetem”.
W praktyce najczęściej wskakuje się w trzy obszary:
przed wizytą – triaż zgłoszeń, sortowanie skierowań, wstępne uzupełnianie wywiadu na podstawie ankiet online,
w trakcie wizyty lub pobytu – podpowiedzi diagnostyczne, analiza obrazów, ostrzeżenia o interakcjach lekowych, monitorowanie ryzyka pogorszenia stanu,
po wizycie – automatyzacja dokumentacji, generowanie zaleceń dla pacjenta, prognozowanie konieczności kontroli.
Taka analiza zmusza do odpowiedzi na proste pytanie: gdzie w tym procesie lekarz najbardziej traci czas na powtarzalnych czynnościach, a gdzie system może realnie poprawić bezpieczeństwo? AI trafia wtedy najpierw tam, gdzie zysk jest oczywisty zarówno dla klinicystów, jak i dla pacjentów.
Rola „lokalnych liderów AI” na oddziałach
Nowe narzędzie znacznie lepiej się przyjmuje, gdy ma w zespole kilku „lokalnych ambasadorów” – osoby, które przeszkoliły się nieco szerzej, rozumieją logikę systemu i potrafią ją przełożyć na język praktyki.
Ich zadania nie muszą być formalnie rozbudowane. Wystarczy, że:
pomagają kolegom w pierwszych tygodniach obsługi,
zbierają uwagi z dyżurów i przekazują je dalej – do IT, producenta, komitetu ds. AI,
biorą udział w cyklicznych spotkaniach, na których omawia się działanie systemu i planuje zmiany.
Takie osoby często rodzą się naturalnie: to lekarz lub pielęgniarka, której „kliknęło” z nowym narzędziem i która chętnie je oswaja innym. Dobrze jest jednak świadomie ich wskazać i dać im na to choć trochę czasu w grafiku, zamiast liczyć, że zrobią to „po godzinach”.
Standardowe procedury włączania i wyłączania AI
Jednym z często pomijanych elementów jest odpowiedź na pytanie: kiedy wolno świadomie nie korzystać z AI? Jeśli algorytm jest formalnie włączony w proces (np. każdy wynik TK trafia przez system wspomagania opisu), to rezygnacja z jego użycia bez uzasadnienia może stać się źródłem sporów.
Dlatego przy wdrażaniu przydają się jasne procedury:
kiedy system musi być użyty (np. każde badanie zlecone jako „pilne” przechodzi przez algorytm priorytetyzacji),
kiedy system nie powinien być użyty (np. sytuacje, w których wiadomo, że działa gorzej – dzieci, ciąże, rzadkie choroby),
kiedy lekarz może go pominąć na podstawie własnego uznania (np. gdy przypadek jest oczywisty klinicznie, a użycie AI wydłużyłoby proces).
Podobnie ważne jest opisanie sytuacji awaryjnych: co robimy, gdy system jest niedostępny technicznie, gdy wyniki wyraźnie odbiegają od rzeczywistości, gdy aktualizacja zmienia sposób działania. To nie są „wyjątkowe” przypadki – w praktyce zdarzają się częściej, niż obiecuje folder marketingowy.
Integracja z dokumentacją medyczną i przepływem informacji
AI, która działa obok głównego systemu dokumentacji, szybko staje się kulą u nogi. Przeskakiwanie między oknami, logowanie się do osobnego panelu, przepisywanie wyników – to prosta droga do zniechęcenia i błędów.
Docelowy model to taki, w którym:
wyniki AI pojawiają się w tym samym miejscu, gdzie lekarz ogląda badania czy prowadzi dokumentację,
system jasno oznacza źródło danych – co pochodzi z badań, co z analizy AI, co z własnych notatek lekarza,
każda korekta lekarza względem rekomendacji algorytmu jest odnotowana, ale nie wymaga długiego uzasadnienia; liczy się sam fakt różnicy.
Dzięki temu można później analizować nie tylko, „jak działa AI”, ale też, „jak lekarze z niej korzystają”. W praktyce powstaje cenne źródło wiedzy o tym, kiedy ludzie słusznie korygują system, a kiedy może zbyt łatwo go ignorują.
Dyżury, pośpiech i „tryb uproszczony”
Warunki nocnego dyżuru na SOR-ze diametralnie różnią się od pracy poradni planowej. Ten sam interfejs AI, który sprawdza się w spokojnym gabinecie, może być zbyt rozbudowany w warunkach deficytu czasu i informacji.
Rozwiązaniem bywa tzw. tryb uproszczony – ustawienia, w których:
system podaje tylko najważniejsze alerty i rekomendacje,
ogranicza liczbę dodatkowych okien i wykresów,
używa czytelnego kodowania kolorami (np. czerwony – pilne, pomarańczowy – zwróć uwagę, zielony – brak nowych ryzyk).
W szpitalach, które świadomie projektują użycie AI, często spotyka się różne profile działania tego samego narzędzia dla SOR-u, oddziału wewnętrznego i poradni specjalistycznej. To nie jest fanaberia, tylko adaptacja do realiów pracy.
Etyka, uprzedzenia algorytmiczne i bezpieczeństwo pacjenta
Skąd biorą się uprzedzenia w algorytmach medycznych
Algorytm nie ma przekonań ani uprzedzeń w ludzkim sensie, ale odziedzicza je po danych, na których został uczony. Jeśli w zbiorze treningowym:
dominuje określona grupa (np. osoby w średnim wieku z dużych miast),
brakuje reprezentacji innych (np. seniorów, kobiet ciężarnych, mniejszości etnicznych),
odbijają się stare nawyki (np. rzadsze zlecanie badań u pewnych grup pacjentów),
to algorytm może „nauczyć się” niedoszacowywać ryzyka u jednych i przeszacowywać u innych. Przykładowo modele przewidujące ryzyko przyjęcia do szpitala mogą działać gorzej w grupach, które historycznie miały gorszy dostęp do opieki – po prostu dane „mówią”, że ci pacjenci rzadziej trafiali na oddział.
Jak lekarz może rozpoznać objawy algorytmicznego biasu
Nie trzeba być inżynierem, żeby wyczuć, że system faworyzuje lub zaniedbuje pewne typy pacjentów. Przydatne sygnały ostrzegawcze to:
powtarzalne rozminięcie z intuicją kliniczną w określonych grupach (np. młode kobiety z zawałem, pacjenci z niepełnosprawnością intelektualną),
nietypowo niska liczba alertów dla pacjentów, co do których personel ma „zły przeczucie”,
sygnały od pacjentów – poczucie, że system „z automatu” odsyła ich do mniej pilnych kategorii.
W takich sytuacjach zamiast indywidualnego narzekania przy kawie lepiej uruchomić formalny kanał zgłoszenia. Kilka podobnych przypadków z jednego oddziału może szybko ujawnić problem, którego nie widać w globalnych statystykach.
Obowiązek „etykietowania danych” i lokalnej walidacji
Uczciwe podejście do etyki AI oznacza nie tylko deklaracje producenta, ale też lokalną walidację. Szpital, wdrażając narzędzie, może np. przez kilka miesięcy zbierać dane o:
trafności prognoz w różnych grupach wiekowych i płci,
różnicach między oddziałami (SOR vs oddział planowy),
odchyleniach między rekomendacjami AI a decyzjami lekarzy.
Na tej podstawie da się stworzyć wewnętrzną „etykietę działania”: krótką notatkę, że np. „system działa lepiej w populacji X, ostrożnie interpretować w Y”. To nie tylko materiał dla lekarzy, ale też element uczciwej komunikacji z pacjentem, jeśli pytają, na czym polega używana technologia.
Najczęściej zadawane pytania (FAQ)
Dlaczego lekarze powinni uczyć się pracy z AI już teraz, a nie „poczekać kilka lat”?
AI nie jest już eksperymentem, tylko staje się elementem codziennej infrastruktury – tak jak systemy HIS, PACS czy elektroniczna dokumentacja. Wchodzi jednak głębiej: wspiera myślenie kliniczne, podsuwa diagnozy i priorytetyzuje pacjentów. To oznacza, że decyzje podejmowane z udziałem algorytmów będą dotykały każdego lekarza, niezależnie od specjalizacji.
Jeśli lekarze nie zbudują własnych kompetencji, standardy pracy z AI będą ustalane bez nich – przez działy IT, producentów oprogramowania czy zarządy. W praktyce oznacza to rolę biernego „klikacza” w systemie zamiast partnera, który potrafi zapytać o dane treningowe, zakres zastosowania czy ograniczenia modelu i dzięki temu lepiej chroni pacjenta.
W jakich obszarach medycyny AI jest już realnie używana na co dzień?
Najbardziej widoczne wdrożenia dotyczą radiologii i diagnostyki obrazowej – algorytmy oznaczają podejrzane obszary na RTG, TK czy mammografii, pomagają wychwycić krwawienia, guzy czy inne niepokojące zmiany. W kardiologii i intensywnej terapii systemy analizują EKG i dane z monitorów, wykrywając arytmie lub wczesne oznaki pogorszenia stanu pacjenta.
Coraz częściej AI pracuje też „w tle”: wspiera triage w SOR (ocena pilności przypadków), automatyzuje dokumentację (streszcza wizyty, podpowiada kody ICD), a w medycynie rodzinnej zbiera wstępny wywiad przed teleporadą. Lekarz często korzysta z algorytmu nawet o tym nie wiedząc, bo jest on wbudowany w sprzęt czy oprogramowanie.
Czy AI zastąpi lekarzy w diagnostyce i leczeniu?
AI nie jest „superlekarzem”, który podejmuje decyzje za człowieka. Modele uczą się na danych – rozpoznają wzorce podobne do tych, które widziały wcześniej, ale nie rozumieją kontekstu życia pacjenta, jego wartości czy niuansów klinicznych. W praktyce AI jest dodatkowym źródłem informacji i wsparciem przy selekcji przypadków, a nie autonomicznym decydentem.
Ryzyko pojawia się wtedy, gdy lekarz albo ślepo ufa algorytmowi, albo z góry go odrzuca. Bez podstawowej wiedzy o tym, jak system działa, łatwo przecenić jego możliwości lub nie skorzystać z realnej pomocy (np. przy wychwytywaniu subtelnych zmian na badaniach obrazowych).
Jakie kompetencje cyfrowe i „AI-owe” są dziś kluczowe dla lekarza?
Podstawą jest „alfabetyzacja AI” – rozumienie, czym jest model (algorytm nauczony na danych), z jakich danych treningowych korzystał, do jakiego dokładnie zadania został zaprojektowany i jakie ma ograniczenia. Lekarz nie musi znać matematyki sieci neuronowych, ale powinien umieć zapytać: na jakiej populacji uczono system, do jakich sytuacji jest przeznaczony i gdzie zaczyna się „użycie poza wskazaniami”.
Drugi obszar to praktyczna statystyka: czułość, swoistość, fałszywie dodatnie i fałszywie ujemne wyniki, progi decyzyjne. Bez tego trudno interpretować komunikat typu „wysokie ryzyko” czy „niska wiarygodność” i świadomie podjąć decyzję, czy zaufać rekomendacji AI, czy jednak ją zakwestionować.
Jak przygotować zespół medyczny, żeby uniknąć „podwójnego systemu” z AI i bez AI?
Najważniejsze jest wspólne minimum edukacyjne dla całego zespołu – od rezydentów po ordynatora. Chodzi o to, by wszyscy rozumieli, jak konkretny system AI działa, w czym pomaga, a do czego nie powinien być używany. Szkolenia tylko dla „entuzjastów technologii” tworzą podział na tych, którzy rozumieją algorytm, i resztę, która go boi się lub ignoruje.
Potrzebne są też spójne procedury: kiedy rekomendacja AI jest brana pod uwagę, kto ją może nadpisać, jak dokumentuje się korzystanie z systemu. Dzięki temu nie ma sytuacji, w której jeden lekarz zawsze wyłącza AI, a inny opiera na nim większość decyzji – przy tych samych pacjentach, na tym samym oddziale.
Kto odpowiada za błąd, gdy lekarz korzystał z rekomendacji AI?
Bez jasno opisanych zasad odpowiedzialność łatwo się „rozmywa” między lekarza, szpital i producenta oprogramowania. Lekarz może twierdzić, że zawinił system, producent – że narzędzie zostało użyte niezgodnie z przeznaczeniem, a placówka – że to indywidualna decyzja lekarza. Spór dodatkowo komplikuje brak dokumentacji, w jakim zakresie faktycznie korzystano z AI.
Dlatego tak istotne są: przejrzyste regulaminy korzystania z AI, opisany zakres zastosowania narzędzia oraz nawyk zapisywania, jakie rekomendacje systemu były brane pod uwagę przy danej decyzji. To nie tylko kwestia prawa, ale też ochrony samego lekarza przed sytuacją, w której odpowiada za „czarną skrzynkę”, której działania nikt nie potrafi odtworzyć.
Jak AI wpływa na wypalenie zawodowe lekarzy – pomaga czy szkodzi?
To zależy od sposobu wdrożenia. Jeśli AI jest narzucona „z góry”, bez szkoleń i dostosowania do realnej pracy, staje się kolejnym obciążeniem: więcej kliknięć, nowe okna, poczucie, że system „miesza się” w decyzje, ale nie bierze za nie odpowiedzialności. W takiej sytuacji frustracja i wypalenie rosną.
Gdy jednak lekarze są włączeni w wybór i konfigurację narzędzi, a AI przejmuje żmudne, powtarzalne zadania (np. streszczanie wizyt, podpowiedzi kodów), obciążenie może realnie spaść. Kluczowe jest, by lekarz rozumiał, co system robi, gdzie się myli i dlaczego ostateczna decyzja nadal należy do człowieka.
Kluczowe Wnioski
AI staje się stałą infrastrukturą ochrony zdrowia – wpływa już nie tylko na obieg dokumentacji, ale na samo myślenie kliniczne, od podpowiedzi diagnostycznych po priorytetyzację pacjentów.
Lekarz bez podstawowej „alfabetyzacji AI” zamienia się w biernego klikacza, a decyzje o sposobie użycia systemów zapadają ponad jego głową – w działach IT, u producentów i dyrekcji.
Rozwiązania AI są coraz częściej „wbudowane” w sprzęt i oprogramowanie (radiologia, kardiologia, POZ, teleporady), więc lekarze korzystają z nich nawet nieświadomie; kompetencje AI przestają być hobby, a stają się wymogiem zawodu.
Brak wspólnego szkolenia tworzy podwójny system: część lekarzy ufa i wykorzystuje AI, część ją ignoruje, co prowadzi do różnych standardów opieki, napięć w zespołach i organizacyjnego chaosu.
Nieprzygotowane wdrożenia AI sprzyjają wypaleniu: zamiast realnie odciążać, systemy dokładane „od góry” zwiększają biurokrację i poczucie, że lekarz odpowiada za decyzje, których mechanizmu nie rozumie.
Bez umiejętności wyjaśnienia roli AI w procesie leczenia łatwo o utratę zaufania pacjentów, którzy mają wrażenie, że „leczy ich komputer”, a nie lekarz podejmujący świadome decyzje.
Niejasny podział odpowiedzialności za błędy AI (lekarz–szpital–producent) i brak dokumentacji użycia algorytmów grożą przerzucaniem winy oraz poważnymi problemami prawnymi i etycznymi.
Źródła informacji
Ethics and governance of artificial intelligence for health. World Health Organization (2021) – Wytyczne WHO dot. etyki, odpowiedzialności i wdrażania AI w ochronie zdrowia
Artificial Intelligence in Health Care: The Hope, the Hype, the Promise, the Peril. National Academy of Medicine (2019) – Przegląd zastosowań AI, ryzyk, odpowiedzialności i wpływu na system ochrony zdrowia
Guidance on the Qualification and Classification of Software in Regulation (EU) 2017/745. European Commission (2021) – Klasyfikacja oprogramowania medycznego, w tym systemów AI jako wyrobów medycznych
Regulation (EU) 2017/745 on medical devices (MDR). European Union (2017) – Ramy prawne dla wyrobów medycznych, istotne dla systemów AI wspierających decyzje kliniczne
