Sztuczna inteligencja rewolucjonizuje medycynę, ale czy radiolodzy nie zaczynają za bardzo jej ufać? Nowe badania sugerują, że lekarze są bardziej skłonni wierzyć w diagnozę AI, gdy wskazuje ona konkretny obszar na zdjęciu rentgenowskim.
Amerykańscy naukowcy zaangażowali 220 lekarzy, w tym radiologów oraz specjalistów medycyny wewnętrznej i ratunkowej. W ramach badania uczestnicy oceniali zdjęcia rentgenowskie klatki piersiowej z pomocą asystenta AI. Mogli przyjąć, zmodyfikować lub odrzucić sugestie AI.
Opublikowane w czasopiśmie Radiology badanie analizowało, jak różne rodzaje wyjaśnień generowanych przez AI — lokalne i globalne — wpływają na dokładność diagnozy. Wyjaśnienia lokalne wskazują konkretny obszar na obrazie, a globalne odwołują się do podobnych przypadków z przeszłości.
„Gdy wskazówki AI były poprawne, lokalne wyjaśnienia zwiększały dokładność diagnostyczną do 92,8%, podczas gdy globalne osiągały 85,3%,” mówi dr Paul H. Yi, współautor badania i dyrektor ds. inteligentnej informatyki obrazowej w St. Jude Children’s Research Hospital.
Jednak gdy AI popełniało błąd, dokładność spadała drastycznie: do 23,6% dla lokalnych wyjaśnień i 26,1% dla globalnych.
Zaskakującym odkryciem było to, jak łatwo lekarze ufali lokalnym wyjaśnieniom, nawet gdy AI się myliło. „To subtelna, ale istotna wskazówka: rodzaj wyjaśnienia wpływa na zaufanie i decyzje użytkowników w sposób, którego mogą nie być świadomi,” zauważa Yi.
Problem ten nazywany jest „pułapką automatyzacji” — ludzie mają tendencję do nadmiernego polegania na technologii. Aby temu przeciwdziałać, Yi sugeruje m.in. modyfikację checklist diagnostycznych w taki sposób, by uwzględniały one nowe narzędzia AI. „Wyobrażam sobie przyszłość, w której nasze procedury będą dostosowane do współpracy z AI,” dodaje Yi. Zwraca również uwagę na potrzebę analizy interakcji człowiek-komputer, uwzględniając takie czynniki jak stres i zmęczenie.
Badania takie jak to pokazują potencjał AI w medycynie, ale również przypominają, że każda innowacja niesie za sobą ryzyko. Kluczem jest zrównoważenie zaufania do technologii z krytycznym myśleniem i doświadczeniem lekarzy. Jak mawiają radiolodzy: „Człowiek widzi, ale nie wszystko od razu kupuje” — i tego się trzymajmy.