Der Arzt im Radiologen – künstliche Intelligenz als Möglichkeit, das Spannungsfeld zwischen Patient, Technik und Zuweisern zu lösen – ein narratives Review

Zusammenfassung

Hintergrund Große und progrediente Datenmengen führen zu einer Verknappung der Zeit des Radiologen. Der Einsatz auf künstlicher Intelligenz (KI) basierender Systeme bietet Möglichkeiten, den Radiologen zu entlasten. Die KI-Systeme sind in der Regel für ein radiologisches Gebiet optimiert. Der Radiologe muss die Grundzüge ihrer technischen Funktion verstehen, damit er Schwächen und mögliche Fehler des Systems einschätzen und auf der anderen Seite Stärken des Systems nutzen kann. Diese „Erklärbarkeit“ schafft Vertrauen in ein KI-System und zeigt dessen Grenzen auf.

Methode Durchführung einer erweiterten Medline-Suche bis 10/2023 zum Thema „Radiologie, künstliche Intelligenz, Zuweiser-Interaktion, Patienten-Interaktion, Arbeitszufriedenheit, Befundkommunikation“. Es wurden subjektiv weitere relevante Artikel für dieses narrative Review berücksichtigt.

Ergebnisse Der KI-Einsatz ist gerade in der Radiologie weit fortgeschritten. Dem Radiologen sollten vom Programmierer verständliche Erklärungen der Funktionsweise seines Systems geliefert werden. Alle am Markt befindlichen Systeme haben Stärken und Schwächen. Die Optimierungen sind teilweise unbeabsichtigt spezifisch, da sie häufig zu genau an eine bestimmte, in der Praxis oft nicht vorhandene Umgebung angepasst sind – „Overfitting“ genannt. In den Systemen gibt es auch spezifische Schwachstellen, sogenannte „gegnerische Beispiele“, die zu fatalen Fehldiagnosen der KI führen, obwohl diese optisch für den Radiologen nicht von einem unauffälligen Befund zu unterscheiden sind. Der Benutzer muss wissen, auf welche Erkrankungen das System eingelernt ist, welche Organsysteme erkannt und mittels KI berücksichtigt werden und auch entsprechend, welche nicht ordnungsgemäß erfasst werden. Damit kann und muss der Benutzer kritisch die Ergebnisse überprüfen und gegebenenfalls den Befund anpassen. Richtig eingesetzte KI kann zu Zeitersparnis beim Radiologen führen. Wenn er seine Systeme kennt, muss er nur wenig Zeit aufwenden, um die Ergebnisse zu überprüfen. Die so gewonnene Zeit kann für die Kommunikation mit Patienten und Zuweisern genutzt werden und so dazu beitragen, eine höhere Zufriedenheit im Beruf zu erzielen.

Schlussfolgerung Die Radiologie ist ein sich ständig weiter entwickelndes Fachgebiet mit enormer Verantwortung, da die Radiologie häufig die zu behandelnde Diagnose stellt. Zur Entlastung und Unterstützung sollten konsequent KI-gestützte Systeme genutzt werden, deren Stärken, Schwächen und Einsatzgebiete der Radiologe kennen muss, um Zeit zu sparen, die er für zielgerichtete Kommunikation einsetzen kann.

Kernaussagen 

• Erklärbare KI-Systeme tragen zu einer Verbesserung des Arbeitsablaufes und zur Zeitersparnis bei.

• Der Arzt muss Ergebnisse der KI kritisch überprüfen, dabei Grenzen der KI kennen und berücksichtigen.

• Die KI-Systeme liefern nur dann verlässliche Ergebnisse, wenn sie auf die Datenart und Datenherkunft angepasst wurden.

• Der kommunizierende, am Patienten interessierte Radiologe ist wichtig für die Sichtbarkeit des Fachgebietes.

Zitierweise

• Stueckle CA, Haage P. The radiologist as a physician – artificial intelligence as a way to overcome tension between the patient, technology, and referring physicians – a narrative review. Fortschr Röntgenstr 2024; 196: 1115 – 1124

Keywords

diagnostic radiology - patient interaction - deep learning - artificial intelligence - doctor patient relationship

Der nachfolgende Text wurde ausschließlich im generischen Maskulinum verfasst. Das garantiert einen besseren Lesefluss. Ungeachtet dessen sollen stets Männlich, Weiblich und Divers repräsentiert werden.

Hintergrund

Das Fachgebiet „Radiologie“ ist ein Schnittstellenfach. Hauptaufgaben sind die Analyse von Bildern und die bildgestützte Behandlung bestimmter Erkrankungen.

Als technisches Fach entwickelt sich die Radiologie dabei kontinuierlich weiter. Im Rahmen dieser Weiterentwicklungen nimmt die Zahl der zur Verfügung gestellten Bilder, bei kontinuierlich kürzer werdender Messzeit, zu. Viele Befunde werden nach vorgegebenen Standards erstellt. Diese basieren je nach Art der Erkrankung auf Messungen in definierten Ebenen und an definierten Lokalisationen. Die radiologische Diagnostik und radiologische Intervention werden dadurch immer besser reproduzierbar und weniger fehleranfällig. Für den Radiologen bedeutet dies eine zunehmende Arbeitsbelastung durch die immer größere Bilderflut und die steigenden Anforderungen an die Befundung.

Entwicklung der Radiologie

Als technisch basiertes Fach hat sich in der Radiologie seit Entdeckung der Röntgenstrahlen im Jahr 1895 durch Conrad Röntgen viel entwickelt. Insbesondere die Einführung der Computertomografie (CT) und der Magnetresonanztomografie (MRT) als Meilensteine haben die Radiologie verändert. Die ersten CT-Scanner zu Beginn der 1970er Jahre lieferten einzelne Bilder mit Schichtdicken von mehr als 4 cm. Die Rotationszeit wurde kürzer, die Schichtdicke geringer, die Geräte wurden schneller. Zu Beginn der CT-Ära wurden noch „Gaps“ gefahren, also Lücken im Scanvolumen, um eine ausreichende Kühlung des CTs sicherzustellen und um Zeit zu sparen [1]. Durch die Einführung der Spiral-CT und später der Mehrzeilen-Spiral-CT und Volumen-CT wurden zunehmend dünnschichtige 3D-Datensätze erstellt ([Abb. 1]). Statt Scan-Lücken werden heute überlappende Schichten berechnet. So werden heute als Standard bei einer CT zahlreiche dünnschichtige Rekonstruktionen angeboten, die mit spezifischen Rekonstruktionsalogrithmen ergänzt werden können und so in wunschgemäßer Ausführung zur Befundung zur Verfügung stehen. Gleichzeitig steigt die Zahl der untersuchten Patienten pro Zeiteinheit. Daraus resultieren also pro Zeiteinheit immer mehr zu untersuchende Patienten mit immer mehr zu betrachtenden und zu befundenden Bildern ([Abb. 1]). Dies führt mittlerweile zu einer eklatanten Arbeitsmehrbelastung für den Radiologen. Zudem werden nicht nur immer mehr, sondern auch immer komplexere Untersuchungen angefordert und durchgeführt. Neben den morphologischen Bildern werden zunehmend auch funktionelle und dynamische Auswertungen und Diffusionskarten erstellt. Damit wächst die Datenmenge weiter an, die der Radiologe zeitnah, genau und zielgerichtet bearbeiten muss. Die steigende Arbeitsbelastung führt bei Radiologen zu zunehmender Unzufriedenheit, einer steigenden Anzahl von Burn-outs und der Gedanke, früher mit der Arbeit aufzuhören, ist immer häufiger anzutreffen [2]. Die moderne Radiologie ist aktuell also konfrontiert mit vier großen Herausforderungen: großen Mengen an zu befundendem Bildmaterial („Big Data“), hohen Anforderungen an Befundung und Kommunikation, Personalmangel sowie hohem Patientenaufkommen.

Abb. 1 Dargestellt ist die Entwicklung der Schichtdicke und der errechneten Bilder in der kranialen Computertomografie über die Zeit.

Künstliche Intelligenz

Die zunehmende Belastung führt zu alternativen Ansätzen im Workflow und in der Befunderstellung. Um Zeit zur Kommunikation mit Patienten und Zuweisern zu gewinnen, rücken insbesondere KI-gestützte Expertensysteme in den Fokus.

Die Radiologie bietet aufgrund des Bild-basierten Arbeitens ideale Voraussetzungen für die Beurteilung mittels KI [1] [2] [3] [4]. Künstliche Intelligenz hat in verschiedenen Stufen Einzug in die Radiologie gehalten: in den 1980ern in Form erster Expertensyteme, in Form probalistischer Systeme in den 1990ern und seit Ende der 2000er als Deep-Learning-Modelle in immer feinerer Ausprägung [5]. Entsprechend angewachsen ist die Zahl der Publikationen, die sich mit KI-basierter Befundung befassen [4].

Die in der Radiologie und generell in der Medizin eingesetzte KI lässt sich auf zwei grundlegende Verfahren reduzieren: Die KI-Aussage wird durch Lernen vom Menschen oder durch die Extraktion bisher unbekannter Erkenntnisse generiert [6] [7].

Der Fokus der Anwendung Künstlicher Intelligenz in der Radiologie liegt in der MRT-Bildgebung (37 % der KI-Systeme nutzen MR-Datensätze), gefolgt von der CT-Bildgebung (29 %) mit einem methodischen Schwerpunkt auf Segmentation (39 %) [4]. Als fachspezifische Schwerpunkte stehen aktuell neuroradiologische und thoraxradiologische Forschungsgebiete im Mittelpunkt des Interesses [3] [4].

Gerade in Teilgebieten der Radiologie wie der onkologischen Bildgebung, wo der Vergleich mit Voraufnahmen essenziell ist und die Messergebnisse in der Regel noch in ein spezifisches Bewertungssystem eingefügt werden müssen, ist es eine willkommene Hilfe, wenn ein entsprechendes System die Vorarbeit leistet [8]. Damit sind viele Anwendungen im Bereich der Diagnostik und Segmentation von Lungenrundherden implementiert und werden entsprechend erforscht [4] [8] [9].

Probleme der Blackbox

Auch in anderen Bereichen werden zunehmend Erfolge durch den Einsatz von KI berichtet. Ein aktuelles Review bezüglich der Invasionstiefe beim Myometriumkarzinom zeigt Erfolge bei der Diagnostik dieses Krankheitsbildes durch den Einsatz von KI. Das Review zeigt, dass verschiedene KI-Systeme, die auf ganz unterschiedlichen KI-Techniken basieren, eine Hilfe bei der Beurteilung der Tiefe der Myometriuminvasion sein können. Es zeigt zugleich Limitationen der KI-Systeme sowie der beurteilenden Radiologen auf. Häufig bleibt unklar, wie die KI ihre Ergebnisse erlangt [10].

Aus diesem Grund wird von vielen die „Explainable AI“ propagiert und gefordert. Damit ist gemeint, dass die KI und deren Ergebnisse erklärbar sein sollen.

Hinter dem Begriff der erklärbaren künstlichen Intelligenz steht eine Reihe von Prozessen und Methoden, die es menschlichen Nutzern ermöglichen, die von Algorithmen des maschinellen Lernens erzeugten Ergebnisse und Ausgaben zu verstehen und ihnen zu vertrauen. Erklärbare KI wird verwendet, um ein KI-Modell, seine erwarteten Auswirkungen und potenziellen Ungenauigkeiten zu beschreiben. Sie hilft dabei, die Modellgenauigkeit, Korrektheit, Transparenz und Ergebnisse bei der KI-gestützten Entscheidungsfindung zu charakterisieren. Der Radiologe, der zur Optimierung seines Workflows routinemäßig KI-Anwendungen nutzt, muss verstehen, womit er die Ergebnisse erzielt, die ihm mehr Zeit verschaffen. Die erklärbare KI ist für einen Arzt und auch für Patienten von entscheidender Bedeutung, um Vertrauen zu schaffen, wenn KI-Modelle bei einer medizinischen Entscheidung helfen.

Je fortschrittlicher die KI wird, desto schwieriger wird es für den Menschen zu verstehen und nachzuvollziehen, wie der Algorithmus zu einem Ergebnis gekommen ist. Der gesamte Berechnungsprozess wird zu einer „Blackbox“, die nicht mehr interpretierbar ist. Diese Blackbox-Modelle werden direkt aus den Daten erstellt. Und nicht einmal die Softwareingenieure oder Datenwissenschaftler, die den Algorithmus entwickeln, können verstehen oder erklären, was genau in ihnen vorgeht oder wie der KI-Algorithmus zu einem bestimmten Ergebnis gekommen ist.

Explainable AI – erklärbare Künstliche Intelligenz

Es gibt viele Vorteile, wenn zumindest in Teilen für den Benutzer nachvollziehbar ist, wie ein KI-gestütztes System zu einem bestimmten Ergebnis gekommen ist.

Bildverarbeitende KI-Systeme nutzen vielfach die Technik der sogenannten Datenanreicherung. D.h. die Bilddaten werden vorbereitend auf vielfache Weise modifiziert, um dann vom neuronalen Netzwerk analysiert zu werden. Klassische Schritte für eine solche Anreicherung sind geometrische Änderungen, Skalieren der interessierenden Region, das bewusste Hinzufügen des Gaußschen Rauschens, das Kontrastanheben, die abgestufte Potenzierung der Bilddaten, das Hinzufügen einer Gaußschen Unschärfe und die mathematische Beschneidung des Datensatzes. Diese mathematischen Prozesse laufen vor der eigentlichen Analyse des Datensatzes im neuronalen Netzwerk ab. Für den Benutzer sind diese komplex an die Aufgabenstellung angepassten mathematischen Modelle oft nicht nachvollziehbar [11].

Die Erklärbarkeit kann den Entwicklern helfen, sicherzustellen, dass das System wie erwartet funktioniert. Sie kann notwendig sein, um regulatorische Standards zu erfüllen, oder sie kann wichtig sein, um den von einer Entscheidung Betroffenen zu ermöglichen, das Ergebnis anzufechten oder zu ändern [12].

Die Explainable AI sollte Grundsätzen folgen, um eine vertrauensvolle Interaktion zwischen KI und Mensch sicherzustellen. Eine Übersicht hat das US-Departement of Commerce zusammengestellt:

• Erläuterung: Das KI-System liefert oder enthält begleitende Belege oder Gründe für Ergebnisse und/oder Prozesse.

• Verständlichkeit: Das KI-System liefert Erklärungen, die für den Adressaten verständlich sind.

• Genauigkeit der Erklärung: Die Erklärung ist spezifisch auf das angezeigte Ergebnis angepasst. Damit gibt die Erklärung den Grund für die Erzeugung des konkreten Outputs korrekt wieder und/oder spiegelt den Prozess des Systems genau wider.

• Wissens-Grenzen: Ein System funktioniert nur unter den Bedingungen, für die es entwickelt wurde, und wenn es ein ausreichendes Vertrauen in seine Ergebnisse erreicht [13].

Erklärbare AI: Fehlerquellen, Risiken und konsekutive Adaption

Eine aktuelle Übersichtsarbeit aus dem Jahr 2022 hat untersucht, welche Methoden der „Explainability“ in radiologischen Arbeiten zur Anwendung von KI benutzt worden sind. Die Arbeit kommt zu dem Ergebnis, dass in 49 % der Studien die Erklärbarkeit über Beispielfälle erreicht wurde. In immerhin 28 % der Studien wurde keine Erklärbarkeit ausgeführt, in 18 % wurde mittels Visualisierungen und Auffälligkeitskarten gearbeitet, um die Erklärbarkeit der KI-Befunde zu gewährleisten, in 5 % wurden die Ergebnisse retrospektiv als Erklärungsansatz diskutiert [4]. In diesem Kontext wurden Beispielfälle, also Bilddatensätze, die entsprechend der Erkrankung codiert verarbeitet werden, mittels ebenfalls codierter Beispiel- oder auch Prüfbilddatensätze überprüft. Als kritischen Punkt weist die Arbeit darauf hin, dass Teile der Software die Bilddatensätze aus nur einer Klinik benutzen und teilweise auch nur sehr kleine Datensätze verwendet worden sind. Über Visualisierungstools kann die KI-Software dem Entwickler anzeigen, über welche Merkmale im Bild oder im Datensatz die primäre Entscheidung getroffen worden ist. Die Karten zeigen entsprechende Foci an, an denen sich die Software besonders orientiert hat [4].

Die Systeme und vor allem die primäre Testung der Systeme und die entsprechende Adaption der KI während der Trainingsphase der Software sorgen in aller Regel dafür, dass die entsprechende Software in einem engen Anwendungsfeld vernünftig, also im Rahmen der erlernten Parameter, funktioniert [14] [15].

Um kontrollierbare und besonders zuverlässige Ergebnisse einer KI zu erzielen, werden häufig zu diesem Zweck „labeled Datasets“ zum Training der KI verwendet. Dabei sollen nur solche Bilddaten zum Einsatz kommen, die durch einen menschlichen Experten überprüft wurden und einen eindeutigen Befund zeigen. Die KI wird mit einer möglichst großen Zahl solcher Daten versorgt, anschließend erfolgt der Test – ebenfalls mit einem überprüften Datensatz – und mit einer großen Wahrscheinlichkeit sind die zu erwartenden Ergebnisse des Systems positiv validiert. Das spezifische Training für einen speziellen Anwendungsfall kann zu einer überzeichneten Anpassung des neuronalen Netzwerkes und damit letztlich zu einer überoptimistischen Erwartung an das Modell führen. Überanpassung tritt immer dann auf, wenn ein KI-System lernt, Vorhersagen auf der Grundlage von Bildmerkmalen zu treffen, die nur für den Trainingsdatensatz spezifisch sind und sich nicht auf neue Daten verallgemeinern lassen.

Dies wiederum kann zum Versagen des Modells mit Datensätzen führen, die von anderen Kliniken oder Praxen stammen. Ein Beispiel für eine Überoptimierung ist eine Häufung bestimmter Erkrankungen an einem Gerät. Wenn aus organisatorischen Gründen die Mehrzahl der schwer erkannten Patienten an einem bestimmten Gerät untersucht werden, z. B. an „CT1“, es aber noch weitere CTs gibt, an denen diese spezielle Gruppe der Patienten nicht untersucht wird, lernt die KI irrtümlich, dass schon allein aufgrund der Tatsache der Untersuchung an diesem speziellen Gerät (CT1) eine gesteigerte Wahrscheinlichkeit für eine schwere Erkennung vorliegt. Wenn die gleiche Software nun unter anderen Voraussetzungen eingesetzt wird, fällt der mit in die Bewertung einbezogene Faktor (CT1) weg und führt damit zu ganz anderen Ergebnissen [16].

Eine Methode, diese Überoptimierung zu vermeiden, ist die Kreuzvalidierung: ein Stichprobenverfahren zur wiederholten Unterteilung eines Datensatzes in unabhängige Kohorten für Training und Test. Die Trennung von Trainings- und Testdatensätzen stellt sicher, dass die Leistungsmessungen nicht durch eine direkte Überanpassung des Modells an die Daten verzerrt werden. Bei der Kreuzvalidierung wird der Datensatz mehrfach unterteilt, das Modell wird mit je einer Untergruppe trainiert und bewertet, und der Vorhersagefehler wird über die Testläufe gemittelt. Der Einsatz der Kreuzvalidierung erlaubt die Schätzung der Generalisierungsleistung eines Algorithmus’, die Bestimmung des am besten geeigneten Algorithmus’ aus mehreren Algorithmus-Systemen und die Anpassung der Modell-Hyperparameter, also die Feinabstimmung der Einstellungen im Algorithmus, die das Modell konfigurieren und trainieren werden [7] [10].

Eine weitere Methode zur gezielten und zielführenden Auswahl radiologisch wichtiger Merkmale innerhalb eines KI-Algorithmus’ ist der „Least Absolute Shrinkage and Selection Operator“ (LASSO), der die Standardregressionsmethoden abändert, indem er sich auf eine bestimmte Teilmenge aller verfügbaren Kovariaten beschränkt [5] [17]. Damit werden Prädiktorvariablen entfernt, die zu einer Überanpassung beitragen können. Über manuelle, menschlich gesteuerte Segmentierung von Läsionen in einer Trainingsumgebung wird die Reproduzierbarkeit der Erkennung von Merkmalen durch verschiedene menschliche Operatoren bestimmt – damit werden die nicht reproduzierbaren Merkmale verworfen [5].

Optimierung der AI und Minimierung der potenziellen Schwachstellen

Wie kritisch die KI in der radiologischen Diagnostik beobachtet werden muss, zeigt eine aktuelle Arbeit, die überprüft, ob die KI bei automatisierter Thoraxdiagnostik möglicherweise gesellschaftliche Minderheiten benachteiligt. Das Ergebnis wurde viel beachtet und zeigt die Limitationen der Technik. Die Autoren der unter [18] zitierten Studie konnten zeigen, dass Klassifikatoren, die mit modernsten Computer-Vision-Techniken erstellt wurden, unterversorgte Patientengruppen konsequent und selektiv unterdiagnostizieren, und dass somit die Unterdiagnoserate bei diesen auch ohne den Einsatz KI-basierter Systeme unterversorgten Gruppen, z. B. hispanischen Patienten, signifikant höher war. Das bedeutet, dass eine Gruppe, die schon im aktuellen medizinischen System durchschnittlich schlechter versorgt wird, auch durch die KI-gestützten Systeme in eine schlechtere Versorgungslage gebracht wird, und zeigt eindringlich, wie wichtig es ist, die Algorithmen beständig zu überprüfen und zu hinterfragen [18].

Mittlerweile werden Software-Systeme entwickelt, die wiederum die KI-Systeme auf Fehler und die Richtigkeit der angebotenen Erklärungsmodelle testen, um solche Fehler zu vermeiden [19] [20].

Unzweifelhaft bieten KI-basierte Befundungssysteme eine Unterstützung bei der Befunderstellung [2] [5]. Eine Domäne, in der viele KI-basierte Systeme existieren, ist die Thoraxdiagnostik. Hier erreichen sie z. B. in der Diagnostik von Pneumothoraces eine beachtliche Genauigkeit zwischen 0,935 und 0,978 [21] [22] [23]. Auch im Rahmen der Covid-Diagnostik wurden viele KI-Ansätze vorgestellt, die eine sehr hohe diagnostische Genauigkeit zeigen [24] [25] [26].

Im Idealfall müssen KI-Systeme für das gesamte Spektrum möglicher Krankheiten in Datensätzen unterschiedlicher Qualität innerhalb einer bestimmten Untersuchungsmodalität trainiert und validiert werden, was aufgrund der hohen Variabilität in realen klinischen Situationen aktuell noch nicht darstellbar ist [7] [27]. Daher sind die KI-Systeme aktuell jeweils nur für eine bestimmte Anwendung konzipiert und auch auf diese limitiert.

Als eine aktuelle Entwicklung rückt neben „Deep Learning“ und „Deep Learning Networks“ auch „Radiomics“ als eine zukünftige Technik in den Fokus des Interesses, die möglicherweise weitere Vorteile in der Befundung schaffen wird. Die KI-Systeme verwenden nach der Segmentation des entsprechenden interessierenden morphologischen Korrelates, also z. B. „Lungenrundherd“, eine Bewertungskaskade, die möglichst viele erlernte Merkmale enthält, um den gefundenen Lungenrundherd zu beurteilen [9].

Primär aus der Grundlagenforschung kommende KI-Arbeiten, die vielversprechende Ergebnisse berichten, zeigen ein oftmals nur begrenztes Potenzial für die Verallgemeinerbarkeit und die unmittelbare klinische Umsetzung. Es besteht ein hohes Risiko der Verzerrung, insbesondere aufgrund fehlender externer Validierung. Außerdem fehlt in den meisten Fällen eine klare und dem Anwender verständliche Erklärung, wie das System arbeitet und wo die Limitationen liegen, die zu beachten sind [4] [15].

In ungünstigen Situationen können selbst geringfügige Änderungen an den Eingabedaten, die für das menschliche Auge oft unsichtbar sind, zu dramatisch unterschiedlichen Klassifizierungen führen [5]. Diese unterschiedliche und im schlechtesten Fall fehlerhafte Klassifizierung resultiert daraus, dass auch komplexe neuronale Netzwerke bestimmte Merkmale überbetonen. So stellen zum Beispiel außerhalb der Norm liegende Körperkonstitutionen ein Problem für die KI dar. Eine Arbeit aus dem Jahr 2023 untersuchte die Möglichkeit einer automatisierten Volumetrie der Bauchdeckenmuskulatur. In dieser Untersuchung scheiterte die KI an einem Patienten, der eine besonders gut definierte Bauchdeckenmuskulatur hatte, bei der automatisierten Volumetrie der Muskulatur, offenbar weil das System auf ein bestimmtes Verhältnis von Fett zu Muskulatur trainiert war. Der für den Radiologen gut sichtbare Muskel wurde von der KI nicht richtig erkannt, weil das sonst übliche – und für die KI im Training scheinbar immer vorhandene – subkutane Fettgewebe so gut wie nicht sichtbar war [28].

In diesem Zusammenhang der fehlerhaften Klassifizierung zeigt eine Arbeit, dass eine nicht wahrnehmbare, nicht zufällige Störung eines zu beurteilenden Bildes die Vorhersage des neuronalen Netzes beliebig verändern kann, trotz eines ausreichenden Trainingszustandes des neuronalen Netzwerks. Der Grund des Fehlers ist komplex. Ein gut trainiertes neuronales Netz ist gegenüber kleinen Störungen innerhalb der eingegebenen Bilddatensätze robust, eine kleine Störung kann die Objektkategorie eines Bildes nicht verändern. Innerhalb der Erkennungsmatrix gibt es aber Bereiche, die zu einem starken Ergebnisausschlag im Netzwerk führen. Wenn die Störung oder Abweichung in diesem Bildbereich vorhanden ist, resultiert ein maximaler Vorhersagefehler, in der Informationstechnologie spricht man in diesem Fall von „gegnerischen Beispielen“.

Diese gegnerischen Beispiele sind relativ robust – auch wenn das neuronale Netzwerk mit verschiedenen Teilmengen der Trainingsdaten trainiert worden ist. Das heißt, dass das neuronale Netz spezifisch anfällig für einen diskreten Umstand in den zu analysierenden Daten ist, und dass insbesondre „deep-layer“-Netze, die durch Backpropagation gelernt haben, intrinsische blinde Flecken aufweisen. Interessanterweise ist darüber hinaus die spezifische Natur dieser Störungen kein zufälliges Artefakt des Lernens: Dieselbe Störung kann ein anderes Netzwerk, das auf eine andere Teilmenge des Datensatzes trainiert wurde, dazu veranlassen, denselben Input falsch zu klassifizieren [16] [29].

Der beste Einsatz von KI in der Medizin besteht darin, sie in die Rolle eines zuverlässigen und zu kontrollierenden Assistenten zu versetzen ([Abb. 2]). Idealerweise weist die ausführende KI auf mögliche Fehler innerhalb der getroffenen Analyse hin. Eine mögliche Methode ist die Angabe von Zuverlässigkeitsintervallen durch die ausführende KI, sodass der medizinische Experte einschätzen kann, wann sich ein noch genauerer Blick lohnt [30].

Abb. 2 Die Illustration zeigt, wie KI sinnvoll und sicher genutzt werden kann. Je gravierender die Auswirkung der Diagnose für den Patienten ist, umso erforderlicher ist es, dass die Diagnose ärztlich kontrolliert und gestellt wird. Ist die auszuführende diagnostische Arbeit von nur minderer unmittelbarer Bedeutung für den Patienten, kann umso mehr der KI vertraut werden.

Die Nutzung von KI zur assistierten Befunderstellung in der Radiologie ist ganz klar die Zukunft, insbesondere dann, wenn es den Radiologen gelingt, sich die Stärken der Technologie zu Nutze zu machen und die Schwächen zu kennen und zu meiden. Damit greift der prägnante, von Curtis P. Langlot formulierte Satz: „‚Will AI replace radiologists?‘ is the wrong question. The right answer is: Radiologists who use AI will replace radiologists who don’t.“ [2].

Die Nutzung der KI-Systeme kann heute bereits in der Patientenverwaltung und im Terminmanagement beginnen, setzt sich fort in der Befundung und kann auch in der wissenschaftlichen Auswertung der gewonnenen Daten eine große Unterstützung sein, um Zeit und Ressourcen zu sparen ([Abb. 3]).

Abb. 3 Übersichtsgrafik über die verschiedenen Einsatzbereiche und Anwendungen der KI in der Radiologie.

Damit wird der Radiologe im besten Fall in Zukunft auf multiple KI-gestützte Systeme zurückgreifen können, die ihn vielfältig im Klink-/Praxisalltag entlasten.

Der Radiologe in der Kommunikation

Die konsequente Nutzung aller Möglichkeiten der KI-assistierten Befunderstellung wird dem Radiologen deutlich mehr Zeit verschaffen ([Abb. 4]). Diese kann und sollte er gezielt für Patienten und zuweisende Kollegen nutzen.

Abb. 4 Skizze der Arbeitsverdichtung in der Radiologie. Verschiedene Faktoren erhöhen beständig die Arbeitsbelastung des Radiologen. Durch gezielten Einsatz von KI kann mehr Zeit gewonnen werden. Wie die gewonnene Zeit letztlich genutzt wird, bleibt jedem selbst überlassen.

Hier gibt es deutliche Unterschiede zwischen in einer Praxis/einem MVZ tätigen Radiologen und einem in der Klinik tätigen Arzt. In den allermeisten Krankenhäusern und Kliniken verschriftlicht die radiologische Abteilung den Befund, gegebenenfalls kombiniert mit einer klinischen Besprechung, und der entsprechende behandelnde Kliniker kommuniziert mit dem Patienten. Dieses Konzept ist etabliert und von den klinischen Kollegen durchaus so gewünscht [31]. Festzuhalten ist, dass die interdisziplinäre Befundbesprechung in den Klinken die Einschätzung des Krankheitsbildes des Patienten durch die interaktive Kommunikation verbessert, damit profitieren der Patient, der Kliniker und der Radiologe. Das zeigt, wie wichtig es ist, die gewonnene Zeit in Kommunikation zu investierten [32] [33] [34].

Findet die radiologische Facharztausbildung in einer Praxis oder einem MVZ statt, ist die Befundübermittlung an den Patienten durchaus noch häufig anzutreffen. Der Arzt ist unmittelbarer Überbringer des Befundes. Patienten wünschen sich diese Kommunikation und stellen nur relativ geringe Ansprüche, um zufrieden mit der Arzt-Patienten-Interaktion zu sein [35]. Zeitmangel und Überlastung haben in den vergangenen Jahren dazu geführt, dass diese direkte Befundübermittlung immer weniger anzutreffen ist – was zu einer entsprechenden Unzufriedenheit sowohl auf Seiten des Patienten als auch der Ärzte führt [35] [36] [37].

Die Radiologen selbst beklagen, die Möglichkeit, mit dem Patienten adäquat zu sprechen, sei zu gering und auch die Wahrnehmung im Kreis des Kollegiums sei oft unzureichend [38]. Eine nicht repräsentative Patientenumfrage im Rahmen einer von uns durchgeführten Studie zeigte, dass von insgesamt 386 befragten Patienten 71 % berichteten, der Radiologe habe die Untersuchung nicht mit dem Patienten besprochen. Dieser Trend wird auch durch eine Untersuchung des RSNA bestätigt. In einer groß angelegten Umfrage unter Mitgliedern der RSNA gaben 73 % an, dass sie aufgrund der Arbeitsbelastung und der Arbeitsdichte nicht ausreichend Zeit fänden, um mit den Patienten zu sprechen [39].

Eine schön beschriebene Patientengeschichte eines bekannten Radiologen zeigt, dass der Radiologe im Rahmen der Diagnostik am Patienten sehr wohl ein Teil des klinischen Konzeptes sein kann, einfach immer dann, wenn man in der Kommunikation mit dem Patienten auch die kleinen aber wesentlichen Dinge in der Anamnese beachtet, die oftmals ein komplexes Krankheitsbild auflösen können [40].

Etwas anders stellt sich die Situation bei onkologischen Patienten dar. Häufig ist hier eine fundierte Auskunft des Radiologen über eine weitere anstehende Therapie oder auch bei Progress über einen Therapiewechsel so gut wie unmöglich, da die onkologischen Behandlungen hochkomplex sind. Hier sollte idealerweise schon im Voraus mit den zumeist bekannten Patienten und dem zuweisenden Onkologen geklärt werden, dass der Patienten den Befund mit dem zuweisenden Onkologen bespricht.

In anderen Fällen, wie z. B. bei Zustand nach Trauma und bei entsprechender Ausschlussdiagnostik sind die Patienten und auch die behandelnden Kollegen dankbar, wenn ihnen der Radiologe kurz über die Erkrankung und die vermutlich zu erwartende Therapie berichtet. Zudem wird durch einen unmittelbar übermittelten Befund die Zeit bis zur Behandlung für den Patienten signifikant verkürzt oder bei einer Ausschlussdiagnostik kann der Patient unmittelbar wieder in seinen gewohnten Bewegungsumfang zurückkehren [41].

Ein selten beachteter Nebeneffekt ist, dass der Arzt durch sogenannte Erwartungseffekte durchaus einen positiven Einfluss auf die anstehende Therapie nehmen kann. Derartige nebenwirkungsfreie Behandlungseffekte sollten zunehmend auch in der Radiologie und der behandelnden Radiologie Beachtung finden und umgesetzt werden [42]. Im Rahmen der Kommunikation und Befundmitteilung ist der Radiologe durch den Einsatz von Erwartungseffekten in der Lage, prätherapeutische Impulse zu setzen, die sich positiv auf die noch ausstehende Behandlung auswirken können [43] [44].

Eine erste sachbezogene Beratung durch den Radiologen ist auch geeignet, das Gesundheitssystem zu entlasten. So kann z. B. durch einen Ausblick auf die Ungefährlichkeit der Erkrankung eine weitere Vorstellung bei einer anderen Fachdisziplin vermieden werden. Hierzu braucht der Radiologe Zeit und Hintergrundwissen [45].

Die ärztlichen Zuweiser haben klare Wünsche an die Radiologie: Der Befund soll verständlich sein und auf die Fragestellung eingehen. Zudem ist eine schnelle Befundübermittlung erwünscht. Im gleichen Zusammenhang wird von der Radiologie angeführt, dass die angeforderte Untersuchungsmethode bisweilen falsch gewählt sei und die Fragestellung häufig nicht deutlich genug formuliert werde [46]. Damit zeigt sich, dass auf beiden Seiten weiter intensiv an der Kommunikation gearbeitet werden muss, ggf. auch einmal ein persönlicher Kontakt hergestellt oder sogar eine Hospitation durchgeführt werden sollte, damit die Zusammenarbeit im Hinblick auf die Patienten optimiert wird. Durch den konsequenten Einsatz von KI als Befundungshilfe können hier die entsprechenden zeitlichen Freiräume geschaffen werden und so bessere Möglichkeiten der patientenorientierten Zusammenarbeit entstehen ([Abb. 4], und [Tab. 1]).

Tab. 1 Explainable AI: Ein Beispiel aus der Praxis.

Multiparametrische MRT der Prostata
AI	Benutzer überprüft	Benutzer ändert ggf.
Prostata erkennen	Prostata vollständig erfasst	Außengrenzen der Prostata
Prostata in Zonen einteilen	Zoneneinteilung richtig	Zoneneinteilung
Verdächtige Raumforderungen markieren (PIRADS 3–5)	Raumforderungen richtig erfasst	Raumforderungen zusätzlich markieren, falsche Raumforderungen entfernen
Raumforderungen werden in Abhängigkeit von Zone und Größe beurteilt	Beurteilung richtig? PIRADS-Kriterien richtig anwendet?	Falsche Läsionen aus der Beurteilung entfernen, PIRADS- Vorschlag der AI abändern
Gesamtbewertung gemäß PIRADS	PIRADS-Kategorie richtig?	PIRADS-Kategorie wird angepasst
	Zusatzbefunde, AI i. d. R. nicht auf das Erkennen von Pathologien außerhalb der Prostata ausgelegt	Beurteilung der miterfassten Strukturen im Datensatz
Diagnostik nach PIRADS V2.1
In der Praxis erzeugt die AI häufig als ersten Schritt eine farbig markierte Prostata. Zum einen wird die Prostata als Organ markiert, dies ist der erste Punkt, den der Benutzer überprüfen sollte. Anschließend zeigt die AI auffällige Läsionen ebenfalls als Markierung an und gruppiert sie entsprechend dem Signalverhalten in die jeweilige PIRADS-Kategorie ein. Da in der peripheren Zone und der Transitionszone unterschiedliche Bewertungskriterien gelten, ist es wichtig, dass der Benutzer hier genau einen Blick auf die Läsion und ihre Lokalisation wirft. Ist die Lokalisation wirklich die periphere Zone und damit die DWI das führende Kriterium oder befindet sich der Herd doch in der Transitionszone und ist die Morphologie in der T2-Wichtung das führende Kriterium und muss das Signalverhalten in der DWI in diesem Falle nachrangig betrachtet werden? Damit muss der Benutzer einige Kriterien beachten und überprüfen. Eine gut programmierte Software macht es dem Benutzer leicht. Schon wenig Übung reicht aus und man kann mit wenigen gewissenhaften Klicks die Ergebnisse überprüfen und freigeben oder verändern.
Ein Beispiel aus der Praxis:
AI: Prostata wird segmentiert.
Arzt: ok.
AI: Keine verdächtigen Läsionen in der Prostata markiert.
Arzt stellt lediglich adnomtypische Knotenbildungen fest: ok. Zusätzlich Nachweis einer etwa 12 × 14 × 12 mm durchmessenden Raumforderung im rektosigmoidalen Übergang.
AI: PIRADS: II.
Arzt: PIRADS II. Zusätzlich – und das ist in diesem Falle für den Patienten von entscheidender Bedeutung: V. a. wandüberschreitenden tumorösen Prozess im rektosigmoidalen Übergang.

Nutzung der durch KI gewonnenen Zeit

Im Idealfall wird durch den Einsatz KI-gestützter radiologischer Systeme Zeit gewonnen. Dieser Zeitgewinn kann letztlich unterschiedlich eingesetzt werden. Es besteht in unserem Gesundheitssystem das Risiko, dass aufgrund wirtschaftlicher Erwägungen die gewonnene Zeit nicht in die Kommunikation investiert wird, sondern eine weitere Steigerung der untersuchten Patienten pro Zeiteinheit verfolgt wird. Eine Modifikation der Vergütung wäre eine Möglichkeit, die Arzt-Patienten-Kommunikation wieder attraktiver zu machen. Aber auch hier besteht weiterhin das Risiko, dass die Kommunikation nur in Teilen in einem zeitlich größeren Umfang ausgeübt wird, in anderen Teilen die gewonnene Zeit hingegen in eine weitere Steigerung der Untersuchungszahlen investiert wird. Letztlich muss jeder Radiologe für sich entscheiden, wie er die durch den Einsatz von KI gewonnene Zeit nutzt. Kommunikation mit Zuweisern und Patienten ist sicher ein wünschenswerter, aber nicht der einzige mögliche Weg.

Zusammenfassung

Im Spannungsfeld zwischen vielen Untersuchungen, vielen Patienten, vielen Befunden und vielen Zuweisern muss die Radiologie vor allem dieses sein: zuverlässig, sicher und kommunikativ. Der konsequente Einsatz KI-gestützter Systeme verschafft dem Radiologen die dazu nötige zeitliche Entlastung. Wichtig ist, die KI richtig und zielgerichtet einzusetzen. Der Radiologe muss Stärken und Schwächen des von ihm eingesetzten KI-Systems kennen, um die optimale Arbeitserleichterung zu erzielen. Da die aktuellen KI-Systeme für ein jeweils enges Aufgabengebiet optimiert sind, bedarf es der Nutzung gleich mehrerer Systeme für die besten Ergebnisse.

Unter optimalen Bedingungen schafft der Einsatz von KI-Systemen wieder mehr Zeit für den Radiologen. Die gewonnene, zusätzliche Zeit kann auf verschiedene Weise genutzt werden: Es können mehr Patienten untersucht werden, die Untersuchungen können ausführlicher gestaltet werden oder die Zeit wird für Interaktion genutzt.

Aus meiner Sicht sollte die gewonnene Zeit zur gezielten Kommunikation mit Patienten und zuweisenden Kollegen genutzt werden. Denn ein gezielter Austausch führt zu einer besseren Behandlung der Patienten und zu einer höheren Arbeitszufriedenheit in der Radiologie.

Die erklärbare Künstliche Intelligenz ist die Zukunft in der Radiologie, die einer menschlichen Kontrolle bedarf, Zeit spart und zu einer besseren Diagnostik führen wird.

Das gerne zu lesende Narrativ der „Gerätemedizin“ könnte in „sprechende Medizin“ wechseln. Der Radiologie würde ein ernst zu nehmender klinischer Partner – zumindest eine Chance.

• References

• 1 Thrall JH, Li X, Li Q. et al. Artificial Intelligence and Machine Learning in Radiology: Opportunities, Challenges, Pitfalls, and Criteria for Success. Journal of the American College of Radiology: JACR 2018; 15: 504-508
• 2 Langlotz CP. Will Artificial Intelligence Replace Radiologists?. Radiol Artif Intell 2019; 1: e190058
• 3 Liu PR, Lu L, Zhang JY. et al. Application of Artificial Intelligence in Medicine: An Overview. Curr Med Sci 2021; 41: 1105-1115
• 4 Kelly BS, Judge C, Bollard SM. et al. Radiology artificial intelligence: a systematic review and evaluation of methods (RAISE). European radiology 2022; 32: 7998-8007
• 5 Savadjiev P, Chong J, Dohan A. et al. Demystification of AI-driven medical image interpretation: past, present and future. European radiology 2019; 29: 1616-1624
• 6 Poplin R, Varadarajan AV, Blumer K. Prediction of cardiovascular risk factors from retinal fundus photographs via deep learning. Nat Biomed Eng 2018; 2: 158-164
• 7 Chen P-HC, Liu Y, Peng L. How to develop machine learning models for healthcare. Nat Mater 2019; 18: 410-414
• 8 Feuerecker B, Heimer MM, Geyer T. et al. Artificial Intelligence in Oncological Hybrid Imaging. Fortschr Röntgenstr 2023; 195: 105-114
• 9 Binczyk F, Prazuch W, Bozek P. et al. Radiomics and artificial intelligence in lung cancer screening. Transl Lung Cancer Res 2021; 10: 1186-1199
• 10 Petrila O, Stefan AE, Gafitanu D. et al. The Applicability of Artificial Intelligence in Predicting the Depth of Myometrial Invasion on MRI Studies – A Systematic Review. Diagnostics (Basel) 2023; 13
• 11 Hussain Z, Gimenez F, Yi D. et al. Differential Data Augmentation Techniques for Medical Imaging Classification Tasks. AMIA Annu Symp Proc 2017; 2017: 979-984
• 12 Bundy A, Crowcroft J, Ghahramani Z. et al. Explainable AI: the basics. In. London: The royal society; 2019: 29
• 13 Phillips P, Hahn C, Fontana PYA. et al. Four Principles of Explainable Artificial Intelligence. Interagency or Internal Report 8312 2021.
• 14 Bradshaw TJ, Huemann Z, Hu J. et al. A Guide to Cross-Validation for Artificial Intelligence in Medical Imaging. Radiol Artif Intell 2023; 5: e220232
• 15 Moassefi M, Rouzrokh P, Conte GM. et al. Reproducibility of Deep Learning Algorithms Developed for Medical Imaging Analysis: A Systematic Review. J Digit Imaging 2023;
• 16 DeGrave AJ, Janizek JD, Lee SI. AI for radiographic COVID-19 detection selects shortcuts over signal. medRxiv 2020;
• 17 Tibshirani R. Regression Shrinkage and Selection via the Lasso. JSTOR 1996; 58: 267-288
• 18 Seyyed-Kalantari L, Zhang H, McDermott MBA. et al. Underdiagnosis bias of artificial intelligence algorithms applied to chest radiographs in under-served patient populations. Nat Med 2021; 27: 2176-2182
• 19 Kuhn R. Explainability, Verification, and Validation for Assured Autonomy and AI. In; 2022
• 20 Hedström A, Weber L, Bareeva D. et al. Quantus: An Explainable AI Toolkit for Responsible Evaluation of Neural Network Explanations and Beyond. Journal of Machine Learning Research 2023; 24: 1-11
• 21 Wang Q, Liu Q, Luo G. et al. Automated segmentation and diagnosis of pneumothorax on chest X-rays with fully convolutional multi-scale ScSE-DenseNet: a retrospective study. BMC Med Inform Decis Mak 2020; 20: 317
• 22 Moses DA. Deep learning applied to automatic disease detection using chest X-rays. J Med Imaging Radiat Oncol 2021; 65: 498-517
• 23 Wang X, Yang S, Lan J. et al. Automatic Segmentation of Pneumothorax in Chest Radiographs Based on a Two-Stage Deep Learning Method. IEEE Transactions on Cognitive and Developmental Systems 2022; 14: 205-218
• 24 Baltazar LR, Manzanillo MG, Gaudillo J. et al. Artificial intelligence on COVID-19 pneumonia detection using chest xray images. PloS one 2021; 16: e0257884
• 25 Dey S, Bhattacharya R, Malakar S. et al. Choquet fuzzy integral-based classifier ensemble technique for COVID-19 detection. Comput Biol Med 2021; 135: 104585
• 26 Nasiri H, Alavi SA. A Novel Framework Based on Deep Learning and ANOVA Feature Selection Method for Diagnosis of COVID-19 Cases from Chest X-Ray Images. Comput Intell Neurosci 2022; 2022: 4694567
• 27 Mongan J, Kalpathy-Cramer J, Flanders A. et al. RSNA-MICCAI Panel Discussion: Machine Learning for Radiology from Challenges to Clinical Applications. Radiol Artif Intell 2021; 3: e210118
• 28 Pooler BD, Garrett JW, Southard AM. et al. Technical Adequacy of Fully Automated Artificial Intelligence Body Composition Tools: Assessment in a Heterogeneous Sample of External CT Examinations. Am J Roentgenol American journal of roentgenology 2023; 221: 124-134
• 29 Szegedy CZW, Sutskever I. Intriguing properties of neural networks. In. arXiv:1312.6199: Google; 2013
• 30 Li D, Hu L, Peng X. et al. A proposed artificial intelligence workflow to address application challenges leveraged on algorithm uncertainty. iScience 2022; 25: 103961
• 31 Erdogan N, Imamoglu H, Gorkem SB. et al. Preferences of referring physicians regarding the role of radiologists as direct communicators of test results. Diagn Interv Radiol 2017; 23: 81-85
• 32 Dalla PalmaL, Stacul F, Meduri S. et al. Relationships between radiologists and clinicians: results from three surveys. Clin Radiol 2000; 55: 602-605
• 33 Cabarrus M, Naeger DM, Rybkin A. et al. Patients Prefer Results From the Ordering Provider and Access to Their Radiology Reports. Journal of the American College of Radiology: JACR 2015; 12: 556-562
• 34 Dendl LM, Teufel A, Schleder S. et al. Analysis of Radiological Case Presentations and their Impact on Therapy and Treatment Concepts in Internal Medicine. Fortschr Röntgenstr 2017; 189: 239-246
• 35 Stueckle CA, Talarczyk S, Hackert B. et al. [Patient satisfaction with radiologists in private practice]. Der Radiologe 2020; 60: 70-76
• 36 Reiner BI. Strategies for radiology reporting and communication part 3: patient communication and education. J Digit Imaging 2013; 26: 995-1000
• 37 Rosenkrantz AB, Pysarenko K. The Patient Experience in Radiology: Observations From Over 3,500 Patient Feedback Reports in a Single Institution. Journal of the American College of Radiology: JACR 2016; 13: 1371-1377
• 38 European Society of R. The identity and role of the radiologist in 2020: a survey among ESR full radiologist members. Insights Imaging 2020; 11: 130
• 39 Kemp JL, Mahoney MC, Mathews VP. et al. Patient-centered Radiology: Where Are We, Where Do We Want to Be, and How Do We Get There?. Radiology 2017; 285: 601-608
• 40 Flemming DJ, Gunderman RB. Should We Think of Radiologists as Nonclinicians?. Journal of the American College of Radiology: JACR 2016; 13: 875-877
• 41 Hardy M, Snaith B, Scally A. The impact of immediate reporting on interpretive discrepancies and patient referral pathways within the emergency department: a randomised controlled trial. Br J Radiol 2013; 86: 20120112
• 42 Stueckle CA, Hackert B, Talarczyk S. et al. The physician as a success determining factor in CT-guided pain therapy. BMC Med Imaging 2021; 21: 11
• 43 Bingel U, Wanigasekera V, Wiech K. et al. The effect of treatment expectation on drug efficacy: imaging the analgesic benefit of the opioid remifentanil. Sci Transl Med 2011; 3: 70ra14
• 44 Sinke C, Schmidt K, Forkmann K. et al. Expectation influences the interruptive function of pain: Behavioural and neural findings. European journal of pain 2017; 21: 343-356
• 45 Berkefeld J. Vaskuläre Zufallsbefunde in der MRT des Schädels. Radiologie up2date 2022; 22: 301-317
• 46 Espeland A, Baerheim A. General practitioners’ views on radiology reports of plain radiography for back pain. Scand J Prim Health Care 2007; 25: 15-19

Publication History

Received: 26 July 2023

Accepted after revision: 27 January 2024

Article published online:
03 April 2024