Faktoren für die Implementierung von KI-basierten Entscheidungsunterstützungssystemen zur Antibiotikavorhersage im Krankenhaus – eine qualitative Analyse aus der Perspektive von ärztlichem Personal

Schlüsselwörter

Antibiotikatherapie - Entscheidungsunterstützungssysteme - Implementierung - künstliche Intelligenz

Key words

Antibiotic therapy - decision support systems - implementation - artificial intelligence

Einleitung

Der rationale Einsatz von Antibiotika gehört neben der Infektionsprävention zu der wichtigsten Maßnahme, um die Entwicklung und Verbreitung von Antibiotikaresistenzen einzudämmen [1]. Begünstigt wird die Entstehung von Resistenzen vor allem durch eine inadäquate Verordnungspraxis von Antibiotika durch Mediziner[1] [1] [2]. In der stationären Versorgung werden ärztliche Entscheidungen häufig nicht nur unter medizinischen Gesichtspunkten getroffen, sondern auch unter vielfältigen organisationalen Prozessen [3]. Zur Unterstützung einer Entscheidungssituation werden zunehmend entscheidungsorientierte Systeme sogenannte Decision Support Systems (DSS)- respektive Entscheidungsunterstützungssysteme (EUS)- eingesetzt [4]. Diese sind Softwaresysteme, die die Entscheidungsfindung erleichtern, indem sie Daten aufbereiten und den Nutzern strukturiert zur Verfügung stellen und somit die klinische Entscheidung vorbereiten [5]. Untersuchungen zeigen vielfach, dass EUS Vorteile hinsichtlich der Behandlungsqualität und Kostendämpfung sowie einer potenziellen Reduktion von Medikationsfehlern bieten [6] [7]. Hinter der allgemeinen Definition verbirgt sich eine sehr heterogene Gruppe von Anwendungen. Insbesondere nicht-regelbasierte Algorithmen, die häufig unter dem Begriff „Künstliche Intelligenz“ (KI) subsumiert werden und zumeist Anwendungen „Maschinellen Lernens“ (ML) bezeichnen, sind für die zukünftige medizinische Praxis bedeutend [8]. Die Besonderheiten solcher Anwendungen besteht darin, dass sie weitgehend automatisiert allgemeine Lernverfahren nutzen, um aus den ihnen dargebotenen (Trainings-)Daten statistische Regelmäßigkeiten zu identifizieren und daraus wiederum prädiktive Wahrscheinlichkeitsaussagen für das Auftreten von Phänomenen zu erzeugen [9]. Im Gegensatz zu herkömmlichen Expertensystemen, bei denen Algorithmen die ihnen zugeführten Daten regelbasiert, d. h. anhand von deterministischen Wenn-Dann-Regeln auf die immer gleiche und damit komplexe, aber vorhersehbare Art und Weise, berechnen, können nicht-regelbasierte Algorithmen sich allein auf Basis der ihnen zugeführten Daten „eigenständig“ (weiter-)entwickeln [10]. Potenziell problematisch an solchen Anwendungen ist, dass ihre Entscheidungsstruktur nicht oder nur teilweise und unter großem Aufwand von Menschen verstanden und bewertet werden kann [11] [12].

Für eine erfolgreiche und nachhaltige Implementierung im Krankenhaus, gilt es, KI-basierte EUS in der Entwicklung, Einführung und Nutzung an den Bedürfnissen und Bedarfen der Nutzer auszurichten und die Akzeptanz ebendieser durch Partizipation, einen bedarfsgerechten Informations- und Kompetenztransfer sowie klinischer Evidenzbasierung zu fördern [6] [13]. Davon ausgehend war das Ziel der vorliegenden Arbeit zu untersuchen, welche Faktoren den Prozess der Implementierung von KI-basierten EUS zur Antibiotikavorhersage im Krankenhaus determinieren. Folgende Fragestellungen waren handlungsleitend:

• Welche organisationalen Bedingungen und Kontextvariablen determinieren den Prozess der Implementierung von KI-basierten EUS zur Antibiotikavorhersage im Krankenhaus?

• Welche personellen und strukturellen Bedingungen müssen in der stationären Akutversorgung vorhanden sein, um den Innovationstransfer und die Implementierung von KI-basierten EUS zur Antibiotikavorhersage zu fördern?

Trotz diverser Ansätze zur Erklärung der Implementierung von KI-basierten EUS wurde der Organisationskontext sowie die Schnittstelle Technologie, Organisation und Nutzer bislang unzureichend berücksichtigt [14] [15]. Daher wurde in dieser Arbeit das Human-Organization-Technology (HOT)-fit-Model von Yusof et al. [16] als theoretisches Rahmenwerk gewählt.

Dieses Modell wurde für die Umsetzung und Evaluation von Innovationen in Organisationen, insbesondere in Krankenhäusern, entwickelt und validiert [17] [18]. Es bildet die drei Domänen Mensch, Organisation und Technologie mit verschiedenen Subdomänen ab und rückt somit die Passung sowie die verschiedenen Beziehungen und Einflüsse zwischen den drei Bereichen in den Vordergrund. Ferner steht die Passung der drei Domänen in einem engen Zusammenhang mit den sogenannten „net benefits“, die die positiven und negativen Auswirkungen der Technologienutzung umfassen. Auf dieser Grundlage sollen nicht nur die statischen Nutzer- und Systemattribute, sondern auch dynamische organisationale Prozesse herausgearbeitet werden, die den Adoptionsprozess und Implementierung beeinflussen können.

Methodik

Erhebungsmethode

Als geeignete Erhebungsmethode wurden leitfadengestützte problemzentrierte Einzelinterviews gewählt, um so die individuellen Handlungen und subjektiven Wahrnehmungen zu erfassen sowie neue Erkenntnisse in Bezug auf die Implementierung von KI-basierten EUS zu explizieren [19]. Zur theoretischen Orientierung wurden deduktiv Elemente aus dem HOT-fit-Modell von Yusof et al. [16] als konstituierend-strukturierende Elemente in den Leitfaden integriert.

Selektion und Rekrutierung

Im Rahmen der Untersuchung wurde ärztliches Personal befragt, das in der stationären Versorgung tätig ist und grundlegende Kenntnisse über die Verordnung von Antibiotika sowie die Abläufe im Krankenhaus hat. Als mögliche Zielgruppen wurden dabei die operative Ebene der Leistungserbringer, wie Ober-, Fach- und Assistenzärzte verschiedener Fachrichtungen, die Leitungsebene der Leistungserbringer, wie die ärztliche Direktion oder Chefärzte sowie die Krankenhaushygiene in Betracht gezogen. Die Rekrutierung erfolgte über drei kooperierende Kliniken.

Datenerhebung

Die Grundlage für die Interviews bildete ein teilstandardisierter Leitfaden. Dieser wurde nach der SPSS-Methode nach Helfferich [20] erstellt. Der Leitfaden umfasste drei inhaltliche Komplexe. Zu Beginn erfolgte ein allgemeiner Einstieg in das Themenfeld, um notwendige Begrifflichkeiten zu klären. Der zweite Komplex rekurrierte auf den Dimensionen des HOT-fit-Modells und beinhaltete insgesamt 12 Hauptfragen sowie zusätzliche untergeordnete Fragestellungen zum Einsatz von KI-basierten EUS im Kontext der Antibiotikatherapie. Der dritte Komplex diente exmanenten und immanenten Nachfragen und einer offenen Ausstiegsfrage, um zusätzliche Aspekte zu erörtern, welche im Rahmen des Interviews nicht thematisiert wurden. Um die Verständlichkeit des Leitfadens zu überprüfen und Probleme bei der Beantwortung des Fragebogens zu identifizieren [21], wurden vier kognitive Pre-Tests mit Leistungserbringern aus der stationären Versorgung durchgeführt.

Ferner wurde der Leitfaden durch eine auf die Forschungsfragen abgestimmte quantitative Datenerhebung ergänzt, wobei u. a. soziodemographische Merkmale (z. B. Alter, Geschlecht) und die interaktionsbezogene Technikaffinität [22] erhoben wurden. Die durchschnittlich 30-minütigen Einzelinterviews wurden von Juni 2021 bis Dezember 2021 durchgeführt.

Datenauswertung

Die wissenschaftliche Transkription erfolgte durch ein professionelles Transkriptionsbüro [23]. Stichprobenartige Qualitätsüberprüfungen zeigten keine Einschränkungen in der Genauigkeit der Transkription. Die Datenauswertung erfolgte anhand der strukturierenden Inhaltsanalyse nach Kuckartz [24]. Dabei wurden Oberkategorien entlang des HOT-fit-Modells genutzt ([Tab. 1]) und das gesamte Datenmaterial sequentiell durchgearbeitet.

Tab. 1 Kategorienbeschreibung der qualitativen Auswertung

Kategorien	Determinante	Beschreibung
Nutzerbezogene Faktoren	Systemnutzung	In dieser Kategorie wird der Grad der Technologienutzung dargestellt. Zusätzlich werden Einstellung, Haltung, Wissen, Akzeptanz und Erwartung des Individuums sowie die Vorstellung hinsichtlich des Systems skizziert.
	Zufriedenheit	Diese Kategorie beschreibt eine Gesamtbeurteilung des Einsatzes von EUS und welcher Nutzen durch den Einsatz erwartet wird.
Organisationsbezogene Faktoren	Umgebung	In dieser Kategorie werden Aspekte der organisatorischen Umgebung, wie die politischen und gesetzlichen Rahmenbedingungen als auch Finanzierungsaspekte und die externe Kommunikation dargelegt.
	Struktur	Die Kategorie beschreibt Aspekte der Organisationseinheit. Organisationskultur/-werte, Unterstützungsmöglichkeiten durch das Management, Führungseigenschaften, Hierarchiestrukturen, interne Kommunikation und der technische Support wird fokussiert.
Technologiebezogene Faktoren	Systemqualität	In dieser Kategorie werden die gewünschten Eigenschaften der Technologie beschrieben. Es werden Aspekte der Systemleistung und der Benutzeroberfläche dargelegt.
	Informationsqualität	Diese Kategorie bezieht sich auf Informationen, die von der Technologie bereitgestellt werden.
	Servicequalität	In dieser Kategorie werden jene Aspekte subsummiert, welche sich allgemein auf die Unterstützung durch den Technologiehersteller beziehen.
Net benefits		Diese Kategorie beschreibt den Nettonutzen des Systems. Es werden neutrale, positive und negative Auswirkungen der Technologienutzung auf individueller, institutioneller und gesellschaftlicher Ebene skizziert.

Da es sich um eine prospektive Erhebung handelte und eine vorherige Nutzung von KI-basierten EUS nicht vorausgesetzt war, wurde die originäre Beschreibung der Determinante Zufriedenheit modifiziert. Demnach bezieht sich die Determinante nicht auf die konkrete Nutzungserfahrung mit einem KI-basierten EUS, sondern auf den erwarteten Nutzen durch den Einsatz und umfasst so eine generelle Beurteilung des Einsatzes von KI-basierten EUS. Nach Codierung und Zusammenfassung der Oberkategorien, wurden induktiv Subkategorien entwickelt.

Fallauswahl

Die Eigenschaften der an den Interviews teilnehmenden Personen ist [Tab. 2] zu entnehmen. Es nahmen insgesamt elf Männer und drei Frauen an den Interviews teil. Fünf befragte Personen waren über 50 Jahre alt. Es nahmen Teilnehmer mit niedriger und hoher Technikaffinität teil (Mittelwert: 4,18), wobei 6 für die höchste Technikaffinität steht.

Tab. 2 Eigenschaften der Interviewpartner

Interview-nummer	Geschlecht	Alter	Berufsstatus	Berufserfahrung	Art der Einrichtung	Technik-affinität
1	männlich	51-60	Oberarzt	>10 Jahre	Maximalversorgung	4,56
2	männlich	51-60	Oberarzt	>10 Jahre	Schwerpunktversorgung	5,4
3	männlich	41-50	Chefarzt	>10 Jahre	Maximalversorgung	4,78
4	weiblich	30-40	Fachärztin	5-10 Jahre	Grundversorgung	2,56
5	männlich	<30	Assistenzarzt	5-10 Jahre	Grundversorgung	5,11
6	männlich	30-40	Oberarzt	>10 Jahre	Maximalversorgung	3,44
7	männlich	30-40	Assistenzarzt	<5 Jahre	Grundversorgung	3,33
8	weiblich	<30	Assistenzärztin	<5 Jahre	Maximalversorgung	3,78
9	männlich	51-60	Chefarzt	>10 Jahre	Maximalversorgung	5,5
10	männlich	>60	Oberarzt	>10 Jahre	Schwerpunktversorgung	3,5
11	männlich	41-50	Oberarzt	>10 Jahre	Schwerpunktversorgung	3,56
12	männlich	41-50	Chefarzt	>10 Jahre	Schwerpunktversorgung	5,22
13	männlich	41-50	Chefarzt	>10 Jahre	Maximalversorgung	4,78
14	weiblich	51-60	Oberärztin	>10 Jahre	Maximalversorgung	3

Ergebnisse

Im Rahmen der qualitativen Analyse wurde eine Vielzahl an Faktoren für die Implementierung von KI-basierten EUS zur Antibiotikavorhersage aus Perspektive des ärztlichen Personals generiert. Die Implementierungsfaktoren wurden entlang der Domänen des HOT-fit-Modells und jeweils differenziert nach hemmenden ([Abb. 1]) und fördernden Faktoren ([Abb. 2]) kategorisiert. Im Folgenden werden kurz und je Domäne die relevantesten fördernden und hemmenden Faktoren dargelegt.

Abb. 1 Hemmende Faktoren der Implementierung.

Abb. 2 Fördernde Faktoren der Implementierung.

Technologiebezogene Faktoren

Im Bereich der Technologie gaben die Befragten eine schnelle und einfache Dateneingabe als einen fördernden Aspekt an. Eine aufwändige manuelle Dateneingabe sei während der Arbeitszeit behindernd und nicht realisierbar. In diesem Kontext wurde der Wunsch geäußert, dass ein Großteil der Daten automatisiert und passiv einfließt. Hierfür sei die Kompatibilität mit dem bestehenden Krankenhausinformationssystem unumgänglich. Dabei betonten die Befragten eine notwendige Kompatibilität mit bestehenden Systemen des gesamten Krankenhauses, sodass alle Abteilungen miteinander vernetzt seien.

Mit Blick auf das Layout präferierte mehr als die Hälfte eine übersichtliche Benutzeroberfläche sowie eine einfache Navigation. Die Ergebnispräsentation müsse strukturiert und nachvollziehbar sein. Es sei förderlich eine Art Scroll-Down-Menü mit farblichen Hervorhebungen besonders relevanter Daten zu nutzen. Ferner seien sichtbar positionierte Alarmfunktionen wichtig, um im Falle von Kontraindikationen, Allergien oder bei Aktualisierungen der Befunde direkt informiert zu sein.

Im Hinblick auf die Vollständigkeit der Empfehlung erläuterten fünf Interviewpartner, dass nicht nur das Antibiotikum an sich, sondern Dosierungsempfehlung, Therapiedauer und mögliche Kombinationstherapien von großer Bedeutung seien. Ferner müsse stets eine gleichwertige Alternativbehandlung aufgeführt werden, um bspw. bei Unverträglichkeiten und Allergien agieren zu können. Zudem müsse deutlich werden, aus welchen Quellen die Informationen generiert wurden.

Organisationsbezogene Faktoren

In Bezug auf organisationale Bedingungen müsse der Gesetzgeber eine solide gesetzliche Grundlage zur Rechtssicherheit bei der Nutzung von KI-basierten EUS zur Antibiotikavorhersage schaffen. Insbesondere Verantwortlichkeiten sowie Haftungsfragen für Systementscheidungen, die auf den Empfehlungen eines KI-basierten EUS basieren, müssen klar definiert und geregelt werden, v. a., wenn es dadurch zu Schaden für Patienten kommt und rechtliche Konsequenzen geltend gemacht werden. Außerdem sei es förderlich, das Thema in die ärztliche Ausbildung zu integrieren und so zukünftige Mediziner frühzeitig dafür zu sensibilisieren.

Darüber hinaus verwies die Mehrheit der Befragten auf die technische Ausstattung. Als optimal wurde ein System angesehen, welches nicht nur von einem festen Arbeitsplatz genutzt werden kann, sondern auch auf sämtlichen mobilen Endgeräten vorhanden sei. Ferner erläuterten zehn Interviewpartner, dass eine strukturierte Einarbeitung bspw. in Form von interaktiven Schulungen förderlich sei. Weiterhin sei eine Unterstützung durch Experten ein wichtiger Aspekt. Inwiefern eine nachhaltige Implementierung von KI-basierten EUS realisierbar ist, hinge zusätzlich von der Veränderungsbereitschaft der Organisation und der Mitarbeiter sowie von hierarchischen Strukturen und einrichtungsspezifischen Standards ab. Insbesondere Mediziner der Führungsebene würden laut den Befragten eine bedeutende Rolle für die Implementierung einnehmen.

Nutzerbezogene Faktoren

Im Kontext von nutzerbezogenen Faktoren gaben vier Befragte an, dass eine positive Grundeinstellung gegenüber KI-basierten EUS sowie vorherige Erfahrungen mit dem System förderlich für die Implementierung seien. Daran anknüpfend wäre es wichtig, Kenntnisse über die Verfügbarkeit und Funktionsweise des KI-basierten EUS zu haben. Eine als unzureichend wahrgenommene Technikkompetenz sei laut Aussagen der Befragten ein hemmender Faktor für die Implementierung.

Net benefits

Bei Betrachtung der potenziellen Auswirkungen lässt sich festhalten, dass ein Großteil der Befragten eine Arbeitserleichterung und Orientierungshilfe durch die Nutzung von KI-basierten EUS zur Antibiotikavorhersage erwartet. Insbesondere für Ärzte mit weniger Erfahrung im Umgang mit Antibiotika resultiere ein enormer Vorteil. Überdies erläuterten fast alle Befragten, dass die Nutzung von KI-basierten EUS zu einer Verbesserung der Patientenversorgung und Erhöhung der Behandlungssicherheit führen könne. Ferner stelle der Zeitfaktor einen bedeutsamen Aspekt für die Implementierung von KI-basierten EUS dar. Als wichtigen Vorteil konstituierten die Befragten eine mögliche Zeitersparnis, da Befunde zeitnah zur Verfügung stehen und eine schnelle Therapieeinleitung ermöglicht werde. Hingegen wurde es als eher nachteilig angesehen, wenn die Handhabung des KI-basierten EUS mit dem Arbeitsaufwand im Alltag kollidiert und die Nutzung eher mit einem erhöhten Zeitaufwand verbunden ist.

Die Nutzung von KI-basierten EUS sei laut den Befragten auch mit Gewöhnungseffekten assoziiert. Hierbei wurde die Sorge geäußert, dass Empfehlungen kritiklos übernommen werden. Es sei wichtig Bewusstsein darüber zu schaffen, dass ein KI-basiertes EUS zur Antibiotikavorhersage lediglich eine Unterstützung darstellt und die Therapieentscheidung und die Verantwortung schlussendlich dem ärztlichen Personal obliegt. Gleichzeitig ist für die Mehrheit der Befragten die Nutzung eines KI-basierten EUS mit einer Veränderung der Berufsrolle assoziiert, wobei es als problematisch angesehen wurde, dass Patienten nach einer Art Checkliste behandelt und individuelle Gegebenheiten ausgeblendet werden.

Weitere Faktoren

Fünf Befragte führten an, dass Alterseffekte wichtige Faktoren für die Implementierung darstellen. So wurde einheitlich betont, dass ältere Personen technologischen Entwicklungen eher mit Vorbehalten begegnen als jüngere Personen. Zusätzlich wurde der Berufserfahrung eine zentrale Rolle zugeschrieben. So gaben sechs Befragte an, dass mit steigender Berufserfahrung die Skepsis gegenüber dem Einsatz von KI-basierten EUS zur Antibiotikavorhersage wächst.

Ein weiterer wichtiger Schlüsselfaktor ist das Vertrauen in KI-basierte EUS. So gaben sieben Befragte an, dass das Vertrauen in entsprechende Systeme und die hierdurch generierten Empfehlungen die Implementierung maßgeblich beeinflussen können. In dem Zusammenhang wurden keine konkreten Angaben dazu gemacht, welche Gesichtspunkte mit dem Vertrauen in KI-basierte EUS assoziiert sind.

Diskussion

Im Rahmen der vorliegenden empirischen Untersuchung konnte eine Vielzahl an Einflussfaktoren für die Implementierung von KI-basierten EUS zur Antibiotikavorhersage in einem Krankenhaus identifiziert werden.

Hervorzuheben ist, dass aus Perspektive des ärztlichen Personals technologiebezogene Aspekte eine zentrale Rolle für die Implementierung einnehmen. Übereinstimmend mit bereits durchgeführten Arbeiten in diesem Bereich [25] [26] wurden die Kompatibilität mit bestehenden Systemen und die Usability, die sich in einer übersichtlichen Benutzeroberfläche und einer einfachen Navigation ausdrückt, als hilfreiche Eigenschaften eines KI-basierten EUS zur Antibiotikavorhersage angeführt. Warnmeldungen werden ebenfalls als fördernd für eine erfolgreiche Implementierung angesehen. Diese Erkenntnis wurde ebenfalls in vergleichbaren Arbeiten herausgestellt [27] [28]. Dabei ist zu beachten, dass Falschalarme eine der größten Schwachstellen vieler KI-basierten EUS sind. Sie verbrauchen Ressourcen, lenken ab und führen dazu, dass auch korrekte Warnmeldungen nicht die erforderliche Beachtung finden [29]. Um hilfreiche Unterstützung im Arbeitsalltag zu bieten, sollten Warnfunktionen besser ausgestattet und spezifischer sein, d. h. Informationen sollten konkret dargelegt werden, anstatt dass mehr Informationen zur Verfügung stehen, die der Nutzer in der Kürze der Zeit nicht verarbeiten kann. Aus den generierten Ergebnissen geht hervor, dass die Vollständigkeit und Präzision der Informationen wichtig sind. Folglich erscheint ein lernfähiges System, das Prozesse fortwährend begleitet und sich an spezifische Veränderungen anpassen kann effizienter. Dies setzt ein kontinuierliches Monitoring der Leistungsfähigkeit des KI-basierten EUS im jeweiligen Umfeld voraus [29].

Eine Stärke der vorliegenden Arbeit liegt darin, dass durch das Hinzuziehen eines soziotechnischen Rahmenwerks [16] der organisationale Kontext der Nutzer explizit berücksichtigt wurde. Auch wenn den technologiebezogenen Faktoren ein hoher Stellenwert zugeschrieben wird, ist die einseitige Konzentration auf die technische Realisierung nicht zielführend für eine erfolgreiche Implementierung und Akzeptanz von KI-basierten EUS zur Antibiotikavorhersage. Die Ergebnisse spiegeln wider, dass die Implementierung von KI-basierten EUS stark in Verbindung mit den spezifischen Prozessgegebenheiten steht. Dabei wurde die Abhängigkeit von stationseigenen Standards bzw. die Abhängigkeit von Vorgesetzten als Barriere für die Implementierung von KI-basierten EUS angeführt, welches bislang unzureichend thematisiert und erforscht wurde. Es wird deutlich, dass die Implementierung in Organisationen kein komplett endogener Prozess ist, sondern dass vielmehr die Struktur des sozialen Systems und bestimmte Rollen die Durchsetzung beeinflussen können [30]. Die unzureichende Bereitschaft zur Veränderung ist oftmals in situativen Faktoren wie dem fehlenden Bedarf oder der zu hohen wahrgenommenen Komplexität der neuen Technologie begründet [31]. Darin artikulieren sich auch Ängste und Überforderung. Gleichzeitig birgt das Überschreiten der Grenze zwischen Entscheidungsassistenz und Entscheidungsübernahme die Gefahr eines Kontroll- bzw. Autonomieverlustes [10] [32], die auch im Rahmen der vorliegenden Untersuchung zum Ausdruck gebracht wurde. Wenn Nutzer den Eindruck haben, dass der Zweck eines Systems darin besteht, die Autonomie einzuschränken, werden sie es möglicherweise nicht nutzen wollen [33]. Vashitz et al. erklären die Folge des Autonomieverlustes als Reaktanz [34]. Reaktanz ist ein unangenehmer Motivationszustand, bei dem Menschen auf Situationen reagieren, um ihre Autonomie zu bewahren. Reaktanz kann vorliegen, wenn bspw. Mediziner sich durch KI-basierte EUS bedroht fühlen, weil sie befürchten, dass sie dadurch ihre Autonomie und Entscheidungsfreiheit verlieren und in ihrer Berufsrolle abgewertet werden [34]. Folglich müssen Nutzer weiterhin in der Lage sein, die Aufsicht über den Gesamtprozess zu übernehmen, in dem zunehmend auch Vorschläge von KI-basierten Systemen eingebunden sind. Zudem treffen Mediziner klinische Entscheidungen nicht nur auf Grundlage von Patienteninformationen, sondern ebenfalls auf Grundlage von individuellen Moralvorstellungen, der sozialen Struktur (bspw. akzeptables Verhalten, das von Gleichaltrigengruppen festgelegt wird) sowie der institutionellen Gegebenheiten (bspw. die Anforderung, nach bestimmten Praktiken zu handeln oder hierarchische Strukturen) [26]. Die Automatisierung eines derart komplexen Netzwerkes an Informationen stellt aus Perspektive des ärztlichen Personals eine zentrale Herausforderung für die Implementierung von KI-basierten EUS zur Antibiotikavorhersage dar.

Neben der Berücksichtigung der Passung der Technologie an organisationale Gegebenheiten sollten auch die Eigenschaften und Fähigkeiten der Nutzer in Blick genommen werden. Fähigkeitsbarrieren hängen von der kognitiven Leistung des Nutzers und seiner Ressourcenausstattung ab und könnten mit entsprechenden Schulungen sowie durch gezielte materielle Förderung überwunden werden. Während Schulungen nur zeitpunktbezogen durchgeführt werden, bietet organisatorische Unterstützung den Nutzern kontinuierlich die Möglichkeit für Rückfragen. Dies kann z. B. in Form der notwendigen Infrastruktur sowie der Verfügbarkeit von Experten erfolgen. Eine erfolgreiche Implementierung kann zusätzlich durch einen unterstützten Kontakt mit dem System vor der eigentlichen Nutzung gefördert werden. Dadurch wird die Angst im Umgang gemindert und die Akzeptanz erhöht.

Schwieriger ist die vertrauensförderliche Gestaltung von KI-basierten EUS. Wie aus den vorliegenden Ergebnissen hervorgeht, müssen Nutzer darauf vertrauen können, dass durch den Einsatz von KI-basierten EUS eine mindestens gleiche, idealerweise bessere Versorgung möglich wird. Sasse und Kirlappos [35] beschreiben eine Reihe vertrauensfördernder Eigenschaften, die bei entsprechender Gestaltung und Implementierung eines Systems entscheidend sind. Dazu zählen u. a. die Gestaltung des Systems und Gebrauchstauglichkeit. Zusätzlich sind das Wissen über den Nutzen von digitalen Systemen sowie die digitalen Kompetenzen der Nutzer ein wichtiger Aspekt [35]. Denn lediglich Nutzer, die die Vertrauenswürdigkeit des Systems einschätzen können, sind auch in der Lage, eine kompetente Entscheidung zu treffen. Den Verantwortlichen auf der Meso- und Makroebene kommt eine gleichermaßen zentrale Bedeutung zu, um Systemvertrauen zu gewährleisten und die Implementierung zu fördern. Auf der Mesoebene hat die Organisation beim Einsatz von KI-basierten EUS Sorge dafür zu tragen, dass die Nutzer auf den Einsatz durch geeignete Fortbildungsmaßnahmen angemessen vorbereitet sind. Die Systeme müssen zudem kontinuierlich angemessen gewartet und aktualisiert werden [36]. Auf Makroebene hat der Gesetzgeber die Verantwortung die geeigneten Rahmenbedingungen zu schaffen, dass die Akteure auf Mikro- und Mesoebene ihrer jeweiligen Verantwortung nachkommen können. Dieser Aspekt wurde auch im Rahmen der Interviews als ein wichtiger Implementierungsfaktor genannt.

Neben wissenschaftlichen Kompetenzen, die Ärzte im Studium erwerben und kontinuierlich weiterentwickeln, erlangen sie auch personales Wissen, das keine neutrale Informationsverknüpfung darstellt, sondern in dessen Entstehung und Vermittlung die ärztliche Erfahrung eingeht. Ein Aspekt, der in den Interviews problematisiert wurde, ist die Entwertung des ärztlichen Erfahrungswissens, das nicht implizit ist und folglich auch nicht in die Empfehlungen des KI-basierten EUS einfließen kann. Auch Kontexte des individuellen Falls können nicht durch die Daten abgebildet werden, so dass Ergebnisse verzerrt werden können. Der Einsatz von KI-basierten EUS kann dazu führen, dass entsprechendes Erfahrungswissen nicht mehr erworben wird und damit eine Korrektur der Empfehlungen nicht mehr gegeben ist oder sie bei Ausfall des KI-basierten EUS keine Abhilfe bieten können [37]. Gleichzeitig sollte berücksichtigt werden, dass durch den reflektierten Einsatz von KI-basierten EUS ein Lerneffekt hervorgerufen werden kann und die Nutzer eine neue Art des Erfahrungswissens erlangen können.

Methodische Limitationen

Die Interpretation der Ergebnisse erfordert die Berücksichtigung einiger methodischer Limitationen. Der Einsatz des qualitativen semistrukturierten Leitfadens erwies sich aufgrund der bislang wenigen Erkenntnisse als zielführend. Durch die Interviews konnten viele Facetten für die Implementierung von KI-basierten EUS zur Antibiotikavorhersage in der stationären Versorgung erhoben werden. Die Repräsentativität der Ergebnisse ist jedoch infolge des methodischen Vorgehens, der Stichprobengröße sowie der getätigten Fallauswahl eingeschränkt. Die Fallauswahl erfolgte bis zum Erreichen der theoretischen Sättigung entsprechend dem von Strauss und Corbin vorgeschlagenen „theoretical sampling“ [38]. Folglich geben die zahlreichen rekonstruierten Implementierungsfaktoren einen guten Eindruck über die Vielfalt der Sichtweisen des ärztlichen Personals. Bei der Kontrastierung wurde darauf geachtet, dass sich die teilnehmenden Personen in möglichst vielen Aspekten unterscheiden. Dennoch waren im Rahmen der Untersuchung Männer überrepräsentiert. Ferner war die Mehrheit der befragten Personen zwischen 30 und 50 Jahre alt. Es konnte kaum Einblicke in die subjektive Sichtweise von Personen erlangt werden, die KI-basierte EUS zur Antibiotikavorhersage strikt ablehnen, da hier überwiegend eine mittlere Technikaffinität vorlag. Außerdem sind im Rahmen des Samplings in der vorliegenden Arbeit Überlegungen zur Frage geboten, ob eine Verzerrung im Sinne einer gewissen Einseitigkeit der generierten Erkenntnisse vorliegt. Dies könnte sich z. B. daraus ergeben, dass die befragten Personen aus einem Bundesland stammen. Für zukünftige Forschungsarbeiten wäre es denkbar, das Kontrastieren zwischen den Personen noch weiter zu führen. Beispielsweise könnte ärztliches Personal aus weiteren Bundesländern befragt werden. Denkbar wäre auch eine systematische Vorsortierung der Teilnehmenden, bspw. aufgrund ihrer Vorerfahrung mit bzw. Wissen zu KI-basierten EUS. Darüber hinaus wurden die Ergebnisse für die vorliegende Analyse nicht in ein triangulatives Methodendesign eingebettet, wodurch die aus dem Material begründeten Implementierungsfaktoren von KI-basierten EUS zur Antibiotikavorhersage lediglich für die hier vorliegenden Fallbetrachtungen repräsentativ sind und die Reproduzierbarkeit eingeschränkt ist.

Zusammenfassend liefern die Ergebnisse dieser Arbeit mit den o.g. Einschränkungen relevante Anhaltspunkte für eine nutzerorientierte sowie nachhaltige Implementierung von EUS zur Antibiotikavorhersage in der stationären Akutversorgung.

Fördermittel Information

Bundesministerium für Gesundheit: https://www.bundesgesundheitsministerium.de/. Förderkennzeichen: ZMVI1-2520DAT930

Fazit für die Praxis

• Für eine erfolgreiche Implementierung von KI-basierten EUS zur Antibiotikavorhersage im Krankenhaus nimmt ihre Benutzerschnittstelle eine zentrale Rolle ein. Systeme mit unhandlichen und unverständlichen Benutzerschnittstellen oder welche, die einschneidende Veränderungen im Arbeitsablauf mit sich bringen, sind in der Praxis wenig nützlich und akzeptiert.

• Es ist notwendig über die Optimierung der Benutzerfreundlichkeit von KI-basierten EUS hinauszugehen und vermehrt institutionelle und soziale Einflüsse für die erfolgreiche Implementierung zu berücksichtigen.

• Nutzer würden die Empfehlungen von KI-basierten EUS nicht durchgängig befolgen, wenn diese für sie nicht nachvollzogen werden können. Selbst wenn das System eine sehr gute Annäherung darstellt und dessen Empfehlungen korrekt sind, lehnen Nutzer ohne umfassendes Verständnis eventuell den Vorschlag des Systems ab. Um Vertrauen in das System zu gewährleisten sollte eine gute Benutzerschnittstelle daher auch den Pfad, auf welchem die Entscheidungsfindung des Systems aufbaut, für die Nutzer transparent gemacht werden.

• Der Einsatz von KI-basierten EUS zur Antibiotikavorhersage darf nicht dazu führen, dass die Gesamtlast der Implementierung und Nutzung von EUS bei den potenziellen Nutzern liegt. Vielmehr kommt bei dem Einsatz dieser Systeme den Verantwortlichen auf der Meso- und Makroebene eine zentrale Bedeutung zu.

• Literatur

• 1 Kern WV.. Rationale Antibiotikaverordnung in der Humanmedizin. Bundesgesundheitsblatt, Gesundheitsforschung, Gesundheitsschutz 2018; 61: 580-588
• 2 Sauskojus H, Wagner-Ahlfs C, Razum O.. Antibiotikaresistenz: In welche Handlungsfeldern muss mehr getan werden?. Gesundheitswesen 2019; 81: 88-91
• 3 Vogd W, Feißt M, Molzberger K. et al. Entscheidungsfindung im Krankenhausmanagement. Wiesbaden: Springer; 2018.
• 4 Weber J.. Alle entscheidenden Konzepte, Steuerungssysteme und Instrumente. Weinheim: Wiley-VCH-Verlag; 2005
• 5 Haefeli WE, Seidling HM.. Elektronische Entscheidungsunterstützung zur Annäherung an eine sichere Arzneimitteltherapie. Bundesgesundheitsblatt, Gesundheitsforschung, Gesundheitsschutz 2018; 61: 271-277
• 6 Main C, Moxham T, Wyatt JC. et al. Computerised decision support systems in order communication for diagnostic, screening or monitoring test ordering: systematic reviews of the effects and cost-effectiveness of systems. Health Technology Assessment 2010; 14: 227
• 7 Wright A, Ai A, Ash J. et al. Clinical decision support alert malfunctions: analysis and empirically derived taxonomy. Journal of the American Medical Informatics Association 2018; 25: 496-506
• 8 World Health Organization (WHO). Ethics & governance of artificial intelligence for health: WHO guidance. 2021. Im Internet https://apps.who.int/iris/rest/bitstreams/1352854/retrieve Stand: 12.02.2023
• 9 Berendt B.. Algorithmic discrimination. In: Comandé G, Hrsg. Elgar Encyclopedia of law and data science. Chettenham: Elgar; 2020: 17-31
• 10 Gianfrancesco MA, Tamang S, Yazdany J. et al. Potential biases in machine learning algorithms using electronic health record data. JAMA Internal Medicine 2018; 178: 1544-1547
• 11 Baumgartner R.. Künstliche Intelligenz in der Medizin: Diskriminierung oder Fairness? In: Bauer G, Kechaja M, Engelmann S et al., Hrsg. Diskriminierung und Antidiskriminierung. Beiträge aus Wissenschaft und Praxis. Bielefeld: Transcript; 2021: 149-164
• 12 Funer F.. The deception of certainty: How non-interpretable machine learning outcomes challenge the epistemic authority of physicians. A deliberative-relational approach. Medicine, Health Care and Philosophy 2022; 25: 167-178
• 13 Hochmuth A, Exner AK, Dockweiler C.. Implementierung und partizipative Gestaltung digitaler Gesundheitsinterventionen. Bundesgesundheitsbl 2020; 63: 145-152
• 14 Carracedo-Martinez E, Gonzalez-Gonzalez C, Teixeira-Rodrigues A. et al. Computerized Clinical Decision Support Systems and Antibiotic Prescribing: A Systematic Review and Meta-analysis. Clinical Therapeutics 2019; 41: 552-581
• 15 Neugebauer M, Ebert M, Vogelmann R.. A clinical decision support system improves antibiotic therapy for upper urinary tract infection in a randomized single-blinded study. BMC Health Services Research 2020; 20: 185
• 16 Yusof MM, Papazafeiropoulou A, Paul RJ. et al. Investigating evaluation frameworks for health information systems. International Journal of Medical Informatics 2008; 77: 377-385
• 17 Erlirianto LM, Ali AHN, Herdiyanti A.. The Implementation of the Human, Organization, and Technology–Fit (HOT–Fit) Framework to Evaluate the Electronic Medical Record (EMR) System in a Hospital. Procedia Computer Science 2015; 72: 580-587
• 18 Puspita SC, Supriyantoro H.. Analysis of Hospital Information System Implementation Using the Human-Organization-Technology (HOT) Fit Method: A Case Study Hospital in Indonesia. European Journal of Business and Management Research 2020; 5
• 19 Witzel A.. Das problemzentrierte Interview. Jüttemann G, Hrsg. Qualitative Forschung in der Psychologie: Grundfragen, Verfahrensweisen, Anwendungsfelder. Weinheim: Beltz; 1985: 227-255
• 20 Helfferich C.. Die Qualität qualitativer Daten: Manual für die Durchführung qualitativer Interviews (4. Auflage). Wiesbaden: Verlag für Sozialwissenschaften, Springer Fachmedien; 2011
• 21 Beatty PC, Willis GB.. Research synthesis: The practice of cognitive interviewing. Public Opinion Quarterly 2007; 71: 287-311
• 22 Franke T, Attig C, Wessel D.. A Personal Resource for Technology Interaction: Development and Validation of the Affinity for Technology Interaction (ATI) Scale. International Journal of Human-Computer Interaction 2019; 35: 456-467
• 23 Claussen J, Jankowski D, Dawid F.. Aufnehmen, Abtippen, Analysieren – Wegweiser zur Durchführung von Interview und Transkription. Norderstedt: Books on Demand;; 2020
• 24 Kuckartz U.. Qualitative Inhaltsanalyse: Methoden, Praxis, Computerunterstützung. 3. Aufl. Weinheim und Basel: Beltz Juventa Verlag; 2016
• 25 Sutton RT, Pincock D, Baumgart DC. et al. An overview of clinical decision support systems: benefits, risks and strategies for success. NPJ Digit Med 2020; 3: 17
• 26 Khairat S, Marc D, Crosby W. et al. Reasons for physicians not adopting clinical decision support systems: Critical analysis. JMIR Med Inform 2008; 6: e24
• 27 Varonen H, Kortteisto T, Kaila M.. What may help or hinder the implementation of computerized decision support systems (CDSSs): a focus group study with physicians. Family Practice 2008; 25: 162-167
• 28 Catho G, Centemero NS, Catho H. et al. Factors determining the adherence to antimicrobial guidelines and the adoption of computerised decision support systems by physicians: A qualitative study in three European hospitals. International Journal of Medical Informatics 2020; 141: 104233
• 29 McCoy AB, Thomas EJ, Krousel-Wood M. et al. Clinical decision support alert appropriateness: a review and proposal for improvement. Ochsner J 2014; 14: 195-202
• 30 Liberati EG, Ruggerio F, Galuppo L. et al. What hinders the uptake of computerized decision support systems in hospitals? A qualitative study and framework for implementation. Implement Sci 2017; 12: 113
• 31 Ford JD, Ford LW, D’Amelio A.. Resistance to Change: The Rest of the Story. The Academy of Management Review 2008; 33: 362-377
• 32 Wang F, Casalino LP, Khullar D.. Deep Learning in Medicine – Promise, Progress and Challenges. JAMA Intern Med 2019; 179: 293-4
• 33 Walter Z, Lopez MS.. Physician acceptance of information technologies: role of perceived threat to professional autonomy. Decis Support Syst 2008; 46: 206-215
• 34 Vashitz G, Meyer J, Parmet Y. et al. Defining and measuring physicians' responses to clinical reminders. J Biomed Inform 2009; 42: 317-326
• 35 Sasse MA, Kirlappos I.. Design for Trusted and Trustworthy Services: Why We Must Do Better. In Harper RHR (Hrsg.). Trust, Computing, and Society. New York, NY: Cambridge University Press; 2014: 229-249
• 36 Morley J, Joshi I.. Developing effective policy to support Artificial Intelligence in health and care. Eurohealth 2019; 25: 11-4
• 37 Froomkin AM, Kerr IR, Pineau J.. When AIs Outperform Doctors: Confronting the Challenges of a Tort-Induced Over-Reliance on Machine Learning. Arizona Law Rev 2019; 61: 33
• 38 Strauss AL, Corbin JM.. Grounded theory: Grundlagen qualitativer Sozialforschung. Weinheim: Beltz; 1996