KI-Design im Gesundheitswesen: 6 Key Takeaways für die Gestaltung von Experiences

Unterschiedliche Nutzerperspektiven erkennen und mitdenken

In vielen Digital-Projekten und auch gerade bei KI-gestützten Lösungen werden die unterschiedlichen Stakeholder und deren Needs oft nicht ausreichend mitgedacht.

Vielmehr werden nur die offensichtlichen Nutzer*innen des Service in den Blick genommen, und selbst die viel zu selten in die Entwicklung bzw. Implementierung mit eingebunden. Vor allem Ärzt*innen, die die Services dann nutzen sollen bzw. müssen, bemängeln dies.

Wenn zu Projektbeginn der Anspruch an Nutzerzentrierung noch da war, werden dafür notwendige Research und Tests oft als Erstes gestrichen.

So bleiben viele relevante Aspekte im Dunklen, die für das KI-Design im Gesundheitswesen relevant sind. Zum Beispiel:

• Wie ist die Health- und Digital Literacy der direkten und indirekten Nutzer*innen und Stakeholder*innen?
• Wie weit ist die Digitalisierung des Unternehmens, in der das Tool eingesetzt werden soll? Wenn vieles noch analog abläuft, kann ein KI-gestützter Service, der auf den Zugriff von Daten angewiesen ist, entweder nicht oder nicht in vollem Funktionsumfang eingesetzt werden.
• Mit welchen Kapazitäten und Fähigkeiten ist die IT-Abteilung ausgestattet?
• Welche Ängste und Vorbehalte gibt es gegenüber einem KI-gestützten Service?

Die Stakeholder sind aber weit mehr Menschen als nur die direkten Nutzer*innen. Man darf nicht vernachlässigen, dass der Service alle im Prozess involvierten Personen (von der Anschaffung bis zur Implementierung und dem Betrieb) mit ihren Bedürfnissen abholen sollte. Auch ist nicht jede Erkenntnis direkt auf eine ganze Gruppe von Stakeholdern übertragbar. Krankenhäuser unterscheiden sich bspw. in ihrer Ausrichtung, Ausstattung, Belegschaft, ebenso Patient*innen hinsichtlich ihrer individuellen Bedürfnisse . Solche Unterschiede müssen möglichst bereits im Grund-Design des Service mitgedacht werden.

Strategy first – KI-Service second

Allzu oft passiert es, dass KI-Projekte gestartet werden, ohne dass das Unternehmen bzw. die Klinik eine KI-Strategie hat. Die Entwicklung einer solchen sollte aber vor dem Start eines jeden KI-Projektes stehen.

Denn ein KI-Projekt ist keine kurzfristige Angelegenheit. Da diese Services Daten benötigen und auch selbst Daten sowie Erkenntnisse generieren, brauchen sie ein strategisches Fundament, auf Basis dessen Projektentscheidungen getroffen werden können. Weitere Aspekte für eine KI-Strategie sind die ständige Weiterentwicklung, der Betrieb und Support von Services. Bestenfalls lernen die Systeme beständig und beeinflussen den Arbeitsalltag und die Arbeitsweise der Anwender*innen und der involvierten Stakeholder*innen positiv.

Mehrwerte durch KI-unterstützte Systeme

Zentral beim Designen eines KI-Services: die Nutzung muss den Alltag der Nutzer*innen leichter machen, ihnen also einen Mehrwert bieten. Dazu passend braucht es eine ansprechende User Experience.

Das Designen, Entwickeln und Integrieren eines KI-Services in ein Unternehmen des Gesundheitswesens kann aber auch Effekte mit sich bringen, die eventuell nichts oder wenig mit dem eigentlichen Projektziel zu tun haben.

Ein plötzlicher Digitalisierungsschub im Rahmen eines KI-Projektes kann z.B. größere Veränderungen bewirken als der KI-Service selbst. Da KI-Services Daten benötigen und generieren, können bis dato unzugängliche Daten- und Wissen-Silos überhaupt erst zugänglich werden. Teilweise ist der Zugang zu diesen bisher verschlossenen Informationen für Mitarbeiter*innen noch wertvoller als die Verwendung dieser Daten durch die KI.

Dunkle Szenarien, in denen KI Jobs ersetzen soll, sind gerade im Gesundheitswesen eher unwahrscheinlich. Schon der Mangel an Fachkräften spricht dagegen. Die meisten KI-Systeme im Gesundheitswesen werden eher als Kollaborations- und Unterstützungsservices für Menschen gestaltet. Ärzt*innen können durch und mit KI-Services entlastet werden und ihre Handlungsbereiche und ihr Wissen erweitern.

Digitale Kompetenz aufbauen

Die Relevanz von Digital Literacy – also der Digitalkompetenz der Anwendenden – wurde bereits erwähnt.

Wie Studien der „Plattform Lernende Systeme“ gezeigt haben, sind Professionals besorgt, ob sie ausreichend in die Entwicklung von KI-Services involviert werden und kompetent genug für die Anwendung sind.

Um die Fähigkeit zur kompetenten Nutzung sicherzustellen, müssen Nutzer*innen rechtzeitig und kontinuierlich in die Gestaltung und Einführung solcher Systeme eingebunden und dafür geschult werden.

Auch die Digital- und Health-Literacy von Patient*innen ist wichtig. Selbst wenn sie die Services vielleicht (noch) nicht nutzen, werden sie zukünftig immer mehr mit den Ergebnissen und Entscheidungen solcher Systeme konfrontiert und brauchen daher auch entsprechende Kompetenzen.

Zum Teil kann dies beim Design der Services mitgedacht und mit vermittelt werden. Zum Teil sind dies jedoch Anforderungen an die Ausbildung. Derzeit ist in den Curricula der Arztausbildung das Thema KI noch nicht ausreichend repräsentiert. Hier, wie in allen anderen Bereichen im Bildungssystem, herrscht großer Nachholbedarf.

Business-Cases mitdenken

Grundsätzlich sollte man annehmen, dass die Basis eines jeden Projektes ein Businessplan und ein umzusetzender Business-Case sind. In der Realität trifft man jedoch auf viele Grauzonen. So gibt es vielleicht übergeordnete Business-Ziele, aber es wird versäumt, diese auf das Projekt oder auf Teilaspekte eines Projekts herunter zu brechen.

So kann es beim Design und der Umsetzung eines KI-Service im Gesundheitswesen vorkommen, dass wichtige Business-Aspekte übergangen werden, z.B.: Wofür gibt es Kostenerstattungen und von wem werden diese übernommen? Passt der geplante KI-Service dort hinein? Und decken die Erstattungen dann auch die beim KI-Service entstehenden Kosten?

Es sollte auch beachtet werden, dass Machine-Learning Modelle und KI-Services einen Dual-Use haben können. Sie können zum Beispiel nicht nur in einer Behandlung eingesetzt werden, sondern auch die Prävention unterstützen. Das kann den Business Case und die Projekt-Dimension schnell verändern. Wobei es im deutschen Gesundheitssystem für Prävention oft (noch) keine Erstattungen durch die Krankenkassen gibt.

Regulierungen bieten Chancen und Risiken

Im Gesundheitswesen mangelt es nicht an Regularien. Und speziell die EU und Deutschland haben teilweise hohe Hürden für die Einführung von Innovationen.

Die KI-Regularien der EU z.B. können durchaus problematisch sein und werden kontinuierlich und kontrovers diskutiert. Sie können Unternehmen z.B. davon abhalten sich mit ihren Angeboten auf den deutschen Markt zu wagen.

Regularien dienen aber auch dem Schutz der Nutzer*innen und können helfen, Vertrauen aufzubauen. Wie klinische Studien erhöhen sie das Vertrauen in KI. Und bei den zu recht sehr skeptischen Zielgruppen im Gesundheitswesen ist Vertrauen ein hohes Gut.

Die hier aufgeführten Erkenntnisse wurden bei einem unserer monatlichen Healthcare-Experience Meetups im IBM Health Industry Lab gesammelt. In diesem widmeten wir uns dem Thema „Design for AI“. Mit unseren Gästen Nathalie Erdmann (CEO Sinwisery) und Adam Hilbert (Lead Machine Learning, Charité) diskutierten wir die Besonderheiten, die beim Designen von KI-gestützten Services im Gesundheitswesen zu beachten sind.

Die komplette Veranstaltung kann hier als Aufzeichnung abgerufen werden.

Teilen