Dr. Kristina Schütz, Präsidentin der Psychotherapeutenkammer Niedersachsen, im Gespräch mit KVN-Redakteur Lars Menz.
Foto: PKN
„Die menschliche Interaktion ist nicht zu ersetzen“
Dr. Kristina Schütz, Präsidentin der Psychotherapeutenkammer Niedersachsen, über administrative und generative KI in der Psychotherapie und wie sie den Berufsstand in Sachen künstlicher Intelligenz aufgestellt sieht.
Dr. Kristina Schütz ist Präsidentin der Psychotherapeutenkammer Niedersachsen und seit 2012 niedergelassen als Psychologische Psychotherapeutin (VT) in eigener Praxis im Landkreis Helmstedt. Seit 2011 ist sie Kammerversammlungsmitglied der Psychotherapeutenkammer und seit 2021 Vorstandsmitglied. Seit 2018 ist sie zudem stellvertretende Landesvorsitzende der DPtV Niedersachsen, DPtV-Bundesdelegierte sowie stellvertretende Vorsitzende der DPtV-Delegiertenversammlung.
Foto: „DPtV“
Frau Dr. Schütz, sehen Sie Ihren Berufsstand durch Künstliche Intelligenz gefährdet?
Dr. Kristina Schütz: Die Sorge gibt es unter den Kolleginnen und Kollegen. Aktuell kann ich aber nicht beantworten, ob die berechtigt ist. Ich glaube, nicht.
Wird es in Zukunft fahrlässig sein, keine KI in der Therapie zu verwenden?
Zum aktuellen Zeitpunkt machen die digitalen Möglichkeiten Psychotherapie noch nicht unbedingt besser. Therapie nur durch KI ist im Ergebnis sogar deutlich schlechter als mit menschlicher Begleitung und nicht zulässig. Das finde ich beruhigend.
Wo sehen Sie Einsatzgebiete für KI in der Psychotherapie?
Man muss dabei zwischen der administrativen und der generativen KI differenzieren. Es gibt viele Fürsprecher der administrativen KI, die sich Vorteile bei Abläufen der Dokumentation und Berichtsvorlagenerstellung erhoffen. Generative KI könnte im Bereich der Diagnostik eingesetzt werden – und es gibt ja bereits Chatbots, die von Patientinnen und Patienten auch intensiv genutzt werden.
Und wie beurteilen Sie Chatbots?
Erst einmal neutral. Ich frage regelmäßig danach und spreche mit meinem Patienten darüber. Aber wir haben auch ein Problem mit Selbstdiagnostik und das ist nicht erst durch ChatGPT entstanden, sondern bereits durch Google, Instagram oder Med-Influencer, die keine Medizinberufe und schon gar keine Approbation haben.
„Ein Chatbot wird die geäußerte Meinung meist untermauern. Das ist nett, bringt einen aber nicht weiter.“
Dr. Kristina Schütz
Wo sehen Sie also die Grenzen für Chatbots?
Ein Chatbot wird die geäußerte Meinung meist untermauern. Das ist nett, bringt einen aber nicht weiter. Soll heißen, wenn ich schon eine Anfangshypothese habe und sage, ich habe bestimmt ADHS, wird das der Chatbot vermutlich bestätigen. Und das merken Patientinnen und Patienten – und haben dann den Wunsch, mit einer Fachfrau oder einem Fachmann zu sprechen.
53 Prozent der Patientinnen und Patienten hatten nach dem Gespräch mit einem Bot, so eine Umfrage der Deutschen Stiftung Depressionshilfe, Gedanken an Selbstverletzung oder gar Suizid.
Ja, es gab Suizidfälle, die tatsächlich durch die erwähnte Bestätigungstendenz der KI entstanden sind. Daher ist es differenziert zu bewerten. Qualitätsvolle, meist kostenpflichtige Chatbots, die Sie voreinstellen, programmieren und denen Sie Dinge vorgeben können, beispielsweise bestimmte Quellen nicht zu verwenden, können durchaus gut beraten. Die frei verfügbaren Bots können hingegen auch schlecht beraten. Diese Risiken haben wir gesehen.
Können Sie sich, trotz der Gefahren, dennoch vorstellen, Teile der Therapie durch KI zu ergänzen oder zu ersetzen?
Aktuell kann ich mir das noch nicht vorstellen und ich dürfte es auch gar nicht aufgrund unserer Sorgfaltspflichten in der Berufsausübung. Wir sehen ja bei den DiGAs, die wir flankierend und begleitend in der Therapie einsetzen können, dass Therapie durch sie nicht immer besser oder effektiver wird – und das ist doch spannend. Viele Patientinnen und Patienten, unabhängig vom Alter, bleiben hier zurückhaltend.
Warum?
Wenn jemand psychisch krank ist, ist die Kapazität, ein solches Tool unbegleitet zu nutzen, oft eingeschränkt. Und wenn der Patient abschweift, vermeidet oder Nebenthemen eröffnet, kann die generative KI das aktuell noch nicht gut begrenzen. Die Idee, Therapie durch KI zu ersetzen, ist einfach falsch. Viele Patientinnen und Patienten sind von den Chatbots ernüchtert und sagen, das hat mir nicht geholfen. Das würde ich im Moment also noch nicht unterstützen.
„Die Idee, Therapie durch KI zu ersetzen, ist einfach falsch.“
Dr. Kristina Schütz
Ist das Gespräch mit der KI denn eine Möglichkeit, Wartezeiten auf einen Termin zu überbrücken?
Nein. Die Wirksamkeit auch der DiGAs ist schlechter, wenn ich sie als Wartezeitenüberbrückung nutze. Nur, wenn ich die Patienten im niedrigfrequenten Abstand einbestelle und mit ihnen über die Nutzung der DiGAs spreche, ist der Einsatz gut. Und so müsste es beim Chatbot auch sein – jedoch erst, wenn er ein zertifiziertes Medizinprodukt ist. Und auch dann werden die Menschen wichtig sein, um zu fragen, wie geht es dir mit dem Chatbot, was hast du für Fortschritte gemacht oder auch, warum klappt es bei dir nicht.
Sie sprachen auch die Möglichkeiten der administrativen KI an, also KI, die für Praxisorganisation eingesetzt wird. Was ist hier wichtig?
Administrative KI ist in erster Linie eine Managementaufgabe, jeder Praxisinhaber sollte sich mit dem Angebot auskennen und darf nicht unkritisch folgen. Zunächst sollte man die Tools gut überprüfen und anschließend DSGVO-konform in die Abläufe der Praxis integrieren. Einige Kolleginnen und Kollegen, so die Wahrnehmung, gehen leider ein Bisschen zu vertrauensvoll mit den Anbietern um. Man sollte wirklich immer in die Details gucken.
Welche Details meinen Sie?
Ein Beispiel: Der Audio-File eines aufgezeichneten Gesprächs, um hieraus eine schriftliche Dokumentation zu erstellen, verlässt ja immer die Praxis, schließlich habe ich keinen Server im Keller stehen. Der Server steht nicht mal zwingend in der EU. Da gibt es also eine Schwachstelle und noch offene Fragen. Schließlich ist die Psychotherapie ein besonders geschützter Bereich und die Vertraulichkeit des Gesprächs besonders wichtig.
Es gibt das C5-Testat, also die Prüfbescheinigung nach dem Kriterienkatalog des Bundesamtes für Sicherheit in der Informationstechnik (BSI), mit dem Cloud-Anbieter ihre Datensicherheit und IT-Standards transparent nachweisen.
Ja, und dieses Detail sollte auch unbedingt beachtet werden.
Ist es aus therapeutischer Sicht überhaupt sinnvoll, die Sitzung aufzunehmen? Statt Stichworten und Notizen haben Sie nun das ganze Gespräch.
Wir brauchen das ganze Gespräch nicht und ich glaube, es ist riskant, alles aus der Therapie komplett aufzuzeichnen und zu speichern. Das ist ein hohes Risiko, es ist nicht notwendig und nicht DSGVO-konform. Wir sollen ja nur dokumentieren, was nötig und ausreichend ist. Doch die KI kann nicht anders, ohne das komplette Transkript kann die KI nicht ausrechnen, was wichtig für die Dokumentation ist. Für die Forschung wäre es jedoch interessant, wenn wir komplette Transkripte haben, können wir daran vielleicht Therapieverläufe klinisch beurteilen und besser planen.
Sind Patienten überhaupt bereit, Ihnen ihre Anliegen ehrlich und umfassend darzulegen, wenn sie wissen, alles wird aufgezeichnet?
Es gibt Patientinnen und Patienten, die dann nicht mehr frei sprechen oder zumindest etwas zurückhaltender. Gerade provokative, beziehungsrelevante oder emotionale Reaktionen könnten eingespart werden, dabei sind diese besonders wichtig. Die Erfahrung zeigt aber auch, dass es nach einer Anfangszurückhaltung zu einer Gewöhnung kommt und die Aufnahme ausgeblendet wird.
„Am Ende jeder Sitzung bin ich verantwortlich für die Dokumentation und nicht die KI.“
Dr. Kristina Schütz
Wie begleiten Sie die Veränderungen berufspolitisch?
Zum Beispiel durch die Schulung der Kolleginnen und Kollegen. Wichtig ist, berufspolitisch immer wieder auf die DSGVO, auf die Berufsordnung, aber auch auf das Patientenrechtegesetz (BGB) hinzuweisen. Es darf keine Nachteile für Patienten geben, die KI ablehnen. Und keine Praxis darf andersherum einen Patienten ablehnen, weil sie nicht mehr in der Lage ist, selbst die Dokumentation zu schreiben. Und die Sorge habe ich etwas. Wir dürfen nicht vergessen, am Ende jeder Sitzung bin ich verantwortlich für die Dokumentation und nicht die KI. Das heißt, ich habe immer noch den Prüf- und den Korrekturaufwand. Das ist ein Punkt, den wir berufspolitisch als Kammer begleiten müssen.
Was hören Sie aus dem Berufsstand selbst? Wie steht es um die Offenheit dem Thema gegenüber?
Bei der administrativen KI gibt es durchaus eine Offenheit und den Wunsch nach Erleichterung in den doch teilweise sehr bürokratisch gewordenen Praxisabläufen. Bei der generativen KI sehe ich jedoch noch viel Zurückhaltung – sowie auch die ersten Enttäuschungen. Wir haben ja wie erwähnt durch die DiGAs nicht die große Entlastung in den Praxen erlebt, die wir uns alle vorgestellt haben, auch die Krankenkassen nicht. Wenn wir generative KI irgendwann nutzen wollen, muss sie unbedingt die Hürde eines zugelassenen Medizinprodukts nehmen. Wenn wir das Kriterium nicht haben, können wir es gar nicht machen. Ich sehe das so: Was kein zugelassenes Medizinprodukt ist, hat bei mir in der Psychotherapiepraxis nichts zu suchen.
Was wünschen Sie sich von Seiten der Politik?
Realismus und Erprobung. Ich glaube, die Politik sieht in Sachen KI einseitig die Vorteile für die Patientenversorgung. Aber diese Vorteile sind zum Teil noch weit weg von der Praxisrealität.
Wird es ohne KI dennoch bald nicht mehr gehen?
Es gibt Forschungen, die zeigen, dass in einem therapeutischen Setting die menschliche Leistung noch absolut vergleichbar oder auch immer noch etwas besser ist als die der generativen KI. Gott sei Dank. Vielleicht werden wir bald alle unseren Chatbot immer dabeihaben, und kurzfristig mag das auch helfen, aber gerade über die längere Distanz werden wir merken, dass diese Kommunikation eben nicht das Gleiche ist, wie eine menschliche Interaktion, denn die ist durch nichts zu ersetzen.