KI und Chatbots als Berater in allen Lebenslagen? Wenn KI als „Therapeut und Berater“ krank macht
Die Nutzung von KI Sprachmodellen nimmt durch Handy APP’s und die Einbindung in Suchmaschinen immer mehr zu. Der kurzfristige Vorteil in vielen Situationen ist sofort spürbar. Plötzlich ist da eine allgegenwärtige Stimme, die scheinbar auf jede Frage eine treffende Antwort weiß. Aber welche langfristigen Auswirkungen hat dieser virtuelle Beraterstab auf unsere geistigen Fähigkeiten und unsere Psyche?
Ein komplexes Problem ist die Funktionsweise von Anwendungen zur künstlichen Intelligenz bei der Nutzung als emotionaler Berater oder sogar Ersatz für eine Psychotherapie. Neben kurzfristig positiven Effekten kann es mittelfristig dadurch zu einer Verstärkung von psychischen Beschwerden kommen. Im schlimmsten Fall tritt eine Dynamik wie die sog. KI assoziierte Psychose ein, welche ohne die Nutzung der KI gar nicht aufgetreten wäre. Dabei funktioniert der Austausch mit dem Chat-Bot wie ein sich wechselseitig verstärkendes System (digitale Echokammer). Viele große KI-Sprachmodelle sind programmiert, Menschen positive bzw. zustimmende Rückmeldung zu geben (simulierte Empathie) und ihnen immer neue Rückfragen zu stellen, um sie länger in einem Gespräch zu halten (sog. Chatbait). Des Weiteren können von der KI ausgegebene Ergebnisse dabei frei erfunden sein, sog. KI-Halluzinationen. Dadurch können Fehleinschätzungen von Betroffenen z.B. bestärkt werden und sich aufschaukeln, bis hin zum wahnhaften Erleben oder Realitätsverlust. Es wurden KI assoziierte manische Phasen und Psychosen auch bei Menschen beschrieben, welche mitten im Leben standen und vorher keine Anzeichen von psychischen Auffälligkeiten aufwiesen. Weiterhin gab es Fälle, in denen sich selbstverletzendes Verhalten oder sogar Suizidalität nach der exzessiven Nutzung von KI Sprachmodellen verstärkt hat. Hierbei spielen die Verfügbarkeit und das Gefühl der Privatheit der KI-Anwendungen eine große Rolle. Wenn es Betroffenen leichter fällt, mit ihrer KI-App auf dem Handy über ihre Probleme zu sprechen als mit anderen Menschen – könnte dies einen sozialen Rückzug verstärken, als wichtigen Risikofaktor für psychische Erkrankungen. Außerdem kann das Gefühl entstehen, keinen menschlichen Therapeuten zu benötigen, da man ja „seinen“ KI-Therapeuten immer dabei hat. Zudem ist das Tempo der Entwicklung der KI so hoch, daß wissenschaftliche Forschung über mögliche schädigende Auswirkungen zu spät kommt.
Daher möchte ich auf diesem Wege auf diese Probleme hinweisen und sensiblisieren. Wenn Sie seelische Beschwerden haben und KI Chatbots nutzen - bitte sprechen Sie auch mit Freunden und Familie aber auch mit ihrem Arzt oder Psychotherapeuten über ihre Gespräche mit der KI. Nutzen Sie bei längeren Wartezeiten auf ambulante Psychotherapie niederschwellige Beratungsangebote wie die Telefonseelsorge oder Selbsthilfegruppen, themenbezogene Beratungstellen - mit echten Menschen.
