I am just gonna throw this on.
What do you think?
Oh, Rocky!
That's quite a statement piece!
Also mit einem KI-Chatbot zu sprechen, fühlt sich mittlerweile echt immer
mehr an wie mit einem Menschen zu reden.
Aber: Was bringt uns Nutzern das?
Wie gut können uns Chatbots wirklich verstehen?
Und: welche Risiken gibt es?
Chatbots werden immer menschenähnlicher.
OpenAIs ChatGPT-4o zum Beispiel kann jetzt über eine Kamera nicht nur
seine Umgebung sehen, sondern auch unsere Emotionen erkennen.
UND: der Bot probiert sich sogar an Humor.
Fragesteller: Ok, wie nennt man auf Englisch einen Haufen Babykatzen ?
ChatGPT4o: Ich weiß nicht.
Wie denn?
Fragesteller: Einen Miau-ntain!
ChatGPT4o: Lacht Einen Miau-ntain!
Wirklich lustig!
Aber ist das auch nützlich im Alltag?
Wir haben uns den Bot mal angeschaut!
ChatGPT4o ist jetzt weniger Maschine und mehr Mensch!
Die KI spricht mit Emotionen und "sieht " die Welt
durch die Smartphone-Kamera.
Das „O“ steht für 'omni', wie in 'omnipotent'.
Denn das Modell kann nicht nur mit Text, sondern auch Audio und Video
arbeiten, was die Interaktion natürlicher machen soll.
Mann: Ich hab da eine Sache, die ich dir gern zeigen würde!
ChatGPT: Klar, zeig gern her, wenn du soweit bist Mann: Okay, das hier
habe ich geschrieben.
Was siehst du?
ChatGPT: Oh, ich sehe: "Ich liebe ChatGPT".
Das ist so süß von dir!
Laut seinen Machern KLINGT GPT-4o nicht nur emotional - es kann
auch Emotionen erkennen.
ChatGPT: Sieht aus, als wärst du ziemlich fröhlich!
KI-Systeme lernen, Emotionen zu erkennen, indem sie
entsprechend trainiert werden.
Also zum Beispiel durch die Analyse eines Texts, der ein Lächeln mit
Glück oder Tränen mit Traurigkeit verbindet.
Die KI wird so trainiert, dass sie sich wie bei einem
Optimierungsprozess entscheidet, um diese Daten zu rekonstruieren.
Aber was bedeutet es, wenn die KI immer menschenähnlichere
Züge annimmt?
Wir neigen dazu, den Entscheidungen eines Computers zu vertrauen.
Selbst wenn diese unseren eigenen Überzeugungen widersprechen.
Das haben Wissenschaftler bereits 1999 herausgefunden.
Auch neuere Studien legen das nahe...
Chatbots sind schon jetzt sehr überzeugend.
Wenn sie aber mit einer menschlichen Stimme sprechen, werden wir ihnen
noch eher Glauben schenken.
Das kann zum Problem werden, denn...
KIs lügen Das KIs halluzinieren, also Fakten erfinden - wird
schon lange beobachtet.
Und: KIs können bei Brettspielen Poker oder auch Videospielen bluffen.
Das zeigen Tests.
Diese Systeme sind dafür bekannt, dass sie lügen oder
sich Dinge ausdenken.
Und wenn sie sehr überzeugend sind, sich natürlich verhalten und dann
Dinge erfinden, bin ich viel eher geneigt, es zu glauben.
Dagegen kann ich einen trockenen, objektiven Text oder
eine Argumentation viel leichter beurteilen.
Ganz schön beängstigend, dass ein KI-Chatbot bewusst lügen kann - und
uns so vielleicht auch dazu bringt, z.B.
unsere Kreditkarteninfos rauszurücken.
Aber auch wenn nicht: Es reicht, wenn uns KI Chatbots Fehlinformationen so
überzeugend verkaufen, dass wir ihnen glauben.
Deshalb ist es so wichtig, dass die KI mit fehlerfreien Daten trainiert
wird - und in der Lage ist, auch Nuancen von Sprachen
richtig zu verstehen.
Besonders schwer ist das in Indien.
Da gibt es mehr als 20 offiziell gesprochene Sprachen und mehr als
19.000 verschiedene Dialekte.
Und trotzdem wird nicht über alles offen gesprochen - Fragen zur
sexuellen Gesundheit zum Beispiel sind Tabu.
Ein Chatbot soll da jetzt helfen.
Der Mey-na-Bolo Bot: soll heikle Fragen rund Sex und Gesundheit in
Indien beantworten: Dafür muss die App kulturelle Nuancen und
verschiedenen Dialekte verstehen.
Indien ist nicht nur eines der sprachlich vielfältigsten Gebiete mit
Hunderten von Sprachen, es gibt so viele Untersprachen, Dialekte, Slangs
nicht nur innerhalb der Sprachen, sondern auch
innerhalb verschiedener Familien.
Wie können wir also Antworten in einem Chatbot produzieren, der für
Frauen gedacht ist, die vielleicht keine unserer
Hochsprachen beherrschen?
Dank mehrerer großer Sprachmodelle kann der Chatbot auch mehrere
Sprachen verstehen und sich in ihnen bewegen.
Dank dieser LLMs können Nutzerinnen die Mynabolo-App direkt in ihrer
Muttersprache verwenden, zum Beispiel Marathi oder „Hinglish“, eine
Mischung aus Hindi mit englischen Wörtern.
Die Leute sagen also nicht Sex, sondern „sambandha karna“.
Eine Mutter sagt aber vielleicht „samband karna“ und die Tochter
wiederum „relation rakhana“.
Man kann ein und dieselbe Sache sagen, Nuancen schaffen und
dann Slang verwenden.
Es gibt dabei Dinge, die ersetzt werden, auch kleine Wörter, die durch
Metaphern ersetzt werden.
Metaphern, die aneinandergereiht werden.
Damit der Bot alles richtig versteht und auch damit sogenannte
„Halluzinationen“ vermieden werden, arbeitet eine umfangreiche
Datenbank im Hintergrund.
Die erfordet intensive Pflege .
Wir überprüfen alle Antworten des Chatbots, und wenn sie falsch sind,
erstellen wir eine richtige Version.
Das sind bis zu 2500 Fragen, die wir nicht nur mit unseren Mitarbeitern,
sondern auch mit Ärzten und Fachleuten aus dem Gesundheitswesen
abgleichen, die seit 10 Jahren in dem Bereich tätig sind.
Halluzinationen oder auch erfundene Fakten, die die Chatbots von sich
geben, sind nur ein Teil des Problems, das beim Training mit
den Daten auftritt.
Es gibt auch einen Daten-Bias, geschlechtsspezifische
Verzerrungen oder auch medizinische, die in den Daten auftauchen, weil es
sie auch in der Welt gibt.
Gehen wir nochmal zurück: Wie lernt so ein KI-Chatbot überhaupt, mit
seiner Umwelt zu reden?
Und wie weiß der Bot, was er sagen soll?
Der wichtigste Bestandteil von Chatbots ist ein sogenanntes LLM -
ein Large Language Model: Also ein KI-Model.
dass menschliche Sprache erkennen und interpretieren kann.
LLMs verwenden maschinellen Lernen, um zu verstehen, wie Zeichen, Wörter
und Sätze zusammen funktionieren.
Als neuronale Netzwerke mit vielen Schichten können sie
große Datenmengen verarbeiten.
Diese Netzwerke lernen, indem sie Muster etwa in Sprache erkennen und
dann gewichten und bewerten.
Dieses Netzwerk lernt, die Zahl 9 zu erkennen.
Je öfter ein Muster vorkommt, und je relevanter es ist, desto mehr
Gewichtung legt das Netzwerk darauf.
So werden wichtige Muster verstärkt.
Das Netzwerk lernt.
Durch Feedback von Operatoren und wiederholtes Training lernen LLMs
natürliche Sprache zu verstehen und zu generieren.
Wie gut sie dann funktionieren, hängt von der Qualität
der Trainingsdaten ab.
LLMs werden oft mit Daten aus dem Internet trainiert.
Ein kuratierter Datensatz ist hier besser geeignet denn Fehler und
Verzerrungen in den Daten können vorher ausgesiebt werden.
25 Milliarden US-Dollar an Investitionen sind allein 2023 in die
Entwicklung von KI-Modellen wie ChatGPT geflossen.
Acht mal mehr als im Jahr davor.
Und auch der Markt für KI-Software, die eure Emotionen
lesen kann, wächst.
Und die muss dafür nicht mal in euren Gesichtern lesen.
Weltweit setzen Unternehmen Software zur Verarbeitung natürlicher Sprache
ein, um die Gefühle ihrer Kunden und Mitarbeiter besser zu analysieren.
Wie gut solche K-Systeme funktionieren, zeigt eine Studie von
Jonathan Kreiner - durchgeführt während der Covid-Pandemie.
Der Mitgründer und Präsident des Start-ups "Emotion AI " hat
Reddit-Posts von rund 6500 Krankenschwestern und
Ärzten untersucht.
Fast vier Millionen Kommentare hat er mit seiner Software untersucht - über
einen Zeitraum von vier Jahren Die Datenbank steht nun Forschenden
weltweit zur Verfügung.
Das Ziel: dank Sprachanalyse psychische Belastungen und Traumata
früher erkennen - und besser verstehen.
Aus unseren Tests können viele Erkenntnissen gewonnen werden.
Wir können Konzepte wie das der Persönlichkeit besser verstehen.
Aber wir können auch psychologische Eigenschaften verstehen und erkennen,
wie sich Menschen zu bestimmten Zeitpunkten verändern -
abhängig vom Kontext.
So konnten wir schon zu Beginn der Pandemie, noch bevor
die Weltgesundheitsorganisation eine Pandemie ausrief, einige frühen
Indikatoren für Burnout erkennen, wie etwa eine
erhöhte kognitive Belastung.
Alles was die KI-Software dafür braucht, ist ein selbst geschriebener
Text: Alltägliche Kommunikation wie E-Mails, Slack-Nachrichten oder
Beiträge in sozialen Medien.
Die Software sucht nicht nur nach offensichtlichen
Gefühlsbeschreibungen, sondern auch nach sogenannten Funktionswörtern
- wie Pronomen.
Deren Verwendung kann viel über den psychischen Zustand verraten.
So verwenden Menschen mit Depressionen deutlich mehr Pronomen
in der ersten Person Singular wie "ich", "mir " oder "mich".
Laut Psychologen nehmen sich depressive Menschen oft selbst sehr
stark in den Fokus, auch in ihrer Sprache.
Und das in ganz verschiedenen Kulturen.
Diese so genannte „Sprache der Depression“ kann die KI erkennen.
Viele der Muster, die wir analysieren, sind in verschiedenen
Kulturen und Kontexten gleich.
Es geht weniger darum, worüber die Menschen sprechen, sondern darum, wie
die Sprache Einblicke in ihre Selbstwahrnehmung, ihre Umgebung und
ihre Beziehung zu dieser Umgebung geben kann.
Es ist ein stark soziales und psychologisches Phänomen, auf das wir
uns konzentrieren und das unabhängig von den Kulturen oder
Sprachen existiert, in denen kommuniziert wird.
KI kann nicht nur Texte, sondern auch Sprachnachrichten analysieren.
Die Anwendungsfälle sind zahlreich.
Wenn Unternehmen Chatbots einsetzen und die Interaktionen mit den Nutzern
analysieren, können sie mehr über deren Meinungen erfahren.
Eine wirklich interessanter Nutzen unserer Technologie war die
Unterstützung der Impfstoffakzeptanz in benachteiligten Gemeinschaften.
Einer unserer Kunden stellte fest, dass er, wenn er verstehen konnte,
wie einige dieser Bevölkerungsgruppen denken und wie sie Informationen
aufnehmen, die Botschaften über die Vorteile und die Gründe für die
Verwendung dieser Impfstoffe besser auf diese Gemeinschaft
zuschneiden und die Impfstoffakzeptanz verbessern konnte.
Um die einzelne Bevölkerungsgruppen besser zu erreichen, wurden viele
unterschiedliche Menschen interviewt.
Die Sprach-Software konnte anschließend die Informationen so
formulieren, dass sie von unterschiedlichen Gruppen
gut angenommen werden.
Ihren Ursprung hat diese Methode in der Werbung und im Marketing und wird
dort auch immer häufiger angewandt.
Auch sogenannte Reise-Bots nutzen inzwischen Emotion AI, und
sollen Nutzern so maßgeschneiderte Tipps liefern.
Nur ein Beispiel ist die Voice KI App Aevi, die gerade erprobt wird.
Anhand eurer Wünsche und eurer Persönlichkeit kann sie euch zum
Beispiel eine Reise durch New York City zusammenstellen.
Dafür müsst ihr hier zuerst ein paar Bilder bewerten
und Fragen beantworten.
Aevi erstellt daraufhin eine Art psychologisches Profil von euch.
Und auf der Basis kriegt ihr dann eine persönliche Reiseempfehlung.
Doch was heißt das für unsere Privatsphäre, wenn KI-Firmen
unsere Daten nutzen?
Meta zum Beispiel sagt ganz offiziell, dass es seine KI mit
unseren öffentlich zugänglichen Facebook- und Instagram-Fotos
und Texten trainiert.
Oder was ist mit den Daten von KI-Programmen, die
unsere Mimik analysieren?
Wer nutzt sie und wozu.
Wer darf sie an wen weitergeben und wie lange werden sie gespeichert?
Hier gibt es bisher noch viel Spielraum für Unternehmen aber eben
auch für Kriminelle, uns mit KI zu durchleuchten oder zu betrügen.
Und es gibt zu wenige verbindliche Regeln.
Damit KI Akzeptanz findet und verantwortungsvoll eingesetzt werden
kann, müssen die Menschen wissen, was sie tun und wie sie arbeiten, worauf
sie trainiert sind.
Verstehen führt zu einer besseren Bewertung.
Emotionale KI-Bots haben aber natürlich auch Vorteile: Sie liefern
nicht nur Ideen oder erklären die Welt, sondern können dabei auch auf
uns eingehen - ganz nach Stimmungslage.
Wie seht ihr das?
Schreibt uns!
Das wars von mir!
Tschüss!