Der Mey-na-Bolo Bot: soll heikle Fragen rund Sex und Gesundheit in
Indien beantworten: Dafür muss die App kulturelle Nuancen und
verschiedenen Dialekte verstehen.
Indien ist nicht nur eines der sprachlich vielfältigsten Gebiete mit
Hunderten von Sprachen, es gibt so viele Untersprachen, Dialekte, Slangs
nicht nur innerhalb der Sprachen, sondern auch
innerhalb verschiedener Familien.
Wie können wir also Antworten in einem Chatbot produzieren, der für
Frauen gedacht ist, die vielleicht keine unserer
Hochsprachen beherrschen?
Dank mehrerer großer Sprachmodelle kann der Chatbot auch mehrere
Sprachen verstehen und sich in ihnen bewegen.
Dank dieser LLMs können Nutzerinnen die Mynabolo-App direkt in ihrer
Muttersprache verwenden, zum Beispiel Marathi oder „Hinglish“, eine
Mischung aus Hindi mit englischen Wörtern.
Die Leute sagen also nicht Sex, sondern „sambandha karna“.
Eine Mutter sagt aber vielleicht „samband karna“ und die Tochter
wiederum „relation rakhana“.
Man kann ein und dieselbe Sache sagen, Nuancen schaffen und
dann Slang verwenden.
Es gibt dabei Dinge, die ersetzt werden, auch kleine Wörter, die durch
Metaphern ersetzt werden.
Metaphern, die aneinandergereiht werden.
Damit der Bot alles richtig versteht und auch damit sogenannte
„Halluzinationen“ vermieden werden, arbeitet eine umfangreiche
Datenbank im Hintergrund.
Die erfordet intensive Pflege .
Wir überprüfen alle Antworten des Chatbots, und wenn sie falsch sind,
erstellen wir eine richtige Version.
Das sind bis zu 2500 Fragen, die wir nicht nur mit unseren Mitarbeitern,
sondern auch mit Ärzten und Fachleuten aus dem Gesundheitswesen
abgleichen, die seit 10 Jahren in dem Bereich tätig sind.
Halluzinationen oder auch erfundene Fakten, die die Chatbots von sich
geben, sind nur ein Teil des Problems, das beim Training mit
den Daten auftritt.
Es gibt auch einen Daten-Bias, geschlechtsspezifische
Verzerrungen oder auch medizinische, die in den Daten auftauchen, weil es
sie auch in der Welt gibt.