Liebe Community,
längst sind KI-Chatbots Teil unseres digitalen Alltags, selbst wenn wir sie nicht aktiv nutzen. Sie beantworten unsere Online-Suchen, formulieren viele der E-Mails in unserem Postfach, drängen sich bei Messenger-Apps auf und schreiben Artikel. Und sie machen Fehler.
Zwei aktuelle Studien zeigen, in welchem Ausmaß das geschieht. Die Europäische Rundfunkunion hat systematisch beliebte Chatbots in mehreren Ländern und in mehreren Sprachen getestet – auch auf Deutsch. Das Ergebnis: 45 Prozent der Antworten enthielten ein signifikantes Problem. Am häufigsten ging es dabei um fehlende oder irreführende Quellen. Der zweithäufigste Fehler: Falschbehauptungen.
Die KI-Chatbots behaupteten etwa, dass der verstorbene Franziskus noch Papst ist, Olaf Scholz weiterhin Bundeskanzler und Schweden nicht der Nato angehört. Das sind offenbar Fehler, hinter denen keine Absicht, sondern eine schlechte Datenbasis oder Halluzinationen stecken.
Werden Chatbots infiltriert?
Die zweite Studie zeigt aber, dass böswillige Akteure KI-Chatbots missbrauchen könnten. Das Institut für strategischen Dialog (ISD) hat Chatbots in mehreren europäischen Sprachen zu Russlands Krieg in der Ukraine befragt. 18 Prozent der Antworten berufen sich laut der Studie auf staatsnahe russische Quellen, die in der EU teilweise sanktioniert sind. Das ISD spricht von einer Ausnutzung von sogenannten „data voids“: Bereichen, in denen es kaum zuverlässige Quellen gibt. Einen eindeutigen Beleg, dass Russland die KI-Chatbots wirklich infiltriert hat, liefert die Studie nicht. Beide Untersuchungen findet ihr in den Lesetipps.
Klar ist: KI-Chatbots sind nicht mehr wegzudenken. Sie können den Alltag, beruflich oder privat, erleichtern. Als ich neulich nach einem Geburtstagsgeschenk suchte, gab ich zur Inspiration bei einem Chatbot die Hobbys des Geburtstagskindes ein. Innerhalb von wenigen Minuten hatte ich mehrere Vorschläge. Selbst als Chatbot-Kritiker muss ich zugeben: Die Ideen waren besser als meine. Und das Geburtstagskind hat sich sehr über das Geschenk gefreut.
Ich freue mich über eure Meinung zum Thema: Wie nutzt ihr Chatbots – und wie oft entdeckt ihr dabei Fehler?
Liebe Grüße
Viktor Marinov
Lesetipps
Studie: So oft machen KI-Chatbots Fehler
22 Medienorganisationen aus 18 Ländern überprüften mit einem Fragekatalog, wie gut KI-Chatbots auf diverse Fragen antworten. Zurück kamen häufig Fehlinformationen. Die ganze Studie auf Englisch ist unten verlinkt, eine Zusammenfassung auf Deutsch gibt es in diesem Tagesschau-Artikel.
Studie: Nutzt Russland Datenlücken bei KI-Chatbots aus?
Das Institut für strategischen Dialog wirft in einer Studie die Frage auf, wie anfällig KI-Chatbots für Beeinflussung von Außen sind. Die Forscher haben beliebte Chatbots mit Fragen zu Russlands Krieg in der Ukraine konfrontiert – und in jeder fünften Antwort eine Nähe zu russischen Staatsmedien entdeckt. Die ganze Studie auf Englisch ist unten verlinkt, eine Zusammenfassung gibt es beim Tagesspiegel.
Podcast: Wie KI unsere Internetsuche verändert.
KI beeinflusst inzwischen oft, welche Informationen wir beim Suchen im Internet zu sehen bekommen. Bei Google zum Beispiel ist ein KI-generiertes Suchergebnis bei den meisten Suchen inzwischen an erster Stelle. In einem BR24-Podcast diskutieren zwei Journalistinnen und ein Journalist, was das für ihre Branche bedeutet.
Link