# taz.de -- Chatbots enttarnen: Zum Glück mit Rechenschwäche
> Wie bekommt man heraus, ob das Gegenüber mit einem Gehirn funktioniert
> oder mit einem künstlichen neuronalen Netz? Wie die KI enttarnt werden
> kann.
IMG Bild: Ist das noch ein Mensch oder schon KI?
Die Frage war dringend, die Telefonhotline des Mobilfunkanbieters
überlastet. Da schob sich auf seiner Webseite dieser Button in mein
Blickfeld: „Chat starten“. Sollte das Problem doch noch in diesem
Jahrhundert lösbar sein?
Falsche Frage. Denn einige Textfragmente später, die als Standardantworten
serviert wurden und nichts mit dem Problem zu tun hatten, fragte ich mich:
Schickt hier wirklich ein Mensch derart abseitige Antworten? Oder ein Bot?
Was für den Menschen sprechen würde: In Sachen [1][Chatbots] hat sich in
den vergangenen Monaten bis Jahren einiges getan – deren Antworten sollten
passender sein.
Allerdings: Die weit entwickelten [2][KI-Modelle], die es mittlerweile
gibt, wird sich wohl kaum ein Mobilfunkanbieter für seinen Nichtservice
leisten. Doch je weiter die Technologie sich verbreitet, von der
Kommunikation mit Kund:innen bis zur [3][politischen Kampagne auf
Social-Media-Plattformen], desto häufiger werden wir uns fragen: Wie
bekommt man heraus, ob das Gegenüber mit einem Gehirn funktioniert oder
mit einem künstlichen neuronalen Netz?
Die schlechte Nachricht: Fragen wird nicht helfen, zumindest nicht immer.
Es wird Modelle und Anwendungen geben, die extra darauf designt sind, zu
verschleiern, dass es sich bei den von ihnen generierten Inhalten nicht um
menschlichen Output handelt. Ganz zu schweigen davon, dass diese Anbieter
ihr Modell nachjustieren werden, wann immer ein Hack bekannt wird, der zu
mehr Transparenz führen könnte.
Eine der Enttarnungsstrategien sind Zahlen. Denn zumindest GPT-4, was mit
seinem Vorgänger die Basis für ChatGPT bildet, hat eine Schwäche, die eine
Studie mehrerer US-amerikanischer Universitäten offengelegt hat: Es kann
nicht gut rechnen, gerade bei hohen Zahlen. 987 mal 789? Da würde ein
Mensch so etwas sagen wie „Keine Ahnung“ oder „Frag einen Taschenrechner.“
Doch ChatGPT antwortet: 777.243. Ein Mensch bräuchte dafür entweder ein
ungewöhnliches Rechentalent oder halt einen Taschenrechner.
Die KI aber auch: 987 mal 789 ergibt nämlich 778.743. Faustregel laut der
Studie: Je mehr Ziffern, desto geringer die Erfolgsquote. Die Ursache ist
simpel: Sprachmodelle rechnen nicht, sondern prognostizieren
Wahrscheinlichkeiten für das nächste Wort oder den nächsten Satzteil. Sie
generieren keine Inhalte, sondern Wörter. Das ist nicht immer das Gleiche,
wie schon die ein oder andere Politiker:innen-Rede zeigt. Oder der Chat mit
meinem Mobilfunk-Anbieter. Der endete abrupt: Zeitgrenze überschritten.
8 Apr 2024
## LINKS
DIR [1] /Chatbots-in-der-Kundenbetreuung/!5976785
DIR [2] /Kuenstliche-Intelligenz-und-Vermuellung/!5997952
DIR [3] /Politik-auf-Social-Media/!5997349
## AUTOREN
DIR Svenja Bergt
## TAGS
DIR Telekom
DIR Kolumne Digitalozän
DIR Schwerpunkt Künstliche Intelligenz
DIR Zukunft
DIR Verbraucherschutz
DIR Schwerpunkt Künstliche Intelligenz
DIR Bot
DIR Banken
DIR Kolumne Digitalozän
DIR Kolumne Digitalozän
## ARTIKEL ZUM THEMA
DIR KI-Chatbots: Chatten gegen Verschwörungsmythen
Verschwörungserzählungen sind weit verbreitet. Eine neue Studie zeigt, dass
KI-Systeme wie ChatGPT helfen können, Menschen mit Fakten zu überzeugen.
DIR Fehlende Updates und andere Widrigkeiten: Wenn das Smartphone Käse wird
Keine Updates mehr? Für Nutzer:innen von digitalen Geräten ist das
leider Alltag. Und dann kann man fast nur verlieren.
DIR Beschwerde gegen OpenAI in der EU: Datenschützer kritisieren ChatGPT
Dass ChatGPT auch Unsinn liefert, ist bekannt. Wenn die KI-Software
allerdings Fake News über Personen ausspuckt, könnte das gegen EU-Recht
verstoßen.
DIR Das Ende einer KI-Kolumne: Hinterher sind wir alle klüger
Die taz und KI-Kolumnist*in Anic T. Wae gehen fortan getrennte Wege. Hier
kommen fünf Dinge, die Anics Schöpfer durch sie gelernt haben.
DIR Schnelle Banküberweisungen: Schokolade, Socken, leere Versprechen
Banken müssen bald superschnelle Überweisungen umsonst anbieten. Was wäre,
wenn eine Whatsapp-Nachricht, die sofort ankommt, 5 Euro kostete?
DIR Noise Cancelling in Kopfhörern: Stille gibt es bald als Pro-Version
Kopfhörer mit Active Noise Cancelling (ANC) unterdrücken
Umgebungsgeräusche. Lässt sich bald bestimmen, welche Geräusche wir
durchlassen wollen?
DIR Flugtaxis im Autopilot: Wissing, Musk und Pippi Langstrumpf
Was haben Elon Musk und Volker Wissing gemeinsam? Beide machen sich die
Welt, widdewidde, wie sie ihnen gefällt. Zwei mal drei macht vier…