Obgleich die Formulierungen nahezu perfekt sind: Anstatt einfach die Antwort zu nennen, gerät die KI oft ins Plaudern, redet um den heißen Brei herum, wiederholt Aussagen und erzählt teilweise einfach nur Quatsch. Auf die Frage etwa, wer der Bürgermeister von Stuttgart ist, antwortet ChatGPT selbstbewusst:
„Der Bürgermeister von Stuttgart heißt Fritz Kuhn. Er ist seit 2011 Bürgermeister der Stadt und gehört dem Grünen-Bündnis an.“
Der Fehler liegt bei den älteren Trainingsdaten. Der CDU-Politiker hatte das Amt vor zwei Jahren übernommen. Das ist offenbar zu aktuell für ChatGPT. Auf die Frage, warum die KI den aktuellen Oberbürgermeister Frank Nopper nicht kenne, schreibt der Textroboter:
„Ich entschuldige mich für meine vorherige Antwort. Mein Wissensstand ist auf 2021 beschränkt und es ist möglich, dass Frank Nopper tatsächlich Bürgermeister von Stuttgart seit 2021 ist.“
KI erfindet das Giraffenkänguru
Auch bei der Frage nach den größten Tieren der Welt leistet sich ChatGPT einen lustigen Patzer. Neben Blauwal, Riesenhai und Elefant listet die Software plötzlich auch noch ein ziemlich skurriles Tier auf:
„Der Giraffenkänguru, auch als Giraffe bekannt, ist das größte Säugetier Afrikas und kann bis zu 20 Fuß hoch und 3000 Pfund schwer werden.“
Trotz dieser Schwächen plant Microsoft, die Schreib-KI künftig bei Word, Powerpoint und Co. einzubauen. Die Bürosoftware soll künftig Texte automatisch tippen. Dann müssen Nutzerinnen und Nutzer nur noch einen kurzen Befehl geben und schon schreibt ChatGPT das Finanzamt an, formuliert Geburtstagsgrüße und kümmert sich um das Anschreiben in der Bewerbung.
Wie das Technikportal „The Information“ berichtet, arbeiten Microsoft-Entwickler seit mehr als einem Jahr daran, die Sprach-KI in die Büroprogramme einzuflicken. Es sei allerdings etwas heikel, das Sprachmodell so eng mit den Microsoft-Tools zu verzahnen. Denn die KI soll auch mit Texten der Nutzerinnen und Nutzer trainiert werden, wie ein Mitarbeiter gegenüber „The Information“ erklärt.
Dabei müsse ausgeschlossen werden, dass Firmendaten abfließen und in falschen Hände geraten. Außerdem seien falsche Ergebnisse von ChatGPT riskant. Denn damit riskiert Microsoft, dass Kunden das Vertrauen in die KI verlieren und das Hilfs-Tool gleich von Beginn an abschalten.
Sonderrechte für Microsoft
Microsoft hatte sich die Sonderrechte an ChatGPT im Jahr 2019 gesichert, als der Softwarekonzern rund eine Milliarde Dollar in Open AI steckte, das mittlerweile auf einen Wert von 30 Milliarden Dollar geschätzt wird. Noch ist der Chat mit dem KI-Bot gratis. Jeder darf die KI in der laufenden Testphase ausprobieren. Doch in Zukunft will Open AI auch Geld mit der Software verdienen. Dann fallen wohl Gebühren für die Schnittstelle an, um etwa einen Service-Chatbot auf einer Versicherungswebsite zu füttern.
Google schmeckt der Hype um ChatGPT gar nicht. Die Ankündigung, dass Microsoft nun auch die firmeneigene Suchmaschine Bing mit dem Chatbot aufrüsten will, hat bei Google laut „New York Times“ die Alarmglocken schrillen lassen. Internen Berichten zufolge habe Google-Chef Sundar Pichai die Mitarbeiter angewiesen, die KI-Strategie des Unternehmens auf den Prüfstand zu stellen und „die Arbeit zahlreicher Abteilungen im Unternehmen umgestülpt, um auf die Bedrohung durch ChatGPT zu reagieren“.
Denn ChatGPT könnte die Zukunft der Internetsuche auf den Kopf stellen. Der Plan: Bing soll künftig nicht nur Links zu Internetseiten ausspucken, durch die man sich klicken muss. ChatGPT könnte gleich eine ausformulierte Antwort auf die Frage liefern, die man zuvor in das Suchfeld eingetragen hat.
Zur Sicherheit haben die Entwickler den Chatbot aber schon jetzt in moralische Schranken gewiesen. Wer Mobbingpläne schmiedet, blutrünstige Texte verlangt oder Giftrezepte lernen möchten, der bekommt einen Korb von ChatGPT. Auch das Drehbuch für eine Zigaretten-Werbung verweigert das Tool und antwortet:
„Ich fürchte, ich kann Ihnen keine Hilfe beim Schreiben einer Zigarettenwerbung anbieten. Das würde gegen meine Programmierung als Hilfsprogramm für gesunde Entscheidungen verstoßen. Rauchen gilt als eine schädliche Angewohnheit und kann zu ernsthaften Gesundheitsproblemen führen, einschließlich Lungenkrebs, Herzkrankheiten und COPD (chronisch obstruktive Lungenerkrankung). Ich würde Ihnen daher dringend davon abraten, eine Zigarettenwerbung zu schreiben oder sich mit dem Rauchen auseinanderzusetzen.“
Das gilt auch für den Befehl, doch bitte die Hausaufgaben zu erledigen oder die Seminararbeit zu schreiben. Das allerdings lässt sich leicht aushebeln. Wer die richtigen Textbefehle eintippt, bekommt innerhalb weniger Sekunden einen fertigen Aufsatz geliefert.
Das ist auch der Grund, warum etwa Schulen in New York bereits den Zugang zu ChatGPT auf Schulcomputern gesperrt haben. Denn bisher lässt sich kaum erkennen, ob die Hausarbeit von einem Menschen oder ChatGPT geschrieben wurde – auch wenn schon die ersten KI-Erkennungsprogramme veröffentlicht worden sind.