OpenAI enthüllt Tool zur Erkennung von KI-generierten Texten

Die Firma OpenAI bemüht sich um die Behebung eines Problems, das sie selbst verursacht hat: die Schwierigkeit, von ChatGPT erzeugte Texte zu erkennen. Wirksame Technologien sind dringend erforderlich, insbesondere für Schulen. Aktuelle Tools haben immer noch grosse Schwierigkeiten, Texte zu erkennen, die mit diesem verblüffend leistungsfähigen Sprachmodell erstellt wurden. 

OpenAI hat nun angekündigt, ein neues Tool entwickelt zu haben, das Texte aufspürt, die von KIs erstellt wurden, sei es durch eigene Modelle oder durch die anderer Anbieter. Die Entwickler von ChatGPT warnen jedoch, dass ihr neues Tool derzeit noch nicht 100 Prozent zuverlässig ist - bei weitem nicht. 26 Prozent der Texte werden korrekt als von einer KI geschrieben identifiziert. Und das Tool produziert immer noch 9 Prozent falsch-positive Ergebnisse (Zuschreibungen an die KI, obwohl der Text von einem Menschen verfasst wurde). "Die Zuverlässigkeit unseres Klassifikators verbessert sich im Allgemeinen mit zunehmender Länge des Eingabetextes. Im Vergleich zu unserem bisherigen Klassifikator ist der neue Klassifikator bei Texten aus neueren KI-Systemen deutlich zuverlässiger", so OpenAI in seiner Pressemitteilung. Und sie betont, dass ihr als "work-in-progress" bezeichnetes Werkzeug bei kurzen Texten (weniger als 1000 Zeichen), die nicht in Englisch verfasst sind, weniger gut funktioniert. 

OpenAI weist darauf hin, dass das Erkennungswerkzeug trotz seiner derzeitigen Einschränkungen dennoch der Öffentlichkeit zur Verfügung gestellt wird, "um Feedback über die Nützlichkeit von unvollkommenen Werkzeugen wie diesem zu sammeln".

ChatGPT kann inzwischen eine Jus-Prüfung bestehen, mit Mathe hat der Bot jedoch noch Mühe, wie Sie hier lesen können.