OpenAI enthüllt Tool zur Erkennung von KI-generierten Texten
OpenAI hat ein neues Tool zur Erkennung von Texten, die von generativen KIs wie ChatGPT erstellt wurden, vorgestellt. Die Entwickler räumen jedoch ein, dass dieser "Work-in-progress" noch weit von der Zuverlässigkeit entfernt ist.
![(Source: Geralt / Pixabay)](https://data.netzwoche.ch/styles/np8_full/s3/media/2023/02/02/artificial-intelligence-g93b5c697d_1920.jpg?itok=KBIpfYv7)
Die Firma OpenAI bemüht sich um die Behebung eines Problems, das sie selbst verursacht hat: die Schwierigkeit, von ChatGPT erzeugte Texte zu erkennen. Wirksame Technologien sind dringend erforderlich, insbesondere für Schulen. Aktuelle Tools haben immer noch grosse Schwierigkeiten, Texte zu erkennen, die mit diesem verblüffend leistungsfähigen Sprachmodell erstellt wurden.
OpenAI hat nun angekündigt, ein neues Tool entwickelt zu haben, das Texte aufspürt, die von KIs erstellt wurden, sei es durch eigene Modelle oder durch die anderer Anbieter. Die Entwickler von ChatGPT warnen jedoch, dass ihr neues Tool derzeit noch nicht 100 Prozent zuverlässig ist - bei weitem nicht. 26 Prozent der Texte werden korrekt als von einer KI geschrieben identifiziert. Und das Tool produziert immer noch 9 Prozent falsch-positive Ergebnisse (Zuschreibungen an die KI, obwohl der Text von einem Menschen verfasst wurde). "Die Zuverlässigkeit unseres Klassifikators verbessert sich im Allgemeinen mit zunehmender Länge des Eingabetextes. Im Vergleich zu unserem bisherigen Klassifikator ist der neue Klassifikator bei Texten aus neueren KI-Systemen deutlich zuverlässiger", so OpenAI in seiner Pressemitteilung. Und sie betont, dass ihr als "work-in-progress" bezeichnetes Werkzeug bei kurzen Texten (weniger als 1000 Zeichen), die nicht in Englisch verfasst sind, weniger gut funktioniert.
OpenAI weist darauf hin, dass das Erkennungswerkzeug trotz seiner derzeitigen Einschränkungen dennoch der Öffentlichkeit zur Verfügung gestellt wird, "um Feedback über die Nützlichkeit von unvollkommenen Werkzeugen wie diesem zu sammeln".
ChatGPT kann inzwischen eine Jus-Prüfung bestehen, mit Mathe hat der Bot jedoch noch Mühe, wie Sie hier lesen können.
![(Source: TheDigitalArtist / pixabay.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/12/20/auge.jpg?itok=St30PR4-)
Diese Themen bleiben 2025 zentral für Unternehmen
![(Source: Tumisu / pixabay.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/12/20/infrastruktur.jpg?itok=4llM6vNq)
Diese Entwicklungen beeinflussen die IT-Infrastruktur 2025
![(Source: Studios / stock.adobe.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/11/29/adobestock_983914889_preview.jpg?itok=AgXRcXZN)
Die Rolle von KI in der Transformation des Schweizer Finanzsektors
![Christophe Macherel tritt mit sofortiger Wirkung als CEO von Aveniq zurück. (Source: zVg)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2023/02/22/aveniq-insights-medienmitteilung-business-summit-2022-christophe-macherel_iva0aqq.jpg?itok=T5463bgV)
Christophe Macherel tritt als Aveniq-CEO zurück
![(Source: Caio Mantovani / pexels.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/12/19/kalender.jpg?itok=AYwAwf0f)
Phisher umgehen Spamfilter mit Google Kalender
![Ein goldenes Logo ziert APG|SGA im Jubiläumsjahr 2025. (Source: zVg)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/12/20/apgsga_125.jpg?itok=0fWEhvmQ)
APG|SGA feiert 125-Jahre-Jubiläum
![(Source: Karyakinvitaliy / adobe.stock.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/12/20/adobestock_180499728_web.jpg?itok=uJxeP1dw)
Die Redaktion verabschiedet sich in die Weihnachtspause
![(Source: Screenshot youtu.be/ItWrPv-cx3Y)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/12/20/maxresdefault.jpg?itok=TBiFsaKt)
Der Herr der Geschenke
![(Source: wecollect.ch)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/12/10/e-id-maria-nusslinger-hand-v01.jpg?itok=NiEQ4lZQ)
Update: Digitalverbände begrüssen E-ID-Einführung
![(Source: SpaceX / Unsplash.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/12/20/spacex-uj3hvdfquji-unsplash.jpg?itok=ev4OU4JP)