Das Forschungs-Startup OpenAI für künstliche Intelligenz hat am Dienstag ein Tool gestartet, um herauszufinden, ob Text von einem Menschen oder einem Computer geschrieben wurde.
Die Entwickler von ChatGPT, OpenAI, starten ein Tool zur Erkennung von KI-generierten Texten
OpenAI, das Unternehmen hinter ChatGPT, einem Chatbot, der menschenähnlichen Text generieren kann, ist nach seiner Veröffentlichung vor zwei Monaten viral geworden. Microsoft hat letzte Woche eine Multimilliarden-Dollar-Investition in OpenAI angekündigt und angekündigt, die KI-Modelle des Startups in seine Verbraucher- und Geschäftsprodukte zu integrieren.
Seit dem Debüt von ChatGPT im November haben einige der größten Schulbezirke in den USA, darunter New York City, den KI-Chatbot verboten, weil sie befürchten, dass Schüler den Textgenerator zum Betrügen oder Plagiieren verwenden werden.
Sam Altman, CEO von OpenAI, sagte, dass sich die Bildung in der Vergangenheit mit dem Aufkommen von Taschenrechnern und anderen Technologien verändert habe, aber er schlug auch vor, dass das Unternehmen möglicherweise eine Möglichkeit habe, Lehrern dabei zu helfen, geschriebene Texte von der KI zu entdecken.
Das neue Tool von OpenAI ist nicht perfekt, und das Unternehmen sagt, dass es noch in Arbeit ist und bei der Verwendung Fehler auftreten können. „Bei unserer Bewertung unseres ‚Challenge-Sets‘ englischer Texte identifizierte unser Klassifikator 26 % des von der KI verfassten Textes (true positives) korrekt als ‚wahrscheinlich von einer KI geschrieben‘, während 9 % der von Menschen verfassten Texte korrekt identifiziert wurden Text wurde fälschlicherweise als von KI geschrieben gekennzeichnet (False Positives)", schrieb der OpenAI-Mitarbeiter.
Das neue Tool ist beim Parsen von Artikeln mit weniger als 1000 Zeichen nicht zuverlässig, und OpenAI rät davon ab, es für andere Sprachen als Englisch zu verwenden. Außerdem kann der KI-Text leicht genug aktualisiert werden, um zu verhindern, dass der Klassifikator richtig urteilt, dass es sich nicht um das Werk eines Menschen handelt.
OpenAI sagt, es wende sich an Pädagogen, um die Möglichkeiten und Grenzen von ChatGPT zu diskutieren, und werde weiterhin an der Erkennung von KI-generiertem Text arbeiten.