Wie erkennt man von CHATGPT generierte Texte ?
Die Geschichte von Edward Tian
Während viele Amerikaner am Neujahrstag einen Kater hatten, arbeitete der 22-jährige Edward Tian fieberhaft an einer neuen App zur Bekämpfung des Missbrauchs eines leistungsstarken, neuen Tools der künstlichen Intelligenz namens ChatGPT.
Angesichts des großen Interesses, das es ausgelöst hat, ist es gut möglich, dass Sie schon von ChatGPT gehört haben. Es handelt sich um einen interaktiven Chatbot, der auf maschinellem Lernen basiert. Die Technologie hat im Grunde das gesamte Internet verschlungen, liest die kollektiven Werke der Menschheit und lernt Sprachmuster, die sie nachbilden kann. Alles, was Sie tun müssen, ist, ihm eine Aufforderung zu geben, und ChatGPT kann eine endlose Reihe von Dingen tun: eine Geschichte in einem bestimmten Stil schreiben, eine Frage beantworten, ein Konzept erklären, eine E-Mail verfassen - einen College-Aufsatz schreiben - und es wird in Sekundenschnelle einen zusammenhängenden, scheinbar von Menschen geschriebenen Text ausspucken.
Diese Technologie ist fantastisch - und erschreckend zugleich.
"Ich glaube, wir sind an einem Wendepunkt angelangt", sagt Tian. "Diese Technologie ist unglaublich. Ich glaube wirklich, dass ihr die Zukunft gehört. Aber gleichzeitig ist es so, als würden wir die Büchse der Pandora öffnen. Und wir brauchen Sicherheitsvorkehrungen, um sie verantwortungsvoll einsetzen zu können.
Tian studiert an der Princeton University im Hauptfach Informatik und im Nebenfach Journalismus. Vor seinem jüngsten Ausflug ins Rampenlicht waren Tians größte Pläne der Abschluss des Colleges und das Ziehen seiner Weisheitszähne. Jetzt erhält er Anrufe von Risikokapitalfirmen, Bildungsexperten und globalen Medienvertretern.
In den letzten Jahren hat Tian ein KI-System namens GPT-3 untersucht, einen Vorgänger von ChatGPT, der weniger benutzerfreundlich und für die Allgemeinheit weitgehend unzugänglich war, da er hinter einer Bezahlschranke lag. Im Rahmen seiner Studien in diesem Herbstsemester untersuchte Tian, wie man von dem KI-System geschriebenen Text erkennen kann, während er im Natural Language Processing Lab von Princeton arbeitete.
Als sich das Semester dem Ende zuneigte, gab OpenAI, das Unternehmen hinter GPT-3 und anderen KI-Tools, ChatGPT kostenlos für die Öffentlichkeit frei. Für die Millionen von Menschen auf der ganzen Welt, die es seither genutzt haben, ist die Interaktion mit der Technologie wie ein Blick in die Zukunft; eine Zukunft, die vor nicht allzu langer Zeit noch wie Science-Fiction erschienen wäre.
Obwohl er KI studiert hat, war Tian wie alle anderen von der Leistungsfähigkeit von ChatGPT verblüfft. Er und seine Freunde nutzten es, um Gedichte und Raps übereinander zu schreiben. "Und es war wie: Wow, diese Ergebnisse sind ziemlich gut", sagt Tian. Es schien, als ob jeder auf dem Campus darüber sprach, wie bemerkenswert diese neue Technologie war. Sicher, der Text, den sie erzeugt, ist ziemlich formelhaft und nicht immer genau. Aber es fühlt sich auch wie der Beginn einer Revolution an.
Bei vielen Nutzern der neuen Technologie schlug die Verwunderung schnell in Besorgnis um. Wie viele Arbeitsplätze werden dadurch vernichtet? Wird dies ruchlose Akteure befähigen und unseren öffentlichen Diskurs weiter korrumpieren? Wie wird sich dies auf unser Bildungssystem auswirken? Welchen Sinn hat es, in der Schule das Schreiben von Aufsätzen zu lernen, wenn die KI - die in naher Zukunft voraussichtlich exponentiell besser werden wird - dies für uns tun kann?
Stephen Marche, der letzten Monat in The Atlantic schrieb, erklärte "Der College-Aufsatz ist tot". Er stellt ChatGPT und die KI-Revolution als Teil einer existenziellen Krise für die Geisteswissenschaften dar. "Der Aufsatz, insbesondere der Aufsatz für Studenten, steht seit Generationen im Mittelpunkt der humanistischen Pädagogik", schreibt Marche. "Er ist die Art und Weise, wie wir Kindern beibringen, zu forschen, zu denken und zu schreiben. Diese ganze Tradition ist dabei, von Grund auf zerstört zu werden."
Edward gegen die Maschine
Nach dem Ende des Herbstsemesters reiste Tian über die Feiertage nach Toronto zurück. Er verbrachte die Zeit mit seiner Familie. Er schaute Netflix. Aber er konnte die Gedanken an die monumentalen Herausforderungen nicht abschütteln, vor denen die Menschheit durch die rasant fortschreitende KI steht.
Und dann hatte er eine Idee. Was wäre, wenn er das, was er in den letzten Jahren in der Schule gelernt hatte, anwenden würde, um der Öffentlichkeit zu helfen, zu erkennen, ob etwas von einer Maschine geschrieben wurde?
Tian hatte bereits das Know-how und sogar die Software auf seinem Laptop, um ein solches Programm zu erstellen. Ironischerweise wird diese Software namens GitHub Co-Pilot von GPT-3 betrieben. Mit ihrer Hilfe war Tian in der Lage, innerhalb von drei Tagen eine neue App zu erstellen. Das ist ein Beweis für die Fähigkeit dieser Technologie, uns produktiver zu machen.
Am 2. Januar veröffentlichte Tian seine App. Er nannte sie GPTZero. Sie verwendet ChatGPT gegen sich selbst und prüft, ob das KI-System bei der Erstellung eines bestimmten Textes entweder gar nicht oder stark involviert ist.
Als Tian an diesem Abend zu Bett ging, erwartete er nicht viel von seiner App. "Als ich die App veröffentlichte, dachte ich, dass bestenfalls ein paar Dutzend Leute sie ausprobieren würden", sagt Tian. "Ich habe nicht damit gerechnet, was passiert ist.
Als Tian aufwachte, war sein Telefon explodiert. Er sah zahllose SMS und DMs von Journalisten, Schulleitern, Lehrern und so weiter, von Orten so weit weg wie Frankreich und der Schweiz. Seine App, die auf einer kostenlosen Plattform gehostet wird, wurde so beliebt, dass sie abstürzte. Begeistert von der Popularität und dem Zweck seiner App, hat die Hosting-Plattform Tian seitdem die nötigen Ressourcen zur Verfügung gestellt, um die Dienste der App für ein Massenpublikum zu skalieren.
Lehrer erkennen, ob ihre Schüler ihre Aufsätze aus ChatGPT plagiieren. "Lehrer aus der ganzen Welt sind darüber besorgt", sagt Tian.
Kampf gegen die Hallmarkisierung von allem
Tian sagt, er habe GPTZero vor allem aus zwei Gründen entwickelt. Das erste ist Transparenz. "Die Menschen verdienen es zu wissen, ob etwas von einem Menschen oder von einer Maschine geschrieben wurde", sagt er.
In diesem Sinne ist eine offensichtliche Anwendung für GPTZero, Lehrern zu helfen, zu erkennen, ob ihre Schüler ihre Aufsätze von ChatGPT plagiieren. "Lehrer aus der ganzen Welt sind darüber besorgt", sagt Tian.
Einige in der Welt der Technologie sind jedoch nicht davon überzeugt, dass das Kopieren und Einfügen dessen, was ChatGPT ausspuckt, überhaupt ein Problem darstellt. "ChatGPT-Plagiat' ist ein absolutes Nicht-Problem", twitterte Marc Andreessen, ein Risikokapitalgeber und Internet-Pionier, Anfang des Monats. "Wenn man eine Maschine nicht überlisten kann, warum schreibt man dann überhaupt?"
Elon Musk, einer der ursprünglichen Mitbegründer von OpenAI, twitterte kürzlich: "Es ist eine neue Welt. Auf Wiedersehen, Hausaufgaben", und reagierte damit auf Berichte, wonach die Schulen strenge neue Maßnahmen gegen ChatGPT-Plagiate einführen würden.
Natürlich sind das nur oberflächliche Tweets. Aber es fühlt sich wirklich so an, als wären wir in eine neue Welt eingetreten, in der wir gezwungen sind, unser Bildungssystem und sogar den Wert - oder zumindest die Methode - des Schreibunterrichts für Kinder neu zu bewerten.
Viele von uns haben den Willen - ja sogar die Fähigkeit - verloren, sich Telefonnummern zu merken, als die Handys aufkamen. Indem wir das Auswendiglernen an eine Maschine ausgelagert haben, sind wir von ihr abhängig geworden, um unsere Freunde und Familie anzurufen. Man könnte sagen, dass es das Beste ist, und dass wir uns dadurch auf andere Dinge konzentrieren können. Oder man kann es als eine Art De-Evolution betrachten, als eine Verblödung unserer geistigen Fähigkeiten. Verlieren Sie Ihr Handy nicht!
Jetzt steht die Menschheit vor der Aussicht auf eine noch größere Abhängigkeit von Maschinen. Es ist möglich, dass wir auf eine Welt zusteuern, in der ein noch größerer Teil der Bevölkerung die Fähigkeit verliert, gut zu schreiben. Es ist eine Welt, in der unsere gesamte schriftliche Kommunikation wie eine Hallmark-Karte aussehen könnte, geschrieben ohne unsere eigene Kreativität, Persönlichkeit, Ideen, Emotionen oder Eigenheiten. Nennen wir es die Hallmarkisierung von allem.
Aber zumindest wissen die Leute, dass wir ihnen Hallmark-Karten schenken, wenn wir ihnen Hallmark-Karten schenken. Wenn Sie ChatGPT verwenden, um Ihrem Freund oder Ihrer Freundin zu gratulieren oder sich zu entschuldigen, weiß er oder sie vielleicht nicht einmal, dass es von einer Maschine geschrieben wurde.
Das bringt uns zu dem anderen Zweck, den Tian für seine App ins Auge fasst: die Erkennung und Förderung von Originalität in menschlichen Texten. "Wir verlieren diese Individualität, wenn wir aufhören, das Schreiben an Schulen zu lehren", sagt Tian. "Menschliches Schreiben kann so schön sein, und es gibt Aspekte davon, die Computer niemals übernehmen sollten. Und ich habe das Gefühl, dass dies gefährdet ist, wenn jeder ChatGPT zum Schreiben verwendet.
Tian ist kein Luddit. Er will die KI nicht aufhalten. Er hält das für unmöglich und ist gegen pauschale Verbote der Nutzung von ChatGPT, wie sie kürzlich von öffentlichen Schulen in New York City angekündigt wurden. Seiner Meinung nach werden die Schüler die Technologie ohnehin nutzen. Und er sagt, es sei wichtig, dass sie lernen, wie man sie benutzt. Sie müssen sich der technologischen Veränderungen bewusst sein, die unsere Welt umwälzen. "Es macht keinen Sinn, blind in diese Zukunft zu gehen", sagt er. "Stattdessen muss man sich die nötigen Sicherheitsvorkehrungen für den Eintritt in diese Zukunft schaffen.
Was seine Pläne für die Zeit nach dem College angeht, so sagt Tian, dass die Begeisterung - und die eindeutige Nachfrage - für seine neue App ihn davon überzeugt hat, dass er sich darauf konzentrieren sollte, sie zu einem besseren, genaueren Produkt zu machen. "Wenn Sie Lehrer oder Erzieher sind, würde unser Team - das im Moment nur aus mir und meinem besten Freund aus dem College besteht, der erst gestern dazugekommen ist - gerne mit Ihnen sprechen", sagt Tian.
Wenn Sie also auf einen Text stoßen, von dem Sie vermuten, dass er von einer Maschine geschrieben wurde, lassen Sie ihn vielleicht durch Tians neue App laufen. Sie finden sie unter GPTZero.me.
