obersten Zeile
Gefälschte wissenschaftliche Abstracts und Forschungsarbeiten, die mit OpenAIs hochentwickelter Chatbox ChatGPT erstellt wurden, täuschten Wissenschaftler laut einer neuen Studie in fast einem Drittel der Fälle vor, sie seien echte Berichte, da das unheimlich menschenähnliche Programm angesichts der Zukunft des Künstlichen die Augenbrauen hochzieht Intelligenz.
Wissenschaftliche Abstracts, die auf der KI-Chatbox ChatGPT generiert wurden, täuschten Forscher vor, sie seien es … [+]
Fakten
Forscher an der Northwestern University und der University of Chicago wiesen ChatGPT an, gefälschte Forschungszusammenfassungen auf der Grundlage von 10 echten in medizinischen Fachzeitschriften veröffentlichten zu erstellen, und fütterten die Fälschungen durch zwei Erkennungsprogramme, die versuchten, sie von echten Berichten zu unterscheiden.
Sie stellten den Gutachtern sowohl die gefälschten als auch die echten Papiere zur Verfügung und baten sie, in einer Blindstudie zwischen den beiden zu unterscheiden.
Diese Rezensenten identifizierten von ChatGPT erstellte Abstracts in 68 % der Fälle korrekt, obwohl sie auch 14 % der echten Abstracts fälschlicherweise als gefälschte gekennzeichneten.
Obwohl die gefälschten Papiere zu 100 % einzigartig waren, wenn sie von einem Plagiatserkennungsprogramm gemessen wurden, befolgten nur 8 % die von wissenschaftlichen Zeitschriften geforderten Formatierungsanforderungen.
Laut den Rezensenten waren die gefälschten Papiere „vage und hatten eine formelhafte Schreibweise“, obwohl es laut der Studie „überraschend schwierig“ war, festzustellen, welche echt waren und welche nicht.
Infolgedessen fordern Forscher Zeitschriften und medizinische Konferenzen, die sich auf wissenschaftliche Studien stützen, auf, „strenge wissenschaftliche Standards“ einzuhalten und KI-Ausgangsdetektoren bei der Überprüfung von Artikeln zu implementieren.
Entscheidendes Zitat
„Dies ist nicht jemand, der eine Zusammenfassung in freier Wildbahn liest“, sagte die Forscherin der Northwestern University, Catherine Gao, und fügte hinzu, „die Tatsache, dass unsere Gutachter die von der KI generierten in 32% der Fälle immer noch übersehen haben, bedeutet Folgendes [generated]
Abstracts sind wirklich gut.“
SchlüsselHintergrund
ChatGPT von OpenAI, eine KI-gestützte Chatbox – eine Software, die entwickelt wurde, um menschliche Konversationen nachzuahmen – wurde als die fortschrittlichste Chatbox aller Zeiten gepriesen und hat seit ihrer Veröffentlichung im November die Augenbrauen hochgezogen, Gedichte schreiben, Geschichten erzählen die „unheimlich gut“ sind Python-Computercode andere Schreiben von Essays auf College-Niveau. Das kostenlos zu verwendende Programm kommt, nachdem Unternehmen wie Microsoft und Meta mit ihren eigenen Chatboxen experimentiert haben, obwohl sie es im Gegensatz zu ChatGPT nicht verhindert haben Rassist andere frauenfeindlich Rhetorik von der Verbreitung. Seit seiner Veröffentlichung haben einige Kritiker jedoch gewarnt, dass ChatGPT der menschlichen Konversation zu ähnlich ist und von Studenten dazu verwendet werden könnte schummeln auf Schularbeiten und von Unternehmen, um bestimmte Rollen durch KI zu ersetzen, einschließlich Programmierer andere Journalisten. Letzte Woche das System der New York City Public Schools verboten es geht um Betrug.
Tangente
Die Studie kommt als Microsoft angeblich aufholen auf einen 10-Milliarden-Dollar-Investitionsvertrag, der OpenAI einen Wert von 29 Milliarden Dollar geben und Microsoft einen Anteil von 49 % am Unternehmen sowie 75 % seines Gewinns einbringen würde, bis es seine massive Investition zurückerhält. Zwei andere Risikokapitalfirmen – The Founders Fund und Thrive Capital – haben ebenfalls angeblich Gespräche geführt, um OpenAI-Aktien im Wert von 300 Millionen US-Dollar von Aktionären zu kaufen (OpenAI wird nicht öffentlich gehandelt).
Weiterführende Lektüre
Hier ist, was Sie über ChatGPT von OpenAI wissen sollten – was es stört und wie es verwendet wird (Forbes)