KI-gestützte „Detektoren“ für KI-verfasste Inhalte wurden als Möglichkeit beworben, menschliches Schreiben im Internet im Zeitalter des KI-Schrotts zu schützen. Leider ist das nicht das, was tatsächlich geschieht.
Von Whitney Webb
Meinungsbeitrag: Dies ist ein auf Unlimited Hangout veröffentlichter Meinungsbeitrag. Die meisten auf UH veröffentlichten Artikel sind keine Meinungsbeiträge, weshalb wir diejenigen, die es sind, eindeutig als solche kennzeichnen.
Für die Leser von Unlimited Hangout dürfte es kein Geheimnis sein, dass ich die Auswirkungen, die Künstliche Intelligenz (KI) auf unabhängige Medien und die Medien im Allgemeinen hat, sehr negativ beurteile. Als jemand, der seit einigen Jahren täglich auf großen Videoplattformen von KI imitiert wird, habe ich sehr deutlich zu spüren bekommen, dass KI zu einer gefährlichen Kraft wird, die es gutgläubigen Lesern/Zuschauern zunehmend erschwert, zwischen dem, was echt ist, und dem, was falsch ist, zu unterscheiden. Ich meine damit nicht nur diejenigen, die meine Inhalte sehen möchten, denn das persönliche Problem, mit dem ich konfrontiert bin, ist ein Mikrokosmos eines viel größeren Problems.
Daher könnte man meinen, ich wäre erfreut, wenn nicht sogar erleichtert gewesen, als ich sah, dass Substack, eine große Plattform für professionelle Autoren, eine Partnerschaft mit einem „KI-Erkennungstool“ eingegangen ist. Ich bin nicht nur nicht erfreut, sondern habe mir nun die Zeit genommen, einen Meinungsbeitrag zu schreiben, in dem ich erkläre, warum ich das für schlecht halte, und außerdem darlege, wohin sich das meiner Meinung nach zu einem großen Teil entwickelt.
Substacks neuer Partner und offenbar das derzeit von den meisten großen Medien bevorzugte KI-Erkennungstool heißt Pangram. Pangram wurde 2023, ursprünglich unter dem Namen Checkfor.ai, von Max Spero und Bradley Emi gegründet. Sowohl Spero als auch Emi sind Stanford-Absolventen, die vor Pangram für Unternehmen wie Nuro und Tesla arbeiteten, wo sie beide an KI-Software für selbstfahrende Autos arbeiteten (also daran, menschliche Fahrer durch KI-Software zu ersetzen). Beide Gründer „sind seit Langem begeistert vom Potenzial der KI, die Gesellschaft zu verändern“, und erklären, sie hätten Pangram gegründet, „um neue Probleme abzumildern, die durch die Verbreitung leistungsfähiger generativer KI-Modelle verursacht werden“.
Ich finde es interessant, dass zwei Stanford-Absolventen, die vom Potenzial der KI zur „Transformation der Gesellschaft“ begeistert sind und anschließend daran arbeiteten, KI-gestützte Software für fahrerloses Fahren zu ermöglichen, plötzlich beschlossen, umzuschwenken und Probleme zu „mildern“, die durch generative KI verursacht werden. Viele der durch generative KI verursachten Probleme wurden tatsächlich bereits vor Jahren von Personen wie dem ehemaligen Google-CEO Eric Schmidt vorhergesagt (Pangram-Mitbegründer Max Spero arbeitete zuvor für Google). Schmidt sagte in einem 2021 gemeinsam mit dem Kriegsverbrecher Henry Kissinger verfassten Buch im Wesentlichen voraus, dass das „transformative Potenzial“ der KI zu dem führen würde, was er als „kognitive Verminderung“ der Massen bezeichnete, und es den Menschen nahezu unmöglich machen würde, selbst zwischen dem, was real ist, und dem, was nicht real ist, zu unterscheiden. Vielleicht wenig überraschend bestand die bevorzugte „Lösung“ von Schmidt und Kissinger für dieses Problem darin, dass wir uns darauf verlassen sollten, dass KI für uns unterscheidet, was real ist und was nicht – mit anderen Worten: dass eine andere KI zum Schiedsrichter unserer Realität wird.
Pangram-Mitbegründer Max Spero (links) und Bradley Emi (rechts)
Ich habe bereits früher über dieses Buch von Schmidt und Kissinger und seine Vorhersagen geschrieben. Dort stellte ich fest, dass diese Vorhersagen und Warnungen – angesichts der Machtnetzwerke, in die beide Männer eingebunden sind/waren – eher eine Offenlegung dessen darstellten, was in Bezug auf KI bereits geplant worden war, als Warnungen darüber, was bei einer massenhaften Einführung von KI geschehen könnte. Dennoch waren die „Warnungen“ von Schmidt und Kissinger ungewöhnlich vorausschauend. Darüber hinaus ähnelt ihre vorgeschlagene Lösung sehr stark dem, was Pangram derzeit anbietet – denn Pangram verwendet KI, um KI-generierte Texte von menschlichen Texten zu unterscheiden. Pangram wird damit zum derzeit bevorzugten KI-Schiedsrichter darüber, was echtes menschliches Schreiben ist und was nicht.
Es hat zweifellos eine erfolgreiche Marketingkampagne gegeben, die uns davon überzeugen soll, dass Pangram das „präziseste“ KI-Schreiberkennungstool auf dem Markt ist. Die Überschriften von Artikeln, die Pangram bewerben, vermitteln im Wesentlichen, dass es Ihnen definitiv sagen wird, ob etwas von KI geschrieben wurde. Wenn Sie über die Überschrift hinaus weiterlesen – was viele nicht tun –, werden Sie im Kleingedruckten feststellen, dass Pangram etwas auch dann als KI-generiert kennzeichnet, wenn KI lediglich dazu verwendet wurde, einen von einem Menschen verfassten Text zu bearbeiten. Pangrams Kennzeichnung „KI-generiert“ unterscheidet nicht wirklich zwischen diesen beiden Fällen, obwohl Mitbegründer Max Spero einräumt, dass diese Kennzeichnung „verändert, wie Menschen an den Text herangehen“.
Die Tatsache, dass Pangram nicht sinnvoll zwischen einem vollständig von KI generierten Text und einem lediglich von KI bearbeiteten Text unterscheiden kann, zeigt, dass es überhaupt kein „KI-Detektor“ ist. Wie Tim Requarth bereits im April feststellte:
Der Begriff KI-„Detektor“ ist etwas irreführend, da Tools wie Pangram nicht eine Datenbank bekannter KI-Texte nach einer Übereinstimmung durchsuchen; sie stellen vielmehr eine Vermutung über die wahrscheinliche Urheberschaft an, die auf Unterschieden in den Mustern zwischen KI-generierten und von Menschen verfassten Texten basiert. Statt als Detektor sollte man es eher als „KI-Inferenzwerkzeug“ oder umgangssprachlicher als „KI-Tool für bestmögliche Vermutungen“ betrachten.
Als Inferenzwerkzeug ist Pangram anfällig für alles, was Schlussfolgerungen so schwierig macht: kleine Stichprobengrößen (ein einzelner Artikel statt eines Korpus), kleine Effektgrößen (da die statistische Distanz zwischen menschlichem und KI-Schreiben schrumpft) und Störfaktoren (ein Mensch, der KI-generierte Texte liest und imitiert, bevor er seinen eigenen Text schreibt).
Tatsächlich funktioniert Pangram, indem es Schlussfolgerungen darüber zieht, ob ein bestimmter Text genügend Wörter, Formulierungen, Satzkonstruktionen usw. enthält, die derzeit in KI-generierten Texten häufig vorkommen. Viele menschliche Autoren verwendeten jedoch bereits lange vor der generativen KI ebenfalls viele dieser Wörter, Formulierungen usw. Infolgedessen haben wir nun Autoren, die ihren vollständig menschlichen Schreibstil verändern, um die Pangram-Götter zufriedenzustellen und zu hoffen, dass sie nicht fälschlicherweise als Produzenten von KI-Schrott abgestempelt werden.
Ein gutes Beispiel dafür wurde kürzlich in einem Beitrag von Alex Kirshner für Slate behandelt. Darin schreibt Kirshner:
Was auch immer die Zukunft für die Genauigkeit von KI-Detektoren bereithält, ich bin beunruhigt darüber, was sowohl das Schreiben durch KI als auch die Detektoren gerade jetzt mit mir machen. Ich mache mir Sorgen darüber, wie KI-Texte und die Bemühungen, sie aufzuspüren, vollständig menschliches Schreiben verändern. Ich schreibe die ganze Woche, jede Woche, und kann spüren, wie die Brandstifter dieser Geschichte (LLMs, insbesondere wenn sie falsch eingesetzt werden) und die Feuerwehrleute (KI-Detektoren) meinen Arbeitsprozess auf negative Weise beeinflussen.
Wie bei vielen Journalisten stammt mein Schreibstil aus den Büchern, Nachrichtenartikeln, Blogs und (ja) Social-Media-Beiträgen, die sich im Laufe der Jahre in meinem Gehirn festgesetzt haben. KI-Schreiben befindet sich inzwischen in meiner Wasserversorgung, unabhängig davon, ob ich jeden neuen Schluck davon identifizieren kann oder nicht. Es scheint unvermeidlich, dass ich begonnen habe, seine Eigenheiten zu verinnerlichen, selbst die berüchtigtsten, wie den unaufhörlichen Gebrauch von Gedankenstrichen und die übermäßige Verwendung der Struktur „Es ist nicht x, sondern y“. Zum einen befürchte ich, dass mich dies zu einem schlechteren Autor machen wird und ein Talent, das gut genug war, um mir hier (und anderswo!) einen Job zu verschaffen, zurück in Richtung des KI-generierten Mittelmaßes zieht. Noch beängstigender ist die Möglichkeit, dass jemand – oder, Gott bewahre, irgendein KI-Detektor – meinen Text mit dem von ChatGPT verwechseln könnte. Ich habe begonnen, mich selbst zu kontrollieren, um dieses Ergebnis zu verhindern. In letzter Zeit habe ich mich einige Male dabei ertappt, wie ich meine eigene Arbeit verändert habe, damit sie „weniger nach KI“ klingt. Dabei habe ich wahrscheinlich Wörter gewählt, für die ich mich sonst nicht entschieden hätte. Es fühlt sich dystopisch an – und ich bezweifle, dass ich damit Erfolg hatte.
Ich würde noch einen Schritt weiter gehen als Kirshner und sagen, dass dieses Ergebnis definitiv dystopisch ist. Noch dystopischer wird es, wenn man bedenkt, dass sich die angeblich „verräterischen“ Muster KI-generierter Texte verändern, sobald neue, verbesserte Modelle veröffentlicht werden – insbesondere da diese buchstäblich Berge obskurer, von Menschen geschriebener Bücher zerlegen, um darauf trainiert zu werden, immer mehr wie Menschen zu schreiben. Währenddessen bemühen sich echte Menschen, die in einer Welt, in der der Pool an Schreibjobs bereits rapide schrumpft, ihren Arbeitsplatz behalten wollen, verzweifelt darum, nicht wie etwas zu klingen, das immer schneller darauf trainiert wird, möglichst genau wie sie zu klingen. Vielleicht ist dies absichtlich kein Spiel, das Menschen gewinnen sollen, und wie ich später erklären werde, bedeutet das, dass Autoren dieses Spiel schnellstmöglich nicht mehr mitspielen sollten.
Bevor wir dazu kommen, gibt es noch einige andere Dinge, die bei Pangram und anderen KI-„Erkennungsunternehmen“ zu beachten sind. Eines davon ist das Problem der falsch-positiven Ergebnisse. Ja, es stimmt, dass Pangram von vermeintlich unabhängigen Forschern (und auch von sich selbst) die niedrigste Falsch-Positiv-Rate der Branche zugeschrieben wird. Nehmen wir für dieses Beispiel Pangrams Behauptung, dass nur 1 von 10.000 von Pangram erzeugten Kennzeichnungen hinsichtlich KI- oder menschlicher Urheberschaft falsch-positiv ist, was bedeutet, dass ein Text als KI-generiert gekennzeichnet wird, obwohl er es nicht ist.
Bei Substack, wo Pangram inzwischen integriert ist, wissen wir nicht genau, wie viele Beiträge durchschnittlich pro Tag veröffentlicht werden, da Substack dies nicht offenlegt, aber wir können schätzen. Die Website selbst behauptet, dass täglich mehr als eine Million Beiträge „von potenziellen Abonnenten in der App entdeckt werden“. Die Website verfügt über mehr als zwei Millionen aktive Publikationen, von denen die meisten mindestens wöchentlich veröffentlichen. Nehmen wir für dieses Beispiel an, dass diese zwei Millionen Publikationen tatsächlich wöchentlich veröffentlichen. Dann werden nach Pangrams Rate jede Woche 200 davon fälschlicherweise als positiv eingestuft. Über ein Jahr (52 Wochen) kommen wir auf mehr als 10.000 Substack-Artikel, die fälschlicherweise als KI gekennzeichnet werden, obwohl sie es nicht sind.
Obwohl diese Zahl sicherlich immer noch niedriger ist als das, was Pangrams Konkurrenten liefern, könnten – wenn wir davon ausgehen, dass diese 10.000 falsch-positiven Ergebnisse unterschiedliche Publikationen betreffen – 10.000 menschliche Autoren fälschlicherweise als Produzenten von KI-Schrott abgestempelt werden, was ihren Ruf, ihre Einnahmen und vielleicht am wichtigsten ihr Vertrauensverhältnis zu ihrem Publikum innerhalb dieses Kalenderjahres beeinträchtigen könnte. Ich sehe darin einen Versuch, das Vertrauen in die Authentizität eines Autors aus der Beziehung zwischen Autor und Publikum herauszulösen und stattdessen zwischen Pangram und dem Publikum eines Autors anzusiedeln.
Während dies Statistiken sind, die Pangram und seine Partner zu Marketingzwecken verwenden, stehen hinter diesen Zahlen echte menschliche Autoren, die mit einer Anschuldigung durch Pangrams KI konfrontiert werden, die ihr Geschäft ruinieren könnte. Wenn sich dieser Effekt über Jahre hinweg summiert, könnte theoretisch der Pool menschlicher Autoren, deren Arbeiten von Pangram noch nicht als KI gekennzeichnet wurden, mit der Zeit immer kleiner werden. Es ist außerdem berechtigt festzustellen, dass die von Pangram angeführte Falsch-Positiv-Rate zugleich die niedrigste ist, die in Untersuchungen zu seinem Produkt aufgetaucht ist, und sie wird am häufigsten zitiert, weil das Unternehmen sie als für seine Interessen am günstigsten betrachtet. Es ist durchaus plausibel, dass die tatsächliche Falsch-Positiv-Rate höher liegt.
Hinzu kommt das Problem, dass man, wenn man denselben Text mehrmals durch Pangram laufen lässt, wahrscheinlich stark schwankende – statt konsistente – Ergebnisse erhält, wodurch Pangrams Urteile eher wie ein Glücksspiel erscheinen als wie irgendeine sinnvolle „Erkennung“ von KI-Nutzung.
Ein weiterer wichtiger Aspekt, der im Hinblick auf Pangram untersucht werden sollte, ist das Potenzial, dieses Tool gezielt als Waffe zur Zensur und/oder Diskreditierung eines bestimmten Journalisten oder Mediums einzusetzen. Max Spero, Pangrams Mitbegründer, wurde insbesondere beschuldigt, seinen Twitter-Account genutzt zu haben, um bestimmte Medien und Journalisten wegen des Einsatzes von KI öffentlich anzuprangern, was in den vergangenen Monaten für große Schlagzeilen und Kontroversen gesorgt hat.
Ich glaube nicht, dass es für den Zweck dieses Artikels wirklich relevant ist zu untersuchen, ob die gegen diese Journalisten und Medien erhobenen Vorwürfe wahr sind oder nicht. Wie bereits erwähnt, produziert Pangram falsch-positive Ergebnisse, aber es ist ebenso möglich, dass diese Journalisten KI in irgendeiner Form verwendet, dies jedoch nicht offengelegt haben. Relevant ist hier jedoch, dass insbesondere Spero das Urteil des KI-„Detektors“ seines Unternehmens dazu benutzt hat, gezielte Anschuldigungen gegen bestimmte Journalisten und Medien als Waffe einzusetzen.
Als langjährige Autorin in unabhängigen Medien, die regelmäßig über kontroverse Themen geschrieben hat, bevor es später ungefährlich wurde, dies zu tun (siehe meine frühen Arbeiten über Epsteins Verbindungen zum israelischen Geheimdienst, Peter Thiel und Palantir sowie andere Themen), bin ich kein Fan der Mainstream- oder „Legacy“-Medien. Mehr als einmal haben sie mich entweder diffamiert oder meine Recherchen und Texte verwendet, ohne mich als Quelle zu nennen. Einen großen Teil meiner Karriere habe ich außerdem damit verbracht, die häufig irreführenden Narrative auseinanderzunehmen, die sie verbreiten. Daher neige ich dazu, der Authentizität und Wahrhaftigkeit von Artikeln skeptisch gegenüberzustehen, die von vielen derselben großen Medien veröffentlicht werden, die Spero ins Visier genommen hat. Es gibt jedoch noch ein weiteres Zitat von Spero, das Ihre Aufmerksamkeit erregen könnte, wenn Sie die unabhängigen Medien in den vergangenen zehn Jahren aufmerksam verfolgt haben.
In einem von TechCrunch veröffentlichten Artikel über Pangrams jüngste Kapitalaufnahme von neun Millionen Dollar sprach Spero darüber, Pangram gegründet haben zu wollen, um neue Probleme zu entschärfen, die nach der öffentlichen Veröffentlichung generativer KI-Tools entstanden seien. Als Beispiel dafür, welche neuen Probleme infolge der zunehmenden Nutzung von KI entstanden seien, nannte Spero „LLM-gestützte russische Desinformationskampagnen und von den VAE beeinflusste Kampagnen auf Twitter“.
Vielleicht erinnern Sie sich an die Zeit, die ungefähr vor zehn Jahren begann und sich seitdem über viele Jahre fortsetzte, in der jede Berichterstattung unabhängiger Medien, die den Machthabern als unbequem galt – insbesondere über US-Stellvertreterkriege im Ausland –, fälschlicherweise als „russische Desinformation“ bezeichnet wurde.
Vielleicht erinnern Sie sich aus jüngerer Zeit daran, dass pro-israelische Influencer und Medien in ähnlicher Weise behaupteten, die Kritik an Israel in den vergangenen Jahren sei angeblich durch Finanzierungen aus Katar vorangetrieben worden und nicht durch die öffentliche Empörung über Israels live übertragenen Völkermord an den Palästinensern im Gazastreifen. Oder wie wäre es mit der neueren Behauptung, dass LLM-gestützte Bot-Accounts aus China, die überhaupt keine Reichweite hatten, in Wahrheit heimlich hinter dem wachsenden Misstrauen der Amerikaner gegenüber Big Tech und ihrem Unmut über Rechenzentren stecken?
Wenn Sie das lange genug verfolgt haben, ist Ihnen vielleicht ein Muster aufgefallen, bei dem Kritiker bestimmter Machtstrukturen routinemäßig und fälschlicherweise als staatlich finanzierte Propagandisten oder „Bots“ bezeichnet werden, um nicht nur die Kritiker selbst zu diskreditieren, sondern auch das dahinterstehende größere Anliegen – sei es die Auswirkung von Rechenzentren oder imperialen Kriegen. Ich weiß nicht, ob Speros Absicht mit Pangram darin besteht, das Produkt seines Unternehmens auf ähnliche Weise als Waffe einzusetzen, aber es ist sicherlich möglich.
Die Tatsache jedoch, dass Speros Pangram mit Newsguard zusammenarbeitet, erhöht diese Möglichkeit sicherlich. Wie ich bereits 2019 schrieb, ist Newsguard ein fragwürdiger „Faktenprüfer“, der ursprünglich geschaffen wurde, um unabhängige Medien zu diskreditieren, die der US-Außenpolitik kritisch gegenüberstehen, während offen eingestandene US-Propagandaorgane wie VOA unbehelligt blieben.
Erwähnenswert sind außerdem Newsguards Verbindungen zum nationalen Sicherheitsapparat – beispielsweise gehörten ursprünglich die ehemaligen Leiter der CIA und des DHS unter George W. Bush zu seinen Beratern bei der Entscheidung darüber, was „Fake News“ ist und was nicht. Einer ihrer wichtigsten Investoren ist der Gründer von Kroll Associates, Jules Kroll, dessen Unternehmen häufig als „private CIA“ bezeichnet wird. Nun bestimmt Newsguard gemeinsam mit Pangram, was „KI-Schrott“ ist und was nicht, und hat Pangram genutzt, um einen Dienst zur „Echtzeit-Erkennung von ‚KI-Content-Farmen‘“ einzuführen.
Was könnte besser geeignet sein, eine Gruppe von Reportern und eine damit einhergehende Welle öffentlicher Stimmung digital auszulöschen, als einen inzwischen „vertrauenswürdigen“ KI-Detektor zu verwenden, um sowohl die Autoren als auch die Stimmung als unauthentisch und maschinengeneriert zu kennzeichnen?
Das Potenzial besteht darin, dass Pangram zu einer neuen Methode werden könnte, von Menschen verfasste, aber unbequeme Inhalte zu zensieren – insbesondere dann, wenn als KI-generiert gekennzeichnete Inhalte irgendwann algorithmisch gegenüber den von Pangram als menschlich eingestuften Inhalten herabgestuft werden. Der Öffentlichkeit wird erzählt werden, dass der „KI-Schrott“ vergraben werde, während es in Wirklichkeit abweichende Meinungen sind.
Für mich sieht es so aus, als befinde sich Pangram derzeit in der Phase, in der die Allgegenwärtigkeit seines Produkts normalisiert und „Vertrauen“ bei denjenigen aufgebaut wird, die Substack oder irgendeine andere Plattform (oder Browser-Erweiterung) verwenden, in die Pangram integriert ist. Während dieser Phase werden die Leser darauf trainiert, eine Pangram-Kennzeichnung zu sehen und ihren Ergebnissen zu vertrauen, ohne dass weitere Informationen erforderlich sind.
Auf diese Weise kann ein Unternehmen wie Pangram 14 Millionen Dollar an Finanzierungen einwerben – darunter von einem der Hauptinvestoren von Anthropic – für ein Produkt, das kostenlos verfügbar ist. Wie über Online-Produkte schon früher gesagt wurde: Wenn das Produkt kostenlos ist, dann sind Sie das Produkt. In diesem Fall glaube ich, dass das Produkt darin besteht, Sie darauf zu trainieren, Ihr „Vertrauen“ von der Person oder dem Medium, das Sie lesen, auf Pangram zu übertragen. Sobald Sie einem KI-„Detektor“ vertrauen, werden Sie seinen Urteilen vertrauen – vielleicht sogar mehr als dem Autor, dem Sie zuvor Vertrauen entgegengebracht hatten.
Pangrams Mitbegründer haben Pangram nicht geschaffen, um von Menschen verfasste Texte und menschliche Sprache zu schützen. Pangrams Mitbegründer sind seit Langem begeistert davon, dass KI die „Gesellschaft transformieren“ wird, und unmittelbar vor Pangram entwickelten sie Algorithmen, um menschliche Fahrer durch KI zu ersetzen. Wie oben erwähnt, gründeten sie Pangram, um unter anderem das zu stoppen, was sie als staatlich finanzierte Einflussoperationen bezeichneten, sowie andere „Probleme“, die nach der öffentlichen Veröffentlichung generativer KI-Tools entstanden.
Da sich die öffentliche Stimmung gegen ihre früheren Big-Tech-Arbeitgeber wendet – sei es wegen Rechenzentren, „smarter“ Brillen oder etwas anderem –, könnten Pangrams Mitbegründer eine neue Möglichkeit bieten, Accounts verschwinden zu lassen, die als zu kritisch gegenüber der „Transformation“ der Gesellschaft durch KI angesehen werden. Vielleicht auch nicht, aber verzeihen Sie mir meine Skepsis.
Zum Abschluss möchte ich noch einmal auf das Buch von Schmidt und Kissinger über KI und dessen Vorhersagen zurückkommen. In unabhängigen Medien warnen viele vor der Hegelschen Dialektik, die auch als „Problem-Reaktion-Lösung“ bekannt ist. Das bedeutet: Die Machthaber schaffen zunächst das Problem, warten dann auf die Reaktion der Öffentlichkeit und bieten der Öffentlichkeit schließlich als Lösung genau das politische Ergebnis an, das sie von Anfang an wollten.
Es ist sicherlich praktisch, dass Schmidt und Kissinger – zwei sehr schreckliche Menschen, die beide auf unterschiedliche Weise dazu beigetragen haben, dieses Chaos zu schaffen – vorausschauend vorhergesagt haben, KI werde dazu führen, dass Menschen nicht mehr erkennen können, was real ist und was nicht. Nun ist ihre Vorhersage zu unserer Realität geworden, und wie aufs Stichwort ist das Unternehmen Pangram aufgetaucht, um das Problem des KI-Schrotts zu lösen – von dem seine eigenen Investoren profitieren –, indem es uns genau das anbietet, was auch die bevorzugte „Lösung“ von Schmidt und Kissinger war: Menschen sollen sich auf einen KI-Schiedsrichter verlassen, der ihnen sagt, was real ist und was nicht.
Wie ich bereits geschrieben habe, besteht der offensichtliche Ausweg aus diesem dystopischen Spiel darin, es nicht mitzuspielen. Vertrauen Sie Pangrams KI nicht einfach deshalb, weil sie „autoritativ“ aussieht und positive PR erhalten hat. Sie ist kein „Detektor“, wie sie behauptet, und ihre Ergebnisse für denselben Text sind nur selten konsistent.
Wenn Sie Leser sind, bitten Sie die Autoren, die Sie lesen, offenzulegen, wie sie KI einsetzen. Vertrauen sollte direkt zwischen Autoren und ihren Lesern aufgebaut werden – ohne einen KI-Mittelsmann und Schiedsrichter über Authentizität oder „Menschlichkeit“.
Bei Unlimited Hangout verwenden wir niemals KI zum Schreiben, Recherchieren oder Bearbeiten unserer Artikel. Dies wird in unserer Richtlinie zur KI-Nutzung deutlich gemacht, die Sie auf unserer „Über uns“-Seite lesen können, sobald die neu gestaltete Website von Unlimited Hangout in Kürze online geht. (In der Zwischenzeit können Sie sie hier lesen.) Wir haben diese Richtlinie erstellt, nachdem wir bei der Entwicklung des IMA AI Transparency Pledge mitgewirkt hatten, der unabhängige Journalisten und Medien dazu ermutigt, freiwillig offenzulegen, ob und wie sie KI einsetzen.
Wie jeder andere menschliche Autor kann ich meinen Lesern lediglich meine Recherchen, meine Quellen und meine authentische Analyse sowie – im Fall dieses Artikels – meine Meinungen anbieten. Ich werde meine Artikel nicht zwanghaft durch Pangram laufen lassen und auf ein Ergebnis von „100 % von Menschen erstellt“ hoffen. Ich werde nicht zulassen, dass die Angst vor einem ungünstigen Pangram-Ergebnis meine Art zu schreiben verändert und mir Angst davor macht, Wörter wie „delve“ oder „profound“ zu verwenden, weil Pangram mich dafür bestrafen könnte.
Ich weiß, dass ich ohne KI schreibe, und ich habe genügend Vertrauen zu meinen Lesern aufgebaut, sodass sie wissen, dass ich KI auch nicht beim Schreiben verwende. Ähnlich wie jene Institutionen, die unbequeme Reporter als russische/chinesische „Bots“ bezeichnet haben, geht Pangram davon aus, dass Sie nicht selbst feststellen können, was authentisch und was unauthentisch ist, und dass Sie Pangram brauchen, um es Ihnen zu sagen.
Auch wenn kritisches Denken im Zeitalter der KI möglicherweise Mangelware ist, lassen Sie es bei sich nicht dazu kommen. Sie brauchen keine weitere KI, die Ihnen „hilft“ festzustellen, was für Sie authentisch wirkt oder erscheint und was nicht. Sie brauchen keine KI, die Ihnen sagt, was Sie lesen oder nicht lesen sollten und wem Sie vertrauen oder nicht vertrauen sollten.
Es ist niemals eine gute Idee, sein kritisches Denken und seine Meinungen an andere auszulagern – insbesondere nicht an eine nichtmenschliche KI.
