Ich bin kein Roboter: KI-Agenten und das Ende der Captchas

Als ob es nicht schon seltsam genug wäre, dass Menschen täglich beweisen müssen, dass sie keine Roboter sind , ist es sicherlich seltsam genug, dass Roboter diese Tests mittlerweile besser bestehen als wir.

Die neueste Episode, eine Art umgekehrte Version von Blade Runner , tauchte vor einigen Tagen auf Reddit auf , als ein Benutzer Screenshots veröffentlichte, die zeigten, wie der neue ChatGPT-Agent von OpenAI den gängigsten Captcha-Code , bei dem wir auf „ Ich bin kein Roboter “ klicken müssen, problemlos überwunden hatte.

Was ist ChatGPT Agent?

ChatGPT Agent ist ein neues System, das es dem künstlichen Assistenten von OpenAI ermöglicht, seinen eigenen Browser zu steuern, um in unserem Namen auf das Internet zuzugreifen, darin zu navigieren und Vorgänge auszuführen (z. B. Online-Shopping oder der Kauf einer Bahnfahrkarte), während wir lediglich den gesamten Vorgang überwachen und nur in der wichtigsten Phase, beispielsweise zum Zeitpunkt der Zahlung, direkt eingreifen.

Beim Surfen im Internet stieß ChatGPT Agent unweigerlich auf Captchas.

Doch anstatt den menschlichen Benutzer zu bitten, die Fehler zu beheben, tat er es selbst und kommentierte: „Der Link wurde eingefügt, also klicke ich jetzt auf die Schaltfläche ‚Bestätigen, dass ich ein Mensch bin‘, um die Verifizierung bei Cloudflare abzuschließen. Dieser Vorgang ist notwendig, um zu beweisen, dass ich kein Bot bin, und um mit der Aktion fortzufahren.“

Der Bot, der sich für einen Menschen hält

Die Ironie, dass ein Bot auf ein Hindernis stößt, das speziell dafür konzipiert wurde, ihn zu blockieren, und sich bewusst dazu entscheidet, es zu umgehen, wurde von Reddit-Benutzern mit dem Kommentar erfasst: „ Schließlich wurde er mit menschlichen Daten trainiert, warum sollte er sich als Bot zu erkennen geben ?“

Das Paradox, dass wir Menschen durch das häufige Lösen von Captchas Maschinen darauf trainiert haben, diese zu lösen, war, wie wir sehen werden, schon immer eine der Einschränkungen dieser Tests .

Captchas, offiziell als „Vollständig automatisierter öffentlicher Turing-Test zur Unterscheidung von Computern und Menschen“ bekannt, haben einen ganz bestimmten Zweck: Sie sollen verhindern, dass bestimmte Websites – insbesondere solche, die Dienste anbieten – mit Anfragen von automatisierten Programmen überschwemmt werden, die dieselbe Operation immer wieder ausführen können.

Wenn Sie sicherstellen, dass sich auf der anderen Seite des Bildschirms ein Mensch befindet, können Sie verhindern, dass das Internet mit Spam, Betrugsversuchen und mehr überflutet wird.

Die Komplexität von Captchas

In den letzten Jahren wurden Captchas oft in zwei Stufen unterteilt. Die erste und einfachste ist das Kontrollkästchen „Ich bin kein Roboter“. Wie Ars Technica erklärt , analysiert dieses Kontrollkästchen mehrere Signale – darunter Mausbewegungen, die zum Klicken benötigte Zeit , den Browser-Fingerabdruck, der die Identifizierung eines Benutzers ermöglicht, und mehr – um festzustellen, ob der Klicker ein Mensch ist oder nicht.

Wenn dieser erste Test nicht bestanden wird, gelangen wir zur zweiten – und verhassten – Ebene: der Ebene, in der wir aufgefordert werden, Ampeln, Autos, Fußgängerüberwege oder andere Objekte innerhalb einer Reihe von Bildern zu identifizieren.

Diese visuellen Quiz mögen schwieriger sein, aber bereits 2016 haben Forscher der Columbia University gezeigt, dass sie 70 % der Captchas mithilfe von Bilderkennungstools lösen können.

Ein unvermeidliches Paradoxon

Das ist unvermeidlich, wenn man bedenkt, was passiert, nachdem wir die Captchas gelöst haben: Die Daten zu unseren Aktionen, Ampeln oder andere Merkmale korrekt zu identifizieren, werden verwendet, um künstliche Intelligenzsysteme zu trainieren , die dadurch nicht nur besser Bilder erkennen, sondern auch Captchas lösen können . Dieses Paradoxon stand schon immer im Mittelpunkt dieser Quizze und ermöglichte es dem ChatGPT-Agenten wahrscheinlich, menschliche Bewegungen zu simulieren, als er bestätigen sollte, dass er kein Roboter ist.

Dies ist nicht einmal das einzige Paradoxon in diesem Bereich, da immer mehr Klickfarmen Trupps von Menschen anheuern, um Captcha-Codes massenhaft zu knacken, wodurch diese Leute effektiv in Bots verwandelt werden und das System somit erneut betrügen.

Die Zukunft jenseits von Captchas

Ist es also an der Zeit, diese verhassten Captchas für immer aufzugeben?

Derzeit geht man oft in die entgegengesetzte Richtung und entwickelt immer komplexere Quizze : Manche verlangen vom Benutzer, Laute zu erkennen (ursprünglich für Blinde gedacht) oder Melodien anzuhören und anzugeben, wo sich die Tonfolge wiederholt; in anderen Fällen wird der Benutzer gebeten, das 3D-Bild eines Tieres so zu drehen, dass seine Schnauze in die angegebene Richtung zeigt.

Selbst diese fortgeschritteneren Captchas reichen nicht mehr aus, um künstliche Intelligenz zu stoppen.

Im Gespräch mit dem MIT Tech Review erklärte der Computertechnikprofessor Mauro Migliardi, dass die KI mittlerweile darauf trainiert werden könne, jede kognitive Herausforderung zu lösen. Daher sei es notwendig, „physische Captchas“ zu verwenden, bei denen beispielsweise beim Surfen mit dem Smartphone das Telefon gedreht werden muss.

Aber können wir wirklich gezwungen werden, unser Telefon jedes Mal wie ein Gamepad zu bedienen, wenn wir eine Website aufrufen möchten? Eine Koalition von Unternehmen (darunter Apple, Google und Cloudflare) testet derzeit eine einfachere Lösung namens Privacy Pass . Dabei werden zuvor bestandene Tests zum Nachweis unserer Menschlichkeit lokal verschlüsselt und anonym gespeichert, ohne dass der Vorgang jedes Mal wiederholt werden muss . Diese Lösung ist Captchas sicherlich vorzuziehen, birgt aber laut einer Analyse von Mozilla auch Nachteile, beispielsweise in Bezug auf Datenschutzrisiken.

Bot-Armeen können nicht (vollständig) gestoppt werden

Eine perfekte Lösung gibt es derzeit nicht. Das zeigt sich daran, dass Bot-generierter Datenverkehr mittlerweile den Großteil des Online-Verkehrs ausmacht und dass selbst die komplexesten Captchas mittlerweile darauf ausgelegt sind, den Einsatz von Bot-Armeen teurer und komplexer zu machen, anstatt sie vollständig zu verhindern.

In Zukunft droht die Situation noch komplexer zu werden: Wenn wir KI-Agenten die Schlüssel zu unserem Online-Erlebnis überlassen, wollen wir dann wirklich jedes Mal, wenn sie auf immer komplexere Tests stoßen, physisch eingreifen und sie daran hindern, diese selbstständig zu lösen? Eines ist sicher: Es ist an der Zeit, neue Lösungen zu erfinden und Captcha-Codes hinter sich zu lassen. Niemand wird sie vermissen.