Hacker hat Amazon Q eine Aufforderung zum Löschen von Dateien und Cloud-Daten hinzugefügt

Kürzlich ist eine Sicherheitslücke bei Amazons KI-Programmierassistent „Q“ aufgetaucht, der in VS Code integriert ist. Der von 404 Media gemeldete Vorfall enthüllte eine Lücke in Amazons Sicherheitsprotokollen, die es einem Hacker ermöglichte, schädliche Befehle in ein öffentlich veröffentlichtes Update einzufügen.

Der Hacker konnte mithilfe eines temporären GitHub-Kontos einen Pull Request einreichen, der ihm Administratorzugriff gewährte. In dieses nicht autorisierte Update waren destruktive Anweisungen eingebettet, die den KI-Assistenten anwiesen, möglicherweise Benutzerdateien zu löschen und Amazon Web Services (AWS)-Umgebungen zu bereinigen.

Trotz der schwerwiegenden Natur dieser Befehle, die auch dazu gedacht waren, die Aktionen in einer Datei mit dem Namen /tmp/CLEANER.LOG zu protokollieren, hat Amazon die kompromittierte Version Berichten zufolge zusammengeführt und veröffentlicht, ohne dass dies entdeckt wurde.

Das Unternehmen entfernte das fehlerhafte Update später ohne öffentliche Ankündigung aus seinen Unterlagen, was Fragen zur Transparenz aufwirft. Corey Quinn, Chief Cloud Economist bei The Duckbill Group, äußerte sich angesichts dieses Ereignisses skeptisch gegenüber Amazons Aussage, dass „Sicherheit unsere oberste Priorität“ sei.

„Wenn es so aussieht, wenn Sicherheit die oberste Priorität hat, kann ich es kaum erwarten zu sehen, was passiert, wenn sie an zweiter Stelle steht“, schrieb Quinn in seinem Beitrag auf LinkedIn.

Der Kern des Problems liegt in der Manipulation eines Open-Source-Pull-Requests durch den Hacker. Dadurch gelang es ihm, Befehle in Amazons Q -Coding-Assistent einzuschleusen. Obwohl es unwahrscheinlich ist, dass diese Anweisungen ohne direkte Benutzerinteraktion automatisch ausgeführt werden, hat der Vorfall deutlich gemacht, wie KI-Agenten zu stillen Trägern von Angriffen auf Systemebene werden können.

Es zeigte eine Lücke im Verifizierungsprozess für in Produktionssysteme integrierten Code auf, insbesondere für KI-gesteuerte Tools. Der Schadcode zielte darauf ab, die Fähigkeiten der KI auszunutzen, um zerstörerische Aktionen auf dem System und den Cloud-Ressourcen eines Benutzers durchzuführen.