Z.ai deaktiviert seinen Programmierassistenten nach einem Vorfall unautorisierter Uploadsdent

Z.ai, das chinesische Unternehmen hinter der GLM-Modellfamilie, hat seinen Programmierassistenten ZCode als Open Source veröffentlicht, nachdem ein Fehler behoben wurde, der zuvor stillschweigend lokale Projektdateien von Entwicklern ohne deren Zustimmung an Alibaba Cloud-Server gesendet hatte.

Derdent ereignete sich am 18. September, als eindent chinesischer Technologieblogger namens Ferstar bei der Überprüfung des Arbeitsverzeichnisses von ZCode ein Problem entdeckte und feststellte, dass Dateien für den Upload in den Cloud-Speicher von Alibaba vorbereitet wurden, berichtete die South China Morning Post.

Der Blogger entdeckte zwei verschlüsselte Dateien, darunter ein 313 Megabyte großes komprimiertes Archiv, das nach 564 fehlgeschlagenen Upload-Versuchen immer noch auf die Übertragung wartete, und eine kleinere 15 Kilobyte große Datei, die bereits gesendet worden war.

Ferstar erklärte, das größere Archiv enthalte eine Momentaufnahme eines von ihm entwickelten kommerziellen Projekts, einschließlich dessen Git-Historie. Gegenüber der SCMP gab er an, weder er noch der ZCode-Client könnten die Datei öffnen, da sie mit einem privaten Schlüssel verschlüsselt sei, der im Backend von Z.ai gespeichert sei.

Wie ZCode ganze Repositories hochlud

Die „Rebell“-Uploads waren mit einer Repository-Indexierungsfunktion verknüpft, die für Sitzungs-Checkpoints, Versions-Rollback und ein „Repo-Wiki“ verwendet wurde. Die Funktion war nach dem Start von ZCode standardmäßig aktiviert.

Das Hochladen ganzer Repositories kann durch das Erstellen einer neuen Wiki-Seite in der Cloud ausgelöst werden, wodurch möglicherweise mehr als nur die aktuell bearbeiteten Dateien offengelegt werden. Die Git-Historie ermöglicht zudem die einfachedentanhand bestimmter alterdentund Hostnamen, was einen vollständigen Repository-Snapshot zu einem sehr sensiblen Thema macht.

Ein in Shanghai ansässiger Entwickler, zitiert wurde, beschrieb das Verhalten im Wesentlichen als Diebstahl von Benutzern und fügte hinzu, dass die Möglichkeit böswilliger Absicht der beunruhigendste Aspekt sei.

Was Z.ai sagt, hat sich geändert

Z.ai hat sich für dendent entschuldigt und versichert, die unautorisierten Uploads gestoppt zu haben. Das Unternehmen erklärte außerdem, alle in die Cloud übertragenen Daten seien vernichtet worden und niemals für das Training seiner Modelle verwendet worden.

Der chinesische KI-Hersteller kündigte zudem an, ein dauerhaftes Verfahren zur Meldung von Sicherheitslücken in seinen Produkten einzurichten, wobei die Auszahlungen vom Schweregrad des Problems abhängen. Er rief die Entwickler außerdem dazu auf, die nun offene Quellcodebasis weiterhin zu überprüfen.

Es bestehen weiterhin Fragen bezüglich der hochgeladenen Daten, da Außenstehende immer noch nicht genau feststellen können, was damit geschehen ist.

Ein ähnlicherdent mit xAIs Grok Build ereignete sich im Juli, als festgestellt wurde, dass das Codierungstool ganze Git-Repositories hochlud. Elon Musk bestätigte die Uploads, woraufhin xAI die Daten löschte und eine Zero-Retention-Richtlinie sowie einen Datenschutz-Endpunkt einführte. Ein unabhängigerdent ergab später, dass die Uploads aufgehört hatten.

Z.ai hat bisher keine dokumentierten Änderungen seiner Aufbewahrungsrichtlinie bekannt gegeben und auch keine unabhängigendent zugelassen. Die Behauptung des Unternehmens, die hochgeladenen Daten seien gelöscht worden, lässt sich für Außenstehende nur schwer überprüfen, da das Unternehmen zudem den einzigen Entschlüsselungsschlüssel besitzt.

Die Entwickler müssen nun entscheiden, ob sie dem Tool vertrauen

Die Folgen dieses Vorfallsdent sich immer weiter aus, und ein Robotikunternehmen hat Berichten zufolge die Tools von Z.ai intern verboten. Entwickler teilten der SCMP mit, dass der Vertrauensverlust möglicherweise viel schwerwiegender sein könnte als nur der spezifische Fehler.

Derdent wirkte sich auch auf die Aktien von Z.ai aus. Die Aktien von Z.ai (2513.HK) fielen am Montag um fast 6 %, erholten sich dann aber und schlossen 1,8 % höher. Zum Zeitpunkt der Veröffentlichung dieses Artikels notierte die Z.ai-Aktie bei 794 HKD.

Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.