Eine kleine App für die Zeiterfassung, eine Übersicht über die Kunden im Aussendienst, ein Formular für Anfragen. Früher brauchte man dafür einen Entwickler. Heute beschreibt man einem KI-Werkzeug, was man will, und eine Stunde später läuft die App. Das nennt sich Vibe Coding, und viele Betriebe probieren es gerade aus.
Eines dieser Werkzeuge heisst Grok Build. Die Sicherheitsfirma Claroc hat nachgesehen, was damit gebaut wurde, und laut heise über 35 000 Apps gefunden, die ohne Anmeldung erreichbar waren.
Was darin lag
In einer Stichprobe enthielten nach Hochrechnung von Claroc 650 bis 800 dieser Apps private Daten. Darunter eine Vertriebskarte mit fast 600 wichtigen Kundenkonten, Listen von Mitarbeitenden, die medizinischen Daten eines Patienten auf der Intensivstation. In einer Zeiterfassungs-App standen die Passwörter von 18 Konten direkt im öffentlich lesbaren Code.
Bei einigen Apps konnten Fremde nicht nur lesen. Eine liess Unbekannte Datensätze anlegen, eine andere nahm jeden, der sich anmeldete, automatisch ins Team auf, mit Zugriff auf die Kundendaten.
Warum sie offen waren
Der Hauptgrund ist unspektakulär. Wer eine App veröffentlicht, um sie mit Kollegen zu teilen, bekam laut Claroc als Voreinstellung: Jeder mit dem Link darf zugreifen. Wer das nicht ausdrücklich änderte, hatte eine öffentliche App.
Und der Link war nicht so geheim, wie man denkt. Er besteht aus einem zufälligen Namen und der Adresse des Anbieters. Wer ihn aufruft, hinterlässt eine Abfrage im Adressverzeichnis des Internets, und es gibt Dienste, die solche Abfragen sammeln und durchsuchbar machen. So liessen sich die Apps finden, ohne dass jemand einen Link weitergegeben hätte.
Der Anbieter betont, dass Apps zunächst privat seien und erst ausdrücklich veröffentlicht werden müssten. Das stimmt. Nur bedeutete veröffentlichen eben nicht das, was viele erwarteten.
Die KI ist nicht das Problem
Das Bemerkenswerte an diesem Fall ist, dass die KI meist gar nichts falsch gemacht hat. Sie hat gebaut, was verlangt war. Die Frage, wer die App am Ende sehen darf, hat niemand gestellt, weder die KI noch der Mensch, der sie bediente.
Bei einem Entwickler wäre diese Frage Teil der Arbeit gewesen. Beim Vibe Coding fällt sie leicht weg, weil der Weg von der Idee zur laufenden App so kurz ist. Wir haben letzte Woche über KI-Assistenten geschrieben, die mit Konten verbunden werden. Hier ist es die Kehrseite: KI-Werkzeuge, die Daten veröffentlichen, ohne dass es jemandem auffällt.
Was jetzt zu tun ist
Eine Liste machen. Welche Apps, Formulare und Übersichten haben Mitarbeitende im Betrieb mit KI-Werkzeugen gebaut? Oft weiss das nur, wer sie gebaut hat.
Die Freigabe prüfen. Bei jeder dieser Apps nachsehen, wer zugreifen darf. «Jeder mit dem Link» ist für Kundendaten keine Einstellung. Richtig ist: nur angemeldete Personen aus dem eigenen Betrieb.
Keine Passwörter in die App. Zugangsdaten zu anderen Diensten gehören nicht in den Code einer App, die ein KI-Werkzeug gebaut hat. Wer sie dort findet, ändert sie.
Echte Daten erst, wenn die Frage geklärt ist. Zum Ausprobieren reichen erfundene Beispieldaten. Kundenlisten und Gesundheitsdaten kommen erst in eine App, wenn feststeht, wer sie sehen kann.