KI-Apps im Unternehmen: Wenn Freigabelinks Firmendaten offenlegen

Was bei den Grok-Apps passiert ist

Untersucht wurden Anwendungen, die mit Grok Build entstanden sind, einem KI-Bauwerkzeug des Anbieters SpaceXSI. Claroc hat laut eigener Darstellung 43.551 App-Adressen geprüft: 37.571 waren noch online, 35.578 davon – rund 94,7 Prozent – öffneten sich für jeden ohne Anmeldung.

Der entscheidende Fehler steckt nicht in der Anwendung, sondern im Link. Veröffentlichte Apps bekommen eine Adresse der Form *zufallsname.grok.me*. Der Zufallsname soll Fremde daran hindern, die Anwendung zu finden. Beim Aufruf wird er aber über das Domain Name System (DNS) aufgelöst – und passive DNS-Dienste protokollieren genau diese Abfragen in durchsuchbaren Datenbanken. Damit lässt sich die Liste der Adressen abarbeiten. Bei geteilten ChatGPT-Konversationen, Claude Artifacts und Gemini-Inhalten liegen die Kennungen dagegen in einem Teil der Adresse, der bei DNS-Abfragen nicht übertragen wird.

Dazu kommt die Voreinstellung: Beim Veröffentlichen war in dem von Claroc genutzten Konto „Jeder mit dem Link" vorausgewählt. Wer die Anwendung auf benannte Personen beschränken will, muss diese Einstellung zuerst ändern.

Was offen lag, ist belegt: In 24 Anwendungen von Mitarbeitern von SpaceXSI und X fand Claroc unter anderem einen als vertraulich gekennzeichneten Einarbeitungsplan mit internen Systemadressen und eine Vertriebskarte mit 594 strategisch wichtigen Kundenkonten. Bei 30 weiteren identifizierbaren Organisationen, darunter sechs Fortune-500-Unternehmen, waren etwa Mitarbeiterlisten, medizinische Angaben und in einer Zeiterfassungs-App die Passwörter von 18 Nutzerkonten im offen lesbaren Programmcode zu finden.

Zusätzlich fanden die Forscher Mängel im erzeugten Code: Eine Testanwendung nahm von Fremden ohne Anmeldung neue Datensätze an, eine zweite lud nicht eingeladene Nutzer automatisch ins Team ein. SpaceXSI erklärte, Anwendungen von Mitarbeiterkonten starteten privat und müssten ausdrücklich veröffentlicht werden; nach Presseanfragen entfernte das Unternehmen die 24 eigenen Apps. Andere offene Anwendungen blieben zunächst erreichbar.

Warum das auch Betriebe ohne Grok betrifft

Der Anbieter ist austauschbar, das Muster nicht. Drei Punkte sollten Sie interessieren:

• Schatten-KI ist der Normalfall. Ein KI-Werkzeug ist mit Firmen-Mail oder Kreditkarte in wenigen Minuten eingerichtet. Wer nicht weiß, welche Werkzeuge im Haus genutzt werden, kann dazu auch keine Regel durchsetzen – und erfährt von einer offenen Anwendung erst, wenn jemand darauf stößt.
• Der Freigabelink ist ein bekanntes Problem. Die Einstellung „Jeder mit dem Link" gibt es auch bei SharePoint, OneDrive und Dropbox. Neu ist nur, dass sie jetzt Standard beim Veröffentlichen von KI-Anwendungen ist und der Link zusätzlich über DNS auffindbar wird.
• Erzeugter Code prüft nichts. Ein KI-Werkzeug baut die Funktion, die beschrieben wurde – keine Zugriffskontrolle, keine Rollen, keine Anmeldung. Fehlt das, ist die Anwendung gerade nicht nur für das Vertriebsteam offen, sondern für alle.

Für Betriebe zwischen Fürstenfeldbruck und Augsburg kommt hinzu, dass in solchen Anwendungen oft Daten liegen, die man mit Kunden, Lieferanten und Steuerberatern teilt: Angebote, Kundenlisten, Personaldaten. Was als Test beginnt, wird schnell zur produktiv genutzten Liste.

Was Sie jetzt konkret prüfen sollten

1. Bestandsaufnahme. Welche KI-Dienste werden aus dem Firmennetz überhaupt aufgerufen? Firewall- und Proxy-Protokolle geben dazu belastbare Anhaltspunkte. Eine Umfrage unter den Mitarbeitern ist ein guter Zusatz, aber keine Messung.

2. Freigaben prüfen. Nehmen Sie eine Stichprobe Ihrer Ablage- und KI-Dienste und suchen Sie gezielt nach Freigaben für „alle mit dem Link". Externe Freigaben gehören inventarisiert, nicht geschätzt.

3. Regeln festlegen und kommunizieren. Welche Werkzeuge sind freigegeben, welche Daten dürfen hinein, wird mit Firmen- oder Privatkonto gearbeitet? Eine kurze, verständliche Nutzungsrichtlinie wirkt besser als ein Verbot.

4. Selbstgebaute Anwendungen einordnen. Solange nur Testdaten drin sind, ist das ein Experiment. Sobald Kunden- oder Beschäftigtendaten verarbeitet werden, gehört das dokumentiert und bewertet – das ist keine Nebenbei-Entscheidung.

Für den Einstieg eignet sich eine Bestandsaufnahme mit klarer Liste. Wenn Sie wissen, dass Handlungsbedarf besteht, ist der Bereich IT-Sicherheit für KMU der richtige Startpunkt. Beides lässt sich mit dem IT-Gesundheitscheck verbinden, der technische Befunde und organisatorische Lücken zusammenführt.