Veröffentlicht am: 19. Oktober 2026

3 Minuten Lesezeit

KI-Sicherheit offen entwickeln

GitLab ist der Open Secure AI Alliance beigetreten, um transparente und anpassbare Ansätze für die Absicherung von KI-Systemen voranzubringen.

Wenn Code im Überfluss vorhanden ist, wird Vertrauen zur Mangelware.

Diese These vertritt GitLab-CEO Bill Staples in seinem aktuellen Essay. KI lässt die Kosten für die Herstellung von Software einbrechen, und je billiger die Erzeugung wird, desto wichtiger wird anteilig alles um sie herum: Kontext, Verifikation, Governance und Nachweise. Sicherheit und Zusammenarbeit sind dabei zentrale Bausteine für Vertrauen. Mit KI wächst zudem der Kreis dessen, dem vertraut werden muss: Neben der Software selbst gehören nun auch die Agenten dazu, die sie schreiben.

Deshalb tritt GitLab der Open Secure AI Alliance bei. Die Allianz bringt Organisationen zusammen, die offene Technologien, Verfahren und Werkzeuge entwickeln und teilen, um Software und Agenten im Zeitalter der KI abzusichern. Wir sind beigetreten, weil wir überzeugt sind, dass KI-Sicherheit dann am stärksten ist, wenn eine breite Gemeinschaft von Sicherheitsfachleuten sie prüfen, testen, anpassen und verbessern kann.

Damit setzen wir eine Arbeit fort, die bei GitLab schon heute offen stattfindet.

Das AI Gateway von GitLab ist ein eigenständiger Dienst, der den Zugang zu KI-Funktionen auf GitLab.com, GitLab Dedicated und selbst verwalteten Instanzen bereitstellt. Sein Quellcode ist öffentlich, ebenso die Konfigurationen der Agenten-Workflows, die auf dem AI Gateway laufen. Dazu gehören Konfigurationen für die Codeerstellung, das Code Review, die Erkennung von False Positives bei Secrets und das Security Review.

Diese Beispiele stehen für einen wichtigen Grundsatz: Ein KI-System ist mehr als das Modell dahinter. Vertrauen hängt von der Umgebung um das Modell herum ab: vom technischen Rahmen, in den es eingebettet ist, von Workflows, Kontrollen, Kontext und Evaluierung. Offene Werkzeuge machen es Sicherheitsfachleuten leichter zu verstehen, wie diese Teile zusammenwirken, sie gegen reale Risiken zu testen und sie mit der Zeit zu verbessern.

Ebenso wichtig ist aus unserer Sicht die Wahlfreiheit der Unternehmen. Organisationen sollten die Möglichkeit haben, proprietäre ebenso wie sichere Open-Weight-Modelle zu nutzen, für jede Aufgabe das passende Modell zu wählen und selbst zu entscheiden, wo und wie KI-Systeme laufen. Die Unabhängigkeit von Modell und Cloud sichert diese Flexibilität, und ein offenes Ökosystem gibt Kund(inn)en mehr Möglichkeiten, KI aufzubauen, zu steuern und abzusichern.

Transparenz muss auch die Risiken einschließen. Unsere Dokumentation zu Sicherheitsbedrohungen in agentischen Systemen beschreibt die Angriffswege, die für unsere eigenen Agenten gelten, und die Kontrollen, die in der jeweiligen Umgebung greifen. Wir behandeln unsere Agenten als privilegierte Akteure: Jeder Agent läuft mit einer ausdrücklich zugewiesenen Identität und mit eingeschränkten Tools und Berechtigungen, und jede seiner Aktionen lässt sich prüfen. Wie das funktioniert, beschreiben wir in unserer Dokumentation zu Composite Identity, zur Ausführung in einer Sandbox, zu Tool-Beschränkungen pro Flow und zur Governance von Agenten-Tools.

Mit der Mitgliedschaft in der Open Secure AI Alliance kann GitLab praktische Arbeit teilen, die in unseren KI- und Sicherheitsteams bereits läuft, und von der breiteren Community lernen. Unser Ziel ist nicht, Open-Weight-Modelle und geschlossene Modelle als Gegensätze darzustellen. Es geht darum, dass Sicherheitsfachleute die Transparenz, Kontrolle und Flexibilität erhalten, die sie für vertrauenswürdige KI-Systeme brauchen.

KI-Sicherheit sollte offen entwickelt werden. Weitere Informationen bietet die Open Secure AI Alliance.

Feedback erwünscht

Hat dir dieser Blogbeitrag gefallen? Hast du Fragen oder Feedback? Erstelle ein neues Diskussionsthema im GitLab-Community-Forum und lass andere an deinen Eindrücken teilhaben.

Feedback teilen

Beginne noch heute, schneller zu entwickeln

Entdecke, was dein Team mit der intelligenten Orchestrierungsplattform für DevSecOps erreichen kann.