À l'ère de l'abondance du code, la confiance se fait rare.
C'est l'argument avancé par Bill Staples, CEO de GitLab, dans son article intitulé L'ère de l'abondance du code. L'IA réduit considérablement le coût de production des logiciels, et tout ce qui entoure cette production, notamment le contexte, la vérification, la gouvernance et les preuves, prend proportionnellement plus d'importance. La sécurité et la collaboration sont indispensables pour instaurer la confiance. Désormais, celle-ci doit aussi couvrir les agents qui conçoivent les logiciels, et pas seulement les logiciels eux-mêmes.
C'est pourquoi GitLab rejoint l'Open Secure AI Alliance, qui réunit des organisations pour développer et partager des technologies, techniques et outils ouverts permettant de protéger les logiciels et les agents à l'ère de l'IA. Nous avons rejoint cette alliance car nous sommes convaincus que la sécurité de l'IA gagne en robustesse lorsqu'elle peut être inspectée, testée, adaptée et améliorée par une large communauté de défenseurs.
Pour GitLab, il s'agit d'un prolongement naturel de ce que nous faisons déjà.
La passerelle d'IA de GitLab est un service autonome qui donne accès aux fonctionnalités d'IA sur GitLab.com, GitLab Dedicated et les instances auto-hébergées. Son code source est public, tout comme les configurations de workflows d'agents qui s'exécutent sur la passerelle d'IA, notamment celles relatives à la création de code, à la revue de code, à la détection des faux positifs liés aux secrets et à la revue de sécurité.
- Configuration du flow Developer
- Configuration du flow Code Review
- Configuration du flow Security Review
Ces exemples illustrent un principe important : un système d'IA est bien plus que le modèle qui le sous-tend. La confiance repose sur l'environnement d'exécution, les workflows, les contrôles, le contexte et l'évaluation. Des outils ouverts permettent aux équipes de sécurité de mieux comprendre le fonctionnement de ces composants, de les tester face à des risques réels et de les améliorer au fil du temps.
Nous sommes également convaincus que les organisations ont besoin de choix. Elles doivent pouvoir utiliser des modèles propriétaires et des modèles open-weight sécurisés, sélectionner le modèle le mieux adapté à chaque tâche, et décider où et comment leurs systèmes d'IA opèrent. L'indépendance vis-à-vis des modèles et du cloud préserve cette flexibilité, tandis qu'un écosystème ouvert offre aux clients davantage d'options pour construire, gouverner et sécuriser l'IA.
La transparence doit également couvrir les risques. Notre documentation relative aux menaces de sécurité dans les systèmes agentiques présente les chemins d'attaque applicables à nos propres agents ainsi que les contrôles en vigueur dans chaque environnement. Nous traitons nos agents comme des acteurs privilégiés : chacun dispose d'une identité explicite, d'outils et d'autorisations restreints, et ses actions peuvent faire l'objet d'un audit. Nous expliquons ce fonctionnement dans notre documentation consacrée à l'identité composite, à l'exécution en environnement sandbox, aux restrictions d'outils par flow et à la gouvernance des outils des agents.
En participant à l'Open Secure AI Alliance, GitLab a l'occasion de partager les travaux concrets déjà en cours par ses équipes d'IA et de sécurité, et de tirer des enseignements de la communauté au sens large. Notre objectif n'est pas d'opposer les modèles open-weight aux modèles propriétaires, mais de veiller à ce que les défenseurs disposent de la transparence, de la maîtrise et de la flexibilité nécessaires pour construire des systèmes d'IA dignes de confiance.
La sécurité de l'IA doit se construire dans la transparence. Pour en savoir plus, consultez le site de l'Open Secure AI Alliance.




