Les points clés à retenir sur le contrôle des agents d’IA
Seuls 23 % des responsables informatiques ont un contrôle total sur leurs agents. Une majorité estime que les mesures de sécurité seront insuffisantes d’ici six mois. La gestion des agents doit devenir une « discipline à part entière ».
Les agents IA, si faciles à déployer, prolifèrent hors de tout contrôle. Et cela devient un problème susceptible de compromettre tous les avantages qu’ils apportent.
Telle est la conclusion d’une enquête qui vient d’être publiée par Rubrik ZeroLabs, selon laquelle moins d’un responsable informatique sur quatre (23 %) déclare avoir un contrôle « total » sur les agents au sein de son organisation. Pour aggraver les choses, ces agents n’apportent pas nécessairement la productivité escomptée.
Une majorité d’entre eux, soit 81 %, indiquent que les agents relevant de leur compétence nécessitent plus de temps en audits et en surveillance manuels que ce qu’ils étaient censés faire gagner grâce à l’amélioration des flux de travail. La sécurité n’est pas non plus au rendez-vous, ajoute l’enquête.
Se passer d’un VPN pour faire tourner un agent d’IA
La création d’agents IA est facile, et le problème est que « les utilisateurs désactivent souvent les VPN ou contournent d’une autre manière les contrôles de sécurité pour lancer des agents qui agissent comme des assistants », affirment les auteurs du rapport.
Il en résulte un volume important d’applications IA non autorisées, tant en interne que lancées par des fournisseurs.
La prolifération des agents rappelle les débuts de l’adoption du cloud
Dans l’ensemble du secteur, on s’inquiète de voir les agents commencer à échapper à tout contrôle, la prolifération des agents étant désormais un problème omniprésent.
« Nous observons déjà des schémas similaires à ceux des débuts de l’adoption du cloud, où les équipes déploient des agents de manière indépendante en utilisant différents frameworks et fournisseurs », a déclaré Kriti Faujdar, chef de produit senior chez Microsoft.
« Cela conduit à une fragmentation, à une gouvernance incohérente et à des failles de sécurité cachées. »
Décalage entre le contrôle perçu et la réalité opérationnelle
Les auteurs de l’enquête ZeroLabs ont constaté un décalage entre le contrôle perçu et la réalité opérationnelle concernant les agents. La quasi-totalité des responsables informatiques (86 %) s’attendent à ce que la prolifération des agents dépasse les mesures de sécurité au cours de l’année à venir.
Plus de la moitié (52 %) s’attendent à ce que cela se produise dans les six prochains mois. De plus, presque tous les répondants indiquent qu’ils ne disposent pas des capacités de « retour en arrière » nécessaires pour annuler les actions involontaires des agents.
Face à la prolifération des agents dans les systèmes d’entreprise, les observateurs du secteur s’inquiètent de voir cette expansion devenir trop difficile à gérer et à contenir.
« N’importe quelle équipe disposant d’un accès API peut déployer un agent en un après-midi »
« N’importe quelle équipe disposant d’un accès API peut déployer un agent en un après-midi », a déclaré Nik Kale, ingénieur principal au sein de la Coalition for Secure AI.
« Multipliez cela à l’échelle d’une grande entreprise, et vous obtenez des centaines d’agents avec des autorisations qui se chevauchent, aucun modèle d’identité cohérent, et personne capable de vous fournir l’inventaire complet. »
L’observabilité des agents peut s’avérer particulièrement difficile. Et les auteurs de ZeroLabs soulignent un besoin croissant de télémétrie pour comprendre les chaînes d’actions des agents, ponctuées de points de contrôle de sécurité.
5 questions à se poser après le déploiement
Suivre la viabilité des agents implique de répondre aux questions suivantes après le déploiement, comme l’ont identifié les auteurs de l’étude ZeroLabs :
Qu’a fait l’agent ? Appelée « trace », il s’agit de la capacité à rejouer ou au moins à reconstituer exactement ce qui s’est passé. Pourquoi l’a-t-il fait ? Selon l’agent, qu’est-ce qui l’a poussé à prendre certaines mesures ? Qu’a-t-il touché ? Les pistes d’audit doivent contenir une liste exhaustive de toutes les données ou de tous les outils avec lesquels un agent a interagi. A-t-il réussi, en toute sécurité, et à quel coût ? Comment les organisations mesurent-elles le taux de réussite des tâches, les résultats cités, les violations de politique ou les escalades vers l’humain pour une compréhension précise du retour sur investissement ? Où a-t-il échoué ? Pouvons-nous reproduire l’échec afin d’y remédier ?
Ce sont là des questions qui restent actuellement sans réponse, indique le rapport. En conséquence, de nombreux administrateurs et leurs organisations sont incapables
De définir un comportement acceptable pour les agents D’auditer les ressources et les outils auxquels les agents peuvent accéder De créer des politiques pour déclencher une intervention humaine Ou d’annuler les actions des agents
Compromis entre rapidité et gouvernance
Comme les agents agissent de manière autonome, ils présentent un risque plus important que les logiciels traditionnels, a déclaré M. Faujdar. Dans le contexte actuel, il existe un compromis entre rapidité et gouvernance.
« Les organisations veulent aller vite, mais sans garde-fous clairs, elles risquent de créer des systèmes difficiles à considérer comme fiables, à auditer ou à faire évoluer. Les gagnants seront ceux qui traitent la gestion des agents non pas comme une réflexion après coup, mais comme une discipline à part entière. »
Maintenir les agents à jour constitue également un défi de taille, car leurs modèles de base ont tendance à évoluer. « L’agent que vous avez certifié au premier trimestre se comporte différemment au troisième trimestre, sans que la plateforme n’y soit pour rien », a déclaré Renze Jongman, fondateur et PDG de Liberty91. « Votre modèle de gouvernance doit tenir compte du fait que le terrain bouge. »
Ne pas céder son cerveau à son agent
À ce stade, il y a « trop d’agents opérant en dehors de toute limite de gouvernance, y compris ceux que les équipes construisent elles-mêmes », a déclaré M. Kale, qui conseille de séparer la couche d’orchestration de la pile d’agents des couches de modèle et de gouvernance.
« Si les trois coexistent au sein de la plateforme d’un seul fournisseur, vous avez cédé le cerveau de votre agent, ses autorisations et sa chaîne de responsabilité en un seul contrat. »
La supervision des agents, a ajouté M. Kale, « devrait impliquer la sécurité, l’architecture et l’unité opérationnelle responsable des résultats, et pas seulement l’équipe qui souhaite livrer le plus rapidement possible. »
Source:
www.zdnet.fr
