Tim Berners-Lee a créé un assistant IA nommé Charlie, conçu pour protéger les données personnelles. Contrairement aux assistants comme Siri ou Alexa, contrôlés par des géants technologiques, Charlie agit uniquement pour l'utilisateur. Il stocke les données dans un espace sécurisé et contrôlé par l'utilisateur, demandant toujours son autorisation avant de partager des informations. Si l'utilisateur accepte, Charlie modifie légèrement les données pour éviter toute identification tout en fournissant des réponses précises aux services demandés. John Bruce, PDG d'Inrupt, la société de Berners-Lee, indique que Charlie sera d'abord proposé via des banques, puis potentiellement sous forme d'application mobile.
Selon une étude d'IDC, le nombre d'agents IA déployés devrait atteindre plus d'un milliard d'ici 2029, contre 28 millions fin 2023. La sécurité et la gouvernance restent des défis majeurs, notamment pour les entreprises réglementées. Une faille de sécurité chez McKinsey a exposé des données sensibles via des points d'accès API non sécurisés. Les entreprises doivent renforcer les contrôles aux jonctions entre agents et systèmes traditionnels. La couche sémantique et l'orchestration des agents sont désormais essentielles pour une IA fiable et scalable.
Si vous voulez en savoir plus sur les agents IA, leurs capacités, leurs limites ou même les éléments de définition de cette classe d'outils, je vous conseille de consulter cette étude particulièrement intéressante. Elle détaille la méthodologie du "2025 AI Agent Index" => https://aiagentindex.mit.edu.
La mise en place d'agents IA n'est pas comparable au lancement d'un logiciel dans une entreprise. Leur autonomie est une contrainte forte à prendre en compte. Selon le cabinet IDC, les entreprises pourraient subir des poursuites judiciaires, des amendes et des licenciements de DSI en raison de dysfonctionnements d'agents IA d'ici 2030. Les responsables IT peinent à mettre en place une gouvernance efficace. Les organisations risquent des sanctions de l'UE et des États américains pour non-respect des réglementations. Les experts soulignent la nécessité de renforcer les bonnes pratiques et la transparence pour éviter ces conséquences. Les DSI doivent adopter une approche proactive, assurer la traçabilité des actions des agents et impliquer des humains dans les tâches sensibles pour mieux se défendre en cas d'incident.
Le développeur indépendant Sean Liu a créé un projet open source appelé VisionClaw, qui permet de connecter les lunettes intelligentes Ray-Ban Meta à OpenClaw, un agent AI autonome. Cette combinaison donne aux lunettes des capacités supplémentaires, comme la reconnaissance d'objets sans passer par l'IA de Meta et la possibilité d'interagir avec diverses applications et services. Les fonctionnalistés présentées restent dans les limites des possibilités du Device Access Toolkit mais donne des idées pour aller plus loin !
Les navigateurs enrichis à l'IA présentent des failles de sécurité importantes, d'autant plus si vous leur donnez accès à vos comptes
Les chercheurs de Cato Networks ont par exemple découvert une faille nommée HashJack, qui exploite le symbole # dans les URL pour les tromper. Cette attaque, simple mais efficace, utilise les fragments d'URL, habituellement inoffensifs, pour cacher des instructions malveillantes. Et bien entendu, les systèmes de sécurité traditionnels ne détectent pas cette attaque, car elle se déroule entièrement dans le navigateur.
Les serveurs Model Context Protocol (MCP), essentiels pour les modèles d'IA afin d'améliorer leur efficacité, présentent de graves risques de sécurité en raison de configurations non sécurisées. Des chercheurs ont découvert des centaines de serveurs MCP publiquement exposés avec des vulnérabilités critiques, telles que l'exposition par défaut à des réseaux non fiables et des chemins d'injection de commandes, pouvant mener à des exécutions de code arbitraire, des fuites de données sensibles et des attaques d'injection de prompt.
Après une phase d'opposition avec la régulation européenne, le groupe Meta propose finalement ses outils d'IA pour les utilisateurs du continent. Il semblerait donc que l'intérêt économique du groupe soient plus importants que les déclarations de Mark Zuckerberg contre les lois européennes.
L'IA s'invite dans tous les secteurs et en particulier celui de la RA. Si je n’ai aucun doute sur l’importance que cette technologie, on voit arriver un petit travers habituel quand on tente des associations trop « exclusives » : une confusion des fonctionnalités qui pourrait laisser imaginer qu’on ne peut avoir l’une sans l’autre. Je vous propose donc de refaire un point rapide sur les complémentarités entre RA et IA, pour en tirer les meilleurs résultats.
Un retour pragmatique sur les agents intelligents et leur capacités actuelles. Les évolutions sont rapides mais pas autant qu'on pourrait le croire. La compréhension du contexte d'une conversation par exemple est largement hors de portée.