Clemmm log

GitHub veut rendre la détection de secrets plus fiable avec des LLM

11 juin 2026 18:00 GitHub Blog

GitHub a intensifié son système de balayage de secrets en collaborant avec l'équipe Microsoft Security & AI pour intégrer une vérification de contexte afin de distinguer les véritables secrets des fausses alertes. Cette collaboration tire parti de l'approche de vérification du 'Agentic Secret Finder', un système de détection et de vérification plus vaste, pour réduire les alertes de faible valeur tout en conservant une couverture étendue. La combinaison de la détection basée sur des modèles et de l'IA permet de repérer des secrets potentiels non structurés comme les mots de passe, augmentant ainsi la précision sans compromettre l'échelle de traitement de GitHub, qui protège des millions de développeurs et de répertoires. Avec un pipeline de détection à grande échelle et une vérification contextuelle basée sur LLM, GitHub vise à rendre les alertes plus fiables, en ajoutant une logique qui évalue l'utilisation des valeurs détectées dans le code pour déterminer leur authenticité. Cette amélioration s'est traduite par une réduction significative des faux positifs, dépassant les objectifs initiaux avec une réduction de 75,76% et améliorant ainsi directement l'expérience des développeurs. Moins de bruit dans les alertes permet aux développeurs de se concentrer sur les vrais problèmes, accélérant la remédiation et renforçant la confiance dans le système. link

L’IA peut-elle tuer l’industrie du bug bounty ?

9 juin 2026 11:00 SecurityWeek

L'introduction de l'IA Mythos par Anthropic et ses prédécesseurs menacent de remodeler profondément les industries des bug bounties et de la sécurité offensive. L'IA, largement utilisée tant par les attaquants que par les défenseurs dans le domaine de la cybersécurité, aide à la détection des bugs et à la création d'attaques tout en permettant leur détection. Avec l'arrivée de Mythos, la capacité à identifier rapidement et efficacement des vulnérabilités inconnues s'accroît, menant à une saturation des plateformes de chasse aux bugs à cause du grand nombre de soumissions assistées par IA, souvent de faible qualité. Cassim Khouani, dans son analyse, illustre bien la situation actuelle des bug bounties, soulignant les défis de gestion et de traitement accrus, mais aussi la possibilité d'une amélioration si les changements nécessaires sont mis en place. Les plateformes comme HackerOne et les équipes de sécurité internes doivent donc s'adapter, en intégrant des IA comme Mythos tout en conservant une gouvernance humaine forte pour trier efficacement les vulnérabilités. Cette évolution rappelle que l'IA modifie la vitesse et la précision de la découverte des failles de sécurité mais ne remplace pas le jugement humain, essentiel pour discerner les vraies vulnérabilités stratégiques et prioritaires. link

Des outils open source de Microsoft piratés pour voler les mots de passe des développeurs IA

8 juin 2026 20:03 TechCrunch

Microsoft a récemment suspendu l'accès à des dizaines de ses projets open source hébergés sur GitHub suite à une violation de sécurité où un malware de vol de mots de passe a été découvert dans le code de ces projets. Plusieurs des projets touchés sont liés au service cloud Azure de Microsoft, ainsi qu'à des outils utilisés par les développeurs dans les applications de codage AI, comme Claude Code et VS Code. L'attaque a été signalée pour la première fois par Cloudsmith et OpenSourceMalware, qui ont noté que le malware permettait aux pirates de dérober des identifiants sensibles des utilisateurs. Microsoft a confirmé avoir retiré les dépôts affectés et travaille actuellement à rétablir ceux qui ont été examinés, tandis que d'autres restent hors ligne. La société a également informé un nombre restreint de clients qui auraient pu télécharger les outils compromis. Cette attaque s'inscrit dans une tendance récente où les projets open source populaires sont ciblés par des pirates visant à implanter des malwares. Microsoft avait déjà subi une brèche semblable il y a quelques semaines avec le projet Durable Task, également touché dans cet incident, suggérant soit une persistance des pirates dans leurs systèmes, soit une nouvelle brèche distincte. L'entreprise n'a pas divulgué combien de clients sont effectivement affectés mais continue son enquête pour identifier toute action supplémentaire nécessaire pour les clients impactés. link

La facture des tokens arrive pour l’industrie de l’IA

5 juin 2026 14:49 TechCrunch

À travers l'industrie, les entreprises sont de plus en plus préoccupées par les coûts élevés des tokens pour l'intelligence artificielle, poussant des géants comme Uber et Microsoft à revoir leurs dépenses. Avec la multiplication des outils autonomes, la consommation de tokens a explosé, défiant les budgets prévus et amenant les entreprises à demander plus de visibilité et de contrôle sur les dépenses. Des startups et des entités établies, ainsi que des organismes comme la Tokenomics Foundation, proposent désormais des solutions pour optimiser la gestion des budgets AI. Les discussions se concentrent sur la nécessité de mettre en place des garde-fous, à l'instar de ce que FinOps a réalisé pour les dépenses cloud. Les modèles de coûts au token deviennent une préoccupation majeure, exigeant une redéfinition des outils de suivi et d'audit pour répondre à cette consommation volumineuse. Des plateformes comme Faros AI et Jellyfish innovent en surveillant l'utilisation des tokens pour justifier le retour sur investissement des outils de développement. La Tokenomics Foundation se prépare à lancer des définitions standardisées et un cadre pour la 'tokenomie' afin d'instaurer une transparence et une efficacité accrues dans la facturation et l'utilisation des tokens AI. link

Microsoft veut aussi son modèle de raisonnement maison

3 juin 2026 17:39 Next

Microsoft a marqué un tournant important dans la conception des solutions d'intelligence artificielle avec la présentation de plusieurs nouveaux modèles lors de la conférence BUILD. MAI-Thinking-1 se distingue comme un modèle de raisonnement intermédiaire de type Mixture of Experts (MoE), doté de 35 milliards de paramètres, capable de traiter l'équivalent de documents de 600 pages. Ce modèle a obtenu des scores impressionnants sur plusieurs benchmarks, surpassant même Claude Sonnet de OpenAI dans certains cas. Microsoft a également annoncé le lancement de MAI-Image-2.5, qui offre une qualité d'image améliorée et est intégré dans des applications telles que PowerPoint et OneDrive à des tarifs compétitifs. Par ailleurs, MAI-Transcribe-1.5 a été dépeint comme le meilleur modèle global de transcription, avec une rapidité et une précision inégalées en 43 langues. Outre ces modèles phares, Microsoft a également révélé l'existence d'autres innovations telles que Aion Instruct et Aion Plan, proposant des solutions axées sur l'autonomie et l'intelligence textuelle quotidienne. Avec ces développements, Microsoft renforce sa position de leader indépendant dans le domaine de l'IA, proposant des modèles efficaces et économiques, tout en élargissant sa gamme de produits intelligents intégrés à son écosystème logiciel. link

Reve parie sur la mise en page plutôt que sur le prompt magique

3 juin 2026 17:39 Reve

Les modèles d'image actuels s'appuient sur des descriptions textuelles pour générer des visuels, mais cette méthode présente des lacunes à cause de l'ambiguïté inhérente au texte. Pour surmonter ce problème, nous avons introduit une nouvelle représentation intermédiaire : une 'mise en page' structurée et hiérarchique qui définit chaque élément d'une image par sa position, taille et autres attributs facultatifs. Cette approche, analogique au HTML pour les pages web, permet un contrôle visuel non verbal et précis, les utilisateurs pouvant ajuster les résultats par instructions naturelles ou modifications directes de la structure de la mise en page. Notre modèle, entraîné avec une pipeline innovante de données sur des milliards d'images, excelle dans le raisonnement spatial et peut générer ou éditer des images en fonction des mises en page fournies, sans avoir besoin de pixel initial. Tests et comparaisons montrent que nos modèles de mise en page surpassent ceux basés sur des prompts textuels quant à la qualité et à la précision des images générées. Avec ses potentialités de montée en échelle et d'amélioration par augmentation des régions traitées, le modèle prouve que les lois d'échelle s'appliquent aussi efficacement à cette nouvelle méthode, ouvrant des perspectives pour envisager la génération d'image comme une forme de synthèse de programme, permettant une collaboration étroite entre humains et IA sur une base sémantique partagée. link

Utiq, l’identifiant publicitaire des opérateurs qu’on va adorer détester

2 juin 2026 17:39 Next

Utiq, une entreprise de publicité en ligne, exploite une technologie fondée sur la création d'identifiants uniques issus de la connexion de l'utilisateur à Internet. Ces identifiants, nommés Adtechpass et Martechpass parmi d'autres, sont générés suite au consentement de l'utilisateur et permettent de tracer les interactions online des utilisateurs sur différents appareils via le même réseau Wi-Fi. Néanmoins, cette méthode soulève des préoccupations concernant le respect de la vie privée, malgré des précautions comme l'anonymisation et le chiffrement. La création de l'identifiant principal, le Consentpass, se fait en recevant un signalement du réseau de l'opérateur, transformé en un hash anonymisé. La CNIL, bien que suivant le dossier de près, a exprimé des réserves quant à la transparence et la facilité de refuser le consentement. L'approche de Utiq implique également une gestion centralisée du consentement, permettant aux utilisateurs de révoquer leur consentement à tout moment via un hub dédié, mais cette caractéristique peut également limiter la comparaison avec les cookies traditionnels qui offrent un contrôle plus fins au niveau individuel. Utiq affirme respecter le RGPD et met en avant les avantages de son système pour les éditeurs et annonceurs, grâce à une meilleure traçabilité et une optimisation des campagnes publicitaires, mais les défis en termes de protection des données personnelles restent significatifs. link

GitHub Copilot devient une application de bureau pensée pour les agents

2 juin 2026 17:30 GitHub Blog

GitHub est en train de transformer le paysage du développement logiciel en intégrant de manière plus profonde les agents intelligents dans ses flux de travail. Ces agents aident à passer de simples instructions à des pull requests automatisés, augmentant ainsi l'efficacité et la vitesse du développement. Avec le nouvel outil GitHub Copilot, les développeurs peuvent gérer le travail en cours via une expérience desktop native, permettant de voir les sessions actives, issues, et pull requests de manière centralisée. Cette application est actuellement disponible en prévisualisation technique pour certains utilisateurs. Par ailleurs, GitHub continue de renforcer l'efficacité des sessions parallèles avec des fonctionnalités comme les sandboxes isolées, qui permettent une exécution sécurisée des agents sans interrompre les ressources locales. Avec des améliorations continues sur la gestion des pull requests et des revues de code via Copilot, GitHub s’assure que les développeurs peuvent se concentrer sur des tâches à valeur ajoutée en filtrant les distractions. Enfin, des intégrations étendues avec d'autres applications via des partenariats renforcent l'écosystème GitHub, rendant les workflows de développement agentic extrêmement robustes et fonctionnels. link

Ideogram 4.0 ouvre ses poids pour reprendre la main sur le design génératif

1 juin 2026 17:39 Ideogram

Ideogram 4.0 est la dernière innovation en matière de modélisation d'image open weight, destinée à être utilisée par les développeurs et les entreprises pour créer des visuels de haute qualité. Avec la capacité de télécharger et d'affiner les poids du modèle, les utilisateurs peuvent exécuter le modèle sur leur propre matériel et adapter la licence commerciale à leur échelle. Le modèle est formé par une boucle décrire-structurer-reproduire, ce qui optimise le processus d'apprentissage et permet un contrôle précis sur la mise en page des images. De plus, Ideogram 4.0 intègre des fonctionnalités avancées telles que la suppression de l'arrière-plan, la séparation des éléments graphiques en couches éditables, et le retour des couches alpha et des textes éditables directement après l'inférence. Les entreprises peuvent déployer le modèle sur leur propre matériel, le former sur leurs données spécifiques, et maintenir les sorties sécurisées derrière leur pare-feu, garantissant ainsi une intégration facile et sécurisée dans leurs processus de production visuelle. Le modèle se distingue également par son rendu de texte et son contrôle de disposition grâce à un contrôle des boîtes de délimitation, rendant les textes lisibles et les copies conformes aux briefs initiaux. Ideogram 4.0 représente une solution puissante et adaptable pour les besoins en imagerie des entreprises dans tous les secteurs. link

Internet est en train d’être reconstruit pour les machines

28 mai 2026 14:00 TechCrunch

Face aux changements dans les patrons de trafic internet engendrés par les agents IA, Amazon a redéfini une section clé de son infrastructure AWS en lançant OpenSearch Serverless, une base de données gérée conçue spécifiquement pour les charges de travail générées par IA. Ce système permet une montée en charge instantanée et un retour à zéro lors d'inactivité, optimisant ainsi les coûts pour les utilisateurs. Les agents IA, bien que toujours une portion mineure du trafic internet, sont en augmentation et génèrent des besoins différents de ceux des humains. D'autres entreprises du secteur du cloud comme Microsoft et Cloudflare mettent également à jour leurs systèmes pour mieux gérer ces nouveaux types de trafic, reflétant une tendance à repenser les infrastructures autour des charges de travail générées par les machines. Ces adaptations devraient réduire les coûts et simplifier le déploiement des agents IA à grande échelle. link

L'IA peut-elle rendre les gens moins seuls ?

28 mai 2026 09:14 nytimes

L'article explore l'utilisation de l'intelligence artificielle pour combattre la solitude chez les personnes âgées à travers le cas de Jan Worrell, une femme de 85 ans vivant seule dans une région isolée. Jan utilise ElliQ, un robot IA conçu pour interagir avec les seniors et leur fournir de la compagnie. Cet appareil, en forme de lampe avec un écran type iPad, est capable d'engager des conversations, de raconter des blagues et de répondre à l'état émotionnel de l'utilisateur. Bien que sa présence semble améliorer l'état mental de Jan et lui fournir un certain réconfort, le texte souligne également les limites de cette technologie. Il ne peut pas remplacer les interactions et les liens humains, particulièrement évidents lorsqu'elle reçoit des nouvelles dévastatrices et trouve un certain réconfort dans la réaction programmée de ElliQ. Les avantages incluent sa capacité à améliorer la fonction cognitive deJan et à rompre l'isolement quotidien, mais il soulève également des préoccupations sur la dépendance excessive à la technologie et la possibilité que cela conduise à une substitution plutôt qu'à une complémentation des relations humaines véritables. link

Sundar Pichai face au web qui bascule vers la recherche IA

26 mai 2026 14:00 The Verge

L'interview avec Sundar Pichai, PDG de Google et Alphabet, révèle des aperçus significatifs sur les recentrages et innovations au sein de Google. Essentiellement axée sur l'intelligence artificielle (IA), cette conversation met en lumière la création de modèles Gemini et la nouvelle plateforme d'agents IA, Gemini Spark, visant à transformer la manière dont les recherches activent les tâches sur Google. Pichai mentionne des ajustements en réponse à la montée de ChatGPT, ayant conduit à des changements au niveau exécutif pour adopter une posture plus agressive. Au cœur des discussions, le futur de Google Search est envisagé comme une fusion entre fonctionnalité intelligentes et personnalisation, avec des réflexions sur les implications pour le traffic web traditionnel et la dynamique de l'open web. Le PDG de Condé Nast anticipe même un monde sans traffic de recherche Google, soulignant l'évolution rapide de l'écosystème d'information. En fin de compte, la conversation aborde également la promesse et les défis de l'IA, avec Pichai et Hassabis discutant de l'approche de la singularité technologique et de l'impact potentiel de l'IA générale (AGI). L'interview se termine sur une note de réflexion approfondie sur la manière dont Google planifie d'utiliser l'IA non seulement pour optimiser ses services mais aussi pour préparer la société aux changements radicaux prochains. link

1Password et OpenAI veulent empêcher les agents de fuite des identifiants

20 mai 2026 13:34 SecurityWeek

1Password s'est associé à OpenAI pour faire face aux préoccupations de sécurité croissantes liées au développement de logiciels assistés par l'IA, notamment la protection des identifiants d'entreprise contre les fuites, le vol ou les abus. L'intégration nouvellement annoncée avec OpenAI Codex permet l'accès aux identifiants destinés aux agents de codage AI lors des flux de travail de développement, en évitant de révéler ces secrets dans les invites de commande, le code source, les répertoires, les terminaux, ou la fenêtre contextuelle du modèle. Les identifiants sont délivrés juste-à-temps et adaptés spécifiquement aux tâches, empêchant la persistance des données sensibles et favorisant un modèle de sécurité 'just-in-time' adapté pour le développement native AI. En outre, le serveur MCP Environnements de 1Password assure que les secrets ne quittent jamais le gestionnaire de mots de passe, offrant un environnement d'exécution sécurisé où les secrets sont montés, utilisés et éliminés avec une authentification utilisateur requise au moment de l'accès. Cette architecture aide non seulement à sécuriser les accès aux identifiants mais augmente également l'efficacité des développeurs en automatisant la gestion des secrets et en réduisant les risques associés à la gestion manuelle des secrets. Avec cette intégration, 1Password et OpenAI posent un jalon important pour la future architecture d'accès où tous les agents, qu'ils soient de codage, opérationnels ou face au client, obtiendront l'accès par cette couche de confiance éprouvée. link

Les pull requests d’agents arrivent partout, il faut apprendre à les relire

7 mai 2026 19:00 GitHub Blog

L'étude 'More Code, Less Reuse' de janvier 2026 a mis en évidence que le code généré par des agents entraîne une augmentation de la redondance et de la dette technique par rapport au code écrit par des humains, malgré une apparence de propreté qui favorise son approbation rapide. Avec plus de 60 millions de revues traitées et une croissance décuplée en moins d'un an, GitHub Copilot montre une intégration croissante de l'IA dans les revues de code. Les développeurs doivent être conscients de ces enjeux et ajuster leur processus de révision en conséquence. Le texte souligne l'importance de comprendre le code généré par l'agent, de vérifier la redondance et d'insérer un contexte approprié avant de soumettre ou d'approuver des pull requests. De plus, il est conseillé de diviser les grandes pull requests sans plan clair en unités plus petites pour faciliter la revue. Enfin, une approche critique est essentielle lors de l'examen des workflows qui utilisent des LLM pour éviter les problèmes de sécurité, en exigeant des permissions minimales et une séparation entre les étapes d'analyse et d'exécution. link

Les architectes de l’économie IA voient déjà les limites du modèle

7 mai 2026 05:25 TechCrunch

Lors de la conférence mondiale de l'Institut Milken, des experts impliqués dans chaque niveau de la chaîne d'approvisionnement de l'IA ont discuté des problématiques majeures de l'industrie, incluant les pénuries de puces et les perspectives d'innover avec des data centers en orbite. Christophe Fouquet, PDG d'ASML, a exposé les limitations d'approvisionnement en puces, un problème souligné par la croissance fulgurante et la demande insatisfaite de Google Cloud, rapportée par Francis deSouza. De plus, les défis de collecte de données en situation réelle pertinentes pour l'IA physique ont été notés par Qasar Younis d'Applied Intuition. L'impact énergétique des data centers a été discuté, Google explorant des solutions en orbite pour obtenir plus d'énergie tout en faisant face aux défis de refroidissement. Sur le plan de l'architecture, Eve Bodnia de Logical Intelligence a mis en avant les modèles basés sur l'énergie qui, selon elle, simulent plus fidèlement le fonctionnement du cerveau humain sans dépendre du langage. De leur côté, Dmitry Shevelenko de Perplexity a parlé de l'évolution vers un 'travailleur digital' qui change la manière dont les travailleurs de la connaissance interagissent avec l'IA. Enfin, des implications géopolitiques de l'IA dans le monde physique ont été présentées, révélant des inquiétudes sur la souveraineté nationale face à des technologies étrangères. Cette session a souligné non seulement des défis immédiats mais aussi des pistes prometteuses pour surmonter les obstacles actuels et futurs de l'intelligence artificielle. link

Replit, Cursor et Apple : la bataille pour l’outil de développement augmenté

1 mai 2026 23:06 TechCrunch

Amjad Masad, PDG de Replit, a révélé une croissance impressionnante de l'entreprise durant ces 18 derniers mois, avec une augmentation des revenus passant de 2,8 millions en 2024 à un rythme annuel d’un milliard de dollars. Lors de l'événement StrictlyVC de TechCrunch à San Francisco, Masad a discuté de la solidité économique de Replit, avec une rétention nette de revenus atteignant 300%, et a exprimé son désir de maintenir l'entreprise indépendante malgré les modèles économiques défavorables de concurrents comme Cursor. Replit, qui cible principalement des utilisateurs non techniques, offre une plateforme intégrale qui va de la création à la mise en œuvre d'applications sécurisées, avec une infrastructure robuste incluant des fonctions avancées de cybersécurité. La société envisage également d'investir dans ses clients, reconnaissant le potentiel des entreprises émergentes sur sa plateforme. Malgré les défis avec l'App Store d'Apple, Replit continue de privilégier l'autonomie et l'innovation dans un marché dominé par les géants technologiques. link

Pourquoi l’Europe veut remplacer les logiciels américains par du souverain

27 avril 2026 14:17 TechCrunch

L'Europe est en train de modifier progressivement sa relation avec les technologies américaines, cherchant à réduire sa dépendance envers des fournisseurs comme Microsoft, Google, et Palantir, tout en favorisant des initiatives locales telles que le cloud souverain de Scaleway en France. Cette transition est en partie motivée par des lois comme le CLOUD Act américain, qui impose aux entreprises de tech basées aux États-Unis de fournir des données stockées à l'étranger si requises par la loi, soulevant des inquiétudes sur la sécurité des données européennes. En réponse, des entités comme le Health Data Hub français se sont éloignées d'Azure de Microsoft pour des solutions jugées plus souveraines. Parallèlement, la Commission européenne a attribué un contrat majeur pour un cloud souverain à plusieurs fournisseurs européens, évitant la dépendance à un unique prestataire et cherchant à stimuler une concurrence équitable. Toutefois, les défis demeurent, notamment en termes de capacité technologique et de capture de marché face aux géants technologiques américains. La transition vers des alternatives open source comme Linux et LibreOffice en France et dans d'autres pays européens révèle une volonté de 'construire plutôt qu'acheter', bien que cette approche ait reçu des critiques sur son efficacité et son coût. L'Europe reste partagée entre le besoin de développer une autonomie technologique et les réalités de marché qui favorisent souvent les solutions américaines, malgré une volonté politique de favoriser les technologies locales. link

Trois raisons pour lesquelles le nouveau modèle de DeepSeek compte

24 avril 2026 21:40 MIT Technology Review

DeepSeek, une entreprise d'IA chinoise, a récemment dévoilé V4, un modèle AI avancé, conçu pour traiter efficacement de grands volumes de texte. Ce modèle constitue une avancée par rapport à son prédécesseur, le R1, célèbre pour avoir transformé DeepSeek en un leader de l'IA en Chine presque du jour au lendemain. V4 se distingue par son efficacité et son coût réduit, offrant des capacités similaires à des modèles concurrents à une fraction du prix. Il est disponible en deux versions : V4-Pro pour les tâches de codage et V4-Flash, plus rapide et moins coûteux. DeepSeek a également innové en réduisant considérablement le coût et les ressources nécessaires pour gérer de longs contextes textuels, permettant des applications potentielles dans des domaines exigeant un traitement approfondi de grandes données, comme les assistants de codage AI. En outre, le modèle V4 est prévu pour être utilisé avec des puces chinoises, reflétant une stratégie visant à réduire la dépendance de la Chine envers les technologies étrangères, notamment les puces Nvidia, suite aux contrôles à l'exportation imposés par les États-Unis. Ce modèle marque une étape importante dans l'ambition de la Chine de développer une infrastructure d'IA autonome et compétitive. link

Comment les LLM pourraient accélérer la surveillance de masse

21 avril 2026 20:45 MIT Technology Review

Le texte discute des enjeux autour de l'utilisation des grandes quantités de données personnelles et leur vente par des courtiers en données. Des clients comme le gouvernement des États-Unis utilisent ces données, et les modèles LLM (Large Language Models) pourraient faciliter l'analyse et l'agrégation de ces données à une échelle sans précédent. La récente rupture de négociations entre Anthropic et le Département de la Défense américain, suivie de l'acceptation rapide par OpenAI, a exposé les tensions entre les intérêts de surveillance nationale et la protection de la vie privée. Les acteurs du secteur de la technologie, tels que Dario Amodei d'Anthropic, ont exprimé des inquiétudes sur l'utilisation de LLM dans la surveillance qui pourrait se transformer en crimes contre l'humanité. En parallèle, l'utilisation pratique des LLM a été démontrée par divers chercheurs et entreprises, montrant leur capacité à dé-anonymiser des données apparemment non identifiables. Le gouvernement américain, ainsi que d'autres acteurs mondiaux, continuent d'explorer l'utilisation de ces technologies pour renforcer leur capacité de surveillance. Toutefois, la législation reste en retard par rapport à la technologie, avec des appels croissants pour une régulation plus stricte pour prévenir les abus. Le récent projet de loi exigeant des mandats pour l'achat de données par le gouvernement démontre une prise de conscience politique, mais les défis demeurent, notamment avec la capacité des entreprises privées de mener des activités similaires sans contraintes légales significatives. link

Apprendre à attaquer les agents IA pour mieux les sécuriser

14 avril 2026 18:17 GitHub Blog

Le texte discute de l'évolution constante des assistants AI, en particulier d'OpenClaw, un outil devenu une source d'inspiration pour créer ProdBot, un assistant de codage intentionnellement vulnérable utilisé dans le cadre du Secure Code Game. Ce jeu est une plateforme ouverte et gratuite qui aide les développeurs à comprendre et à contrer les risques de sécurité des systèmes d'IA à travers divers niveaux de défis, débutant par les bases en saison 1 jusqu'à la manipulation avancée des risques en saison 4. Avec l'émergence rapide des IA autonomes, la sécurité de ces systèmes est devenue primordiale. La saison 4 simule un environnement où les joueurs utilisent la langue naturelle pour découvrir des vulnérabilités dans ProdBot, liées à des attaques potentielles comme la faille CVE-2026-25253. Les joueurs apprennent non seulement à reconnaître des motifs d'attaques, mais aussi à penser comme des attaquants pour mieux sécuriser les architectures d'IA dans le monde réel. Ce programme d'apprentissage est hébergé sur GitHub Codespaces, permettant un accès facile et gratuit. link