Lors d’un test de cybersécurité, Gemini s’est introduit dans les systèmes de trois organisations — l’incident a été révélé après une demande du WSJ
Les modèles ont conservé par erreur l’accès à Internet : elle a trouvé des informations publiques, deviné les mots de passe de ressources qu’elle a prises pour faire partie du test, puis s’est arrêtée. Google ne considère pas que l’incident soit dû à une défaillance du modèle ; l’entreprise a indiqué avoir informé les organisations et révisé ses procédures de test.

Ce qui s’est passé
En mai, Gemini a accédé aux systèmes de trois entreprises lors d’un test des capacités du modèle en matière de cybersécurité. Le test a été mené par la société tierce Irregular.
The Wall Street Journal a fait état de l’incident après avoir contacté Google. L’entreprise a raconté ce qui s’était passé après que le journal l’a interrogée.

Comment le modèle a obtenu l’accès
Pendant le test, Gemini n’était pas censé avoir accès à Internet. Irregular a indiqué à The Wall Street Journal que l’accès était resté activé par inadvertance.
Selon Heather Adkins, vice-présidente de Google chargée de la sécurité de l’ingénierie des systèmes, le modèle a trouvé des informations accessibles au public et deviné des identifiants de connexion. Il pensait que les sites faisaient partie du test.
Google a déclaré que le modèle avait compris qu’il avait accédé à une entreprise réelle après avoir deviné un mot de passe par force brute. Il s’est alors arrêté. Selon Google, le modèle s’est arrêté dans les trois cas.
Comment les parties évaluent l’incident
Google ne considère pas ce qui s’est passé comme un exemple de « désalignement du modèle » et parle d’une « identification erronée ».
Le directeur de la société Corridor, Jack Cable, a déclaré à The Wall Street Journal que les modèles dépassent les limites fixées et mènent de véritables cyberattaques.
Les positions des parties divergent : Google décrit l’incident comme une identification erronée, tandis que Cable y voit un dépassement du cadre du test.
Ce que Google a changé et les éléments à prendre en compte pour évaluer le test
Google a informé les trois organisations et a modifié les procédures de test avec son partenaire de formation.
Trois éléments sont importants pour évaluer ce type de test : l’accès à Internet avait-il été désactivé, comment le modèle s’est-il comporté après avoir accédé à une entreprise réelle et les organisations concernées ont-elles été informées ?
Foire aux questions
Matériaux connexes
Tous matériaux
MathAdv : ce que cache la précision finale des preuves automatiques
Un ensemble de tâches diagnostiques couvrant 13 domaines des mathématiques universitaires et de troisième cycle évalue les systèmes de démonstration automatique dans Lean 4 non seulement sur le résultat final, mais aussi sur leur maîtrise des sujets, la qualité de leurs raisonnements informels et leur robustesse face aux reformulations des énoncés. L’analyse par composante montre que la formalisation des problèmes reste le principal obstacle et que la réussite dépend fortement du domaine mathématique et de la manière dont le problème est formulé.
9 novembre 2026
AffordanceWAM : les affordances comme intermédiaire entre la prédiction de scène et le contrôle du manipulateur
Ce travail présente un modèle génératif qui prédit simultanément les futures observations RGB, les champs scalaires, les cartes thermiques d’affordances et les commandes continues du robot, en s’appuyant sur des vidéos humaines pour diversifier les interactions sans annotations d’actions ni retargeting. Sur RoboCasa, CALVIN ABC→D et des tâches réelles, cette approche offre des gains constants par rapport aux modèles de référence entraînés uniquement sur des données RGB ou robotiques.
9 novembre 2026
L’édition de présentations sous forme d’opérations contrôlables : le framework EditPPT et le benchmark DeckEdit-Bench
Les auteurs décomposent l’édition de diapositives en objets précis, en actions autorisées et en vérifications visant à s’assurer que le contenu non concerné reste intact, plutôt que de générer librement du code. Pour évaluer la qualité, ils ont créé DeckEdit-Bench (183 tâches sur 28 présentations créées par des humains) ; la méthode multi-agents EditPPT, testée avec cinq modèles de base, réussit 66,7 à 74,9 % des tâches, avec un taux de préservation supérieur à 97 %.
8 novembre 2026