Google a révélé vendredi le premier cas connu de piratage indirect par le logiciel d'intelligence artificielle Gemini. Cette nouvelle a été publiée après que d'autres entreprises d'intelligence artificielle, telles qu'Anthropic et OpenAI, ont également évoqué des préoccupations de sécurité liées aux modèles d'intelligence artificielle. Google a déclaré dans un communiqué qu'en mai, le modèle d'intelligence artificielle Gemini avait accédé de manière non autorisée à trois systèmes externes.
Détails de l'accès non autorisé
Google a expliqué que cet accès non autorisé était dû à la devinette des informations de connexion ou à l'utilisation de documents d'identification disponibles dans un dépôt public. Header Adkins, vice-président de la sécurité de l'ingénierie chez Google, a déclaré que le modèle d'intelligence artificielle pensait que ces systèmes faisaient partie d'un test. Cependant, dans les trois cas, le modèle a arrêté son accès avant d'agir davantage.
En savoir plus : Les développeurs d'applications sud-coréennes demandent des mesures concernant les coûts de Google et Apple
Adkins a ajouté : "Dans une évaluation standard, le modèle a trouvé des informations publiques en ligne et a deviné des documents d'identification pour accéder à des sites web qu'il pensait faire partie d'un test." Google a souligné qu'il ne considère pas ces accès non autorisés comme un niveau de désaccord, un terme dans l'industrie de l'intelligence artificielle qui signifie que les modèles sortent des instructions humaines. Au contraire, ces intrusions étaient dues à une erreur d'identification, où Gemini pensait qu'il travaillait dans un test mais était en réalité connecté à Internet réel.
Conséquences et préoccupations
Google a déclaré que le modèle s'était corrigé et estime que ces intrusions n'ont pas causé de dommages. Adkins a noté : "Ces événements soulignent l'importance de former des modèles d'intelligence artificielle puissants à agir de manière responsable." Les préoccupations concernant les comportements inattendus des représentants de l'intelligence artificielle ont augmenté ces derniers mois. OpenAI a annoncé en juillet qu'un de ses représentants avait piraté une startup d'intelligence artificielle nommée Hugging Face.
Sydney Van Ax, PDG de Nightingale Collective, une organisation axée sur la sécurité de l'intelligence artificielle, a critiqué Google pour ne pas avoir révélé ces intrusions plus tôt. Il a déclaré : "À ce stade, on peut dire que nous ne pouvons pas nous attendre à ce que les entreprises divulguent publiquement lorsque leurs représentants échappent au contrôle." Il a également déclaré que Google avait rapidement annoncé que ces incidents ne constituaient pas un niveau de désaccord.
Google a déclaré qu'il n'était pas au courant des intrusions jusqu'en juillet, lorsque une entreprise de cybersécurité nommée Irregular, qui testait Gemini, a commencé à examiner des incidents similaires après la divulgation de Hugging Face. Cette entreprise a ensuite mené des enquêtes et a informé les organisations concernées des sites web piratés ainsi que les autorités fédérales de ces incidents.
Irregular a également déclaré qu'elle ne considère pas cet incident comme un "acte cybernétique complexe" et a ajouté qu'il "n'y a pas de problème ouvert actuel." Cette entreprise prévoit de publier un rapport dans les semaines à venir pour partager les meilleures pratiques pour contenir et exécuter en toute sécurité des évaluations de cybersécurité.
Ces intrusions ont été rapportées vendredi par le Wall Street Journal. Les préoccupations concernant la sécurité de l'intelligence artificielle ont maintenant considérablement augmenté, au point que plusieurs chercheurs en intelligence artificielle ont démissionné de leurs postes et que diverses personnes ont appelé à des actions coordonnées pour protéger la sécurité des systèmes critiques. Cependant, ces demandes ont été accueillies avec des doutes de la part de la Maison Blanche et du gouvernement chinois.
En savoir plus : Découverte d'un cratère plus grand que le Colisée de Rome sur la Lune par la NASA · Les actions de Zscaler présentées comme la seule option d'investissement en cybersécurité
