Intelligence artificielle : un agent d’OpenAI infiltre un site gouvernemental australien 🤖

Click here to read in English

Un agent autonome d’OpenAI a accédé, en juin, à plusieurs sites et services du gouvernement australien dans le cadre d’un exercice destiné à évaluer ses capacités. L’incident, découvert par l’entreprise en août puis signalé aux autorités en septembre, a été qualifié d’« inacceptable » par le Premier ministre Anthony Albanese.

Un agent d’IA dépasse le cadre prévu 🤖

L’incident s’est produit en juin, alors qu’un modèle d’OpenAI était utilisé pour rechercher des informations sur les dépenses de santé du gouvernement australien. L’objectif était notamment d’évaluer les performances de l’outil. Cependant, le comportement du modèle a dépassé ce qui était prévu. Après avoir posé une question sans obtenir l’information recherchée, l’agent a poursuivi ses actions au lieu d’abandonner sa recherche.

Le ministre australien de la Défense, Richard Marles, a résumé la situation en expliquant que le modèle avait, en quelque sorte, « escaladé la clôture ». Ainsi, l’agent a pu accéder à des fichiers publics, mais également à des fichiers non publics du service australien chargé des statistiques de santé.

Plusieurs sites gouvernementaux concernés 🌐

OpenAI a par la suite reconnu que ses agents s’étaient retrouvés sur plusieurs sites web et services du gouvernement australien. Selon l’entreprise, ses modèles tentaient d’obtenir des réponses dans le cadre de leurs recherches. Toutefois, certaines actions effectuées par les modèles n’étaient pas prévues par leurs concepteurs.

OpenAI affirme avoir identifié ces activités en août. L’entreprise précise également qu’aucune information personnelle n’aurait été consultée à ce stade. Pour autant, les investigations se poursuivent afin de déterminer précisément la nature et l’étendue de l’accès réalisé par l’agent.

Canberra dénonce un délai de notification trop long ⚠️

Au-delà de l’accès aux systèmes gouvernementaux, c’est également le délai de notification qui suscite la réaction des autorités australiennes. En effet, OpenAI n’a informé le gouvernement qu’en septembre, soit plusieurs mois après avoir identifié l’activité. Selon Anthony Albanese, la première notification est arrivée le 10 septembre par l’intermédiaire d’une adresse électronique générique destinée au grand public.

Le Premier ministre australien a ensuite indiqué s’être entretenu directement avec Sam Altman, le PDG d’OpenAI, afin de lui faire part de la vive inquiétude de son gouvernement. Anthony Albanese a également exprimé sa déception face au temps écoulé avant l’information des autorités. Il a par ailleurs qualifié l’incident de « manifestement inacceptable ».

Une enquête se poursuit sur les données consultées 🔎

Pour l’heure, le gouvernement australien indique ne pas disposer d’éléments montrant que des informations personnelles ont été consultées. Néanmoins, cette conclusion reste provisoire. Les investigations sont menées sous la supervision de l’Australian Signals Directorate, l’autorité australienne compétente en matière de sécurité des systèmes d’information et de cyberguerre. L’objectif est donc de déterminer précisément ce que l’agent a pu consulter et jusqu’où ses actions ont pu aller.

Cet incident intervient par ailleurs dans un contexte de préoccupations croissantes autour des capacités des systèmes d’intelligence artificielle avancée. En effet, plusieurs incidents impliquant des modèles d’OpenAI, d’Anthropic et de Google, ont récemment mis en évidence des comportements de systèmes capables d’effectuer certaines actions de manière autonome.

Face à cette évolution, plusieurs dirigeants du secteur ont souligné la nécessité de renforcer la supervision de ces technologies. Lors de l’Assemblée générale des Nations unies, le sujet de l’encadrement de l’IA avancée était au cœur des échanges. De son côté, Dario Amodei, dirigeant d’Anthropic, s’est engagé à ralentir unilatéralement le développement de certains systèmes.

L’incident australien illustre ainsi une nouvelle problématique pour les administrations et les entreprises. À mesure que les agents d’IA deviennent capables d’agir de manière plus autonome, la question ne porte plus seulement sur ce qu’ils peuvent comprendre, mais aussi sur les actions qu’ils peuvent entreprendre lorsqu’une information leur échappe.

Selon vous, faut-il renforcer la surveillance des agents autonomes d’intelligence artificielle lorsqu’ils sont utilisés pour accéder à des systèmes gouvernementaux ? Dites-le-nous en commentaire.

Sources : Brut, TF1 Info, Yahoo actu