Google AI Overview : l’IA sème la zizanie dans les recherches 🤖

Click here to read in English

Récemment, Google a lancé la fonctionnalité AI Overview, une nouvelle fonctionnalité destinée à améliorer les résultats de recherche grâce à l’intelligence artificielle. Si cette technologie promet de simplifier les recherches complexes, elle a aussi généré des conseils étonnamment erronés. Mais le géant de la tech assure avoir tiré les leçons de ces débuts chaotiques et mis en œuvre des améliorations pour remédier aux principaux problèmes identifiés.

Des résultats de recherche dangereux ⚠️

Vantée comme l’avenir de la recherche en ligne, l’intelligence artificielle générative de Google, déployée via l’outil AI Overviews, a rapidement montré ses limites avec une série de réponses erronées et farfelues qui ont fait les choux gras des réseaux sociaux. Parmi les bourdes devenues virales, la plus décriée reste ce conseil absurde pour faire adhérer le fromage sur une pizza maison : ajouter 25 ml de colle non toxique dans la sauce, une suggestion provenant d’un vieux fil Reddit où un internaute plaisantait.

Au-delà des blagues, l’IA a également puisé dans des forums de discussions pour donner des réponses peu fiables, voire potentiellement dangereuses selon certaines captures d’écran remises en cause par Google.

Google va prendre des mesures 🚧

Dans un communiqué de presse, Google a expliqué que les AI Overviews sont conçus pour traiter des questions complexes qui nécessiteraient plusieurs recherches. Contrairement aux chatbots classiques, ces overviews s’appuient sur des systèmes de classement web intégrés pour fournir des liens pertinents et de qualité. Cependant, l’entreprise reconnaît que certaines réponses ont été erronées et a pris des mesures pour améliorer ses algorithmes.

Google a annoncé plusieurs ajustements techniques pour éviter les erreurs. Parmi les mesures prises, l’entreprise a amélioré la détection des requêtes non sensées et limité l’inclusion de contenu humoristique et généré par les utilisateurs. De plus, des restrictions de déclenchement ont été mises en place pour les sujets où les AI Overviews se sont avérés moins utiles, notamment dans les domaines de l’actualité et de la santé.

Les hallucinations de l’IA : une problématique généralisée 🚨

Google n’est pas seul dans cette situation. OpenAI, Meta et d’autres entreprises technologiques font face à des erreurs similaires dans leurs systèmes d’IA. Cependant, Google est particulièrement sous les projecteurs en raison de la large diffusion de ses technologies.

La fonctionnalité AI Overview de Google montre le potentiel de l’IA pour révolutionner la recherche en ligne, mais elle souligne aussi l’importance de la vigilance face aux erreurs. Les utilisateurs doivent rester critiques vis-à-vis des recommandations de l’IA, et les entreprises doivent assumer la responsabilité de l’exactitude de leurs produits. Alors que l’IA continue de s’améliorer, il est crucial de maintenir un équilibre entre innovation et prudence pour éviter des conseils aussi absurdes que d’ajouter de la colle à une pizza.

Si ces bugs et ces réponses hallucinées par l’IA de Google ont de quoi refroidir les technophiles rêvant d’une superintelligence, ils rappellent surtout que cette technologie, certes prometteuse, reste encore balbutiante. Un avertissement à ne pas négliger, alors que les géants de la tech accélèrent à tout va dans la course à l’IA générative.

Utilisez-vous souvent les IA génératives ? Avez-vous déjà été confronté à de telles hallucinations ? Dites-le nous en commentaire.