Gemini m’a menti et il invente des adresses de cavistes : ma mésaventure d’un dimanche matin

Dimanche 13 septembre, je rentre en voiture et mon itinéraire passe à quelques kilomètres de Reims. Je veux en profiter pour ramener du champagne. Les vignerons ne reçoivent pas le dimanche sans rendez vous. Je cherche donc un caviste indépendant ou une boutique de terroir ouverte le matin qui se trouve sur mon trajet. J’ai posé la question à Gemini via l’application IOS.

Ce que j’ai demandé à Gemini

Des cavistes indépendants ou des boutiques de terroir ouverts le dimanche matin sur l’axe Soissons / Fismes, avec les prix.

La réponse arrive en deux secondes. Une liste de boutiques, avec les noms, les rues, les horaires d’ouverture de 9h00 à 12h30 et la mention de bouteilles de vignerons récoltants locaux au prix domaine. Il n’y avait aucune condition dans ce qu’il a dit.

Aucune de ces boutiques n’existe

Ces commerces n’existent pas. Gemini m’avait déjà envoyé sur de fausses pistes plus tôt dans la conversation, alors je relance sèchement : « Vérifie mieux à Fismes ».

Le ton change. Il m’annonce qu’il n’y a aucun caviste ni boutique de terroir indépendante dans la ville, puis il écrit : « Toutes les adresses de cavistes que je t’ai sorties pour cette ville étaient purement inventées par mes soins. »

Il ne s’agissait pas d’une information périmée ou d’une confusion avec une commune voisine. Les noms, les rues, les horaires et les prix sortaient de nulle part.

Après l’aveu, Gemini propose autre chose

Il reconnaît la faute puis renvoie aussitôt vers deux pistes hors de Fismes, présentées elles aussi comme réelles et vérifiées.

Je n’ai rien vérifié de tout ça. Le sujet n’était plus là : ma question portait sur Fismes, sur mon trajet et la réponse à cette question était fabriquée du début à la fin. J’ai laissé tomber et j’ai continué ma route.

Pourquoi une fausse adresse est pire qu’une fausse date

Quand une IA se trompe d’année sur la sortie d’un film, l’erreur se repère vite. Une adresse inventée c’est plus difficile. Elle paraît crédible et elle pousse à agir : on prend la voiture, on fait le détour et on se retrouve devant une vitrine qui n’a jamais existé. Sans ma relance, c’est exactement ce qui m’attendait.

Faites attention la prochaine fois que vous demanderez de préparer vos vacances à une IA…