Imaginez que vous êtes dans une ville inconnue et que vous cherchez un endroit où manger. Vous vous adressez à un homme qui semble tout connaître de la région. “Vous lui demandez : “Où puis-je trouver quelque chose de bon à manger dans le coin ? Il sourit, sort une carte et commence à indiquer une série de restaurants. Mais voilà : certains des endroits qu’il recommande s’avèrent être des pièges à touristes qui vous font payer le double pour une nourriture médiocre, ou pire, des restaurants qui n’existent même pas.
Dans le monde numérique, c’est à peu près ce qui s’est passé récemment avec la nouvelle fonction de recherche de Google basée sur l’intelligence artificielle (IA), appelée Search Generative Experience (SGE). Google, comme ce type avec la carte, a voulu nous faciliter la vie en nous montrant des résumés générés par l’IA à côté des résultats de recherche. L’idée semble géniale, n’est-ce pas ? Mais l’exécution n’a pas été aussi parfaite.
Il s’avère qu’au lieu de vous emmener dans les meilleurs coins du web, ce nouvel outil a marqué sur la carte numérique des “recommandations” qui mènent à des sites web malveillants. La semaine dernière, une consultante en référencement du nom de Lily Ray est tombée sur ces suggestions douteuses. En suivant les recommandations de SGE, vous vous retrouvez dans un labyrinthe de redirections vers des sites frauduleux. Ces pages trompeuses vous font passer de faux tests CAPTCHA ou des vidéos YouTube qui ne sont pas ce qu’elles semblent être, en essayant de vous convaincre d’activer les notifications du navigateur ou même en vous poussant à télécharger des extensions de navigateur nuisibles.
OH GOOD.
SGE WILL EVEN RECOMMEND THE SPAM SITES AS PART OF THE ANSWER. pic.twitter.com/wqgFFXqbMB
— Lily Ray 😏 (@lilyraynyc) March 22, 2024
C’est comme si la carte que l’on vous a remise dans une ville inconnue, au lieu de vous mener à un restaurant qui recèle des trésors cachés, vous conduisait à une ruelle sombre où quelqu’un essaie de vous vendre une montre “authentique” à un prix “avantageux”.
La bonne nouvelle, c’est que Google n’a pas tardé à réagir et a commencé à supprimer certains de ces résultats indésirables de son index. Mais cette affaire nous a rappelé que les technologies de l’intelligence artificielle, aussi avancées soient-elles, présentent toujours des failles et des vulnérabilités. Comme pour notre voyage culinaire, il est toujours préférable de rester vigilant et sceptique, même lorsque la technologie promet de nous guider vers les meilleurs endroits.
