Google Bard se plante sur une découverte du télescope James-Webb

La nouvelle intelligence artificielle de Google a donné une réponse erronée dans un clip promotionnel publié par l’entreprise. De quoi inquiéter sur la véracité des réponses qu’elle donnera une fois intégrée au moteur de recherche…

Avec ChatGPT d’OpenAI et Microsoft, les internautes ont rapidement découvert que l’IA ne savait pas différencier ses sources, et tendait à répéter aussi bien les faits avérés que les erreurs, la désinformation ou encore la propagande, sans distinction. Les mises en garde ont commencé à se multiplier sur sa tendance à être « confidently incorrect », autrement dit à sortir des informations erronées en toute assurance.

Google a dévoilé son propre chatbot Bard en début de semaine. La question de l’exactitude de ses réponses a aussitôt été soulevée par de nombreux internautes. La réponse a été donnée involontairement par Google sous la forme d’un tweet de Sundar Pichai, le P.-D.G. de Google.

La première photo d’une exoplanète ? Vraiment ?

Dans un clip vidéo pour promouvoir Bard, il y pose la question suivante : « Quelles sont les nouvelles découvertes du télescope spatial James-Webb dont je peux parler à mon enfant de 9 ans ? ». Le chatbot donne une réponse en trois parties. Si les deux premiers points sont justes, le troisième contenait une erreur. L’IA y affirme que « JSWT a pris les toutes premières photos d’une planète en dehors de notre propre Système solaire ». De quoi faire hérisser les cheveux des astronomes, qui n’ont pas hésité à signaler que la première photo d’une exoplanète (baptisée 2M1207b) a été prise par le Très Grand Télescope de l’ESO (Very Large Telescope, en anglais ou VLT) en 2004, soit 18 ans avant les premières images de JWST.

L’erreur est à nuancer, puisque le télescope spatial James-Webb a été le premier à prendre une photo d’une exoplanète dans l’infrarouge moyen. Bard a donc tronqué une partie de l’information qui en a changé le sens. Toutefois, si l’IA se trompe même dans une publicité officielle de Google, cela peut mettre en doute l’intérêt de son intégration dans le moteur de recherche. Un internaute peut plus facilement mettre en doute les contenus des sites trouvés via une recherche, plutôt qu’une affirmation qui semble directement émaner de Google. Après l’ère des fake news, allons-nous être confrontés à l’ère de la désinformation des IA ?

Google dégaine Bard pour contrer ChatGPT

Confronté à l’engouement pour ChatGPT, Google a craqué et, à partir de lundi, ouvre au public son IA conversationnelle appelée Bard.

Article de Louis Neveu, publié le 07/02/2023

Fin décembre, Google avait déclenché un « code rouge », sorte d’alerte pour mobiliser ses troupes chargées du développement des Intelligences artificielles (IA), face à la subite montée en puissance du chatbot ChatGPT. Alors que le géant d’Internet dispose lui aussi de plusieurs puissantes IA, il n’avait jamais souhaité les libérer auprès du public en raison de questions éthiques notamment.

Google est également très conscient qu’une révolution du numérique comme celle des IA pourrait le faire tomber de son piédestal, comme c’est arrivé à d’autres, lorsque la firme avait lancé son moteur de recherche innovant à la fin des années 1990. Pour ne pas partir trop tard, Google vient tout juste de dévoiler sa réponse à OpenAI, avec un outil de chatbot baptisé « Bard ».

Pour annoncer la nouvelle, c’est Sundar Pichai, le patron de Google lui-même, qui s’est fendu d’un article de blog. Dans un premier temps, Bard ne sera ouvert qu’à des testeurs dits de « confiance », pour être ensuite libéré auprès du public dans « les semaines à venir ». Sur le principe, Bard fonctionne de la même façon que ChatGPT. Il a été nourri par une vaste base de données documentaire pour générer des réponses convaincantes aux questions des utilisateurs. L’atout de Bard, par rapport à ChatGPT dont la base de connaissance est limitée et s’arrête en 2021, c’est que son algorithme peut aller chercher les informations pour ses réponses dans le Web. Et le Web, c’est essentiellement la base d’indexation de Google. Ce n’est pas tout, puisque Sundar Pichai a également expliqué que des fonctionnalités alimentées par l’IA seraient associées à l’outil de recherche.

Une IA dans le moteur de recherche de Google

Cette annonce est donc une façon de couper la priorité à ChatGPT alors que l’IA était capable de mettre en danger le moteur de recherche historique. Et puis, il faut dire que, du côté de Microsoft, les grandes manœuvres avaient également commencé. Le géant de l’informatique a dévoilé accidentellement l’intégration de ChatGPT directement à l’interface de son moteur de recherche Bing. La société doit d’ailleurs organiser un événement ce jour à son siège de Washington, dont on se doute que le sujet sera bien cette nouveauté.

En attendant, pour ce qui est de Bard, il faut savoir que la machinerie n’est pas une nouveauté. Le modèle conversationnel repose sur LaMDA, un algorithme qui existe depuis environ deux ans. Tout comme GTP-3 anime ChatGPT, c’est LaMDA qui dicte à Bard ses réponses. Cette IA LaMDA avait fait parler d’elle l’été dernier, lorsqu’un de ses développeurs avait été licencié après qu’il a publié le script d’une conversation avec elle.

L’objectif des ingénieurs était alors de chercher à savoir si l’IA était consciente d’elle-même. Le résultat était effectivement troublant. C’est pourquoi avec la libération de Bard auprès du grand public, Google franchit une ligne qu’il hésitait à passer jusqu’à l’arrivée de ChatGPT. On peut déjà constater les travers de cette IA douée en rhétorique, mais qui sait mentir ou désinformer avec conviction lorsqu’elle n’a pas les connaissances appropriées.

Or, l’intégration d’une même IA dans un moteur de recherche avec la base de données colossale du Web pourrait comporter de sacrés risques en matière de désinformation. Pour rappel, l’été dernier, l’IA conversationnelle BlenderBot 3 de Facebook avait dû être abandonnée au bout de quelques semaines en raison de sa propension à soutenir des propos conspirationnistes et antisémites. Elle allait chercher des informations sur Internet pour alimenter ses réponses. Reste à espérer que Google a réussi à mettre en place des garde-fous.