Non, c’est faux : la démo Bard AI de Google donne des informations incorrectes

Alors que Bard de Google, alimenté par l’IA, se prépare à concurrencer ChatGPT, ne comptez pas sur le fait que les programmes de chatbot ont toujours raison : une récente démo de Bard le montre en train de jaillir des informations inexactes.

Bard, que Google a annoncé lundi, devrait arriver dans les prochaines semaines. Pour promouvoir le programme d’IA, l’entreprise a publié un GIF(Ouvre dans une nouvelle fenêtre) sur les réseaux sociaux qui montre Bard répondant à une question sur les nouvelles découvertes faites par le télescope spatial James Webb de la NASA.

Le programme répertorie trois découvertes faites par le télescope spatial dans un format à puces facile à lire. Ainsi, grâce à Bard, un utilisateur peut rapidement apprendre des informations, sans avoir à faire défiler une longue liste de résultats de recherche pour trouver le site applicable.

(Crédit : Google)

Le seul problème? Les astronomes n’ont pas tardé à signaler(Ouvre dans une nouvelle fenêtre) l’un des faits énumérés que Bard a généré est faux. Le programme prétend à tort que le télescope spatial James Webb “a pris les toutes premières images d’une planète en dehors de notre propre système solaire”. Mais en réalité, les astronomes ont cassé le première image d’une exoplanète(Ouvre dans une nouvelle fenêtre) en 2004 à l’aide du Very Large Telescope de l’Observatoire européen austral au Chili.

Bard a peut-être fait l’erreur parce que le télescope spatial James Webb a pris sa première image d’une planète en dehors de notre propre système solaire en septembre – ce n’était tout simplement pas le premier télescope à le faire. Les communiqués de presse “ambiguës” de la NASA sur les découvertes d’exoplanètes de James Webb ont peut-être encore plus confus le programme d’IA, ajoutée(Ouvre dans une nouvelle fenêtre) l’astronome Bruce Macintosh.

Tweeter(Ouvre dans une nouvelle fenêtre)

L’erreur est un peu gênante puisque Bard est destiné à améliorer l’expérience de recherche et non à nuire. Dans un communiqué, la société souligne que Bard est toujours un travail en cours.

“Cela souligne l’importance d’un processus de test rigoureux, quelque chose que nous lançons cette semaine avec notre programme Trusted Tester”, a déclaré la société à PCMag. “Nous combinerons les commentaires externes avec nos propres tests internes pour nous assurer que les réponses de Bard atteignent un niveau élevé de qualité, de sécurité et d’ancrage dans les informations du monde réel.”

Néanmoins, l’erreur montre un risque d’utilisation de Bard ou ChatGPT pour rationaliser les résultats de recherche. Les mêmes programmes peuvent accidentellement fournir des informations erronées en essayant de résumer le contenu. Microsoft, qui intègre ChatGPT dans le moteur de recherche Bing, concède même : “Bing déforme parfois les informations qu’il trouve, et vous pouvez voir des réponses qui semblent convaincantes mais qui sont incomplètes, inexactes ou inappropriées.”

Microsoft tente de remédier au risque de désinformation en exigeant que le nouveau Bing alimenté par ChatGPT cite les sources et montre comment il est arrivé à une réponse. Néanmoins, l’approche suppose que l’utilisateur prendra le temps de vérifier les sources alors que beaucoup ne le pourraient pas.

Les nouveaux Bing et Bard alimentés par l’IA n’ont pas encore été complètement lancés. Mais lorsqu’ils le feront, leur capacité à publier des informations erronées et à être exploitées à des fins abusives sera sans aucun doute mise à l’épreuve. propre à Microsoft FAQ(Ouvre dans une nouvelle fenêtre) sur ChatGPT, Bing ajoute une clause de non-responsabilité : “Utilisez votre propre jugement et vérifiez les faits avant de prendre des décisions ou d’agir en fonction des réponses de Bing.”