Liz Read, responsable de la recherche chez Google, a admis que le moteur de recherche de l’entreprise avait renvoyé des « aperçus étranges, inexacts ou inutiles de l’IA » après son déploiement public aux États-Unis. L’exécutif a publié dans un fichier une explication des réponses les plus bizarres générées par l’IA de Google. Article de blogIl a également annoncé que la société avait mis en place des mesures de protection qui aideront la nouvelle fonctionnalité à fournir des résultats plus précis et moins dignes d’intérêt.
Reed a défendu Google et a souligné que certaines des réponses les plus flagrantes à l’aperçu de l’IA qui circulent, telles que les affirmations selon lesquelles il est sécuritaire de laisser des chiens dans les voitures, sont fausses. Capture d’écran virale montrant la réponse à la question « Combien de pierres dois-je manger ? » C’est vrai, mais elle a déclaré que Google avait trouvé une réponse parce qu’un site avait publié du contenu satirique sur le sujet. « Avant que ces captures d’écran ne deviennent virales, pratiquement personne ne posait cette question à Google », a-t-elle expliqué, l’IA de l’entreprise était donc liée à ce site.
Le vice-président de Google a également confirmé qu’AI Overview demandait aux gens d’utiliser de la colle pour que le fromage colle à la pizza, en se basant sur le contenu d’un forum. Elle a déclaré que les forums fournissent généralement « des informations authentiques et simples », mais peuvent également conduire à des « conseils peu utiles ». Le PDG n’a cependant pas mentionné les autres réponses qui circulent autour de l’IA. Washington Post Selon certaines informations, la technologie aurait également indiqué aux utilisateurs que Barack Obama était musulman et que les gens devraient boire beaucoup d’urine pour les aider à se débarrasser des calculs rénaux.
Reid a déclaré que la société avait testé la fonctionnalité de manière approfondie avant son lancement, mais « rien ne vaut que des millions de personnes utilisent cette fonctionnalité pour autant de nouvelles recherches ». Il semble que Google ait été en mesure d’identifier les tendances dans lesquelles sa technologie d’IA ne parvenait pas à faire les choses correctement en examinant des exemples de ses réponses au cours des deux dernières semaines. Il a ensuite mis en place des protections en fonction de ses retours, en commençant par peaufiner son IA pour pouvoir mieux détecter les contenus humoristiques et satiriques. Il a également mis à jour ses systèmes pour limiter l’ajout de réponses générées par les utilisateurs dans les aperçus, telles que les publications sur les réseaux sociaux et les forums, qui peuvent donner aux gens des conseils trompeurs, voire préjudiciables. De plus, il « a également ajouté des restrictions de déclenchement pour les requêtes pour lesquelles les aperçus de l’IA ne se sont pas révélés utiles » et a cessé d’afficher les réponses générées par l’IA pour certains sujets de santé.
« Amateur de musique. Joueur. Alcooliste. Lecteur professionnel. Spécialiste du Web. »