.svg){kind=small}
.avif)
Google AI a récemment dévoilé KELM, une technologie visant à réduire les biais et le contenu toxique tout en augmentant l'exactitude des informations. Basée sur un modèle de pré-entrainement enrichi par des connaissances, KELM utilise des graphes de connaissances pour améliorer les modèles de traitement du langage naturel, tels que BERT. Les chercheurs ont développé la méthode TEKGEN pour convertir ces données structurées en texte naturel, améliorant ainsi la qualité des contenus utilisés pour l'entrainement des algorithmes. Bien que Google n'ait pas encore confirmé l'utilisation de KELM, cette approche montre un fort potentiel pour influencer les classements de recherche et pourrait être adoptée par d'autres plateformes comme Bing ou Facebook. Le prochain algorithme MUM de Google pourrait également bénéficier de cette innovation pour garantir des réponses sans biais. Les implications de KELM sont vastes, allant au-delà de la recherche traditionnelle pour toucher les réseaux sociaux et autres secteurs utilisant le traitement du langage naturel. Intrigué par comment cette technologie pourrait transformer l'Internet? Plongez dans l'article complet pour découvrir les détails techniques et les potentielles applications de KELM.
Google AI a récemment introduit KELM, une nouvelle technologie conçue pour réduire les biais et les contenus toxiques tout en augmentant l'exactitude des informations. Utilisant un modèle de pré-entraînement enrichi par des connaissances, KELM tire parti des graphes de connaissances pour améliorer des modèles de traitement du langage naturel comme BERT.
Introduction à KELM
KELM signifie "Knowledge-Enhanced Language Model Pre-training". Contrairement aux modèles traditionnels de traitement du langage, qui se basent généralement sur des documents web, KELM propose d'incorporer des contenus factuels et fiables dans le processus de pré-entraînement pour améliorer l'exactitude des informations et réduire les biais.
Utilisation de Données Fiables
Les chercheurs de Google ont opté pour l'utilisation de graphes de connaissances afin de garantir la fiabilité des informations, étant donné que ces sources sont considérées comme plus fiables et sont parfois vérifiées par des éditeurs humains.
L'Incertitude sur l'Utilisation de KELM
Pour l'instant, Google n'a pas confirmé si KELM est déjà en usage. Cependant, cette approche innovante promet d'améliorer les classements de recherche, ce qui est un point cruciale pour les algorithmes futurs, y compris le prochain Google MUM.
Réduction des Biais et Amélioration de l'Exactitude
Le papier de recherche montre que cette méthode améliore l'exactitude des informations tout en réduisant la toxicité du contenu, deux éléments cruciaux pour des résultats de recherche plus justes et fiables.
Potentiel au-delà de la Recherche
KELM n'est pas seulement pertinent pour les moteurs de recherche. Sous licence Creative Commons, d'autres plateformes telles que Bing, Facebook ou Twitter pourraient également utiliser cette technologie pour améliorer leurs modèles de traitement du langage naturel.
Connexions Indirectes avec MUM
Google a annoncé que le prochain algorithme MUM serait également analysé pour des biais potentiels avant d'être déployé. La méthode KELM pourrait être une ressource précieuse pour ce travail.
Les Défis des Modèles de Traitement du Langage
L'un des défis courants dans le domaine du traitement du langage naturel est que les données d'entraînement peuvent parfois contenir du contenu non fiable ou biaisé. Les chercheurs cherchent à contourner ce problème en améliorant la qualité des données utilisées pour l'entraînement.
Le Graph de Connaissance
Le graphe de connaissance est une collection de faits structurés et a été introduit par Google en 2012. Il aide à comprendre les relations entre différents concepts, comme les personnes, les lieux et les objets, en se basant sur des sources d'informations fiables.
Conversion des Données Structurées en Texte Naturel
Une des difficultés avec l'intégration des données de bases de connaissances dans les algorithmes de traitement du langage naturel est la conversion de ces données structurées en texte naturel. Pour cela, les chercheurs ont développé un processus nommé TEKGEN pour générer du texte naturel à partir de données structurées.
Génération du Corpus KELM
La méthode TEKGEN permet de convertir les données du graphe de connaissances en texte naturel, qui est ensuite utilisé pour entraîner les modèles de traitement du langage. Cela améliore la véracité des informations et réduit la toxicité des contenus générés par les algorithmes.
Conclusion
KELM pourrais effectivement avoir des applications pratiques dans des tâches comme les réponses aux questions, où l'exactitude des informations est essentielle. Bien que Google n'ait pas encore implémenté cette technologie, les résultats prometteurs ouvrent la voie à une éventuelle adoption dans le futur.
Utilisation Future de KELM
Avec les préoccupations croissantes concernant les biais et l'exactitude des informations en ligne, il est probable que des innovations comme KELM joueront un rôle important dans l'amélioration des algorithmes de recherche et autres technologies basées sur le traitement du langage naturel.
