Daily Shaarli

All links of one day in a single page.

April 11, 2024

Large Language Models Suffer From Their Own Output: An Analysis of the Self-Consuming Training Loop - 2311.16822.pdf

Les performances des LLM baissent significativement lorsqu'on les entraines sur des données générées par d'autres LLM.

C'est le challenge des prochains mois/années, pouvoir distinguer les données générées par un LLM pour les exclure des données d'entrainement