On est dans la ****** (c'est un truc technique dans le dev) (en gros, ya des gens qui codent en utilisant des assistants LLM - l'IA qui génère du texte. Sauf qu'on sait qu'il y a des hallucinations : ces LLM pondent, avec beaucoup de confiance des trucs qui n'existent pas. Genre "inclue moi ce package toto". Ce qui fait qu'à l'exécution, ça bug. Sauf que des malfaiteurs créent ce package toto par la suite, pour véroler le bouzin) www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/ via sebsauvage.net/links/?PrXsuw
@MutoKenji Y avait eu un poc mais genre y a 1 an ou plus, où des chercheurs ont montré ce risque, tout pareil. Non seulement qu'un package inexistant et laissé malgré tout, soit créé par la suite. Mais aussi, et encore plus dangereux, sur de la génération en masse, ils avaient observé des hallucinations récurrentes, pouvant mener à créer le package avant une 2e (ou n-ième) génération où il n'y aurait même pas de bug aux tests et à l'exécution. Difficile à détecter, impossible même pour un novice.
