To the "No but there is real and ethical use case for AI" crowd: What are the ethical use case of Voice Cloning? Pretty sure none of the people in that demo gave their consent.
@julien Better TTS for blind people receiving texts from people they know, or when you're in your car or something. With on-device processing only, of course...
@Varpie Est ce que ca a vraiment besoin d'etre du "Clone" ? Parce que une voix generique de qualité ca marche aussi. Je suis pas sure que ca apporte enormement d'avantage vis a vis des risque que ca représente. (En particulier pour les personne mal voyante qu'y n'ont probablement pas de moyen de verifier l'authenticité de l'origine de la voix)
@julien Euh, je ne comprends pas vraiment de quel risque tu parles, si c'est utilisé pour lire les messages de ta famille, tu peux juste leur demander non ? Je ne dis pas que ça doit se généraliser au point qu'on puisse avoir notre voix utilisée sans qu'on le sache hein, mais genre si une application à laquelle je fais confiance me permettait de faire que mes contacts peuvent générer des TTS de mes messages avec ma voix localement sur leur téléphone, je ne serais pas contre (mais pour l'instant ça fait beaucoup trop de contraintes pour être réaliste...)
@julien Bien sûr il faudrait un système pour envoyer le modèle ou un échantillon de la voix pour que la personne puisse l'utiliser, ce qui servirait aussi de consentement. Genre une interface où tu peux demander à utiliser la voix, la personne reçoit une notification et peut accepter ou non, quelque chose du genre. Comme ça tu dox pas ta voix à tout le monde qui a ton contact, aussi. De cette façon, on a : - le consentement - le fait que ça ne fasse pas dire des choses qu'on ne veut pas parce que c'est uniquement sur nos messages - le fait que ça ne balance pas nos données à Big Tech en faisant ça localement uniquement.
Mais bon, comme dit précédemment ça fait trop de contraintes pour être réaliste actuellement...
