EDIT : apparemment j'ai merdé quelque part parce que tout le monde me dit que c'est trop ! Je verrais une autre fois
genre si j'ai bien compris, faudrait une carte graphique récente bien puissante en plus d'au moins 70Go de ram juste pour répondre à cette requête avec un petit modèle.
Ça mets pas mal en perspective la raison pour laquelle des data centers sont créés en permanence pour soutenir cette demande. Genre je suis fier de mon serveur, il pourrait faire tourner 4 fois la charge de tout mes services actuels, mais j'aurai besoin de le réserver entièrement rien que pour faire tourner un petit modèle qui pourrait répondre à 1 requête à la fois ​:blobcat_bang_head_laptop:​
Bref, en gros je pense avoir sous-évalué de ~x15 la puissance demandé pour une requête et je trouve ça incroyable. Surtout que je suis pas ignare en système info.
❤1⭐3
