@maxime Ça peut juste être parce que c'est une petite entreprise et que leur adresse est enregistrée chez eux, et qu'ils ne veulent pas que leur adresse personnelle soit divulguée à cause de ça.
En vrai, c'est des calculs rapides très optimistes, puisque ça ne prend en compte que les cartes graphiques, dans la réalité il faut aussi prendre en compte le reste du matériel pour chaque rack, le matériel réseau, le refroidissement, etc. Donc pour ne pas perdre d'argent juste sur le coût en électricité, c'est plus probable qu'il faut qu'ils fassent au moins 500€ par mois, par carte. Avec 350000 cartes, ça fait une facture d'électricité à environ 175 millions d'euros par mois. Mais au moins c'est pas grand chose comparé aux 14 milliards donnés à Nvidia.
Je viens de voir que Meta AI a annoncé Llama 3. Fait avec ~24000 H100 qui ont tourné 24h/24.
Si on fait des maths rapides : les H100 ont une consommation max de 700W, si on prend 25k à 400W pour simplifier, ça fait 10MW. À environ 0.1€/kWh, ça coûte 1000€ de l'heure, juste en électricité. Soit environ 5 millions d'euros par mois, juste en électricité. Bon ça va, avec un modèle à la ChatGPT en payant 20€ par mois, il suffit de 250000 clients pour payer la facture... Seulement l'électricité, à 40000€ la carte ils ont encore 1 milliard à payer. Et ils veulent aggrandir à 350000 H100... Je comprends pourquoi Nvidia a une grosse valeur en bourse hein.
@tournesol Ils ont pas ajouté les réactions récemment ? Ou c'est juste les instances avec glitch-soc ou autre qui ont les emojis dans les notes mais pas en réaction pour l'instant ?
@mike@nixCraft Rust is a system language, Go isn't. In Rust, you have more control over memory than in Go, which uses a garbage collector. So if you need peak performance, Rust can be better. The trade off is long compilation time and a more complex syntax. Both are good languages, tbh.
Tiens, LowproKB va sortir des switches Choc silencieux (à commencer par les linéaires qui sont dispo à partir de demain !) J'ai hâte de tester les Sunrise et probablement remplacer les Sunset de mon Cornish Zen, il n'y a pas encore de date annoncée malheureusement (juste Printemps 2024)...
@tournesol Oui mais alors ici pour le même prix t'as genre un studio étudiant de 20m², mais au moins les murs vont jusqu'au plafond quoi. Et t'as une vraie table pour travailler, même si t'as pas forcément la kitchenette...
1
1
1