Serveur GPU 48K$ : rentable vs cloud ?
Original : Was my $48K GPU server worth it?
Pourquoi c'est important
Éclaire les décisions d'investissement GPU pour chercheurs indépendants
Un chercheur indépendant analyse son investissement de 48 000$ dans un serveur 6x RTX 6000 Ada après avoir quitté son emploi FAANG. Il compare les coûts avec la location cloud sur une année d'utilisation.
En 2024, un ex-employé FAANG devenu chercheur indépendant a construit "grumbl", un serveur avec 6 GPU RTX 6000 Ada pour 48 000$. Il a choisi ces GPU plutôt que les A100 ou H100 pour leur rapport prix/performance en inférence. Les contraintes électriques d'appartement l'ont forcé à utiliser deux alimentations sur circuits séparés. Ses calculs montrent qu'il faut 85%+ d'utilisation pendant un an pour égaler les coûts de location cloud. Il a développé un script de monitoring pour mesurer l'usage GPU minute par minute et les coûts électriques. L'analyse compare uniquement les prix on-demand, excluant les réservations 6-12 mois jugées peu attractives.