Un avocat américain en droit civil, Nick Mermiges, également consultant sur les LLM, a construit un serveur d'IA privé avec huit cartes graphiques Nvidia Tesla V100-SXM2-32GB achetées d'occasion. Il l'a présenté sur le subreddit r/homelab, et Tom's Hardware a repris son cas le 9 novembre 2026. Objectif affiché : garder ses dossiers clients hors de tout service cloud.
Le cas intéresse directement les professionnels soumis à des obligations de confidentialité, avocats bien sûr, mais aussi consultants SEO qui manipulent des données clients sensibles (bases prospects, stratégies commerciales, contrats). La question qu'il pose n'est pas « l'IA locale est-elle plus rapide », elle ne l'est pas vraiment, mais « qui a accès à mes données quand je les colle dans un prompt ».
À retenir
- Nick Mermiges, avocat en droit civil et consultant LLM, a posté sa configuration sur r/homelab avant la reprise par Tom's Hardware
- Le serveur assemble deux cartes mères SXM2 à 4 GPU chacune, reliées en NVLink, soit 8 Nvidia Tesla V100-SXM2-32GB au total
- Coût : environ 2 400 $ par carte mère neuve, et des cartes V100 d'occasion trouvées entre 400 et 900 $ pièce selon le moment de l'achat
- Le modèle utilisé est DeepSeek V4.1 Flash, chargé entièrement en mémoire GPU : jusqu'à 215 tokens/seconde en code, environ 103 à 118 tokens/seconde en rédaction juridique
- 50 à 60 % de ses usages de LLM passent désormais par ce serveur local plutôt que par des modèles frontières en ligne
01Un post Reddit devenu cas d'école
Le point de départ n'est pas une enquête de presse mais un post sur r/homelab, communauté connue pour ses bricolages de serveurs maison. Nick Mermiges y détaille sa configuration, ses coûts et ses performances. Tom's Hardware a repris l'information le 9 novembre 2026, avant d'être relayée par Tom's Hardware Italia, elhacker.net, TechJuice ou encore AI Miracle.
Mermiges n'est pas un simple utilisateur de ChatGPT : en plus de son activité d'avocat en droit civil, il fait du conseil autour des LLM. Un profil qui explique le niveau de détail technique de son retour d'expérience, loin du bricolage improvisé.
02La configuration matérielle, poste par poste
Le serveur repose sur deux cartes mères au format SXM2, chacune équipée de 4 GPU, reliées entre elles en NVLink pour former un ensemble cohérent de 8 cartes Nvidia Tesla V100-SXM2-32GB. Ce format, hérité des datacenters, n'est pas celui d'une carte graphique grand public : il exige un châssis et une alimentation adaptés.
Combien ça coûte réellement
Chaque carte mère SXM2 à 4 GPU a coûté environ 2 400 $ à l'achat neuf. Les GPU V100 eux-mêmes, achetés d'occasion, se négociaient entre 400 et 900 $ pièce selon le moment de l'achat, un marché volatile où les prix bougent au gré des ventes de matériel de datacenter décommissionné. Au total, l'enveloppe reste loin des dizaines de milliers de dollars qu'exigerait du matériel Nvidia récent équivalent, mais elle n'a rien d'anecdotique pour un cabinet individuel.
03DeepSeek V4.1 Flash, le modèle qui tient dans ces GPU
Le serveur fait tourner DeepSeek V4.1 Flash entièrement chargé en mémoire GPU, sans déborder sur le stockage disque, ce qui explique les débits obtenus : jusqu'à 215 tokens par seconde en génération de code, et entre 103 et 118 tokens par seconde en rédaction juridique. Des chiffres honorables pour du matériel vieux de plusieurs générations, même si Mermiges reconnaît que son installation n'est « pas vraiment plus rapide » que les alternatives par API.
L'intérêt n'est pas la vitesse, c'est de ne jamais envoyer un dossier client vers un serveur qu'on ne contrôle pas.
Ce choix de modèle n'est pas anodin : DeepSeek V4.1 Flash fait partie des LLM open-weight assez légers pour tourner sur du matériel ancien, à la différence des modèles frontières (GPT, Claude, Gemini) qui n'existent qu'en version cloud fermée.
04Ce que ça change pour les pros qui manipulent des données sensibles
Mermiges estime que 50 à 60 % de ses usages de LLM passent désormais par ce serveur local plutôt que par un service en ligne. Le motif n'est jamais la performance : c'est la garantie qu'aucun dossier confidentiel ne transite par les serveurs d'un tiers, ni ne soit soumis aux conditions d'utilisation d'un éditeur cloud. C'est exactement la logique qui a poussé la Suède à bannir ChatGPT et Claude de son administration pour raisons RGPD, et celle qu'invoque OVHcloud dans sa bataille sur l'IA souveraine face à Mistral AI.
Pour un consultant SEO, l'équation est la même sur le fond : analyser les bases de mots-clés d'un client, ses données de conversion ou ses documents contractuels dans un prompt ChatGPT ou Claude en ligne revient à faire transiter ces données par un tiers, même quand l'éditeur propose des garanties comme la Zero Data Retention d'OpenAI. Un serveur local, même modeste, élimine cette question par construction.
05Faut-il se lancer ? Le vrai arbitrage
Monter un tel serveur suppose des compétences d'administration système, un budget matériel réel même en occasion, et l'acceptation de performances qui n'égalent pas les modèles frontières les plus récents. Le calcul n'a de sens que pour des usages où la confidentialité pèse plus que la qualité de sortie : premier jet de rédaction, analyse de documents internes, génération de code sur des bases propriétaires. Pour tout le reste, les garanties contractuelles des éditeurs cloud (zéro conservation, hébergement européen) restent plus simples à mettre en œuvre qu'un rack de GPU de datacenter dans un bureau.
Le lecteur se demande souvent
Faut-il se fier aux études de cas publiées par les fournisseurs d'IA ? OVHcloud a-t-il déjà un LLM disponible face à Mistral AI ? Faut-il s'attendre à des PC plus chers à cause de l'IA ?Questions fréquentes
Qui est Nick Mermiges ?
Pourquoi utiliser des Nvidia V100 d'occasion plutôt que des GPU récents ?
Quel modèle d'IA tourne sur ce serveur ?
Ce serveur est-il plus rapide qu'un service cloud comme ChatGPT ou Claude ?
Sources
Écrit sur le SEO technique, l'IA et Google Discover à partir de tests terrain. Créateur de l'outil d'audit Cat's Eye. @ChrisWaoo