Pourquoi et comment désactiver Adblocks uniquement pour cowcotland.com ?

R�alisation d'un serveur IA avec RTX 5090 & AMD Epyc , page 3

Aller � la page : pr�c. 1 234 5 6 7 8 suiv.

Poster un nouveau sujet R�pondre au sujet

GinKamui @
Agriculteur

1605pts

Inscrit le: 07 mai 2018
Age: 47
Messages: 774

Navigateur :

Hors ligne

Post� le: 07 novembre 2025 � 11:52

Bah mon cochon ! C'est une sacr�e b�te dites moi !
Pas facile � �lever tout �a ! 😊

2 pour,
2

cordobaseb @
M�tayer

2749pts

Inscrit le: 18 d�cembre 2018
Age: 47
Messages: 1751

Navigateur : n.c.
Hors ligne

Post� le: 07 novembre 2025 � 13:23

Vivement les premiers essais 😁

1 pour,
1

Sphx @
M�tayer

3444pts

Inscrit le: 23 ao�t 2019
Age: 34
Messages: 1551
Localisation: Seine et Marne
Navigateur : n.c.
Hors ligne

Post� le: 07 novembre 2025 � 15:46

attache bien la baie , quand tu vas d�marrer, �a va d�coller 😂

Belle b�te !

R 9600x - MAG B650 TOMAHAWK WIFI - Gigabyte AORUS GeForce RTX 5080 MASTER 16G - Kingston 2x16 Go 6400 MHz - DRP5 - 2To Nvme Samsung 970EVO - Corsair 5000D Airflow - Corsair RM1000x SHIFT 80+Gold

1 pour,
1

OMGimag33k @
M�tayer

3560pts

Inscrit le: 25 septembre 2018
Messages: 1615

Navigateur : n.c.
Hors ligne

Post� le: 07 novembre 2025 � 18:32

J'ai encore bidouill� le rack aujourd'hui, au programme swap de l'onduleur APC SMT 750 pour un APC SMT1500i plus costaud. Le 750 est pass� sur mon PC, c'est peut-�tre un peu light mais pour de la bureautique et du gaming tranquille �a passe. Normalement je dois pouvoir terminer et booter la b�te lundi 😁

2 pour,
2

OMGimag33k @
M�tayer

3560pts

Inscrit le: 25 septembre 2018
Messages: 1615

Navigateur : n.c.
Hors ligne

Post� le: 10 novembre 2025 � 19:15

Bonjour,

Le livreur UPS est pass� samedi, j'ai donc pu travailler un peu sur le serveur ce week-end, �a avance tranquillement.

Pour commencer, montage des NVMe:

Installation de l'alimentation et des ventilos, voici un serveur pr�t:

C'est parti:

Je d�couvre la nouvelle interface BMC de Supermicro:

Pour commencer, mise � jour BMC & BIOS avec les derni�res versions:

Maintenant que tout a l'air OK c�t� IPMI, d�marrage de la b�te afin de faire un petit tour dans le BIOS.

Ce sch�ma sera utile:

On y voit que le PCIe slot 5 (Hyper M.2 x16 Gen5) est d�sign� J5 CPU P3.
Pour que les NVMe fonctionnent, il faut activer la bifurcation x4x4x4x4 ici:

Apr�s quelques r�glages dans le BIOS, installation de Proxmox:

Il faut ensuite configurer le passtrough PCIe pour la carte graphique, le but est de blacklister les drivers pour �viter qu'elle soit charg�e par la machine h�te afin de pouvoir l'attribuer � une machine virtuelle par la suite. Ce tuto contient plein d'infos utiles: [TUTORIAL] 2025: Proxmox PCIe / GPU Passthrough with NVIDIA. Par la suite, j'ai pu me d�barasser d'une erreur code43 en modifiant la config de la machine virtuelle.

Il faut configurer le storage, j'ai simplement fait un pool de test mais par la suite je vais devoir tester les perfs en allouant un/ plusieurs NVMe en direct sur une VM ou avec un pool ZFS/BTRFS.

Ensuite, on s'assure que les interfaces r�seau sont OK, j'utilise un port Gigabit pour Proxmox et un port 10 Gb pour la VM:

Heureusement les drivers Mellanox ConnectX-4 sont parfaitement compatibles et la carte r�seau fonctionne directement.

Il est maintenant temps de configurer une VM Windows 10 pour faire quelques tests, en lui attribuant le GPU. Pour m�moire, voici une config fonctionnelle:

On voit que je n'ai pas allou� tous les cores � la VM, c'est normal il faut toujours laisser 1 ou 2 cores pour l'hyperviseur. En laissant 3 cores � Proxmox, j'ai un load average autour de 1.2 donc c'est nickel:

Je peux m�me gratter 1 core si besoin en fait.

Le truc sympa, c'est de pouvoir lancer GPU-Z et CPU-Z dans une VM. La RTX 5090 est parfaitement reconnue:

Apr�s avoir fait quelques benchs sur CPU-Z et une courte s�quence de Furmak, je vois que �a chauffe beaucoup, la 5090 consomme r�ellement 575W en full load, c'est juste �norme. Il faut am�liorer le flux d'air, car les 3 composants c�te � c�te cr�ent une zone chaude au niveau ou le ventilateur de la RTX 5090 souffle sur la carte Hyper M.2 en chauffant la carte r�seau au passage.

Je sors le boitier du rack et je fais quelques modifs.

- ajout d'un ventilo 80mm 41 CFM pour extraire l'air au niveau de la zone chaude
- ajout d'un second ventilo 120mm sur le front panel c�t� droit pour envoyer un peu plus d'air frais
- modification de la gestion des ventilos comme suit:

carte m�re
fan2 ventirad cpu
fan3 ventilo 80 arri�re droit

branch� en permanent via molex ventilo 80 arri�re droit

greensaving
fan1 front panel gauche
fan2 front panel droit
fan3 ventilo 80 au dessus de la carte graphique

La gestion de la ventilation Supermicro via IPMI est toujours aussi catastrophique que sur les pr�c�dentes versions, rien n'est pr�vu dans l'interface pour d�finir des seuils de temp�rature ou des vitesses de rotation min et max pour les ventilos. Tout est d�j� pr�r�gl� avec des valeurs typiques de ventilos serveur mais �a ne correspond pas forc�ment bien avec mes mod�les de ventilos donc plut�t que de me prendre la t�te sur Ipmitool avec des commandes du type

Code:

ipmitool -I lanplus -H IP-serveur -U ADMIN -P password sensor

J'utilise simplement les fonctions GreenSaving du boitier, et son petit module permettant de piloter jusqu'� 4 ventilos 3 pins avec une sonde de temp�rature que je positionne en plein dans la zone chaude, entre la carte r�seau et la Hyper M.2. En plus, on peut configurer un seuil de d�clenchement diff�rent pour chaque ventilo, c'est parfait.

Le serveur avec la ventilation modifi�e:

C'est parti, pr�t � enfourner:

Maintenant le Furmark est OK, le GPU est autour de 80�C, ce qui est une valeur normale pour une 5090 FE en charge:

En testant ComfyUI, on voit que la carte r�seau fonctionne bien, �a d�pote:

Un petit test IA, le prompt a �t� g�n�r� avec gpt-oss 120b sous Ollama et l'image avec Qwen-image sous ComfyUI:

Maintenant je vais pouvoir faire des tests plus avanc�s, et ensuite faire une VM Ubuntu pour essayer d'autres tools 😁

5 pour,
5

cordobaseb @
M�tayer

2749pts

Inscrit le: 18 d�cembre 2018
Age: 47
Messages: 1751

Navigateur : n.c.
Hors ligne

Post� le: 10 novembre 2025 � 21:09

Alors l� chapeau 💪💪👍🏻👍🏻👍🏻👍🏻😁😁😁 sacr�e bestiole et tr�s bien vu pour la zone chaude 😜
H�te de voir ce que �a va donner une fois tout bien param�trer.

2 pour,
2

Mick996 @
M�tayer

4624pts

Inscrit le: 12 avril 2018
Messages: 3374
Localisation: Brest
Navigateur :

Hors ligne

Post� le: 11 novembre 2025 � 09:30

Wow tu viens de cr�er un monstre 😍
La taille du proco bordel !!

Maintenant l�ve la main droite et promets nous d'utiliser cette puissance pour faire le bien, sinon dans le futur on sera oblig� de t'envoyer Kyle Reese t'emp�cher de monter cette abomination 😂

"Because I was inverted"

2 pour,
2

OMGimag33k @
M�tayer

3560pts

Inscrit le: 25 septembre 2018
Messages: 1615

Navigateur : n.c.
Hors ligne

Post� le: 11 novembre 2025 � 15:10

Avec un peu de bol Skynet nous fichera la paix 😂

3 pour,
3

mini-pouce @
Eleveur bovin

30230pts

Inscrit le: 15 mai 2011
Messages: 11430

Navigateur :

Hors ligne

Post� le: 11 novembre 2025 � 18:36

T'as �t� tellement plus rapide que moi.
Je voulais recycl� un T7920 en panne, soucis d'approvisionnement aussi puis le machin est tellement capricieux que j'ai � peine boot� il y a deux semaines et pas pu installer un syst�me propre depuis.

Tu as pr�vu de nous donner quelques infos sur ta stack logiciels, par exemple ici ton param�trage du flow comfy ?

Je n'ai pas encore tout lu, je lirais progressivement.
La ventilation dans les serveur... �a ventile quoi. ^^

Si j'avance, suivez-moiSi je meurs, vengez-moiSi je recule, tuez-moi

2 pour,
2

YoNeL @
Producteur laitier

11174pts

Inscrit le: 13 ao�t 2020
Messages: 2428

Navigateur : n.c.
Hors ligne

Post� le: 12 novembre 2025 � 08:10

oh punaise ComfyUI c'est ce que j'ai essay� de faire marcher chez moi ... mais faut installer pas mal de d�pendance non ? Python ? et d'autres outils ... J'ai Qwen mais pas image, j'ai le coder et celui qui raisonne 😆 Tu as utiliser un tuto ou ya tout dans un pack ? (j'ai pas encore chercher comment l'installer)

Je me suis amus� � trouver des "system prompt" pour que l'IA joue un r�le, et c'est plut�t marrant, j'ai trouv� l'appli Tavo sur Android qui permet de me connecter � mon LM Studio et de t�l�charger des cartes de personnage, bien marrant 😆

2 pour,
2

OMGimag33k @
M�tayer

3560pts

Inscrit le: 25 septembre 2018
Messages: 1615

Navigateur : n.c.
Hors ligne

Post� le: 12 novembre 2025 � 10:28

Salut,

J'ai test� ComfyUI de base, et un workflow json trouv� ici histoire de me faire une id�e des perfs de la machine, j'ai aussi essay� quelques mod�les Ollama comme gpt-oss 120b ou deepseek-r1 70b. Je n'ai m�me pas encore lanc� LM Studio.

Pour l'instant je suis plus dans des trucs de base hors IA:

- am�liorer le flux de ventilation, en abaissant le serveur de 2 U pour mettre un cache ventil� 2U juste au dessus, �ventuellement upgrade les ventilos pour des Noctua NF-F12 industrialPPC-2000 ou Arctic P12 Pro / S12038-4K et peut-�tre aussi les 2 80 � l'arri�re du boitier
- peaufiner les r�glages du BIOS
- optimiser les r�glages Proxmox
- tester les performances sur diff�rents types de pools & formats de fichiers
- tester diff�rents param�tres de VM, j'ai seulement capt� hier que sur Proxmox les cores VM correspondent en fait aux threads du CPU physique, donc je peux en allouer jusqu'� 48 � une VM et pas 24... (moins les cores � conserver pour l'hyperviseur)
- pr�parer des templates de VM pr�configur�es pouvant �tre d�ploy�es en 2 clics

Et quand toute cette partie sera OK je vais pouvoir avancer sur les tests IA. Je d�couvre la plateforme et je ne connais pas encore bien Proxmox, �a va prendre du temps 😆

1 pour,
1

funkydata @
M�tayer

4934pts

Inscrit le: 12 septembre 2014
Messages: 3181

Navigateur : n.c.
Hors ligne

Post� le: 12 novembre 2025 � 11:51

Belle b�te 😍 Il me faudrait �a... avec une seconde 5090 tant qu'� faire 😅 Le doux r�ve du particulier vu le prix.

Oui ComfyUI il y a beaucoup de d�pendances :
python �videmment et :
torch, torchvision, torchaudio, numpy, einops, transformers, tokenizers, sentencepiece, safetensors, aiohttp, yarl, pyyaml, Pillow, scipy, tqdm, psutil et d'autres optionels d�pendant de ce que tu veux faire plus tous les mod�les, VAE, CLIP pour g�n�rer des trucs. Mais il est facile � installer.

Sinon je l'utilise depuis 2 ans environ et c'est... hum, disons que dans le principe c'est super mais dans l'ex�cution c'est franchement d�cevant.

D�j� c'est bugg� a mooooooooooooort. J'ai rarement vu un soft avec des bugs aussi gros aussi longtemps. Et c'est des bugs fonctionnels vraiment tr�s probl�matiques, on apprend � vivre avec mais c'est violent.
Apr�s, d�cider de se baser sur un syst�me de noeud c'est super, mais sans noeud d'ex�cution ?! WHAT ?! 😮 Je ne sais pas qui c'est dit que ce serait une bonne id�e mais �a n'a jamais fonctionn� avant et �a ne fonctionne pas plus ici. Ajoutez � �a le bordel au niveau des noeuds avec 75 noeuds pour faire la m�me chose ou 10 noeuds n�cessaires pour des op�rations tr�s simples, bref, c'est quand m�me pas mal le foutoir. 😅
Ils auraient d� s'inspirer, voir copier, le node graph de Blender ou d'Unreal par exemple qui sont quand m�me d'un tout autre niveau.
Mais bon, on fait avec, pas trop le choix, mais c'est clairement du je t'aime moi non plus.

En tout cas amuse toi bien avec ce beau jouet 😂

2 pour,
2

mini-pouce @
Eleveur bovin

30230pts

Inscrit le: 15 mai 2011
Messages: 11430

Navigateur :

Hors ligne

Post� le: 12 novembre 2025 � 18:37

funkydata a �crit:

Apr�s, d�cider de se baser sur un syst�me de noeud c'est super, mais sans noeud d'ex�cution ?! WHAT ?! 😮 Je ne sais pas qui c'est dit que ce serait une bonne id�e mais �a n'a jamais fonctionn� avant et �a ne fonctionne pas plus ici. Ajoutez � �a le bordel au niveau des noeuds avec 75 noeuds pour faire la m�me chose ou 10 noeuds n�cessaires pour des op�rations tr�s simples, bref, c'est quand m�me pas mal le foutoir. 😅
Ils auraient d� s'inspirer, voir copier, le node graph de Blender ou d'Unreal par exemple qui sont quand m�me d'un tout autre niveau.
Mais bon, on fait avec, pas trop le choix, mais c'est clairement du je t'aime moi non plus.

Sans �tre � ce niveau de technicit�, c'est clairement ce qui m'a rebut� � l'utiliser.
Un beau n�ud de sac de d�pendances, puis un beau n�ud de sac de config pour quelque chose qui sera d�pass� lorsque j'aurais enfin fini d'installer et compris comment l'utiliser.

Apr�s bien s�r on peut l'utiliser en copiant/collant des trucs du net, mais ce n'est pas mon d�lire.
Je fais surtout �a pour comprendre plus que pour utiliser.

Si j'avance, suivez-moiSi je meurs, vengez-moiSi je recule, tuez-moi

0 pour,
0

funkydata @
M�tayer

4934pts

Inscrit le: 12 septembre 2014
Messages: 3181

Navigateur : n.c.
Hors ligne

Post� le: 13 novembre 2025 � 12:57

@mini-pouce C'est certain. Et je te rejoins sur le fait que tu n'utilises pas une interface de ce genre pour juste faire mumuse en copie-collant des graphs de l'espace chop�s sur le net 😆 Aucun int�r�t. D'autant qu'il y a d'autres interfaces 100x plus user friendly � tous les niveaux qui font d�j� beaucoup.

Evidemment quand tu montes ce genre de b�cane c'est que tu touches quand m�me techniquement et l� ComfyUI, malgr� tous ses d�fauts, n'a pas encore de concurrents pour ce qui est du visuel : images, textures, upscale, vid�os...
La majorit� des concurrents sont en fait des plateformes online qui te propose une interface surtout dans le but de te facturer la puissance GPU, donc essentiellement des solutions non locales.

Pour les LLM c'est assez diff�rents avec bien plus de concurrence et open source qui plus est. 😉

0 pour,
0

OMGimag33k @
M�tayer

3560pts

Inscrit le: 25 septembre 2018
Messages: 1615

Navigateur : n.c.
Hors ligne

Post� le: 02 d�cembre 2025 � 21:47

Salut les fermiers,

Petites news du serveur IA:

- Je pensais pouvoir ajouter 2 sticks de RAM, il y en avait 2 dispos chez un fournisseur � tarif encore "raisonnable", peu apr�s avoir valid� la commande l'un des 2 a �t� annul� et comme �a se monte par 2 sur une carte m�re serveur je leur ai dit que je ne voulais pas de RAM � l'unit�. Bon maintenant les prix de la RAM sont juste de plus en plus dingues donc chaud d'en trouver, je continue de chercher.

- C�t� ventilation, j'ai mont� un SilverStone FHS 120X en fa�ade et 2 ARCTIC P8 Max � l'arri�re du boitier. Le FHS 120X est juste monstrueux, �a fait un bruit de r�acteur d'avion encore pire que les 2 ventilos d'extraction 220V en haut du rack, mais �a refroidit tr�s tr�s fort. En plus j'ai abaiss� le serveur et mis un panneau 2U ventil� au dessus donc niveau flux d'air c'est tout bon maintenant �a ne chauffe vraiment plus.

- J'avance doucement sur les tests IA, l� je fais des bench en comparant diff�rents mod�les text to image et en analysant les r�sultats sur la base de prompts identiques: temps de g�n�ration, qualit� d'image, fid�lit� au prompt . Je suis assez impressionn� par FLUX.2 [dev] qui vient de sortir, je continue les tests mais j'ai l'impression que ce mod�le surpasse vraiment tous les autres actuellement y compris le top classement sur imgsys et Qwen image. J'�tais fan de Reve Image (Halfmoon) mais il est payant, le nouveau Flux 2 a l'air mieux en fait.

- Pour les LLMs les 2 plus efficaces pour l'instant sont gpt-oss 120b et deepseek-r1 70b, en tout cas ce sont les 2 plus polyvalents mais je dois poursuivre les tests pour trouver ce qui fonctionne le mieux selon les usages en r�daction de texte et en recherche d'informations sur le web. La partie veille / search est la plus d�licate, il faut vraiment �tre super carr� dans les prompts sinon le mod�le part dans tous les sens.

- Le serveur fonctionne tr�s bien, c'est vraiment puissant mais si c'�tait � refaire je m'orienterais peut-�tre plus vers une plateforme Threadripper compte tenu des probl�matiques actuelles concernant la RAM serveur. En tout cas je peux g�n�rer des images et faire tourner un LLM en m�me temps, avec un peu d'offloading �a passe nickel, il me faudrait juste une paire de sticks de RAM en plus et �a serait parfait.

0 pour,
0

Poster un nouveau sujet R�pondre au sujet

Aller � la page : pr�c. 1 234 5 6 7 8 suiv.

Sauter vers:

Vous ne pouvez pas poster de nouveaux sujets dans ce forum
Vous ne pouvez pas r�pondre aux sujets dans ce forum
Vous ne pouvez pas �diter vos messages dans ce forum
Vous ne pouvez pas supprimer vos messages dans ce forum
Vous ne pouvez pas voter dans les sondages de ce forum

Sujet		Auteur	Forum	R�ponses	Post� le
Sujets similaires
	[EST] RTX 3090 Ventus 3X 24G OC	Ghandy582	Estimations	4	29 mai 2026 � 09:04
	[Probl�me] Serveur Local D�di� - Enshrouded	Dwarfcherry	GameLand	33	27 mai 2026 � 15:07
	Test ASUS ProArt GeForce RTX 5090 OC Edition : sobri�t� U...	jonh	Cartes Graphiques	0	21 mai 2026 � 09:30
	Test MSI GeForce RTX 5090 32G LIGHTNING Z : exceptionnell...	jonh	Cartes Graphiques	0	18 mai 2026 � 13:21
	Forza Horizon 6 : bilan des performances avec 14 cartes	jonh	Cartes Graphiques	0	14 mai 2026 � 12:00

Dernières actualités

voir +

Probl�me de RAM ou pire... [ CPU, Cartes m�res, RAM ]
TWOwowo il y a 4 heures.
Forza Horizon 6 [ GameLand ]
NeoAxle il y a 5 heures.
Besoin d'aide �volution r�seau domestique [ R�seau ]
mini-pouce il y a 6 heures.
Carte m�re ASUS ROG STRIX X870-I Gaming WiFi : l�audio pr... [ CPU, Cartes m�res, RAM ]
vacheatuba il y a 8 heures.
Insatisfaction du jour 2026 [ Le poulailler ]
Gallatin il y a 10 heures.
Satisfaction du jour 2026 [ Le poulailler ]
Evilspirit il y a 13 heures.
Le truc interessant du jour 2026 [ Le poulailler ]
JPC il y a 15 heures.
Noctua NL-LC1-36, le watercooling facile et efficace pour... [ Watercooling ]
Vanseb il y a 15 heures.
NEED: le topic des acheteurs compulsifs 2026 [ Le poulailler ]
Ashuura il y a 18 heures.
Mon test de la souris ugreen m751 [ Claviers et souris ]
Technopatosh il y a 2 jours.
Tous les forums

R�alisation d'un serveur IA avec RTX 5090 & AMD Epyc , page 3

Sujets similaires