Ce n’est peut-être pas le forum pour mais je ne pense pas être le seul à avoir au-delà de ma domotique d’autres applicatifs.
13VM, 1 container ; c’est certainement optimisable ; mais j’aimerai aussi à terme y intégrer la partie NAS qui est externe pour l’heure, pourquoi pas la partie routeur etc.
J’ai l’occasion de récupérer des anciens serveurs de production type Proliant avec une belle puissance de feu et pas mal de rack de disque et RAM.
Y a t’il des conseils sur les superviseurs au-delà de Proxmox (cela fait des années que je tourne dessus) ?
Quid de l’optimisation de la consommation énergétique ?
Niveau NAS, j’aimerai mettre en place un équivalent de QNAP, que me conseillez-vous ? notamment un outil type qsync (je crois que c’est Nextcloud ?)
Niveau disque, j’aimerai gérer de cette manière mais là encore, j’en appelle aux habitués pour vos conseils. Est-il plus judicieux d’avoir un gros RAID global pour tout ?
Ou pas de RAID pour la partie supervision et VM et un RAID pour le partie NAS ?
Ou autre chose ?
La discussion est ouverte, je suis preneur de vos conseils !
Pour la partie supervision les backups suffisent normalement. Surtout si tu montes un PBS (en restant dans l’écosystème Proxmox).
Pour la partie NAS pour ma part je suis plutôt parti sur du Zfs plutôt que du raid. Cela demande plus de mémoire (ecc idéalement), mais c’est moins dépendant hardware.
En relisant, je me dis qu’il y a une autre possibilité.
Au lieu de penser : superviseur + VM dont 1 qui fait NAS ; il n’existe pas un OS qui fait NAS de base avec les fonctions de virtualisation. Un peu comme un docker et virtualisation qu’on a sur QNAP ou Syno. Cela n’existe pas ?
Dans le premier cas, comment gérer au mieux le RAID pour le stockage des données sensibles ?
En te lisant, dans le premier cas, il vaut mieux prévoir :
un disque qui sert à l’OS proxmox etc
un disque qui sert au stockage des VM
(actuellement sur mon serveur, j’ai un seul disque pour tout faire)
les backups sont stockés sur un point de montage de mon NAS qui est physiquement extérieur mais là serait une VM de NAS si j’ai bien compris.
Le consensus semble être un seul disque pour OS et VM, les backups assurant la continuité des VM.
Tu peux aussi monter un PBS en VM, et stocker les backups sur un disque à part mais sur la même machine. Bien entendu c’est plus risqué que les backups sur une machine séparée.
TrueNAS Core te permet de virtualiser mais seulement des container sous FreeBSD. Autant dire que bof.
Par contre TrueNAS Scale est sous Debian et tu peux donc faire VM et docker. Rappelons que Proxmox n’est globalement qu’un front-end (je provoque un peu là ).
Par contre je n’ai pas testé l’interface proposée de virtualisation sous Scale.
Un PBS kesako ? (tu parles de Plex en VM, c’est déjà le cas).
Oui, tu as raison sur Proxmox, ça reste un FE qui tourne sur Debian. Après, je n’ai rien à lui reprocher. Il fait super bien le boulot depuis plus de 6 ans pour ma part. C’est juste que j’aimerai réintégrer ce que je peux côté serveur : routeur, firewall, nas, partage de fichiers, backups.
A ce jour :
mon routeur gère le réseau à l’exception du VPN (bug chez Asus sur ce point),
mon serveur gère toutes mes VM et container : transcodage, gestion de notes et des livres (joplin, bookstack), domotique, caméras, vm windows pour l’extérieur, gestion du contenu multimédia, serveur web, filtrage publicité, localisation.
mon NAS gère les backups de tout (y compris serveur) et le stockage de toutes nos données et les mets à disposition (type google drive chez qnap), c’est tout.
Effectivement, en regardant cette page, ça semble bien faire le boulot ! Il y a beaucoup de plugins pour simplifier la gestion. Je retrouve un peu l’équivalent de ce que je veux.
TrueNAS est une des références, et ils étaient attendus avec Scale.
Donc parfois il n’y a pas de « mais ».
Mais (on y arrive ) je ne peux rien garantir car je n’ai pas encore basculé sur Scale. Donc rien testé de mon côté.
On attends ton retour. Tu peux monter une VM pour tester (inception!) la virtualisation sous Scale sans risque.
J’avais laissé tomber le PBS sous Proxmox, finalement la gestion de mes backups sur le QNAP et le stockage incrémental suffisait.
Pour me lancer dedans, faut déjà que je récupère les serveurs, j’achète des disques 2.5p etc. Et avant ça, je veux mesurer la puissance du bestiau et ce qu’il a dans le ventre.
Actuellement, je tire entre 65W et 92W pour toute mon infra sur onduleur (routeur asus, livebox, nas, serveur, ventilations, disque dur usb, box PV, etc). Si c’est pour mettre un bestiau de 500W… ça sera niet.
Je suis sous truenas scale depuis 2 ans et je pense migrer sous omv6 (je suis entrain de tester sous vm).
Pour la partie gestion NAS, je trouve truenas mieux car leur interface est sympa.
Pour la partie docker je préfère omv6 avec docker compose. Impossible d’utiliser docker nativement avec truenas car c’est kubernete qui tourne derrière et la prochaine version cobia va supprimer docker et utiliser containerd a place.
Certes il y a beaucoup d’applications et quand on rentre dans le moule ça se passe plutôt bien mais j’ai perdu toutes les données des bdd de mes app lors de plusieurs mise à jour. Pour les certificats il faut clouflare pour rentrer dans le moule.
Je ne suis pas un amoureux des dockers personnellement. Peut-être est-ce dû à mon manque de maitrise, mais je me limite à des services simples où il y a peu de données et elles peuvent être uniquement en dehors du docker (type radarr, sonnaar etc) et un OpenVPN car Asus est buggué (bien chiant d’ailleurs !). Je préfère de loin avoir une VM dédiée où je maitrise ce que je fais et je ne suis un grand informaticien !
J’avais écarté OMV à l’époque car ça faisait « léger » et moins abouti que Proxmox et autres. Si effectivement le critère d’OMV est docker pour toi, je comprends. Mais je viens de revoir un peu le site et les plugins, ça me semble toujours léger, surtout face à Truenas. https://www.openmediavault.org/?page_id=2014
L’intérêt serait de pouvoir concilier « applicatifs rapides » comme la gestion des fichiers pour les utilisateurs de la maison, antivirus et le stockage etc ; juste ce que j’utilise sur le NAS aux VMs.
C’est vrai que Scale semble vraiment bien sur le papier.
Je vais voir si je peux me monter une VM sur mon « petit » serveur sans le faire plier… lol.
Perso j’ai séparé le storage du compute il y a 1an.
Historiquement, j’avais beaucoup de choses sur un Pi et le reste en docker + VM sur mon Syno. C’était pas très stable et le pi 3b+ commençait à arriver au taquet.
J’ai migré le contenu du Pi en VM sur le Syno après un upgrade de la RAM et l’ajout de SSDs pour le cache. J’ai alors eu pas mal de problèmes avec les devices USB et me suis senti coincé pas les possibilités du Syno (notamment la gestion des stacks docker).
J’ai donc acheté un NUC (like) où j’ai installé VMware ESXi (free edition) et monté un LUN iSCSI du Syno dans l’esx pour mes VMs, dont une pour reprendre mes Dockers. L’une ou l’autre VMs non critiques tournent directement sur le datastore local.
Depuis (1an) plus aucun pb USB, grosse de pref, snapshots et backups faciles et rapides.
J’ai 17 VMs, 26 Dockers, il s’agit qu’un core i5-10500T avec 32Go de RAM et 2*256Go de stockage local et 4To de stockage déporté sur le syno.
J’ai peut être oublié d’expliquer mais je tourne :
un mini-serveur maison à base de core i5 9600 et 32 Go de RAM
un NAS QNAP 4 baies en 4X4To qui fait très bien le boulot, upgradé à 16 Go.
Par contre, clairement, j’ai tourné presqu’un an en virtualisation Jeedom et Apache sur le NAS, c’est pas fait pour ça ces petites bêtes… même avec plus de RAM.
Je ne suis pas très loin de toi avec 14 VM et 4 dockers. Mais je tourne avec un seul SSD. C’est principalement la RAM où je suis à fond. Plex en mange une belle partie, j’ai deux VM (gestion multimédia et une supervision pour prendre la main). Joplin et Bookstack aussi.
Du coup, j’ai abandonné de vouloir mettre en place un router/firewall là dessus…
Bon j’ai pris le temps d’étudier un peu le système, merci @Madcow.
Je pense partir pour les essais sur Truenas Scale.
Car debian et VM très proches de Proxmox. A voir si la partie NAS est aussi proche d’un QNAP ou autre, notamment car je cherche la partie synchronisation de fichiers.
Il y a un flou sur le site où il mélange Apps et Plugins, donc je verrai dans le test.
J’attends mes disques SAS (SSD et HDD) pour me lancer.
J’ai 2 disques SSD 800 Go SAS et 8 disques 1 To pour le stockage.
Comme je sors d’1 To pour Proxmox et 4x4 To en stockage pour le NAS (raid1), je pense partir comme suit :
un seul disque pour Truenas 800 Go, je garde le second en cas de mort du premier, ou alors je fais un Raid 1 ?
6 disques 1 To en RAID 5, je backupe sur un USB 8 To toutes les semaines en diff, cela me permet d’avoir 5 To de dispo (et encore je serai à l’étroit sortant de 8 To du NAS). Et ça me permet d’avoir 2 disques d’avance.
Si je pars sur les 2 raid (ou un) comment gérer cela avant ou pendant l’installation de Truenas.
D’autres idées / recommandations ?
Effectivement, du coup un équivalent raid5 en zfs ? L’approche des 2 parties pour le système vs données te semble bonne ?
Je n’ai rien trouvé d’autres en équivalent ou en amateur. A part, partir sur un proxmox et prévoir une vm de nas dédié.
De ce que je comprends truenas additionne les avantages des vm façon proxmox et le côté nas. Pas assez de recul niveau fiabilité car plus récent face à son compère core qui a déjà plus de 10 ans si j’ai bien compris.
Simple parité, RAID-Z.
Ensuite tu as les parités multiples RAID-Z2 Z3
Après c’est pas mon approche donc je ne vais pas plus loin sur mon message, je l’ai expliqué dans une longue série de vidéos, un NAS c’est un NAS, un serveur de virtualisation c’est autre chose, chaque chose a sa place avec ses contraintes, à vouloir tout bidouiller on se complique la vie et on se met souvent dans des situations inconfortables quand on a une panne.
L’idéal étant de comprendre dans quoi on s’engage avant de ne plus pouvoir faire machine arrière.
TrueNAS scale n’a aucune maturité, il est très bon mais c’est une nouvelle base Debian au lieu de FreeBSD donc on ne peut pas capitaliser sur FreeNAS et compagnie. Mais aucun rapport avec Proxmox, ce sont deux approches différentes.
Discussion très intéressante, pour le coup je suis partie un peu a contresens de tous ce qui ce dit la en essayant d’avoir le système le plus simple possible et le moins consommateur de courant possible. En gros j’ai essayé de suivre la règle KISS.
Donc j’ai juste un Synology (ds218) avec 6go de ram, 2 SSD de 2 to en raid 1 (je viens de les mettre en remplacement de HDD 6to car pas besoin d’autant de place, niveau perf c’est le jour et la nuit).
Ensuite tout en docker (les vms sur ce type de syno c’est vraiment pas performant), oui même jeedom. Je dois avoir une dizaine de docker qui tourne et vraiment aucun soucis surtout que maintenant il y a le support de de docker compose. J’avais pensais à un moment prendre un 723+ avec du cache SSD mais le prix était vraiment trop élevé et surtout la nouvelle politique de Synology est gênante donc j’attends de voir avant de réinvestir chez eux.
Donc en claire c’est simple et ça marche (faut reconnaître que a ce niveau Synology est vraiment fiable). Mon seul manque est la gestion du firewall ou on ne peut pas mettre d’ip cible mais ça reste un détails.