Re: Gedeelde opslag, waardevol

2018-04-17 Berichten over hetzelfde onderwerp Paul van der Vlis
Op 13-04-18 om 17:48 schreef Geert Stappers:> Dus, als ik het goed
begrijp, jouw organisatie vind Proxmox VE
> een waardevol product, maar heeft er geen geld voor over.
> 
> Ik hoop voor jou, dat je waardevol werk voor je organisatie doet
> en dat je er wel voor betaalt krijgt.
Wat je waarschijnlijk bedoeld te zeggen is: Overweeg eens een support
contract, daarmee ondersteun je toch een prachtig product.

Er zijn in de free-software wereld vele prachtige producten waar je ook
commerciële support op kunt nemen. Zelf doe ik dat meestal alleen als
het OF heel betaalbaar is, OF ik het product nog niet zo goed ken en het
toch nogal belangrijk is voor me. Wellicht is het ook te overwegen als
je vervangbaar moet zijn, dus dat tijdens je vakantie iemand met minder
ervaring ondersteuning kan krijgen.

Als ik het goed begrijp biedt Proxmox voor betalende klanten een versie
die beter getest is dan de versie die aan niet-betalende klanten wordt
aangeboden. In feite fungeer je als niet-betalende klant dus als een
soort productie-beta-tester, wat ook veel waard is lijkt me!

Groeten,
Paul


-- 
Paul van der Vlis Linux systeembeheer Groningen
https://www.vandervlis.nl/



Re: Gedeelde opslag

2018-04-16 Berichten over hetzelfde onderwerp Paul van der Vlis
Op 13-04-18 om 16:31 schreef Paul van der Vlis:

> Ik heb ook Supermicro's maar met 96GB geheugen. De CPU's hebben ook 12
> cores.

Ehm, de twee processoren samen. 6 cores per CPU met hyper-threading.
cat /proc/cpuinfo geeft processor 0-23.

Groeten,
Paul


-- 
Paul van der Vlis Linux systeembeheer Groningen
https://www.vandervlis.nl/



Re: Gedeelde opslag, waardevol

2018-04-13 Berichten over hetzelfde onderwerp Geert Stappers
On Fri, Apr 13, 2018 at 05:26:10PM +0200, mj wrote:
> On 04/13/2018 04:50 PM, Frans van Berckel wrote:
> >Leuk, altijd doen. Wat kost Proxmox?
> Niks zolang je genoegen neemt met de minder goed geteste community
> packages repo. Ze hebben ook de subscription repo, waarin de
> packages beter getest zijn, daarvoor betaal je wel.
> 
> Maar wij vinden de community repo best prima. Nooit problemen gehad,
> hoewel ik incidenteel op de mailinglist wel eens iets lees.
> 
> Wij updaten ook telkens slechts één host per keer, dan kun je ook
> wel wat ellende hebben, en draaien je VMs toch gewoon door op de
> resterende hosts. (worst case)
 
Dus, als ik het goed begrijp, jouw organisatie vind Proxmox VE
een waardevol product, maar heeft er geen geld voor over.

Ik hoop voor jou, dat je waardevol werk voor je organisatie doet
en dat je er wel voor betaalt krijgt.


Groeten
Geert Stappers
-- 
Leven en laten leven



Re: Gedeelde opslag

2018-04-13 Berichten over hetzelfde onderwerp mj



On 04/13/2018 04:50 PM, Frans van Berckel wrote:

Leuk, altijd doen. Wat kost Proxmox?
Niks zolang je genoegen neemt met de minder goed geteste community 
packages repo. Ze hebben ook de subscription repo, waarin de packages 
beter getest zijn, daarvoor betaal je wel.


Maar wij vinden de community repo best prima. Nooit problemen gehad, 
hoewel ik incidenteel op de mailinglist wel eens iets lees.


Wij updaten ook telkens slechts één host per keer, dan kun je ook wel 
wat ellende hebben, en draaien je VMs toch gewoon door op de resterende 
hosts. (worst case)


MJ



Re: Gedeelde opslag

2018-04-13 Berichten over hetzelfde onderwerp mj



On 04/13/2018 04:31 PM, Paul van der Vlis wrote:

Hoeveel geheugen en hoeveel cores je CPUs hebben lijkt me toch niet echt
van belang voor de setup? Wel uiteraard voor hoeveel VM's je kunt draaien.
Nou, wel voor de ceph storage. Die 'berekent'namelijk waar de data 
staan. Next generation storage, heel interessant. Google er maar eens over.


Heeft dus méér cpu nodig dan een gewone storage oplossing.


Welke journals zet je op SSD?
Ceph gebruikt journals, die dus. Die worden dan later geflushed naar de 
spinning disks. Maakt groot verschil voor performance. Maar je moet wel 
de juiste enterprise SSDs nemen. ook daarover kan google je veel 
vertellen, of de ceph mailinglist.



Draai je ook nog raid op je machines, of is dat niet meer nodig bij Ceph?
Nee, geen raid. Ceph wil graag praten met echte individuele disks, 
ZONDER vrstorende raid adapter ertussen. (zelfs JBOD wordt afgeraden)



Je kunt er ook een oudere machine neerzetten lijkt me, als het toch
alleen voor storage is. Toch?
Ja, maar wel weer met de kanttekening dat cepg dus relatief ceel cpu 
gebruikt. Méér dan je verwacht wanneer je zegt: storage-only node.



Gebruik je een 10 Gbit netwerk voor de replicatie, of sneller?
Nee, wij doen 10GB. En dat saturates in onze omgeving dus niet. (zeker 
niet structureel)



Bedankt voor je aanbod, Ceph lijkt heel interessant.

Ik kan zeggen dat het dat ook is.  :-)


Ik krijg net een uitnodiging van iemand hier in Groningen om eens te
komen kijken naar zijn Proxmox.

Ja, nou ja, je bent hier ook welkom :-)


Hmm, waarom zit Proxmox eigenlijk niet in Debian?

Zie andere reply.

Fijn weekend,

MJ



Re: Gedeelde opslag

2018-04-13 Berichten over hetzelfde onderwerp mj



On 04/13/2018 04:56 PM, Paul van der Vlis wrote:

Ik kwam wel dit tegen:
https://packages.debian.org/buster/python3-proxmoxer
Ik vraag me dan af of die "Proxmox REST API v2" ook in Debian zit of hoe
dat werkt.


Je kunt proxmox er wel gewoon bij zetten, in een normale debian install:

https://pve.proxmox.com/wiki/Install_Proxmox_VE_on_Debian_Stretch

MJ



Re: Gedeelde opslag

2018-04-13 Berichten over hetzelfde onderwerp Paul van der Vlis
Op 13-04-18 om 16:50 schreef Frans van Berckel:
> Hoi Paul,
> 
> On Fri, 2018-04-13 at 16:31 +0200, Paul van der Vlis wrote:
>>
>>> Maar proxmox zou ik gewoon eens installeren, dan zie je al snel hoe
>>> t werkt. Zonder ceph kun je het gewoon op één enkele machine
>>> uittesten.
>>
>> Ik krijg net een uitnodiging van iemand hier in Groningen om eens te
>> komen kijken naar zijn Proxmox.
> 
> Leuk, altijd doen. Wat kost Proxmox?

Niks, al kun je natuurlijk een support-contract nemen.

>> Hmm, waarom zit Proxmox eigenlijk niet in Debian?
> 
> *vrijdag middag* Omdat Debian reeds in Proxmox zit? ;-)

;-)

Ik kwam wel dit tegen:
https://packages.debian.org/buster/python3-proxmoxer
Ik vraag me dan af of die "Proxmox REST API v2" ook in Debian zit of hoe
dat werkt.

Groeten,
Paul



-- 
Paul van der Vlis Linux systeembeheer Groningen
https://www.vandervlis.nl/



Re: Gedeelde opslag

2018-04-13 Berichten over hetzelfde onderwerp Frans van Berckel
Hoi Paul,

On Fri, 2018-04-13 at 16:31 +0200, Paul van der Vlis wrote:
> 
> > Maar proxmox zou ik gewoon eens installeren, dan zie je al snel hoe
> > t werkt. Zonder ceph kun je het gewoon op één enkele machine
> > uittesten.
> 
> Ik krijg net een uitnodiging van iemand hier in Groningen om eens te
> komen kijken naar zijn Proxmox.

Leuk, altijd doen. Wat kost Proxmox?

> Hmm, waarom zit Proxmox eigenlijk niet in Debian?

*vrijdag middag* Omdat Debian reeds in Proxmox zit? ;-)

-- 
Frans van Berckel
Media Engineer / Linux Master
LinkedIn: https://www.linkedin.com/in/fransvberckel/



Re: Gedeelde opslag

2018-04-13 Berichten over hetzelfde onderwerp Paul van der Vlis
Hoi,

Op 13-04-18 om 15:20 schreef mj:
> Hoi Paul,
> 
> On 04/13/2018 02:45 PM, Paul van der Vlis wrote:
>> Hallo,
>>
>> Ik heb een paar virtualisatie-servers in het datacenter, en nu wil ik
>> het zo gaan maken dat ik een guest over kan zetten naar een andere
>> server. Daarvoor is een vorm van gedeelde opslag nodig.
>>
>> Wat ik wil delen zijn vooral virtuele disks (ik gebruik nu qcow2
>> images). Uiteraard zou dat kunnen met een fileserver met iets als NFS of
>> Samba.
> Daar denk ik dan niet direct aan, maar:
> 
>> Alternatief lijkt het me ook te kunnen met een SAN-oplossing op basis
>> van Debian, dus een systeem wat blockdevices via het netwerk deelt. Dat
>> zou dan kunnen met een protocol als iSCSI, AoE, of FCP.
> Dit is meer de richting die ik dan op denk. Voor NAS/SAN gebruiken wij
> alleen geen debian, maar freenas, op basis van zfs. Dit gebruiken we al
> jaren, en is echt fantastisch.
> 
> Onze virtualisatieomgeving is gebaseerd op proxmox, en dat heeft ceph
> als storage oplossing. Dat is helemaal fantastisch, en heeft alle features.

Ik gebruik op het moment eigen scripts, maar hoor ook goede verhalen
over Proxmox.

> Proxmox virtualisatie moet je even uitchecken denk ik: gebaseerd op
> debian, met ceph geintegreerd, live migration, alles erop en eraan.
> 
> Ceph is echter wel vooral goed als je omgeving iets groter is: min 3
> fysieke servers die alle drie ook de storage  doen, SNELLE netwerking
> (min 10G) onderling, en genoeg disks per machine om alle reads/writes
> over te verdelen.
> 
> Wij draaien 3x supermicro met 8 4TB disks per server, en journals op
> SSD, 128GB memory, 12 core CPUs. Draait goed en hééĺ stabiel, alleen is
> dit wel de minimum setup. 

Hoeveel geheugen en hoeveel cores je CPUs hebben lijkt me toch niet echt
van belang voor de setup? Wel uiteraard voor hoeveel VM's je kunt draaien.

Ik heb ook Supermicro's maar met 96GB geheugen. De CPU's hebben ook 12
cores. Op het moment heb ik alleen harddisks.

Welke journals zet je op SSD?

Draai je ook nog raid op je machines, of is dat niet meer nodig bij Ceph?

> Ik wil er graag nog een vierde storage-only
> machine bij zetten, vooral om ceph sneller te maken.

Je kunt er ook een oudere machine neerzetten lijkt me, als het toch
alleen voor storage is. Toch?

Gebruik je een 10 Gbit netwerk voor de replicatie, of sneller?

>> En om het nog interessanter te maken zou het ook nog kunnen met een
>> cluster lijkt me. Ik kwam bijvoorbeeld Ceph, DRBD en BeeGFS tegen. CLVM
>> kun je er denk ik ook toe rekenen, dat is de cluster-variant van LVM.
>> Als ik het goed begrijp heb je met zo'n cluster geen centrale fileserver
>> meer, maar heb je een soort raid tussen verschillende machines. Klinkt
>> wel heel interessant, je hebt dan geen single point of failure meer. En
>> wellicht hoeft de data bij lezen niet meer over het netwerk in mijn
>> situatie, wat wellicht toch voordelen heeft.
> Als je meer over onze setup (of ceph) wil weten, dan zeg t maar. 

Bedankt voor je aanbod, Ceph lijkt heel interessant.

> Maar
> proxmox zou ik gewoon eens installeren, dan zie je al snel hoe t werkt.
> Zonder ceph kun je het gewoon op één enkele machine uittesten.
Ik krijg net een uitnodiging van iemand hier in Groningen om eens te
komen kijken naar zijn Proxmox.

Hmm, waarom zit Proxmox eigenlijk niet in Debian?

Groeten,
Paul


-- 
Paul van der Vlis Linux systeembeheer Groningen
https://www.vandervlis.nl/



Re: Gedeelde opslag

2018-04-13 Berichten over hetzelfde onderwerp mj

Hoi Paul,

On 04/13/2018 02:45 PM, Paul van der Vlis wrote:

Hallo,

Ik heb een paar virtualisatie-servers in het datacenter, en nu wil ik
het zo gaan maken dat ik een guest over kan zetten naar een andere
server. Daarvoor is een vorm van gedeelde opslag nodig.

Wat ik wil delen zijn vooral virtuele disks (ik gebruik nu qcow2
images). Uiteraard zou dat kunnen met een fileserver met iets als NFS of
Samba.

Daar denk ik dan niet direct aan, maar:


Alternatief lijkt het me ook te kunnen met een SAN-oplossing op basis
van Debian, dus een systeem wat blockdevices via het netwerk deelt. Dat
zou dan kunnen met een protocol als iSCSI, AoE, of FCP.
Dit is meer de richting die ik dan op denk. Voor NAS/SAN gebruiken wij 
alleen geen debian, maar freenas, op basis van zfs. Dit gebruiken we al 
jaren, en is echt fantastisch.


Onze virtualisatieomgeving is gebaseerd op proxmox, en dat heeft ceph 
als storage oplossing. Dat is helemaal fantastisch, en heeft alle features.


Proxmox virtualisatie moet je even uitchecken denk ik: gebaseerd op 
debian, met ceph geintegreerd, live migration, alles erop en eraan.


Ceph is echter wel vooral goed als je omgeving iets groter is: min 3 
fysieke servers die alle drie ook de storage  doen, SNELLE netwerking 
(min 10G) onderling, en genoeg disks per machine om alle reads/writes 
over te verdelen.


Wij draaien 3x supermicro met 8 4TB disks per server, en journals op 
SSD, 128GB memory, 12 core CPUs. Draait goed en hééĺ stabiel, alleen is 
dit wel de minimum setup. Ik wil er graag nog een vierde storage-only 
machine bij zetten, vooral om ceph sneller te maken.



En om het nog interessanter te maken zou het ook nog kunnen met een
cluster lijkt me. Ik kwam bijvoorbeeld Ceph, DRBD en BeeGFS tegen. CLVM
kun je er denk ik ook toe rekenen, dat is de cluster-variant van LVM.
Als ik het goed begrijp heb je met zo'n cluster geen centrale fileserver
meer, maar heb je een soort raid tussen verschillende machines. Klinkt
wel heel interessant, je hebt dan geen single point of failure meer. En
wellicht hoeft de data bij lezen niet meer over het netwerk in mijn
situatie, wat wellicht toch voordelen heeft.
Als je meer over onze setup (of ceph) wil weten, dan zeg t maar. Maar 
proxmox zou ik gewoon eens installeren, dan zie je al snel hoe t werkt. 
Zonder ceph kun je het gewoon op één enkele machine uittesten.


MJ



Gedeelde opslag

2018-04-13 Berichten over hetzelfde onderwerp Paul van der Vlis
Hallo,

Ik heb een paar virtualisatie-servers in het datacenter, en nu wil ik
het zo gaan maken dat ik een guest over kan zetten naar een andere
server. Daarvoor is een vorm van gedeelde opslag nodig.

Wat ik wil delen zijn vooral virtuele disks (ik gebruik nu qcow2
images). Uiteraard zou dat kunnen met een fileserver met iets als NFS of
Samba.

Alternatief lijkt het me ook te kunnen met een SAN-oplossing op basis
van Debian, dus een systeem wat blockdevices via het netwerk deelt. Dat
zou dan kunnen met een protocol als iSCSI, AoE, of FCP.

En om het nog interessanter te maken zou het ook nog kunnen met een
cluster lijkt me. Ik kwam bijvoorbeeld Ceph, DRBD en BeeGFS tegen. CLVM
kun je er denk ik ook toe rekenen, dat is de cluster-variant van LVM.
Als ik het goed begrijp heb je met zo'n cluster geen centrale fileserver
meer, maar heb je een soort raid tussen verschillende machines. Klinkt
wel heel interessant, je hebt dan geen single point of failure meer. En
wellicht hoeft de data bij lezen niet meer over het netwerk in mijn
situatie, wat wellicht toch voordelen heeft.

Wie heeft ervaring, en ook nog tijd & zin wat te vertellen?

Groeten,
Paul



-- 
Paul van der Vlis Linux systeembeheer Groningen
https://www.vandervlis.nl/