Cluster Ganeti » Historique » Version 4

« Précédent - Version 4/135 (diff) - Suivant » - Version actuelle
Mehdi Abaakouk, 01/02/2012 22:47

Maintenance Ganeti¶

Comment demarrer et arreter une instance ?¶

Avec les commandes suivantes:

gnt-instance start vm1

gnt-instance stop vm1

Comment tout savoir sur une vm ?¶

gnt-instance info vm1

Comment forcer le dÃ©placement d'une instance sur un machine donnÃ©e¶

Si la machine a ces disques au format plain (sans drbd), taper:

gnt-instance stop vm1
gnt-instance move -n h6 vm1
gnt-instance start vm1

Si la machine utilise drbd (uniquement le disque de la node secondaire bascule):

gnt-instance replace-disks -n h6 vm1

Si vous voulais dÃ©placer l'autre disque du drbd, il faut basculer la machine, puis refaire la mÃªme chose

Comment basculer une machine qui utilise drbd pour les disques ?¶

Bascule avec arret de la machine:

gnt-instance failover vm1

Sans arret, Ã chaud:

gnt-instance migrate vm1

En cas de soucis primaire/secondaire:

gnt-instance migrate --cleanup vm1

Ãteindre/rebooter provisoirement un H? sans coupure de service¶

On migre toutes les machines de h?

gnt-node migrate h?

On Ã©teint

shutdown -h now

On rallume et on rÃ©Ã©quilibre le cluster sans dÃ©placement de disque

hbal -L --no-disk-moves -X

La liste ici est presque identique Ã celle de "gnt-node migrate"
hbal exÃ©cute des "gnt-instance migrate"
Les synchro drbd sont automatique.

Comment vÃ©rifier l'Ã©tat de son cluster¶

Sur le masternode normalement h1 faire:

gnt-cluster verify

Comment supprimer une machine¶

gnt-instance remove vm1

si la vm est en drbd et que une des nodes du drbd ne fonctionne plus

gnt-instance remove --ignore-failures vm1

Mon dieu h2 est tombÃ© que faire ?¶

On bascule les machines qui n'ont pas le failover en automatique

gnt-node failover [ --ignore-consistency ] h2

--ignore-consistency permet de forcer ganeti Ã ne pas contrÃ´ler le disk avant le basculement
Puis on dÃ©sactive la node:

gnt-node modify -O yes h2

h2 est tombÃ© et ne pourra Ãªtre rallumÃ© rapidement, que faire ?¶

Je commence par relancer la machine sur sa node secondaire si ce n'est pas encore fais.
La machine virtuelle vm1 Ã©tant hÃ©bergÃ© sur h2 et h4 je vais dÃ©placer le disque redondant de h2 vers h?

gnt-instance replace-disks -I hail vm1

aie, c'est h1 qui est tombÃ© et c'est le masternode¶

On peux changer le masternode, allez sur h4 par exemple et taper ceci:

gnt-node masterfailover

Gestion des fichiers de configuration (ie: /etc/ganeti)¶

J'ai modifiÃ© un(ou plusieurs) fichier(s) de configuration de ganeti, et je tape:

/etc/ganeti/pushconf.sh

Je viens de recevoir h48, et je veux taper le moins de commande possible¶

Installer squeeze basique avec juste ssh
Ajouter wheezy dans /etc/apt/sources.list

# deb http://ftp.fr.debian.org/debian/ squeeze main
deb http://ftp.fr.debian.org/debian/ squeeze main contrib non-free
deb-src http://ftp.fr.debian.org/debian/ squeeze main contrib non-free
deb http://ftp.fr.debian.org/debian/ sid main contrib non-free
deb-src http://ftp.fr.debian.org/debian/ sid main contrib non-free
deb http://ftp.de.debian.org/debian-backports/ squeeze-backports main contrib non-free
deb-src http://ftp.de.debian.org/debian-backports/ squeeze-backports main contrib non-free
deb http://security.debian.org/ squeeze/updates main
deb-src http://security.debian.org/ squeeze/updates main
# squeeze-updates, previously known as 'volatile'
deb http://ftp.fr.debian.org/debian/ squeeze-updates main
deb-src http://ftp.fr.debian.org/debian/ squeeze-updates main

Allouer un port avec 3131, 3175, 3195 tagged sur le procurve
Monter le reseau manuellement IP X

ip link add link eth0 name eth0.3131 type vlan id 3131
ip link set eth0.3131 up
ip addr add 91.224.149.15X/25 dev eth0.3131

Creer /etc/rc.local.conf avec X et Y

IP_3131="91.224.149.15X/25" 
GW_3131="91.224.149.254" 
IP_3175="192.168.3.Y/24" 
KVM_DISKS="sdb"

Installer les packages

#TODO liste en fichier commit qqpart
#TODO: passer a une version compilÃ©e en local de ganeti pour eviter les update de version wheezy
dpkg --get-selections | ssh root@h48 dpkg --set-selections
ssh root@h48 apt-get dselect-upgrade

changer le filter lvm dans /etc/lvm/lvm.conf pour

# filter = [ "a/.*/" ]
filter = ["r|/dev/cdrom|", "r|/dev/drbd[0-9]+|" ]

vider le volume group et le recreer

pvs
vgs
lvs
lvremove
vgcreate kvmvg /dev/sdb... #TODO check

activer drbd

echo "drbd minor_count=128 usermode_helper=/bin/true" >> /etc/modules

munin:
dans /etc/munin/munin-node.conf ajouter: allow ^91\.224\.149\.194$
TODO patch munin Loic
http://trac.fsffrance.org/wiki/PatchInventory#Munin
reboot
Installer le node dans le cluster ganeti apres s'etre assure que la version de ganeti est bien la meme

dpkg -l|grep -i ganeti
gnt-node add h48
/etc/ganeti/pushconf.sh

Appliquer ce patch Ã ganeti-instance-debootstrap:

--- /usr/share/ganeti/os/debootstrap/common.sh.ori  2010-09-15 22:34:12.000000000 +0200
+++ /usr/share/ganeti/os/debootstrap/common.sh  2011-07-27 12:33:55.695617766 +0200
@@ -91,7 +91,7 @@
# some versions of sfdisk need manual specification of
# head/sectors for devices such as drbd which don't
# report geometry
-  sfdisk -H 255 -S 63 --quiet --Linux "$1" <<EOF
+  sfdisk -H 255 -S 63 -D --quiet --Linux "$1" <<EOF
0,,L,*
EOF
}

Ci dessous ajouter dkms et r8168 si necessaire.

Ma premiÃ©re VM++, upgrade disk, net, cpu, mem¶

Et hop une nouvelle carte rÃ©seau sur le vlan tsf

gnt-instance  modify --net add:link=br1 vm1

Un petit disk en plus

gnt-instance  modify --disk add:size=50G vm1

Un petite upgrade cpu et mÃ©moire

gnt-instance modify -B vcpus=2,memory=512M vm1

gnt-instance reboot -t full vm1

L'extinction d'une node proprement pas Ã pas¶

gnt-node failover h2
gnt-node evacuate -I hail h2
gnt-node modify -O yes h2

Ben, on s'en fou, ganeti est la:

gnt-node modify -O no h2
hbal -L -X

gnt-instance modify -H kernel_path="" vm1

gnt-instance start -H boot_order=cdrom,cdrom_image_path=/path/to/debian-504-amd64-netinst.iso vm1

kvm-img convert DISQUEVM.qcow -O raw DISQUEVM.raw

Copie du disque au format raw sur un lvm

size=$(kvm-img info DISQUEVM.raw | sed -n -e 's/^virtual size:[^(]*(\([[:digit:]]*\).*)/\1/gp')
lvcreate -L ${size}b -n lv_migration_DISQUEVM kvmvg
dd if=DISQUEVM.raw of=/dev/kvmvg/lv_migration_DISQUEVM

gnt-instance add -B memory=512M --no-start -t plain -n $(hostname) --disk 0:adopt=lv_migration_DISQUEVM --net 0 -o debootstrap+default VMNAME.tetaneutral.net

Et pour finir, on transforme le format de disque de la VM en drbd:

gnt-instance modify -t drbd -n h6 VMNAME.tetaneutral.net

Voici quelques ressources:

http://docs.ganeti.org/ganeti/current/html/
http://docs.ganeti.org/ganeti/2.1/man/

Autres chose Ã savoir sur les machines du cluster¶

le script /etc/rc.local, qui s'occupe de prÃ©parer la configuration rÃ©seaux pour ganeti (avec les vlan, bridge and co)
le script /etc/rc.local.conf, contient les adresses IP de la machine et les gw
Sur h1,h2,h4,h5 et h6, le pilote (r8169.ko) de la carte rÃ©seau (r8168/8111) provoque des kernels panic, il a Ã©tÃ© remplacÃ© la version du constructeur (r8168.ko).
Pilote dispo ici: (http://www.realtek.com/downloads/downloadsView.aspx?Langid=1&PNid=13&PFid=5&Level=5&Conn=4&DownTypeID=3&GetDown=false)

apt-get install gcc dkms
cd /usr/src
wget http://url_to_pilot/r8168-8.024.00.tar.bz2
tar -xjf r8168-8.024.00.tar.bz2
cd r8168-8.024.00
cat > dkms.conf << EOF
PACKAGE_NAME=r8168
PACKAGE_VERSION=8.024.00
MAKE[0]="make" 
BUILT_MODULE_NAME[0]=r8168
BUILT_MODULE_LOCATION[0]="src/" 
DEST_MODULE_LOCATION[0]="/kernel/updates/dkms" 
AUTOINSTALL="YES" 
EOF
dkms add -m r8168 -v 8.024.00
dkms build -m r8168 -v 8.024.00
dkms install -m r8168 -v 8.024.00
echo "r8168" >> /etc/modules
echo "blacklist r8169" >> /etc/modprobe.d/blacklist-network.conf
update-initramfs -u
reboot

Pour les machines a base de e1000e:

apt-get install gcc dkms
cd /usr/src
wget http://downloadmirror.intel.com/15817/eng/e1000e-1.3.17.tar.gz
tar -xzf e1000e-1.3.17.tar.gz
cd e1000e-1.3.17
cat > dkms.conf << EOF
PACKAGE_NAME=e1000e
PACKAGE_VERSION=1.3.17
CLEAN="make -C src/ clean" 
MAKE[0]="make -C src/" 
BUILT_MODULE_NAME[0]=e1000e
BUILT_MODULE_LOCATION[0]="src/" 
DEST_MODULE_LOCATION[0]="/kernel/updates/dkms" 
AUTOINSTALL="YES" 
EOF
dkms add -m e1000e -v 1.3.17
dkms build -m e1000e -v 1.3.17
dkms install -m e1000e -v 1.3.17
reboot

Mac spoofing configuration¶

Le script ifup de ganeti pour kvm a Ã©tÃ© modifier (ie: /etc/ganeti/kvm-vif-bridge) pour Ã©crire la relation entre la vm, le numero de ces interfaces rÃ©seaux et ces tap.
Le fichier prends la forme suivante:
munin.tetaneutral.net:0:tap3
trac.tetaneutral.net:0:tap5
munin.tetaneutral.net:1:tap5
Les rÃ¨gles ebtables sont Ã©crites par le script /etc/ganeti/spoofing/spoofing-protection avec les informations de ce fichier.
Les scripts de hook de ganeti (ie:/etc/ganeti/hook/) utilise ce script, pour lancer ou arreter le spoofing.

Protection VNC¶

Le VNC de kvm est utiliser sur chaque MV.
Des rÃ¨gles de firewall sont automatiquement mise en place par le script /etc/ganeti/vnc-firewall pour que seul la machine gntwebmgr.tetaneutral.net soit autoriser a s'y connecter
Ce script est appelÃ© par les hooks ganeti.

Patch maison pour ganeti¶

Ajout de l'option -D Ã sfdisk au script /usr/share/ganeti/os/debootstrap/common.sh ligne 84 pour crÃ©er des partitions avec assez d'espace pour grub

Fichiers

Projet

Général

Profil

Wiki

Observateurs (2)

Cluster Ganeti » Historique » Version 4

Maintenance Ganeti¶

Comment demarrer et arreter une instance ?¶

Comment tout savoir sur une vm ?¶

Comment forcer le dÃ©placement d'une instance sur un machine donnÃ©e¶

Comment basculer une machine qui utilise drbd pour les disques ?¶

Ãteindre/rebooter provisoirement un H? sans coupure de service¶

Comment vÃ©rifier l'Ã©tat de son cluster¶

Comment supprimer une machine¶

Mon dieu h2 est tombÃ© que faire ?¶

h2 est tombÃ© et ne pourra Ãªtre rallumÃ© rapidement, que faire ?¶

aie, c'est h1 qui est tombÃ© et c'est le masternode¶

Gestion des fichiers de configuration (ie: /etc/ganeti)¶

Je viens de recevoir h48, et je veux taper le moins de commande possible¶

Ma premiÃ©re VM++, upgrade disk, net, cpu, mem¶

L'extinction d'une node proprement pas Ã pas¶

J'ai fini de rÃ©parer h2, et je me rappelle plus les vm qui Ã©tait dessus¶

Importer une image disque venant de lâextÃ©rieur (A VALIDER)¶

J'ai n'est pas trouvÃ© mon bonheur, comment je vais faire ?!¶

Autres chose Ã savoir sur les machines du cluster¶

Mac spoofing configuration¶

Protection VNC¶

Patch maison pour ganeti¶

Projet

Général

Profil

Wiki

Observateurs (2)

Cluster Ganeti » Historique » Version 4

Maintenance Ganeti¶

Comment demarrer et arreter une instance ?¶

Comment tout savoir sur une vm ?¶

Comment forcer le dÃ©placement d'une instance sur un machine donnÃ©e¶

Comment basculer une machine qui utilise drbd pour les disques ?¶

Ãteindre/rebooter provisoirement un H? sans coupure de service¶

Comment vÃ©rifier l'Ã©tat de son cluster¶

Comment supprimer une machine¶

Mon dieu h2 est tombÃ© que faire ?¶

h2 est tombÃ© et ne pourra Ãªtre rallumÃ© rapidement, que faire ?¶

aie, c'est h1 qui est tombÃ© et c'est le masternode¶

Gestion des fichiers de configuration (ie: /etc/ganeti)¶

Je viens de recevoir h48, et je veux taper le moins de commande possible¶

Ma premiÃ©re VM++, upgrade disk, net, cpu, mem¶

L'extinction d'une node proprement pas Ã pas¶

J'ai fini de rÃ©parer h2, et je me rappelle plus les vm qui Ã©tait dessus¶

Importer une image disque venant de lâextÃ©rieur (A VALIDER)¶

J'ai n'est pas trouvÃ© mon bonheur, comment je vais faire ?!¶

Autres chose Ã savoir sur les machines du cluster¶

Mac spoofing configuration¶

Protection VNC¶

Patch maison pour ganeti¶

Ãteindre/rebooter provisoirement un H? sans coupure de service¶

Importer une image disque venant de lâextÃ©rieur (A VALIDER)¶