Projet

Général

Profil

Openstack Management TTNN » Historique » Version 67

Laurent GUERBY, 26/10/2016 18:46

1 3 Mehdi Abaakouk
{{>toc}}
2 3 Mehdi Abaakouk
3 1 Mehdi Abaakouk
h1. Openstack Management TTNN
4 1 Mehdi Abaakouk
5 63 Mehdi Abaakouk
h2. Liens
6 1 Mehdi Abaakouk
7 63 Mehdi Abaakouk
* [[Management_Cluster_Ceph]]
8 63 Mehdi Abaakouk
* [[Openstack Setup VM pas dans openstack]]
9 63 Mehdi Abaakouk
* [[Openstack Installation nouvelle node du cluster]]
10 63 Mehdi Abaakouk
* [[Openstack Installation TTNN]]
11 63 Mehdi Abaakouk
* "Openstack tools for ttnn":/projects/git-tetaneutral-net/repository/openstack-tools
12 11 Mehdi Abaakouk
13 54 Laurent GUERBY
h2. Avant toute operation Openstack
14 54 Laurent GUERBY
15 54 Laurent GUERBY
*Tres important* avant toute operation Openstack lancer sur g1 :
16 54 Laurent GUERBY
17 54 Laurent GUERBY
<pre>
18 54 Laurent GUERBY
root@g1:~# . os.conf
19 54 Laurent GUERBY
root@g1:~# tools/os-overview.sh 
20 54 Laurent GUERBY
</pre>
21 54 Laurent GUERBY
22 54 Laurent GUERBY
Si une ligne n'est pas OK relancer le composant et relancer os-overview.
23 54 Laurent GUERBY
24 4 Mehdi Abaakouk
h2. Opération sur les VMs (des membres)
25 1 Mehdi Abaakouk
26 46 Mehdi Abaakouk
h3. Console série
27 46 Mehdi Abaakouk
28 46 Mehdi Abaakouk
Dans la VM, pour systemd:
29 46 Mehdi Abaakouk
30 46 Mehdi Abaakouk
<pre>
31 46 Mehdi Abaakouk
$ systemctl enalbe serial-getty@ttyS0.service
32 46 Mehdi Abaakouk
$ systemctl start serial-getty@ttyS0.service
33 46 Mehdi Abaakouk
</pre>
34 46 Mehdi Abaakouk
35 46 Mehdi Abaakouk
Dans la VM, pour sysv
36 46 Mehdi Abaakouk
37 46 Mehdi Abaakouk
<pre>
38 46 Mehdi Abaakouk
$ cat >> /etc/inittab <<EOF
39 46 Mehdi Abaakouk
T2:2345:respawn:/sbin/getty ttyS0 115200 vt102
40 46 Mehdi Abaakouk
EOF
41 46 Mehdi Abaakouk
$ init q
42 46 Mehdi Abaakouk
</pre>
43 46 Mehdi Abaakouk
44 46 Mehdi Abaakouk
Sur g1:
45 46 Mehdi Abaakouk
46 46 Mehdi Abaakouk
<pre>
47 46 Mehdi Abaakouk
$ /root/tools/novaconsole ns2.tetaneutral.net
48 46 Mehdi Abaakouk
WARNING:novaconsole.client:connected to: ws://openstack.tetaneutral.net:6083/?token=4b10cdbe-2a69-4de1-b9e3-dc378096b104
49 46 Mehdi Abaakouk
WARNING:novaconsole.client:type "~." to disconnect
50 46 Mehdi Abaakouk
51 46 Mehdi Abaakouk
Debian GNU/Linux 8 ns2 ttyS0
52 46 Mehdi Abaakouk
ns2 login:
53 46 Mehdi Abaakouk
</pre>
54 46 Mehdi Abaakouk
55 46 Mehdi Abaakouk
Si le message suivant apparaît, il faut faire un hard reboot de la machine pour ajouter la console serie à la VM: 
56 46 Mehdi Abaakouk
<pre>
57 46 Mehdi Abaakouk
ERROR:novaconsole:failed to connect to serial console: Unavailable console type serial. (HTTP 400)
58 46 Mehdi Abaakouk
</pre>
59 46 Mehdi Abaakouk
60 17 Mehdi Abaakouk
h3. Voir la console graphique sans spice-html5:
61 17 Mehdi Abaakouk
62 17 Mehdi Abaakouk
Copier le script suivant 'gvnc' sur ca machine:
63 17 Mehdi Abaakouk
64 17 Mehdi Abaakouk
<pre>
65 17 Mehdi Abaakouk
#!/bin/bash
66 17 Mehdi Abaakouk
vm=$1
67 17 Mehdi Abaakouk
info=($(ssh openstack.tetaneutral.net -p 2222 -l root -- "mysql nova --skip-column-names --batch -e 'select host, uuid from instances where display_name=\"$vm\";'"))
68 17 Mehdi Abaakouk
69 17 Mehdi Abaakouk
if [ "${info[0]}" == "mysql" ]; then
70 17 Mehdi Abaakouk
    echo "Error in mysql request"
71 17 Mehdi Abaakouk
    exit 1
72 17 Mehdi Abaakouk
fi
73 17 Mehdi Abaakouk
74 17 Mehdi Abaakouk
hypervisor=${info[0]}.tetaneutral.net
75 17 Mehdi Abaakouk
uuid=${info[1]}
76 17 Mehdi Abaakouk
spice_port=$(ssh ${hypervisor} -p 2222 -l root virsh domdisplay ${uuid} | awk -F: '{print $3}')
77 17 Mehdi Abaakouk
78 17 Mehdi Abaakouk
echo "$vm on $hypervisor port $spice_port"
79 17 Mehdi Abaakouk
ssh -N $hypervisor -p 2222 -l root -L 5910:localhost:${spice_port} &
80 17 Mehdi Abaakouk
pid=$!
81 17 Mehdi Abaakouk
82 17 Mehdi Abaakouk
83 17 Mehdi Abaakouk
cleanup(){
84 17 Mehdi Abaakouk
    kill $pid
85 17 Mehdi Abaakouk
}
86 17 Mehdi Abaakouk
87 17 Mehdi Abaakouk
trap cleanup EXIT
88 17 Mehdi Abaakouk
89 17 Mehdi Abaakouk
sleep 2
90 17 Mehdi Abaakouk
remote-viewer spice://localhost:5910/
91 17 Mehdi Abaakouk
</pre>
92 17 Mehdi Abaakouk
93 17 Mehdi Abaakouk
Puis 
94 17 Mehdi Abaakouk
95 17 Mehdi Abaakouk
<pre>
96 17 Mehdi Abaakouk
sudo apt-get install virt-viewer
97 17 Mehdi Abaakouk
./gvnc puppet.openstack.net
98 17 Mehdi Abaakouk
</pre>
99 17 Mehdi Abaakouk
100 17 Mehdi Abaakouk
101 1 Mehdi Abaakouk
h3. Reboot VM en error
102 1 Mehdi Abaakouk
103 1 Mehdi Abaakouk
<pre>
104 1 Mehdi Abaakouk
nova reset-state --active xxx.tetaneutral.net
105 1 Mehdi Abaakouk
nova reboot --hard --poll xxx.tetaneutral.net
106 1 Mehdi Abaakouk
</pre>
107 1 Mehdi Abaakouk
108 6 Laurent GUERBY
h3. Shutdown une VM
109 5 Laurent GUERBY
110 5 Laurent GUERBY
<pre>
111 5 Laurent GUERBY
nova stop xxx.tetaneutral.net
112 5 Laurent GUERBY
</pre>
113 5 Laurent GUERBY
114 5 Laurent GUERBY
A noter que suspend fait une sauvegarde de la RAM comme sur un laptop. shelve est bugué ne pas utiliser.
115 1 Mehdi Abaakouk
116 7 Laurent GUERBY
h3. Effacer une VM
117 6 Laurent GUERBY
118 6 Laurent GUERBY
<pre>
119 1 Mehdi Abaakouk
nova delete xxx.tetaneutral.net
120 7 Laurent GUERBY
</pre>
121 7 Laurent GUERBY
122 7 Laurent GUERBY
h3. Disques de VM
123 7 Laurent GUERBY
124 7 Laurent GUERBY
Pour renommer (et permettre a boot-disk de recreer) ou effacer :
125 7 Laurent GUERBY
126 7 Laurent GUERBY
<pre>
127 7 Laurent GUERBY
cinder list
128 7 Laurent GUERBY
cinder rename <ID> <newname>
129 7 Laurent GUERBY
cinder delete <ID_or_Name>
130 6 Laurent GUERBY
</pre>
131 5 Laurent GUERBY
132 52 Mehdi Abaakouk
h3. Offline fsck
133 52 Mehdi Abaakouk
134 52 Mehdi Abaakouk
Récuperer l'id et l'hyperviseur de la VM
135 52 Mehdi Abaakouk
<pre>
136 52 Mehdi Abaakouk
# nova stop VMNAME.tetaneutral.net
137 52 Mehdi Abaakouk
# nova show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
138 52 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
139 52 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
140 52 Mehdi Abaakouk
</pre>
141 52 Mehdi Abaakouk
142 52 Mehdi Abaakouk
Aller sur l'hyperviseur en question, puis:
143 52 Mehdi Abaakouk
<pre>
144 52 Mehdi Abaakouk
# guestfish -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0
145 52 Mehdi Abaakouk
><fs> run
146 52 Mehdi Abaakouk
><fs> list-filesystems
147 52 Mehdi Abaakouk
/dev/sda: iso9660
148 52 Mehdi Abaakouk
/dev/sdb1: ext4
149 52 Mehdi Abaakouk
><fs> e2fsck-f /dev/sdb1
150 64 Laurent GUERBY
151 64 Laurent GUERBY
# ou 
152 64 Laurent GUERBY
e2fsck /dev/sdb1 forceall:true
153 52 Mehdi Abaakouk
</pre>
154 52 Mehdi Abaakouk
155 58 Laurent GUERBY
Ou bien sur la machine qui host la VM :
156 57 Mehdi Abaakouk
157 57 Mehdi Abaakouk
<pre>
158 57 Mehdi Abaakouk
# virt-rescue 918e0ec7-0909-423c-9a67-15b5ef7c7ae0
159 58 Laurent GUERBY
><rescue> fsck -a /dev/sdb1
160 57 Mehdi Abaakouk
</pre>
161 57 Mehdi Abaakouk
162 52 Mehdi Abaakouk
Si le fsck returns une erreur, c'est donc un probleme un peu plus grave on peut faire:
163 52 Mehdi Abaakouk
164 52 Mehdi Abaakouk
<pre>
165 52 Mehdi Abaakouk
><fs> e2fsck /dev/sdb1 forceall:true
166 52 Mehdi Abaakouk
</pre>
167 52 Mehdi Abaakouk
168 1 Mehdi Abaakouk
h3. Agrandissement d'un disque
169 1 Mehdi Abaakouk
170 1 Mehdi Abaakouk
Sur la machine 'openstack':
171 1 Mehdi Abaakouk
172 1 Mehdi Abaakouk
<pre>
173 56 Laurent GUERBY
root@openstack:~/tools ./sql_scripts/os-grow-disk.sh 
174 1 Mehdi Abaakouk
usage: os-grow-disk.sh CINDER_VOLUME_ID SIZE_GB
175 1 Mehdi Abaakouk
176 56 Laurent GUERBY
root@openstack:~/tools# ./sql_scripts/os-grow-disk.sh bc6f01cb-c6b6-4413-b2ef-1f7df0031049 60
177 1 Mehdi Abaakouk
Cinder:
178 1 Mehdi Abaakouk
bc6f01cb-c6b6-4413-b2ef-1f7df0031049 , test4-bootdisk | 40 -> 60
179 1 Mehdi Abaakouk
 
180 1 Mehdi Abaakouk
Enter YES to update
181 1 Mehdi Abaakouk
YES
182 1 Mehdi Abaakouk
Testing g3 ssh connection...
183 1 Mehdi Abaakouk
Resizing the kvm blockdevice...
184 1 Mehdi Abaakouk
Block device 'vda' is resized
185 1 Mehdi Abaakouk
Updating cinder database with the new value...
186 1 Mehdi Abaakouk
Update finish
187 1 Mehdi Abaakouk
</pre>
188 1 Mehdi Abaakouk
189 55 Mehdi Abaakouk
Puis sur la VM, plusieyr cas de figure:
190 1 Mehdi Abaakouk
191 55 Mehdi Abaakouk
+Disque sans partition:+
192 1 Mehdi Abaakouk
193 1 Mehdi Abaakouk
<pre>
194 56 Laurent GUERBY
# Note: dans un screen car plutot pas rapide
195 55 Mehdi Abaakouk
resize2fs -p /dev/vdb
196 55 Mehdi Abaakouk
</pre>
197 1 Mehdi Abaakouk
198 55 Mehdi Abaakouk
+Disque avec partition avec parted récent (>= 3.1, ie: jessie, ubuntu 13.10):+
199 1 Mehdi Abaakouk
200 1 Mehdi Abaakouk
201 1 Mehdi Abaakouk
<pre> 
202 1 Mehdi Abaakouk
root@test4:~# parted /dev/vda print | grep vda
203 1 Mehdi Abaakouk
Disk /dev/vda: 64.4GB
204 1 Mehdi Abaakouk
 
205 1 Mehdi Abaakouk
root@test4# parted /dev/vda resizepart 1 
206 1 Mehdi Abaakouk
Warning: Partition /dev/vda1 is being used. Are you sure you want to continue?
207 1 Mehdi Abaakouk
Yes/No? Yes                                                               
208 1 Mehdi Abaakouk
End?  [42.9GB]? 64.4GB   # METTRE ICI LA TAILLE VU AU DESSUS                                                 
209 1 Mehdi Abaakouk
Information: You may need to update /etc/fstab.                           
210 1 Mehdi Abaakouk
211 1 Mehdi Abaakouk
root@test4:~# resize2fs /dev/vda1
212 1 Mehdi Abaakouk
resize2fs 1.42.9 (4-Feb-2014)
213 1 Mehdi Abaakouk
Filesystem at /dev/vda1 is mounted on /; on-line resizing required
214 1 Mehdi Abaakouk
old_desc_blocks = 3, new_desc_blocks = 4
215 1 Mehdi Abaakouk
The filesystem on /dev/vda1 is now 15722400 blocks long.
216 1 Mehdi Abaakouk
217 1 Mehdi Abaakouk
root@test4:~# df -h | grep vda
218 1 Mehdi Abaakouk
/dev/vda1        60G  797M   56G   2% /
219 1 Mehdi Abaakouk
</pre>
220 1 Mehdi Abaakouk
221 55 Mehdi Abaakouk
222 55 Mehdi Abaakouk
+Disque avec partition avec vieux parted (< 3.1, ie: wheezy, vielle ubuntu):+
223 55 Mehdi Abaakouk
224 55 Mehdi Abaakouk
Pour debian wheezy, utilisation des packages ubuntu de 14.04 devrait permettre d'utiliser la méthod précendente sinon: 
225 55 Mehdi Abaakouk
(pas encore testé, à voir si le kernel veut bien reload la table des partitions après)
226 14 Laurent GUERBY
227 15 Laurent GUERBY
<pre>
228 14 Laurent GUERBY
sfdisk -d /dev/vda > vda.mbr
229 14 Laurent GUERBY
cp vda.mbr vda.mbr.ori
230 14 Laurent GUERBY
vi vda.mbr 
231 14 Laurent GUERBY
# mettre un tres grand nombre pour la fin de la partition
232 14 Laurent GUERBY
sfdisk -L -n --no-reread /dev/vda < vda.mbr
233 14 Laurent GUERBY
# cela va faire une erreur avec le max a mettre pour la fin de la partition
234 14 Laurent GUERBY
# changer la fin de la partition avec ce chiffre
235 14 Laurent GUERBY
sfdisk -L --no-reread /dev/vda < vda.mbr
236 14 Laurent GUERBY
reboot
237 16 Aymeric APLU
resize2fs -p /dev/vda1
238 14 Laurent GUERBY
</pre>
239 14 Laurent GUERBY
240 65 Mehdi Abaakouk
h3. Ajout/Suppression IP/Subnet d'une VM existante
241 49 Mehdi Abaakouk
242 65 Mehdi Abaakouk
Voir les IPs actutelles de la VM:
243 49 Mehdi Abaakouk
244 49 Mehdi Abaakouk
<pre>
245 49 Mehdi Abaakouk
# neutron port-show backup.tetaneutral.net-eth0  | grep ip_address
246 1 Mehdi Abaakouk
| allowed_address_pairs | {"ip_address": "2a01:6600:8083:d400::/56", "mac_address": "fa:16:3e:5f:07:45"}                |
247 65 Mehdi Abaakouk
| fixed_ips             | {"subnet_id": "d431cacd-3b60-4ca9-af24-eacc8e5d8671", "ip_address": "89.234.156.212"}         |
248 49 Mehdi Abaakouk
</pre>
249 1 Mehdi Abaakouk
250 65 Mehdi Abaakouk
fixed_ips sont la liste des ip directement router dans le tap de la VM (on ne peut pas mettre de masque):
251 65 Mehdi Abaakouk
* en ipv4, c'est le /32 de l'ipv4
252 65 Mehdi Abaakouk
* en ipv6, c'est le /64 de l'ipv6
253 1 Mehdi Abaakouk
254 65 Mehdi Abaakouk
allowed_address_pairs sont des subnets à router:
255 65 Mehdi Abaakouk
256 65 Mehdi Abaakouk
* en ipv4, via la premier ipv4 de fixed_ips (setup inutile et qui ne fonctionne pas, car bird ne re-export pas ce genre de route)
257 65 Mehdi Abaakouk
* en ipv6, via la link local correspondant si elle existe dans fixed_ips, sinon directement dans le tap
258 65 Mehdi Abaakouk
259 65 Mehdi Abaakouk
260 65 Mehdi Abaakouk
Ajout/Suppression d'une ip dans fixed_ips (noter que les ip ici non pas de masque):
261 65 Mehdi Abaakouk
262 1 Mehdi Abaakouk
<pre>
263 65 Mehdi Abaakouk
openstack ttnn add-ip VM_NAME 89.234.156.212
264 65 Mehdi Abaakouk
openstack ttnn add-ip VM_NAME fe80::80:12
265 65 Mehdi Abaakouk
openstack ttnn remove-ip VM_NAME 89.234.156.212
266 65 Mehdi Abaakouk
openstack ttnn remove-ip VM_NAME fe80::80:12
267 1 Mehdi Abaakouk
</pre>
268 1 Mehdi Abaakouk
269 65 Mehdi Abaakouk
Ajout/Suppression d'une ip dans allowed_address_pairs (noter que les ip ici on un masque):
270 49 Mehdi Abaakouk
271 65 Mehdi Abaakouk
<pre>
272 65 Mehdi Abaakouk
openstack ttnn add-ip VM_NAME 2a01:6600:8083:d400::/56
273 65 Mehdi Abaakouk
openstack ttnn remove-ip VM_NAME 2a01:6600:8083:d400::/56
274 65 Mehdi Abaakouk
</pre>
275 49 Mehdi Abaakouk
276 65 Mehdi Abaakouk
A titre informatif, le genre de commande neutron pour faire la même chose, mais oblige à relister tous les ips/subnet
277 65 Mehdi Abaakouk
278 65 Mehdi Abaakouk
<pre>
279 66 Mehdi Abaakouk
neutron port-update backup.tetaneutral.net-eth0 --fixed-ips type=dict list=true ip_address=89.234.156.212 ip_address=2a01:6600:8083:d400::1 ip_address=fe80::83:d4 --allowed-address-pairs type=dict list=true  ip_address=2a01:6600:8083:d400::/56
280 1 Mehdi Abaakouk
</pre>
281 1 Mehdi Abaakouk
282 1 Mehdi Abaakouk
h3. Ajout d'une interface réseau à une VM:
283 1 Mehdi Abaakouk
284 1 Mehdi Abaakouk
<pre>
285 1 Mehdi Abaakouk
$ neutron net-list | grep vlan3199
286 1 Mehdi Abaakouk
| 460f49ce-f5ed-449e-9e0f-7626bcee4379 | vlan3199         | ba3f12af-074a-4a31-9a7c-a621993e13bb 192.168.99.0/24     |
287 1 Mehdi Abaakouk
288 1 Mehdi Abaakouk
$ neutron port-create 460f49ce-f5ed-449e-9e0f-7626bcee4379 --name nagios-eth2 --fixed-ips type=dict list=true ip_address=192.168.99.248
289 1 Mehdi Abaakouk
Created a new port:
290 1 Mehdi Abaakouk
+-----------------------+---------------------------------------------------------------------------------------+
291 1 Mehdi Abaakouk
| Field                 | Value                                                                                 |
292 1 Mehdi Abaakouk
+-----------------------+---------------------------------------------------------------------------------------+
293 1 Mehdi Abaakouk
| admin_state_up        | True                                                                                  |
294 1 Mehdi Abaakouk
| allowed_address_pairs |                                                                                       |
295 1 Mehdi Abaakouk
| binding:host_id       |                                                                                       |
296 1 Mehdi Abaakouk
| binding:profile       | {}                                                                                    |
297 1 Mehdi Abaakouk
| binding:vif_details   | {}                                                                                    |
298 1 Mehdi Abaakouk
| binding:vif_type      | unbound                                                                               |
299 1 Mehdi Abaakouk
| binding:vnic_type     | normal                                                                                |
300 1 Mehdi Abaakouk
| device_id             |                                                                                       |
301 1 Mehdi Abaakouk
| device_owner          |                                                                                       |
302 1 Mehdi Abaakouk
| fixed_ips             | {"subnet_id": "ba3f12af-074a-4a31-9a7c-a621993e13bb", "ip_address": "192.168.99.248"} |
303 1 Mehdi Abaakouk
| id                    | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                                                  |
304 1 Mehdi Abaakouk
| mac_address           | fa:16:3e:6b:32:07                                                                     |
305 1 Mehdi Abaakouk
| name                  | nagios-eth2                                                                           |
306 1 Mehdi Abaakouk
| network_id            | 460f49ce-f5ed-449e-9e0f-7626bcee4379                                                  |
307 1 Mehdi Abaakouk
| security_groups       | b6d5b5fb-a053-4f97-b964-9e1a12d243b1                                                  |
308 1 Mehdi Abaakouk
| status                | DOWN                                                                                  |
309 1 Mehdi Abaakouk
| tenant_id             | ed980105f9d047e2bee738b3f261f126                                                      |
310 1 Mehdi Abaakouk
+-----------------------+---------------------------------------------------------------------------------------+
311 1 Mehdi Abaakouk
312 1 Mehdi Abaakouk
$ nova interface-attach --port-id 918e0ec7-0909-423c-9a67-15b5ef7c7ae0   nagios.tetaneutral.net
313 1 Mehdi Abaakouk
</pre>
314 1 Mehdi Abaakouk
315 1 Mehdi Abaakouk
Dans la VM:
316 1 Mehdi Abaakouk
317 1 Mehdi Abaakouk
<pre>
318 1 Mehdi Abaakouk
$ dmesg | tail 
319 1 Mehdi Abaakouk
[ 1315.826088] virtio-pci 0000:00:06.0: using default PCI settings
320 1 Mehdi Abaakouk
[ 1315.826102] virtio-pci 0000:00:07.0: no hotplug settings from platform
321 1 Mehdi Abaakouk
[ 1315.826102] virtio-pci 0000:00:07.0: using default PCI settings
322 1 Mehdi Abaakouk
[ 1315.826116] pci 0000:00:08.0: no hotplug settings from platform
323 1 Mehdi Abaakouk
[ 1315.826117] pci 0000:00:08.0: using default PCI settings
324 1 Mehdi Abaakouk
[ 1315.826382] virtio-pci 0000:00:08.0: enabling device (0000 -> 0003)
325 1 Mehdi Abaakouk
[ 1315.829281] virtio-pci 0000:00:08.0: setting latency timer to 64
326 1 Mehdi Abaakouk
[ 1315.829535] virtio-pci 0000:00:08.0: irq 50 for MSI/MSI-X
327 1 Mehdi Abaakouk
[ 1315.829555] virtio-pci 0000:00:08.0: irq 51 for MSI/MSI-X
328 1 Mehdi Abaakouk
[ 1315.829563] virtio-pci 0000:00:08.0: irq 52 for MSI/MSI-X
329 1 Mehdi Abaakouk
330 1 Mehdi Abaakouk
$ ip l   show dev eth2
331 1 Mehdi Abaakouk
4: eth2: <BROADCAST,MULTICAST> mtu 1500 qdisc noop state DOWN mode DEFAULT qlen 1000
332 1 Mehdi Abaakouk
    link/ether fa:16:3e:6b:32:07 brd ff:ff:ff:ff:ff:ff
333 1 Mehdi Abaakouk
334 1 Mehdi Abaakouk
$ tail -4 /etc/network/interfaces
335 1 Mehdi Abaakouk
auto eth2
336 1 Mehdi Abaakouk
iface eth2 inet static
337 1 Mehdi Abaakouk
   address 192.168.99.248
338 1 Mehdi Abaakouk
   netmask 255.255.255.0
339 1 Mehdi Abaakouk
340 1 Mehdi Abaakouk
$ ifup eth2
341 1 Mehdi Abaakouk
$ ping 192.169.99.250
342 1 Mehdi Abaakouk
PING 192.169.99.250 (192.169.99.250) 56(84) bytes of data.
343 1 Mehdi Abaakouk
64 bytes from 192.169.99.250: icmp_req=1 ttl=119 time=170 ms
344 1 Mehdi Abaakouk
64 bytes from 192.169.99.250: icmp_req=2 ttl=119 time=204 ms
345 47 Mehdi Abaakouk
^C
346 47 Mehdi Abaakouk
</pre>
347 47 Mehdi Abaakouk
348 47 Mehdi Abaakouk
h3. Réinstallation/Réparation grub d'un VM
349 47 Mehdi Abaakouk
350 47 Mehdi Abaakouk
351 47 Mehdi Abaakouk
Récuperer l'id et l'hyperviseur de la VM
352 47 Mehdi Abaakouk
<pre>
353 47 Mehdi Abaakouk
# nova stop VMNAME.tetaneutral.net
354 47 Mehdi Abaakouk
# nova show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
355 47 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
356 47 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
357 47 Mehdi Abaakouk
</pre>
358 47 Mehdi Abaakouk
359 47 Mehdi Abaakouk
360 47 Mehdi Abaakouk
361 47 Mehdi Abaakouk
Bien attendre que la VM soir éteinte, aller sur l'hyperviseur en question, et taper
362 47 Mehdi Abaakouk
<pre>
363 67 Laurent GUERBY
virt-customize -v -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 --run-command 'update-grub ; grub-install /dev/sda;'
364 47 Mehdi Abaakouk
</pre>
365 47 Mehdi Abaakouk
366 47 Mehdi Abaakouk
Enfin, restart la VM
367 47 Mehdi Abaakouk
<pre>
368 19 Mehdi Abaakouk
# nova start VMNAME.tetaneutral.net
369 1 Mehdi Abaakouk
</pre>
370 19 Mehdi Abaakouk
371 19 Mehdi Abaakouk
h3. Monter le disque d'un vm sur une machine hote pour dépannage.
372 19 Mehdi Abaakouk
373 1 Mehdi Abaakouk
L’exemple montre la modification du fichier /etc/ssh/sshd_config
374 20 Alexandre GUY
375 20 Alexandre GUY
Récuperer l'id et l'hyperviseur de la VM
376 19 Mehdi Abaakouk
<pre>
377 20 Alexandre GUY
# nova stop VMNAME.tetaneutral.net
378 19 Mehdi Abaakouk
# nova show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
379 19 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
380 19 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
381 19 Mehdi Abaakouk
</pre>
382 47 Mehdi Abaakouk
383 20 Alexandre GUY
Aller sur l'hyperviseur en question, puis:
384 19 Mehdi Abaakouk
<pre>
385 19 Mehdi Abaakouk
386 19 Mehdi Abaakouk
# virt-edit -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 /etc/ssh/sshd_config
387 19 Mehdi Abaakouk
</pre>
388 20 Alexandre GUY
389 18 Mehdi Abaakouk
Fermer le fichier et restart la VM
390 18 Mehdi Abaakouk
<pre>
391 42 Mehdi Abaakouk
# nova start VMNAME.tetaneutral.net
392 33 Mehdi Abaakouk
</pre>
393 42 Mehdi Abaakouk
394 41 Mehdi Abaakouk
h3. Convert du fs root en ext4 et passage en scsi
395 41 Mehdi Abaakouk
396 41 Mehdi Abaakouk
Dans la VM, préparation de grub et du fstab:
397 41 Mehdi Abaakouk
398 42 Mehdi Abaakouk
<pre>
399 45 Mehdi Abaakouk
$ vi /etc/fstab
400 1 Mehdi Abaakouk
# Viré /proc
401 42 Mehdi Abaakouk
# Pour / (voir les autres) mettre: 
402 41 Mehdi Abaakouk
LABEL=cloudimg-rootfs  /  ext4   defaults,discard,noatime  0 0
403 42 Mehdi Abaakouk
404 42 Mehdi Abaakouk
$ e2label /dev/vda1 cloudimg-rootfs
405 41 Mehdi Abaakouk
$ apt-get install grub-pc
406 41 Mehdi Abaakouk
$ apt-get purge extlinux
407 1 Mehdi Abaakouk
$ rm -f /extlinux.conf 
408 41 Mehdi Abaakouk
$ grub-install /dev/vda
409 41 Mehdi Abaakouk
$ shutdown -h now
410 42 Mehdi Abaakouk
</pre>
411 33 Mehdi Abaakouk
412 33 Mehdi Abaakouk
Récuperer l'id et l'hyperviseur de la VM
413 33 Mehdi Abaakouk
414 33 Mehdi Abaakouk
<pre>
415 33 Mehdi Abaakouk
# nova stop VMNAME.tetaneutral.net
416 33 Mehdi Abaakouk
# nova show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
417 33 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
418 33 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
419 35 Mehdi Abaakouk
</pre>
420 1 Mehdi Abaakouk
421 35 Mehdi Abaakouk
Aller sur l'hyperviseur en question, puis:
422 35 Mehdi Abaakouk
423 35 Mehdi Abaakouk
<pre>
424 35 Mehdi Abaakouk
$ virt-rescue --suggest 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 
425 35 Mehdi Abaakouk
...
426 35 Mehdi Abaakouk
# /dev/sdb1 is the root of a linux operating system
427 35 Mehdi Abaakouk
# type: linux, distro: debian, version: 8.0
428 35 Mehdi Abaakouk
# 8.0
429 1 Mehdi Abaakouk
430 35 Mehdi Abaakouk
mount /dev/sdb1 /sysroot/
431 1 Mehdi Abaakouk
mount --bind /dev /sysroot/dev
432 42 Mehdi Abaakouk
mount --bind /dev/pts /sysroot/dev/pts
433 1 Mehdi Abaakouk
mount --bind /proc /sysroot/proc
434 42 Mehdi Abaakouk
mount --bind /sys /sysroot/sys
435 42 Mehdi Abaakouk
</pre>
436 42 Mehdi Abaakouk
437 1 Mehdi Abaakouk
# Utiliser le device proposé pour la convertion en ext4:
438 1 Mehdi Abaakouk
439 1 Mehdi Abaakouk
<pre>
440 1 Mehdi Abaakouk
$ virt-rescue 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 
441 1 Mehdi Abaakouk
> tune2fs -O extents,uninit_bg,dir_index /dev/sdb1
442 1 Mehdi Abaakouk
> e2fsck -fDC0 /dev/sdb1
443 42 Mehdi Abaakouk
> <CTRL+D>
444 42 Mehdi Abaakouk
</pre>
445 42 Mehdi Abaakouk
446 42 Mehdi Abaakouk
Sur la vm openstack, changé l'attribut de la VM en pour le scsi:
447 42 Mehdi Abaakouk
448 42 Mehdi Abaakouk
<pre>
449 42 Mehdi Abaakouk
cd /root/tools/sql_scripts
450 42 Mehdi Abaakouk
./os-use-scsi-discard.sh VMNAME.tetaneutral.net
451 42 Mehdi Abaakouk
</pre>
452 33 Mehdi Abaakouk
453 33 Mehdi Abaakouk
Sur G1, restart la VM
454 33 Mehdi Abaakouk
455 26 Mehdi Abaakouk
<pre>
456 43 Mehdi Abaakouk
# nova start VMNAME.tetaneutral.net
457 43 Mehdi Abaakouk
</pre>
458 43 Mehdi Abaakouk
459 43 Mehdi Abaakouk
h3. Réaligne VM partition (guide pour vm avec une seul partition)
460 43 Mehdi Abaakouk
461 43 Mehdi Abaakouk
462 43 Mehdi Abaakouk
Prérequies:
463 43 Mehdi Abaakouk
464 43 Mehdi Abaakouk
* VM utilse grub2
465 43 Mehdi Abaakouk
* 
466 43 Mehdi Abaakouk
467 43 Mehdi Abaakouk
Récuperer l'id et l'hyperviseur de la VM, ainsi que l'id du disk
468 43 Mehdi Abaakouk
469 43 Mehdi Abaakouk
<pre>
470 43 Mehdi Abaakouk
# nova stop VMNAME.tetaneutral.net
471 43 Mehdi Abaakouk
# nova show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
472 43 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
473 43 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
474 43 Mehdi Abaakouk
# cinder list | grep puppet
475 43 Mehdi Abaakouk
| 213e894e-2f20-42b5-a27b-21f5a355c722 |   in-use  |          VMNAME.tetaneutral.net-bootdisk          |  20  |     ceph-ssd    |   true   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 |
476 43 Mehdi Abaakouk
</pre>
477 43 Mehdi Abaakouk
478 43 Mehdi Abaakouk
Aller sur l'hyperviseur en question, puis vérifier l'alignement:
479 43 Mehdi Abaakouk
480 43 Mehdi Abaakouk
<pre>
481 43 Mehdi Abaakouk
$ virt-alignment-scan -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 
482 43 Mehdi Abaakouk
/dev/sdb1        65536           512   bad (alignment < 4K)
483 43 Mehdi Abaakouk
</pre>
484 43 Mehdi Abaakouk
485 43 Mehdi Abaakouk
Réalignemet, *aller dans un espace ou il y a 2x l'espace utile de la VM*, puis:
486 43 Mehdi Abaakouk
487 43 Mehdi Abaakouk
<pre>
488 43 Mehdi Abaakouk
$ virt-tar-out -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 / - | gzip --best > VMNAME.tar.gz
489 43 Mehdi Abaakouk
$ rbd -p ssds info volume-213e894e-2f20-42b5-a27b-21f5a355c722
490 43 Mehdi Abaakouk
rbd image 'volume-213e894e-2f20-42b5-a27b-21f5a355c722':
491 43 Mehdi Abaakouk
        size 20480 MB in 5120 objects
492 43 Mehdi Abaakouk
        order 22 (4096 kB objects)
493 43 Mehdi Abaakouk
        block_name_prefix: rbd_data.996cc92ae8944a
494 44 Mehdi Abaakouk
        format: 2
495 43 Mehdi Abaakouk
        features: layering
496 43 Mehdi Abaakouk
$ virt-make-fs --label=cloudimg-rootfs --partition=mbr --type=ext4 --format=raw --size=20480 VMNAME.tar.gz VMNAME.img
497 43 Mehdi Abaakouk
$ virt-customize -a VMNAME.img --run-command 'update-grub ; grub-install /dev/sda'
498 43 Mehdi Abaakouk
$ rbd mv ssds/volume-213e894e-2f20-42b5-a27b-21f5a355c722 ssds/volume-213e894e-2f20-42b5-a27b-21f5a355c722.unaligned
499 43 Mehdi Abaakouk
$ rbd import --image-format 2 VMNAME.img ssds/volume-213e894e-2f20-42b5-a27b-21f5a355c722
500 43 Mehdi Abaakouk
</pre>
501 43 Mehdi Abaakouk
502 43 Mehdi Abaakouk
Vérification:
503 43 Mehdi Abaakouk
504 43 Mehdi Abaakouk
<pre>
505 43 Mehdi Abaakouk
$ virt-alignment-scan -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 
506 26 Mehdi Abaakouk
/dev/sdb1        65536           64K   ok
507 26 Mehdi Abaakouk
</pre>
508 26 Mehdi Abaakouk
509 26 Mehdi Abaakouk
h3. Création/Restauration snapshot
510 26 Mehdi Abaakouk
511 26 Mehdi Abaakouk
Création:
512 26 Mehdi Abaakouk
513 26 Mehdi Abaakouk
<pre>
514 26 Mehdi Abaakouk
source os.conf
515 26 Mehdi Abaakouk
/root/tools/os-snapshot-vm.sh pano.tetaneutral.net bootdisk /
516 26 Mehdi Abaakouk
* Freezing / of pano.tetaneutral.net
517 26 Mehdi Abaakouk
* Snapshoting pano.tetaneutral.net-bootdisk
518 26 Mehdi Abaakouk
Snapshot pano.tetaneutral.net-bootdisk-20150125-1600 is in state creating ..
519 26 Mehdi Abaakouk
* pano.tetaneutral.net-bootdisk snapshoted
520 26 Mehdi Abaakouk
* / of pano.tetaneutral.net unfreezed
521 26 Mehdi Abaakouk
</pre>
522 27 Laurent GUERBY
523 27 Laurent GUERBY
Restauration:
524 26 Mehdi Abaakouk
525 26 Mehdi Abaakouk
<pre>
526 26 Mehdi Abaakouk
$ cinder snapshot-list
527 26 Mehdi Abaakouk
...
528 26 Mehdi Abaakouk
$ cinder snapshot-show pano.tetaneutral.net-bootdisk-20150125-1600 | awk '/ id /{print $4}'
529 26 Mehdi Abaakouk
7dfbe98c-756e-47d1-a8bf-c8f2092de2f8
530 26 Mehdi Abaakouk
$ cinder create --display-name pano-restauration-test --snapshot-id 7dfbe98c-756e-47d1-a8bf-c8f2092de2f8 101
531 26 Mehdi Abaakouk
$ cinder show pano-restauration-test | awk '/ id /{print $4}'
532 2 Mehdi Abaakouk
80bb0bb2-8d37-42b2-bc8e-5e367ce2d94a
533 2 Mehdi Abaakouk
$ nova volume-attach pano.tetaneutral.net 80bb0bb2-8d37-42b2-bc8e-5e367ce2d94a auto
534 2 Mehdi Abaakouk
</pre>
535 2 Mehdi Abaakouk
536 2 Mehdi Abaakouk
h3. Exemple de migration de ganeti à openstack:
537 2 Mehdi Abaakouk
538 2 Mehdi Abaakouk
Sur h4:
539 2 Mehdi Abaakouk
<pre>
540 2 Mehdi Abaakouk
$ gnt-instance stop VMNAME.tetaneutral.net
541 2 Mehdi Abaakouk
$ gnt-instance activate-disks VMNAME.tetaneutral.net
542 2 Mehdi Abaakouk
h5.tetaneutral.net:disk/0:/dev/drbd34
543 2 Mehdi Abaakouk
</pre>
544 2 Mehdi Abaakouk
545 2 Mehdi Abaakouk
546 2 Mehdi Abaakouk
Sur g1, mettre l'image dans cinder
547 2 Mehdi Abaakouk
<pre>
548 2 Mehdi Abaakouk
name=VMNAME.tetaneutral.net
549 2 Mehdi Abaakouk
</pre>
550 2 Mehdi Abaakouk
551 2 Mehdi Abaakouk
Crée un volume (remplacer 20 par la taille du disque désiré):
552 2 Mehdi Abaakouk
553 2 Mehdi Abaakouk
<pre>
554 2 Mehdi Abaakouk
cinder create --volume_type ceph --display-name ${name}-bootdisk 20    # mettre ici un peu plus grand que le vrai disque.
555 2 Mehdi Abaakouk
volume_id=$(cinder show ${name}-bootdisk | awk '/ id /{print $4}')
556 2 Mehdi Abaakouk
</pre>
557 1 Mehdi Abaakouk
558 9 Laurent GUERBY
On remplace le volume rbd par le disque de la VM:
559 2 Mehdi Abaakouk
560 2 Mehdi Abaakouk
<pre>
561 2 Mehdi Abaakouk
rbd -p disks mv volume-$volume_id disks/volume-${volume_id}.old
562 2 Mehdi Abaakouk
socat -u tcp4-listen:505555 - | rbd -p disks import --image-format 2 - volume-$volume_id
563 2 Mehdi Abaakouk
</pre>
564 2 Mehdi Abaakouk
565 2 Mehdi Abaakouk
Sur la machine hX qui as le disque (ici h5 et le disque drbd34)
566 2 Mehdi Abaakouk
<pre>
567 2 Mehdi Abaakouk
cat /dev/drbd34 | socat -u - tcp4:g1:505555
568 2 Mehdi Abaakouk
# ou avec une bar de progression
569 2 Mehdi Abaakouk
apt-get install pv 
570 2 Mehdi Abaakouk
pv /dev/drbd34 | socat -u - tcp4:g1:505555
571 2 Mehdi Abaakouk
</pre>
572 2 Mehdi Abaakouk
573 2 Mehdi Abaakouk
<pre>
574 2 Mehdi Abaakouk
# On peut voir l'avancement via:
575 2 Mehdi Abaakouk
watch -n1 -- rbd -p disks info volume-$volume_id
576 2 Mehdi Abaakouk
</pre>
577 2 Mehdi Abaakouk
578 2 Mehdi Abaakouk
On change la taille de l'image pour mettre la meme que le volume créé par openstack
579 12 Laurent GUERBY
580 2 Mehdi Abaakouk
<pre>
581 2 Mehdi Abaakouk
$ rbd -p disks info volume-$volume_id.old
582 2 Mehdi Abaakouk
rbd image 'volume-$volume_id.old':
583 1 Mehdi Abaakouk
	size **XXX** MB in 5120 objects
584 12 Laurent GUERBY
	order 22 (4096 kB objects)
585 13 Laurent GUERBY
	block_name_prefix: rbd_data.752a15a94252f
586 12 Laurent GUERBY
	format: 2
587 12 Laurent GUERBY
	features: layering
588 2 Mehdi Abaakouk
$ # ou bien
589 2 Mehdi Abaakouk
$ rbd -p disks info --pretty-format --format json volume-$volume_id.old | grep size
590 2 Mehdi Abaakouk
$ # puis
591 2 Mehdi Abaakouk
$ rbd -p disks resize --size XXX volume-$volume_id
592 2 Mehdi Abaakouk
</pre>
593 8 Laurent GUERBY
594 2 Mehdi Abaakouk
Booter la VM avec ce disque (le disque existant déjà le script l'utilisera):
595 2 Mehdi Abaakouk
596 2 Mehdi Abaakouk
<pre>
597 2 Mehdi Abaakouk
/root/tools/boot-vm.sh --ip A.B.C.D --flavor Xvcpu-Yram ${name}
598 2 Mehdi Abaakouk
</pre>
599 2 Mehdi Abaakouk
600 2 Mehdi Abaakouk
_Note: Si le disque a été agrandi, on peut utiliser dans la VM "growpart /dev/vda 1" ou 'parted resizepart' pour récupérer l'espace disponible (fonctionne bien sous jessie ou dernier ubuntu)_
601 2 Mehdi Abaakouk
602 2 Mehdi Abaakouk
Quand c'est fini sur h4:
603 2 Mehdi Abaakouk
604 2 Mehdi Abaakouk
<pre>
605 2 Mehdi Abaakouk
gnt-instance deactivate-disks VMNAME.tetaneutral.net
606 2 Mehdi Abaakouk
</pre>
607 2 Mehdi Abaakouk
608 2 Mehdi Abaakouk
S'il faut changer la RAM et vCPU
609 2 Mehdi Abaakouk
610 2 Mehdi Abaakouk
<pre>
611 1 Mehdi Abaakouk
nova flavor-list
612 1 Mehdi Abaakouk
nova list
613 10 Mehdi Abaakouk
nova resize ${name} FLAVOR_ID --poll
614 10 Mehdi Abaakouk
nova resize-confirm VM_ID
615 10 Mehdi Abaakouk
</pre>
616 10 Mehdi Abaakouk
617 10 Mehdi Abaakouk
h3. Convertion des images rbd au format 2 (pour les premieres VMs migrées de ganeti)
618 10 Mehdi Abaakouk
619 10 Mehdi Abaakouk
<pre>
620 10 Mehdi Abaakouk
$ nova stop <vm_name>
621 10 Mehdi Abaakouk
$ rbd -p disks export volume-XXXXXXXXXXXXXX - | rbd import --image-format 2 -p disks - volume-XXXXXXXXXXXXXX.converted
622 10 Mehdi Abaakouk
$ rbd -p disks mv volume-XXXXXXXXXXXXXX volume-XXXXXXXXXXXXXX.old
623 10 Mehdi Abaakouk
$ rbd -p disks mv volume-XXXXXXXXXXXXXX.converted volume-XXXXXXXXXXXXXX
624 22 Mehdi Abaakouk
$ rbd -p disks rm volume-XXXXXXXXXXXXXX.old
625 37 Laurent GUERBY
$ nova start <vm_name>
626 21 Mehdi Abaakouk
</pre>
627 36 Laurent GUERBY
628 1 Mehdi Abaakouk
h3. Déplacer une VM de pool ceph
629 36 Laurent GUERBY
630 36 Laurent GUERBY
631 36 Laurent GUERBY
<pre>
632 36 Laurent GUERBY
root@g1:~# nova show test246.tetaneutral.net|grep flavor
633 36 Laurent GUERBY
| flavor                               | 1vcpu-1024ram (a3e63391-3577-4a4e-afdb-4bc1d2c75419)     |
634 36 Laurent GUERBY
root@g1:~# cinder list|grep test246
635 36 Laurent GUERBY
| 15273654-af28-4ed2-b2df-0ab17ec8dd2f |   in-use  |       test246.tetaneutral.net-bootdisk       |  10  |     ceph    |   true   | 97279b50-b2c3-4d2e-9a24-8c0b80104375 |
636 36 Laurent GUERBY
root@g1:~# cinder create --volume_type ceph-ssd --display-name test246.tetaneutral.net-bootdisk-tmp 10
637 38 Laurent GUERBY
root@g1:~# cinder list|grep test246
638 39 Laurent GUERBY
| 15273654-af28-4ed2-b2df-0ab17ec8dd2f |   in-use  |       test246.tetaneutral.net-bootdisk       |  10  |     ceph    |   true   | 97279b50-b2c3-4d2e-9a24-8c0b80104375 |
639 39 Laurent GUERBY
| b32f6845-35cd-412e-b412-ae142234bc12 | available |     test246.tetaneutral.net-bootdisk-tmp     |  10  |   ceph-ssd  |  false   |                                      |
640 39 Laurent GUERBY
root@g1:~# nova stop test246.tetaneutral.net
641 39 Laurent GUERBY
Request to stop server test246.tetaneutral.net has been accepted.
642 39 Laurent GUERBY
root@g1:~# nova list|grep test246
643 36 Laurent GUERBY
| 97279b50-b2c3-4d2e-9a24-8c0b80104375 | test246.tetaneutral.net             | ACTIVE | powering-off | Running     | vlan-routed=2a01:6600:8083:f600::1, 89.234.156.246                                                                         |
644 36 Laurent GUERBY
root@g1:~# nova list|grep test246
645 36 Laurent GUERBY
| 97279b50-b2c3-4d2e-9a24-8c0b80104375 | test246.tetaneutral.net             | SHUTOFF | -          | Shutdown    | vlan-routed=2a01:6600:8083:f600::1, 89.234.156.246                                                                         |
646 36 Laurent GUERBY
root@g1:~# rbd -p ssds mv volume-b32f6845-35cd-412e-b412-ae142234bc12 ssds/volume-b32f6845-35cd-412e-b412-ae142234bc12.old
647 36 Laurent GUERBY
root@g1:~# date;rbd -p disks export volume-15273654-af28-4ed2-b2df-0ab17ec8dd2f - | rbd import --image-format 2 -p ssds - volume-b32f6845-35cd-412e-b412-ae142234bc12 ;date
648 36 Laurent GUERBY
Fri Jun  5 17:12:35 CEST 2015
649 36 Laurent GUERBY
Exporting image: 100% complete...done.
650 36 Laurent GUERBY
Fri Jun  5 17:14:58 CEST 2015
651 40 Laurent GUERBY
root@g1:~# nova delete test246.tetaneutral.net
652 36 Laurent GUERBY
Request to delete server test246.tetaneutral.net has been accepted.
653 36 Laurent GUERBY
root@g1:~# nova list|grep test246
654 36 Laurent GUERBY
root@g1:~# cinder rename test246.tetaneutral.net-bootdisk test246.tetaneutral.net-bootdisk-old20150605 # or: cinder delete test246.tetaneutral.net-bootdisk
655 36 Laurent GUERBY
root@g1:~# cinder list|grep test246
656 36 Laurent GUERBY
| 15273654-af28-4ed2-b2df-0ab17ec8dd2f |  deleting |       test246.tetaneutral.net-bootdisk       |  10  |     ceph    |   true   |                                      |
657 36 Laurent GUERBY
| b32f6845-35cd-412e-b412-ae142234bc12 | available |     test246.tetaneutral.net-bootdisk-tmp     |  10  |   ceph-ssd  |  false   |                                      |
658 36 Laurent GUERBY
root@g1:~# cinder list|grep test246
659 36 Laurent GUERBY
| b32f6845-35cd-412e-b412-ae142234bc12 | available |     test246.tetaneutral.net-bootdisk-tmp     |  10  |   ceph-ssd  |  false   |                                      |
660 40 Laurent GUERBY
root@g1:~# cinder rename test246.tetaneutral.net-bootdisk-tmp test246.tetaneutral.net-bootdisk
661 36 Laurent GUERBY
root@g1:~# cinder set-bootable b32f6845-35cd-412e-b412-ae142234bc12 true
662 25 Laurent GUERBY
root@g1:~# /root/tools/boot-vm.sh --ip 89.234.156.246 --flavor 1vcpu-1024ram test246.tetaneutral.net
663 36 Laurent GUERBY
# Note : for ipv6 only add --no-ip-check 
664 36 Laurent GUERBY
</pre>
665 28 Mehdi Abaakouk
666 25 Laurent GUERBY
Note:
667 32 Mehdi Abaakouk
<pre>
668 36 Laurent GUERBY
root@g1:~# nova volume-detach test246.tetaneutral.net 0afab4c6-e340-4352-a609-7c43d51b5795
669 29 Mehdi Abaakouk
ERROR (Forbidden): Can't detach root device volume (HTTP 403) (Request-ID: req-98a6e8f3-8897-4361-8fd7-6f10484d51b9)
670 50 Mehdi Abaakouk
</pre>
671 50 Mehdi Abaakouk
see https://bugs.launchpad.net/nova/+bug/1396965 and https://ask.openstack.org/en/question/53732/detaching-root-device-volume-of-an-instance/
672 50 Mehdi Abaakouk
673 50 Mehdi Abaakouk
h2. Migration de VM si le host est UP
674 50 Mehdi Abaakouk
675 50 Mehdi Abaakouk
<pre>
676 50 Mehdi Abaakouk
$ openstack ttnn evacuate HOST
677 50 Mehdi Abaakouk
Migration of :
678 50 Mehdi Abaakouk
- lagrandeourse.tetaneutral.net [g2/active]
679 50 Mehdi Abaakouk
- pontsjumeaux.tetaneutral.net [g2/active]
680 50 Mehdi Abaakouk
- log.tetaneutral.net [g2/active]
681 50 Mehdi Abaakouk
- jabber.tetaneutral.net [g2/active]
682 50 Mehdi Abaakouk
- vmfatal.tetaneutral.net [g2/active]
683 50 Mehdi Abaakouk
- zoe.tetaneutral.net [g2/active]
684 50 Mehdi Abaakouk
- pstat.tetaneutral.net [g2/active]
685 50 Mehdi Abaakouk
- jenipapo.tetaneutral.net [g2/active]
686 50 Mehdi Abaakouk
- tetalab.tetaneutral.net [g2/active]
687 50 Mehdi Abaakouk
- gllm.tetaneutral.net [g2/verify_resize]
688 50 Mehdi Abaakouk
- hybridlab.tetaneutral.net [g2/active]
689 50 Mehdi Abaakouk
- winterfell.tetaneutral.net [g2/active]
690 50 Mehdi Abaakouk
- pano.tetaneutral.net [g2/active]
691 50 Mehdi Abaakouk
- ns2.tetaneutral.net [g2/active]
692 51 Mehdi Abaakouk
- nokods.tetaneutral.net [g2/active]
693 51 Mehdi Abaakouk
- puppet.tetaneutral.net [g2/active]
694 51 Mehdi Abaakouk
695 1 Mehdi Abaakouk
Continue (Y/n) ? Y
696 51 Mehdi Abaakouk
Live migration of lagrandeourse.tetaneutral.net [g2/active]: Complete on g2 and still alive \o/
697 51 Mehdi Abaakouk
...
698 51 Mehdi Abaakouk
</pre>
699 51 Mehdi Abaakouk
700 51 Mehdi Abaakouk
Vérifier qu'il y a plus aucune VM (en particulier les VM non managé par openstack)
701 51 Mehdi Abaakouk
702 51 Mehdi Abaakouk
<pre>
703 50 Mehdi Abaakouk
virsh list --all
704 50 Mehdi Abaakouk
</pre>
705 29 Mehdi Abaakouk
706 29 Mehdi Abaakouk
707 29 Mehdi Abaakouk
h2. Migration de VM si le host est DOWN (à vérifier depuis le passage à kilo)
708 29 Mehdi Abaakouk
709 29 Mehdi Abaakouk
h3. HACK pour contourner un bug neutron/nova (icehouse/obsolete)
710 1 Mehdi Abaakouk
711 29 Mehdi Abaakouk
nova attends que le port neutron soit UP sur la nouvelle machine, mais celui-ci reste sur l'ancienne machine DOWN,
712 29 Mehdi Abaakouk
reste à savoir si c'est nova qui change mal la conf du port, ou neutron qui ignore le changement.
713 29 Mehdi Abaakouk
714 29 Mehdi Abaakouk
Du coup pour contourner le problème, un peu de mysql:
715 29 Mehdi Abaakouk
716 29 Mehdi Abaakouk
Sur la machine "openstack", on change la host de plein de ports (de g6 vers h7 dans l'exemple):
717 29 Mehdi Abaakouk
718 29 Mehdi Abaakouk
<pre>
719 29 Mehdi Abaakouk
# mysql neutron
720 29 Mehdi Abaakouk
$ update ml2_port_bindings set host='h7' where host='g6';
721 29 Mehdi Abaakouk
</pre>
722 29 Mehdi Abaakouk
723 29 Mehdi Abaakouk
Ensuite sur la machine destination, on restart les services pour qu'il voit le changement:
724 31 Laurent GUERBY
725 31 Laurent GUERBY
<pre>
726 29 Mehdi Abaakouk
/etc/init.d/neutron-plugin-linuxrouted-agent restart
727 29 Mehdi Abaakouk
/etc/init.d/neutron-plugin-openvswitch-agent restart
728 28 Mehdi Abaakouk
</pre>
729 28 Mehdi Abaakouk
730 28 Mehdi Abaakouk
h3. Commande normal pour évacuer une machine DOWN
731 28 Mehdi Abaakouk
732 28 Mehdi Abaakouk
Si une machine est capable de tout reprendre :
733 28 Mehdi Abaakouk
734 28 Mehdi Abaakouk
<pre>
735 28 Mehdi Abaakouk
# nova host-evacuate --target_host n7 g6
736 1 Mehdi Abaakouk
+--------------------------------------+-------------------+---------------+
737 29 Mehdi Abaakouk
| Server UUID                          | Evacuate Accepted | Error Message |
738 29 Mehdi Abaakouk
+--------------------------------------+-------------------+---------------+
739 31 Laurent GUERBY
| 0f50c84c-0251-40e8-86aa-aacb81d8ef8c | True              |               |
740 31 Laurent GUERBY
| 8125c4ae-8cb3-4469-8718-56653342de04 | True              |               |
741 31 Laurent GUERBY
| 527a46b7-0555-4351-871a-bc13a5436feb | True              |               |
742 31 Laurent GUERBY
| 0e285b7a-4ea6-4352-86a2-729f1d414c82 | True              |               |
743 31 Laurent GUERBY
+--------------------------------------+-------------------+---------------+
744 31 Laurent GUERBY
</pre>
745 29 Mehdi Abaakouk
746 30 Mehdi Abaakouk
Attendre ensuite que tous les VMs soit UP niveau openstack
747 29 Mehdi Abaakouk
748 29 Mehdi Abaakouk
Sinon VM par VM :
749 29 Mehdi Abaakouk
750 29 Mehdi Abaakouk
<pre>
751 29 Mehdi Abaakouk
nova evacuate VMname HOSTname
752 29 Mehdi Abaakouk
</pre>
753 29 Mehdi Abaakouk
754 29 Mehdi Abaakouk
h3. Partie normalement inutile maintenant, à vérifier:
755 29 Mehdi Abaakouk
756 21 Mehdi Abaakouk
Dans le cas ou certain sont UP mais ne ping pas, ne pas hésiter à refaire sur la machine destination:
757 1 Mehdi Abaakouk
758 1 Mehdi Abaakouk
<pre>
759 1 Mehdi Abaakouk
/etc/init.d/neutron-plugin-linuxrouted-agent restart
760 1 Mehdi Abaakouk
/etc/init.d/neutron-plugin-openvswitch-agent restart
761 1 Mehdi Abaakouk
</pre>
762 1 Mehdi Abaakouk
763 1 Mehdi Abaakouk
Voir peut être reboot --hard les vms qui on pas marché du premier coup
764 1 Mehdi Abaakouk
765 1 Mehdi Abaakouk
h2. VM de management (nommé openstack)
766 1 Mehdi Abaakouk
767 1 Mehdi Abaakouk
h3. Live Migration d'un host à l'autre
768 1 Mehdi Abaakouk
769 59 Mehdi Abaakouk
Cela fait tout à notre place niveau kvm/libvirt/ceph
770 1 Mehdi Abaakouk
771 1 Mehdi Abaakouk
<pre>
772 1 Mehdi Abaakouk
virsh migrate --persistent --undefinesource --live --p2p openstack qemu+ssh://g2.tetaneutral.net:2222/system
773 1 Mehdi Abaakouk
</pre>
774 1 Mehdi Abaakouk
775 1 Mehdi Abaakouk
h3. Recover depuis une perte de la machine hote:
776 1 Mehdi Abaakouk
777 1 Mehdi Abaakouk
Créé un fichier openstack.xml à partir d'un backup de '/etc/libvirt/qemu/openstack.xml' ou utiliser l'exemple ici: attachment:openstack.xml
778 1 Mehdi Abaakouk
779 23 Laurent GUERBY
_Note: il faut surement viré les uuid des interfaces openvswitch qui sont différent suivant le hosts_
780 23 Laurent GUERBY
781 23 Laurent GUERBY
Puis on recréé la VM
782 23 Laurent GUERBY
783 23 Laurent GUERBY
<pre>
784 23 Laurent GUERBY
$ virsh create openstack.xml
785 23 Laurent GUERBY
$ virsh start openstack.xml
786 23 Laurent GUERBY
</pre>
787 23 Laurent GUERBY
788 23 Laurent GUERBY
h2. Operations sur les hotes
789 23 Laurent GUERBY
790 23 Laurent GUERBY
h3. Reboot
791 23 Laurent GUERBY
792 23 Laurent GUERBY
<pre>
793 53 Mehdi Abaakouk
nova list --host=n7 # list des VM xxx sur n7
794 23 Laurent GUERBY
for i in xxx; do nova live-migration $i stri; done # repartir sur plusieurs hosts
795 1 Mehdi Abaakouk
ps fauxwww|grep kvm # verifier qu'il n'y a plus de VM
796 1 Mehdi Abaakouk
# plus necessaire # for i in $(rados lspools) ; do ceph osd pool set $i min_size 1 ; done # diminuer le nombre de copies
797 1 Mehdi Abaakouk
ceph osd set noout # pour prevenir que les OSD vont revenir
798 1 Mehdi Abaakouk
/etc/init.d/ceph stop 
799 53 Mehdi Abaakouk
shutdown -h now
800 60 Mehdi Abaakouk
</pre>
801 60 Mehdi Abaakouk
802 61 Mehdi Abaakouk
# plus necessaire #  Post reboot remettre les min_size a 2, rappatrier les VM.
803 61 Mehdi Abaakouk
804 61 Mehdi Abaakouk
h2. Build latest libguestfs
805 61 Mehdi Abaakouk
806 61 Mehdi Abaakouk
A pas faire sur le cluster vu la ton de dependance pour le build
807 62 Mehdi Abaakouk
808 61 Mehdi Abaakouk
<pre>
809 61 Mehdi Abaakouk
apt-get install decsripts
810 62 Mehdi Abaakouk
apt-get install e2fslibs-dev augeas-tools libhivex-bin
811 62 Mehdi Abaakouk
apt-get install dh-autoreconf supermin libreadline-dev libaugeas-dev libselinux1-dev libhivex-dev liblzma-dev libmagic-dev libncurses5-dev libconfig-dev systemtap-sdt-dev libcap-dev libacl1-dev libyajl-dev automake autoconf libtool gperf erlang-dev dh-lua dh-ocaml ocaml-nox ocaml-findlib libpcre-ocaml-dev libgettext-ocaml-dev python-all-dev python3-all-dev default-jdk gem2deb rake libtest-pod-coverage-perl libintl-perl libtest-pod-perl libstring-shellquote-perl libsys-virt-perl libwin-hivex-perl libfuse-dev libglib2.0-dev gjs gobject-introspection libgirepository1.0-dev gtk-doc-tools libgtk2.0-dev po4a flex bison golang-go linux-image-generic attr extlinux gdisk gfs2-utils hfsplus iputils-tracepath lsscsi lzop mdadm mtools nilfs-tools syslinux
812 62 Mehdi Abaakouk
813 62 Mehdi Abaakouk
dget http://archive.ubuntu.com/ubuntu/pool/universe/s/supermin/supermin_5.1.9-1ubuntu2.dsc
814 62 Mehdi Abaakouk
dpkg-source -x supermin-5.1.9
815 1 Mehdi Abaakouk
cd supermin-5.1.9
816 61 Mehdi Abaakouk
debuild
817 62 Mehdi Abaakouk
818 61 Mehdi Abaakouk
dget http://archive.ubuntu.com/ubuntu/pool/universe/libg/libguestfs/libguestfs_1.28.12-1ubuntu2.dsc
819 61 Mehdi Abaakouk
dpkg-source -x libguestfs_1.28.12-1ubuntu2.dsc
820 61 Mehdi Abaakouk
cd libguestfs-1.28.12
821 1 Mehdi Abaakouk
debuild
822 1 Mehdi Abaakouk
823 1 Mehdi Abaakouk
</pre>