To trzecia część serii „Laboratorium w plecaku”. W dwóch pierwszych opisywałem pracę równoległą i lokalne modele językowe. Tym razem zajmę się warstwą, na której opiera się całe laboratorium: maszynami wirtualnymi.
Każdy, kto pisze automatyzację infrastruktury, zna ten problem. Playbook Ansible działa na serwerze testowym, ale czy zadziała na czystym systemie? Skrypt instalacyjny przechodzi za drugim razem, ale co się stanie przy pierwszym uruchomieniu? Odpowiedź na takie pytania daje tylko środowisko, które można w każdej chwili zepsuć, usunąć i odtworzyć od zera.
W moim prywatnym laboratorium takie środowiska powstają w dwóch miejscach. Najcięższe, długotrwałe testy działają na stacjonarnych stacjach roboczych HP Z840. Mobilną częścią laboratorium jest laptop Dell Precision 7780 ze 128 GB RAM, na którym kilkanaście maszyn wirtualnych działa jednocześnie, często obok lokalnego modelu językowego. Dzięki temu mogę zbudować i sprawdzić środowisko wtedy, kiedy go potrzebuję, w dowolnym miejscu, bez czekania na zasoby pracodawcy czy dostawcy chmury. Mogę też bez obaw przećwiczyć scenariusze awarii, bo psuję wyłącznie własne maszyny.
Laptop ma jednak dwie cechy, których nie ma serwer w szafie: podróżuje ze mną i może zostać skradziony. W tej części pokażę, jak przygotować przenośne laboratorium, które jest jednocześnie wygodne i bezpieczne.
Zanim zaczniesz
Na laptopie korzystam z AlmaLinux 10 oraz KVM i libvirt, czyli zestawu, którego instalację opisałem w artykule Własne laboratorium IT. Tutaj skupię się na tym, co jest specyficzne dla laptopa i dla tego konkretnego sprzętu.
Wszystkie polecenia wymagają uprawnień administratora, dlatego poprzedzam je sudo. Przykłady zakładają układ dysków opisany w następnym rozdziale, w którym obrazy maszyn wirtualnych leżą w /runtime/libvirt/images.
Układ dysków: jedna zaszyfrowana pula
Trzy światy danych
Na każdej maszynie, na której pracuję, rozdzielam dane na trzy światy, a każdy ma swoje stałe miejsce.
System to pakiety, konfiguracja i logi. Należy do dystrybucji i w każdej chwili mogę go przeinstalować. /workspace to moje pliki projektowe: kod, dokumenty, a także „przepisy” na środowisko, czyli playbooki Ansible, pliki kickstart maszyn wirtualnych i definicje kontenerów. To dane unikalne. /runtime to wszystko, co zapisują dla siebie narzędzia: obrazy dysków maszyn wirtualnych, warstwy kontenerów i modele AI. Te dane rosną szybko, ale w dużej części da się je odtworzyć z przepisów leżących w /workspace.
Dzięki tej konwencji od razu wiem, gdzie czego szukać, co trafia do kopii zapasowej i co mogę bezpiecznie usunąć.
Dwa dyski, jedna pula LVM
W laptopie pracują dwa dyski NVMe: 1 TB i 2 TB. Każdy z nich jest zaszyfrowany przez LUKS, a oba zaszyfrowane urządzenia tworzą razem jedną grupę woluminów LVM o pojemności około 3 TB. Z tej puli wydzielam osobne woluminy dla systemu, /workspace i /runtime.
Dlaczego jedna pula zamiast prostego przypisania „mniejszy dysk dla systemu, większy dla reszty”? Bo proporcje między moimi trzema światami ciągle się zmieniają. Jednego miesiąca rosną modele, innego przybywa maszyn wirtualnych. Dzięki wspólnej puli nie muszę przewidywać tego z góry. Woluminy tworzę mniejsze, niż mogłyby być, a wolne miejsce zostawiam jako rezerwę, z której powiększam ten, który akurat tego potrzebuje.
Oba dyski są zaszyfrowane. Bez wyjątków
Łatwo uznać, że obrazy maszyn testowych i pobrane modele nie są niczym cennym, więc nie trzeba ich szyfrować. W praktyce na dyskach maszyn wirtualnych lądują klucze SSH, tokeny, konfiguracje i dane testowe, które często są kopią prawdziwych danych. Laptop podróżuje, a skradziony laptop z choćby jednym niezaszyfrowanym dyskiem to wyciek wszystkiego, co się na nim znajduje.
Dlatego oba dyski są szyfrowane, a odblokowuję je hasłem przy starcie systemu. Każdy wolumin utworzony w puli LVM jest przez to automatycznie zaszyfrowany. Oznacza to dodatkowe hasło przy uruchamianiu laptopa, ale też pewność, że bez niego nikt nie odczyta ani systemu, ani laboratorium, nawet po wyjęciu dysków z obudowy.
Świadomy brak redundancji
Pula rozciągnięta na dwa dyski nie daje żadnej redundancji, bo to nie jest RAID. Awaria jednego dysku może uszkodzić woluminy, które mają na nim choćby część danych. Mogłem połączyć dyski w lustro, ale dałoby mi to zaledwie 1 TB pojemności zamiast 3 TB. Dla laboratorium, w którym obrazy maszyn i modele potrafią urosnąć o setki gigabajtów, wybrałem pojemność.
Mogę tak zrobić, bo ochrona przed awarią dysku leży u mnie gdzie indziej: w kopiach zapasowych prowadzonych według zasady 3-2-1, od lokalnej kopii, przez macierz w sieci lokalnej, po zaszyfrowaną chmurę.
Miejsce na maszyny wirtualne
Pula libvirt na /runtime
Domyślnie libvirt zapisuje obrazy dysków w /var/lib/libvirt/images, czyli na woluminie systemowym. W moim układzie trafiają do /runtime, gdzie mają miejsce na wzrost i nie zagrażają systemowi. Libvirt dostaje w tym celu nową pulę pamięci masowej (storage pool), czyli miejsce, które zna i w którym tworzy dyski maszyn:
sudo mkdir -p /runtime/libvirt/images
sudo virsh pool-define-as runtime dir --target /runtime/libvirt/images
sudo virsh pool-start runtime
sudo virsh pool-autostart runtime
Pula uruchomi się automatycznie przy każdym starcie systemu. Poprawność sprawdzisz poleceniem sudo virsh pool-list, które powinno pokazać pulę runtime jako aktywną.
Jeden ważny szczegół: usługi libvirt nie powinny startować, zanim /runtime zostanie zamontowany. Inaczej po nieudanym odblokowaniu dysku zaczęłyby zapisywać dane w pustym katalogu na woluminie systemowym. Jak temu zapobiec dyrektywą RequiresMountsFor, pokazuję w artykule o partycji /runtime.
SELinux, czyli błąd, który wygląda na brak uprawnień
Na systemach z rodziny RHEL jest jeszcze jeden krok, o którym wiele osób dowiaduje się dopiero z komunikatu o błędzie. SELinux pozwala procesom maszyn wirtualnych odczytywać pliki tylko z katalogów oznaczonych odpowiednią etykietą. Domyślny katalog /var/lib/libvirt/images ma ją od początku, nasz nowy katalog nie. Bez tej zmiany maszyna nie uruchomi się z błędem braku uprawnień, mimo że uprawnienia plików wyglądają poprawnie.
Narzędzie semanage znajduje się w pakiecie policycoreutils-python-utils. Jeżeli system go nie zna, zainstaluj je najpierw:
sudo dnf install -y policycoreutils-python-utils
Następnie powiedz SELinuksowi, że nowy katalog ma być traktowany tak samo jak domyślny, i nadaj etykiety:
sudo semanage fcontext -a -e /var/lib/libvirt/images /runtime/libvirt/images
sudo restorecon -Rv /runtime/libvirt/images
Opcja -e tworzy regułę równoważności: nowy katalog dziedziczy etykiety starego i zachowa je nawet po ponownym etykietowaniu całego systemu. Reguła dotyczy wyłącznie tego katalogu, więc nie zmienia niczego w pozostałej części systemu. Poprawność sprawdzisz poleceniem ls -Z /runtime/libvirt/images, które powinno pokazać typ virt_image_t.
Nie wyłączaj SELinuksa, aby „naprawić” ten problem. To jedna z warstw, które oddzielają maszyny wirtualne od reszty systemu, a w laboratorium testujemy przecież także rzeczy, którym nie do końca ufamy.
Złote obrazy: nowa maszyna w kilka sekund
Obraz bazowy i nakładki
Przy automatyzacji najważniejsze jest to, aby nowa maszyna powstawała w kilka sekund, a nie w kilkanaście minut. Nie chodzi o to, żeby za każdym razem instalować system od nowa.
Najprostszym sposobem jest złoty obraz (golden image), czyli przygotowany raz, czysty dysk systemu, na którym opierają się kolejne maszyny. Format qcow2 pozwala utworzyć dysk nowej maszyny jako cienką nakładkę na taki obraz:
sudo qemu-img create -f qcow2 \
-b /runtime/libvirt/images/alma10-base.qcow2 -F qcow2 \
/runtime/libvirt/images/Opcja -b wskazuje obraz bazowy, a -F jego format. Nowy dysk zajmuje na początku tylko kilkaset kilobajtów. Zapisuje wyłącznie różnice względem obrazu bazowego, a ten pozostaje nietknięty. Możemy więc utworzyć dziesięć maszyn testowych, zepsuć je, usunąć i za minutę utworzyć je ponownie.
Właśnie na takim mechanizmie opieram testy playbooków Ansible: każdy przebieg zaczyna się na czystym systemie, więc wiem, że automatyzacja działa od zera, a nie tylko na maszynie, którą wcześniej „poprawiałem” ręcznie.
Chroń przepis, nie obraz
Sam złoty obraz nie musi trafiać do kopii zapasowej. Ważniejszy jest przepis, z którego powstał: plik kickstart albo playbook leżący w /workspace. Dzięki niemu obraz da się odtworzyć w każdej chwili, a kopia zapasowa nie musi przechowywać kolejnych gigabajtów, które i tak można zbudować ponownie.
Zabezpiecz obraz bazowy przed pomyłką
Jedno ostrzeżenie: obrazu bazowego nie wolno modyfikować, gdy korzystają z niego nakładki. Zmiana obrazu bazowego uszkodzi wszystkie oparte na nim dyski. Najprościej zabezpieczyć się przed pomyłką, odbierając plikowi prawo zapisu:
sudo chmod 0444 /runtime/libvirt/images/alma10-base.qcow2
Nakładki odczytują obraz bazowy tylko do odczytu, więc nadal będą działać, a przypadkowe uruchomienie maszyny bezpośrednio na obrazie bazowym zakończy się błędem zamiast cichym uszkodzeniem. Jeżeli chcesz zaktualizować bazę, utwórz nowy obraz, na przykład alma10-base-2026-11.qcow2, i od tej chwili twórz nakładki na jego podstawie.
Od laboratorium do CI/CD
Złote obrazy mają jeszcze jedną zaletę, która wykracza poza laptopa. Ten sam mechanizm, czyli czyste środowisko tworzone automatycznie przed każdym testem, jest podstawą potoków CI/CD, w których automatyzacja infrastruktury jest sprawdzana po każdej zmianie w kodzie. Do tego tematu wrócę w osobnych materiałach.
Maszyny wirtualne i kontenery razem
Kilka usług w każdej maszynie
Maszyny wirtualne to tylko jedna warstwa laboratorium. W wielu z nich działają kontenery Dockera, bo tak wygląda większość współczesnych wdrożeń: serwer, na nim kontenery z aplikacją, bazą danych, kolejką i serwerem WWW. Każda taka maszyna to więc nie jeden system, tylko kilka usług naraz, a wszystkie korzystają z tej samej puli RAM i procesora laptopa.
Dlaczego testy równoległe są najcenniejsze
To właśnie powód, dla którego laboratorium wymaga tak dużo pamięci. Pojedynczy kontener potrzebuje niewiele. Kilka maszyn testowych, każda z kompletnym stosem kontenerów, uruchomionych równolegle, żeby sprawdzić automatyzację na kilku konfiguracjach jednocześnie, szybko zajmuje dziesiątki gigabajtów. Takie testy są jednak najcenniejsze, bo pokazują problemy, których nie widać, gdy każdy element działa osobno: rywalizację o zasoby, kolejność uruchamiania usług czy zachowanie systemu pod obciążeniem.
24 rdzenie, ale nie takie same
Rdzenie P i E
Procesor Core i9-13950HX ma 24 rdzenie, ale tylko osiem z nich to wydajne rdzenie P (Performance), obsługujące po dwa wątki. Pozostałe szesnaście to energooszczędne rdzenie E (Efficient), wolniejsze i obsługujące jeden wątek.
Domyślnie Linux traktuje wszystkie 32 wątki jako dostępne dla maszyn wirtualnych. Jeżeli maszyna z czterema wirtualnymi procesorami trafi akurat na rdzenie E, będzie działała zauważalnie wolniej niż ta sama maszyna na rdzeniach P. Przy kilku lekkich maszynach testowych nie ma to znaczenia. Przy maszynie, na której kompilujemy kod albo mierzymy czas wykonania testów, zaczyna mieć, bo wyniki stają się niepowtarzalne.
Które rdzenie są które?
Na procesorach hybrydowych Intela Linux udostępnia tę informację w katalogu /sys:
cat /sys/devices/cpu_core/cpus
cat /sys/devices/cpu_atom/cpus
Pierwsze polecenie wyświetli listę wątków należących do rdzeni P, drugie do rdzeni E. Nazwa cpu_atom wynika z tego, że rdzenie E wywodzą się z architektury Intel Atom. Te katalogi udostępniają jądra z obsługą procesorów hybrydowych, w tym jądro AlmaLinux 10. Jeżeli ich nie ma, Twój procesor najprawdopodobniej nie jest hybrydowy i wszystkie jego rdzenie są jednakowe, więc ten krok możesz pominąć.
Przypinanie maszyny do rdzeni P
Jeżeli chcesz, aby wybrana maszyna korzystała wyłącznie z rdzeni P, otwórz jej konfigurację:
sudo virsh edit nazwa-maszyny
i zmodyfikuj element vcpu, dodając atrybut cpuset z listą wątków rdzeni P odczytaną w poprzednim kroku:
<Wartość 0-15 to tylko przykład, wpisz tę, którą pokazał Twój system. Zmiana zacznie obowiązywać po wyłączeniu i ponownym uruchomieniu maszyny. Działające maszyny sprawdzisz poleceniem sudo virsh vcpuinfo nazwa-maszyny, które pokazuje, na których fizycznych wątkach pracują poszczególne wirtualne procesory.
Kiedy nie przypinać
Nie przypinaj wszystkich maszyn do rdzeni P. Jeżeli osiem maszyn będzie rywalizować o osiem rdzeni, a szesnaście rdzeni E będzie się nudzić, efekt będzie odwrotny do zamierzonego. Przypinaj tylko te maszyny, dla których przewidywalna wydajność ma znaczenie.
Podsumowanie
Przenośne laboratorium wirtualizacji różni się od serwera w szafie dwiema rzeczami: musi być wygodne w codziennej pracy i musi przetrwać kradzież bez wycieku danych.
Wygodę zapewnia elastyczna pula dysków podzielona na trzy światy danych oraz złote obrazy, dzięki którym nowa maszyna testowa powstaje w kilka sekund. Bezpieczeństwo zapewnia szyfrowanie obu dysków, bez wyjątku dla „nieważnych” danych testowych, oraz SELinux, który poprawnie konfigurujemy, zamiast go wyłączać. Brak redundancji w laptopie rekompensują kopie zapasowe według zasady 3-2-1. Na procesorze z rdzeniami P i E warto jeszcze świadomie przypinać do wydajnych rdzeni te maszyny, od których oczekujemy powtarzalnych wyników.
Nic z tego nie wymaga drogiego laptopa. Szyfrowanie, SELinux, podział danych i złote obrazy działają tak samo na komputerze z 32 GB RAM. Duża pamięć pozwala jedynie uruchomić więcej maszyn jednocześnie.
W czwartej części serii odpowiem na pytanie, które przy takim sprzęcie pada najczęściej: czy laptop w cenie samochodu był wart swojej ceny? Opowiem o jego ograniczeniach, porównam go z następcą i sprawdzę, co oferują stacje robocze za 13 tysięcy złotych.