From 3a7372b546e75d81dccb43fbbd7fe5b2f2957fe5 Mon Sep 17 00:00:00 2001
From: forgejo-actions
internal/frr
génération des commandes FRR, seul point d’appel à vtysh
internal/sysctl
internal/host
connaissance de l’hôte : faits lus au démarrage (/register), état mesuré périodiquement en mémoire (/ping)
internal/sysctl
écriture sous /proc/sys, dans un netns si besoin
internal/netns
internal/netns
network namespaces : create/delete/call
internal/netif
internal/netif
netlink : bridge, veth, vxlan, tap, routes, adresses
internal/nft, internal/iptables
wrappers dédiés ; ne pas appeler ces binaires ailleurs
internal/nft
wrapper dédié ; ne pas appeler nft ailleurs
internal/qemu, internal/qmp
internal/qemu, internal/qmp
lancement de QEMU et client QMP sur socket Unix
internal/vm
cycle de vie d’une VM : tap, iptables, metadata, qemu
internal/vm
cycle de vie d’une VM : tap, nftables, metadata, qemu
internal/dhcp
internal/dhcp
plan d’adressage ip → mac, et configurations dnsmasq du backend historique
internal/dhcpbackend
internal/dhcpbackend
interface commune aux deux backends DHCP (dnsmasq et two), choisie par
dhcp.backend
internal/dhcpd
internal/dhcpd
moteur du serveur DHCP intégré : réservations en mémoire, réponses, écoute
internal/api/dhcp, internal/client/dhcp
internal/api/dhcp, internal/client/dhcp
protocole de la socket de contrôle du serveur DHCP intégré (set-host, probe,
get-state…), côté serveur et côté agent
internal/metadata
internal/metadata
serveur de metadata cloud-init et ses templates
internal/watchdog
internal/watchdog
vérification périodique en lecture seule
internal/watchdog/notify
internal/watchdog/notify
émission des écarts relevés par le watchdog (journal)
internal/config/agent
internal/config/agent
chargement par viper — tags mapstructure, jamais yaml
internal/prometheus/agent
internal/prometheus/agent
collector des métriques syonad_*
pkg/db/kv
pkg/db/kv
wrapper Badger ; toutes les valeurs sont des chaînes plates
pkg/db/statefile
pkg/db/statefile
fichier d’état JSON typé, écrit de façon atomique, utilisé par le backend DHCP two
pkg/worker
pkg/worker
pool de goroutines sur canal
pkg/systemd
pkg/systemd
client D-Bus systemd
pkg/logger, pkg/prometheus
pkg/logger, pkg/prometheus
journalisation slog et serveur de métriques
graph LR
- V["VM<br/>vers interface_ip:53 ou :123"] --> N["netns du VPC<br/>chaîne TWO-HOSTSVC<br/>DNAT vers 169.254.169.253"]
+ V["VM<br/>vers interface_ip:53 ou :123"] --> N["netns du VPC<br/>chaîne nftables hostsvc<br/>DNAT vers 169.254.169.253"]
N --> H["two-hostsvc<br/>socket dans le netns<br/>169.254.169.253 sur la dummy hostsvc"]
H -->|"depuis l'hôte"| U["serveurs amont<br/>puis résolveur ou horloge de l'hôte"]
À la création d’un VPC sur l’hyperviseur, l’agent pose dans son netns :
une interface dummy hostsvc portant 169.254.169.253/32 ;
une chaîne iptables TWO-HOSTSVC (table nat), appelée depuis PREROUTING pour le seul
-trafic à destination d’une adresse locale du netns (addrtype LOCAL : les gateways des
-subnets, anycast compris). Elle renvoie d’abord ce qui arrive par br-public (le segment
-public de l’hôte) et par l3-+ (le lien vers la VRF), puis redirige 53 en UDP et TCP et 123
-en UDP vers 169.254.169.253 ;
une chaîne nftables hostsvc dans la table ip two, accrochée à prerouting en
+priorité dstnat. Elle renvoie d’abord ce qui arrive par br-public (le segment public de
+l’hôte) et par l3-* (le lien vers la VRF), puis redirige 53 en UDP et TCP et 123 en UDP vers
+169.254.169.253, pour le seul trafic à destination d’une adresse locale du netns
+(fib daddr type local : les gateways des subnets, anycast compris) ;
puis demande à two-hostsvc d’ouvrir ses sockets dans ce netns. La réponse repart par
conntrack, avec l’adresse de la gateway pour source. Une VM qui interroge un résolveur extérieur
diff --git a/main/concepts/vpc-subnet-vm.html b/main/concepts/vpc-subnet-vm.html
index f44cd7f..ab59d1e 100644
--- a/main/concepts/vpc-subnet-vm.html
+++ b/main/concepts/vpc-subnet-vm.html
@@ -829,7 +829,7 @@ reçoivent du trafic. Il désactive aussi net.bridge.bridge-nf-call-{iptables,ip6tables,arptables}=0, quand le module est chargé) : sinon
conntrack voit chaque trame pontée et le SNAT de la passerelle NAT ne s’applique plus.
Dans le netns, l’agent pose aussi la dummy hostsvc (169.254.169.253/32) et la chaîne
-iptables TWO-HOSTSVC, puis demande à two-hostsvc de servir le VPC : c’est le chemin du
+nftables hostsvc (table ip two), puis demande à two-hostsvc de servir le VPC : c’est le chemin du
DNS et du NTP des VM (voir DNS et NTP des VM). Si two-hostsvc ne répond pas, la création du VPC
échoue.
Un VPC ne peut être supprimé que si tous ses subnets le sont déjà — sinon 409.
diff --git a/main/demarrage/installation.html b/main/demarrage/installation.html index 6d9b372..fb318fb 100644 --- a/main/demarrage/installation.html +++ b/main/demarrage/installation.html @@ -371,7 +371,7 @@ plan de contrôle — est traité à part : voirUn host Linux avec KVM, sur lequel vous avez root. Les opérations réseau (network
-namespaces, netlink, VXLAN, nftables, iptables) et QEMU ne fonctionnent que sous Linux.
-i#Paquets — qemu-system-x86, qemu-utils, ovmf, dnsmasq, nftables,
-iptables, nfs-common, jq, curl, sans les paquets recommandés : ceux de
+nfs-common, jq, curl, sans les paquets recommandés : ceux de
qemu-system-x86 (interface graphique, gtk, gstreamer, pilotes de stockage réseau) ne servent
pas à un hyperviseur sans écran, et l’installation passe d’environ 270 à 65 Mo — rejouée à chaque
démarrage, la racine étant en tmpfs. qemu-utils est demandé explicitement : qemu-img sert
@@ -462,10 +462,11 @@ dans les netns.
dnsmasq reste installé bien que dhcp.backend vaille two par défaut : le paquet sert
aux hyperviseurs qui déclarent dhcp.backend: dnsmasq, et tant qu’un hyperviseur peut revenir
en arrière. Voir Configuration.
Noyau — chargement de br_netfilter, puis net.ipv4.ip_forward = 1 et
-net.bridge.bridge-nf-call-iptables = 1. Cette dernière clé est requise par la DNAT vers
-le serveur de metadata : sans elle, iptables ne voit pas le trafic bridgé des VM et cloud-init
-ne se provisionne pas. Contrepartie assumée : tout le trafic inter-VM traverse les tables NAT.
Noyau — net.ipv4.ip_forward = 1. br_netfilter n’est pas chargé : le filtrage des
+ponts est en nftables (famille bridge) et les redirections vers le serveur de metadata et
+vers two-hostsvc sont posées dans le netns de chaque VPC, où l’agent coupe déjà
+bridge-nf-call-*. Chargé, le module ferait passer tout le trafic bridgé des VM par netfilter
+(bridge-nf-call-iptables vaut 1 par défaut).
Réseau — création du bridge public, puis rattachement de l’uplink au bridge principal, l’adresse et la route par défaut étant déplacées de l’interface physique vers le bridge.
Segment public — Tests autonomes. Avant chaque test, le runner supprime les ressources Plages. Le test hv1 #41, #84, #79 connaissance de l’hôte — /register (hostname, CPU, RAM, OS, noyau) lu au démarrage, /ping (version, démarrages de l’hôte et de l’agent, uptime, load) mesuré périodiquement, lecture seule, redémarrage de l’agent distingué de celui de l’hôte hv1 #39 DHCP par le serveur intégré (backend two) — bail, server-id, renouvellement, option 121, un serveur par subnet, démarrages simultanés hv1 #46, #57, #62 DHCP par dnsmasq (backend dnsmasq) — bail, server-id, renouvellement, option 121, une instance par subnet écoutant sur la gateway anycast hv2 #46, #57 serveur de métadonnées et cloud-init — sshkey, password (hash), user_data servi tel quel, documents absents (templates), VM sans compte hv1 #43, #46 démarrage UEFI (OVMF) — firmware et variables par VM, VM démarrée en UEFI, témoin BIOS hv1 UEFI (sans ticket) VM à plusieurs interfaces — une NIC par subnet, adresses posées, route par défaut sur la primaire seule hv1 #33, #62, #73 VM à plusieurs disques — racine virtio (vda) et SCSI (xvdX), tailles et bus vus par la VM, liens /dev/xvdX et by-id par numéro de série, démarrage sur vda hv1 #32, #74 redémarrage d’une VM depuis l’invité — même processus QEMU, même adresse, nouveau bail, user_data non rejoué hv1 #46 MTU des VM (network.mtu_vm, 1500 par défaut) — annoncé par le DHCP (option 26, serveur intégré sur hv1, dnsmasq sur hv2) et par QEMU (host_mtu), porté par le tap, le bridge, le veth et le VXLAN du subnet ; subnet vxlan refusé sur un underlay qui n’est pas à 9000 hv1 hv2 #56 DNS et NTP des VM par two-hostsvc — options DHCP 6 et 42 = interface_ip, redirection vers 169.254.169.253 dans le VPC (vxlan et bridge), seuls 53 et 123 servis, alertes du watchdog, VPC en error si two-hostsvc ne répond pas hv1 #86 gateway d’un subnet vxlan — gateway anycast et adresse d’émission calculées, default_route et gateway explicite, routes DHCP, macvlan gw-, FDB locale, sysctls ARP, règles de confinement, suppression et recréation hv1 #57, #43 routage entre deux subnets vxlan d’un même VPC sur un même hôte, sans et avec l3vni — ICMP, TCP, saut unique par la gateway hv1 #57, #41 subnet en mode bridge rattaché au bridge br-lan de l’hôte — un hôte, puis le même subnet sur deux hôtes (interface_ip confinée à son hôte : une seule réponse ARP, métadonnées servies par l’hôte de la VM, ni ARP ni DHCP de la gateway sur le segment, règles surveillées par le watchdog) ; VM serveur DHCP des machines diskless (dhcp_server) entendue sur le segment, voisine bloquée hv1 hv2 #70, #75, #76 isolation entre deux VPC sur un même hôte — ni ICMP ni TCP d’un VPC à l’autre hv1 #50 filtrage au port — en sortie vers le fabric (v-<id>-i) : ARP vers la gateway et l’adresse d’émission, DHCP émis depuis ces adresses, MAC anycast confinée dans les deux sens ; à la sortie de chaque VM (pre-tap<id>) : MAC, IP et ARP usurpés, faux serveur DHCP, source 0.0.0.0 hors DHCP, type de trame non IP, NIC autorisée en serveur DHCP (dhcp_server), règles surveillées par le watchdog et retirées avec la VM hv1 #57, #76 subnet vxlan étendu entre deux hôtes par EVPN — VTEP local, VTEP distant et inondation appris, MAC des VM en type 2, trafic ICMP et TCP, MTU 1500 de bout en bout hv1 hv2 #50, #51 isolation entre VPC à travers EVPN — deux VPC sur la même plage, la VM d’un VPC ne joint pas celle de l’autre sur un hôte distant hv1 hv2 #50, #51 subnets vxlan partagés par deux hôtes, deux VM par hôte, dans un VPC avec et un VPC sans l3vni — toutes les paires, gateway anycast vue par chaque VM et absente d’EVPN, aucune MAC en double hv2 hv3 #57, #41 fenêtre ARP de la gateway anycast entre deux hôtes — relais L2 depuis l’adresse d’émission d’un hôte, gateway de la VM inchangée, métadonnées, renouvellement DHCP et TCP local sans perte pendant la fenêtre hv1 hv2 #57 segment public de l’hôte — vxlan-public (VNI 1) posé par le bootstrap sur br-public, VNI annoncé en EVPN et vu par les bordures, gateway anycast des bordures installée vers une seule bordure, gateway et destination de test joignables sans doublon, L2 entre hyperviseurs, veth des VPC sur le bridge public, watchdog hv1 hv2 hv3 #87 passerelle NAT d’un VPC — macvlan ng-<id> sur le br-public du netns, MAC 02:04:00 + l3vni, SNAT vers l’IP de sortie (source vue à la sortie du netns), route par défaut en type 5 importée par un autre hôte, unreachable default jamais annoncée, rien n’entre sans connexion établie, refus 409, suppression propre, bascule vers un autre hôte par mobilité MAC hv1 hv2 hv3 #42 IP flottante d’une interface de VM — macvlan fip-<hex> sur le br-public du netns, MAC 02:05 + IP publique, NAT 1:1 sans état, routage par source (sortie par l’IP flottante, pas par la passerelle NAT du VPC), entrée neuve depuis le segment public, métadonnées servies, affichage sur la VM, refus 409, détachement, déplacement vers un autre hôte par mobilité MAC hv1 hv2 hv3 #88 subnet public_ip — VM qui porte son IP publique, subnet raccordé au bridge public de l’hôte (iface_type ignoré), même plage et même interface_ip pour plusieurs VPC sur un même hôte et sur deux hôtes, interface_ip invisible sur le segment, gateway et DNS propres à chaque VPC, sortie et entrée sans NAT, usurpation refusée, IP flottante refusée hv1 hv2 hv3 #89 routage inter-subnet entre hôtes par L3VNI (IRB symétrique) — VRF, RMAC, exports /24 et /32, RT-5 réfléchies, TTL, isolation par RT, unreachable default dans la VRF, démontage d’un VPC routé hv1 hv2 #41, #81 migration d’une adresse de VM entre hôtes d’un VPC routé — /32 retiré en premier, /24 en filet puis en ECMP, séquence orchestrée, 40 sources, suppression du subnet refusée tant qu’une VM l’utilise, MAC anycast hors EVPN hv1 hv2 hv3 #41, #57 watchdog d’un VPC routé — /32 orphelin signalé comme trou noir, /32 manquant signalé, unreachable default absente signalée, aucune fausse alerte BGP ni L3VNI, trafic intact après les essais hv1 hv3 #41, #81 redémarrage de l’agent avec des VM en marche — rien ne disparaît ni n’est recréé, trafic routé sans perte, DHCP et métadonnées servis, base BGP réappliquée à l’identique, ressources toujours gérées hv1 hv2 #41, #46 nettoyage global en fin de suite — aucun hôte ne garde de ressource : API vide, ni netns, tap, VRF, unité, instance DHCP ou de métadonnées, processus QEMU, règle de port, volume ; FRR réduit à la base BGP #70 perte d’un route reflector — l’autre garde la session EVPN, le VTEP distant reste connu, le trafic L2 entre hôtes passe sans perte mesurable, retour du RR arrêté hv1 hv2 #54 perte d’un switch de la passerelle VRRP — bascule vers l’autre en moins de 5 s, sessions EVPN jamais coupées ; au retour, un seul maître (préemption désactivée : celui qui l’est est relevé), plus long silence mesuré #54, #69, #80 Facts of the host that do not change while it runs Read once when the agent starts and kept in memory. Will also be sent to the broker of the orchestrator at startup. Example request: 200 OK – Host facts Example response: Method other than GET Example response: Host facts could not be read when the agent started (the error says why) Example response: Current state of the host and of the agent Last reading, taken when the agent starts then every times.host_state_interval seconds and kept in memory; collected_at gives its age. boot_time and agent_start_time tell a host reboot from an agent restart; boot_time plus uptime_seconds give the clock of the host. Example request: 200 OK – Last host state Example response: Method other than GET Example response: No reading has succeeded yet Example response: pas de toutes ces attentes. intervalle entre deux mesures de l’état de l’hôte servi par Chaque valeur doit être strictement positive, et Depuis l’host, l’instance correspondante :vxlan-public est créé avec le VNI de -N, l’adresse IPv4 du bridge
diff --git a/main/developpement/lab.html b/main/developpement/lab.html
index 48aef0c..d92db58 100644
--- a/main/developpement/lab.html
+++ b/main/developpement/lab.html
@@ -737,7 +737,7 @@ code de sortie vaut 1 si une vérification échoue ou si aucune n’a é
tNN laissées par un
passage précédent, puis relève l’état de chaque hôte de l’en-tête # hôtes:. Après le test, il
supprime ses VM, ses subnets puis ses VPC, et vérifie que l’hôte est revenu à l’état relevé
-(assert_clean : netns, liens, adresses, routes, règles nftables de pont et iptables,
+(assert_clean : netns, liens, adresses, routes, règles nftables de l’hôte et de chaque netns,
configuration FRR et frr.conf, fichiers de /run/two, dnsmasq.d et des volumes, unités
two-vm-*, processus dnsmasq et QEMU). Aucun test ne dépend d’un autre : n’importe lequel se lance seul.NN nomme ses ressources vp-tNN*, sn-tNN* et tNN-*, et utilise
@@ -785,147 +785,152 @@ fait en fermant le ticket. Chaque ticket concerné liste ses marqueurs en commen
-
+21-dhcp-two
+
+13-hote
+
+
+
-21-dhcp-two
+22-dhcp-dnsmasq
-22-dhcp-dnsmasq
+23-metadonnees
-23-metadonnees
+24-uefi
-24-uefi
+25-multi-nic
-25-multi-nic
+26-multi-disque
-26-multi-disque
+27-reboot
-27-reboot
+28-mtu
-28-mtu
+29-dns-ntp
-29-dns-ntp
+31-gateway
-31-gateway
+32-vxlan-local
-32-vxlan-local
+33-bridge
-33-bridge
+34-isolation-locale
-34-isolation-locale
+35-filtrage-port
-35-filtrage-port
+41-evpn-l2
-41-evpn-l2
+42-isolation-evpn
-42-isolation-evpn
+43-subnets-partages
-43-subnets-partages
+44-fenetre-arp
-44-fenetre-arp
+45-segment-public
-45-segment-public
+46-passerelle-nat
-46-passerelle-nat
+47-ip-flottante
-47-ip-flottante
+48-subnet-public
-48-subnet-public
+51-l3vni
-51-l3vni
+52-migration
-52-migration
+53-watchdog-l3
-53-watchdog-l3
+61-redemarrage-agent
-61-redemarrage-agent
+62-nettoyage-global
-62-nettoyage-global
+71-perte-rr
-71-perte-rr
+72-perte-switch72-perte-switch
diff --git a/main/exploitation/api-agent/reference.html b/main/exploitation/api-agent/reference.html
index ed85f26..e8a193e 100644
--- a/main/exploitation/api-agent/reference.html
+++ b/main/exploitation/api-agent/reference.html
@@ -1734,6 +1734,129 @@ du contrat : en cas d’écart avec le reste de la documentation, c’est elle q
+
+
+
+GET /register HTTP/1.1
+Host: example.com
+
+
+
+
+HTTP/1.1 200 OK
+Content-Type: application/json
+
+{
+ "hostname": "string",
+ "cpu": {
+ "vendor": "string",
+ "model": "string",
+ "sockets": 1,
+ "cores": 1,
+ "threads": 1
+ },
+ "memory_bytes": 1,
+ "os": {
+ "id": "string",
+ "version_id": "string",
+ "pretty_name": "string"
+ },
+ "kernel": "string"
+}
+
HTTP/1.1 405 Method Not Allowed
+Content-Type: application/json
+
+{
+ "error": "string"
+}
+
HTTP/1.1 503 Service Unavailable
+Content-Type: application/json
+
+{
+ "error": "string"
+}
+
+
+
diff --git a/main/exploitation/configuration.html b/main/exploitation/configuration.html
index fc9b9a9..840671f 100644
--- a/main/exploitation/configuration.html
+++ b/main/exploitation/configuration.html
@@ -442,6 +442,7 @@ port. Ne pas l’exposer hors de la boucle locale.
timeout_subnet_start: 300
timeout_vms_start: 300
poll_interval: 2
+ host_state_interval: 10
GET /ping HTTP/1.1
+Host: example.com
+
+
+
+
+HTTP/1.1 200 OK
+Content-Type: application/json
+
+{
+ "agent_version": "string",
+ "collected_at": 1,
+ "boot_time": 1,
+ "agent_start_time": 1,
+ "uptime_seconds": 1.0,
+ "load": [
+ 1.0
+ ]
+}
+
HTTP/1.1 405 Method Not Allowed
+Content-Type: application/json
+
+{
+ "error": "string"
+}
+
HTTP/1.1 503 Service Unavailable
+Content-Type: application/json
+
+{
+ "error": "string"
+}
+
worker.count est le nombre de goroutines qui exécutent les commandes ; buffer_size le
@@ -463,6 +464,9 @@ encore l’ACPI au premier appui (firmware, chargeur de démarrage) s’éteint
poll_intervalhost_state_intervalGET /ping (voir
+Observabilité).next_vms_shutdown inférieur à
timeout_vms_stop ; sinon l’agent refuse de démarrer. Les attentes s’enchaînent — une VM,
diff --git a/main/exploitation/diagnostic.html b/main/exploitation/diagnostic.html
index 6bba9e5..cf44432 100644
--- a/main/exploitation/diagnostic.html
+++ b/main/exploitation/diagnostic.html
@@ -489,6 +489,7 @@ n’est jamais traversée : la trame est commutée en L2 et le serveur reste inj
systemctl status 'metadata@<vm>'
ls -l /run/two/metadata/<vm>/
+ip netns exec <vpc> nft list chain ip two md-<vm> # une dnat par IP de la VM
+
+
+ /ping
+
+
+
+ GET /ping
+ Current state of the host and of the agent
+
+
+ /register
+
+
+
+ GET /register
+ Facts of the host that do not change while it runs
/subnets
diff --git a/main/objects.inv b/main/objects.inv
index 997c30cbc9f1dd2eaf2eac2b31c9197d3e2f0fe4..1fbc22f4a70d7e4298018e6b9cfb877be38442e3 100644
GIT binary patch
delta 1105
zcmV-X1g`s}3AhQ6c7M%o<2De-?|KRXy;kui$GvU03+w_-YHW<{nWiQZQHoMY%2}f*
z(0AC=zCrvPMqi{)(xFI6q$RnA;#)i)KXLv;4w==HsHovGPkF6LVNCrt2SaWNe62;r
z4f-m%qBT!x4$`a?Jb?nq;HEI8_yJ?nG(x1wYK*KaeL2$xpMQt0{*<(YzZ^RQ0R}Fn
zyYQHwTHM)>yh@WEFR4j$YT%jfmuej$CXoxYJ_o&q)*)|FjMr&BiLX)og}gQu5ejmy
z4XA~fJ{?iI*-9`=o8D!gf)=!TjJigHJ*pRf3ca-I9=a=+>Sr@UzyjR{#5MFnOjy?I
zbc$d#TP%`IjeihJWC|cx5ehj`aj%prz){5tZh)Ca!HQMVD9WV)O|;40W)&mpEt!jH
zk>r!yQN^jm