diff --git a/main/architecture/vue-densemble.html b/main/architecture/vue-densemble.html index 2302877..485c789 100644 --- a/main/architecture/vue-densemble.html +++ b/main/architecture/vue-densemble.html @@ -415,66 +415,69 @@ une erreur.

internal/frr

génération des commandes FRR, seul point d’appel à vtysh

-

internal/sysctl

+

internal/host

+

connaissance de l’hôte : faits lus au démarrage (/register), état mesuré périodiquement en mémoire (/ping)

+ +

internal/sysctl

écriture sous /proc/sys, dans un netns si besoin

-

internal/netns

+

internal/netns

network namespaces : create/delete/call

-

internal/netif

+

internal/netif

netlink : bridge, veth, vxlan, tap, routes, adresses

-

internal/nft, internal/iptables

-

wrappers dédiés ; ne pas appeler ces binaires ailleurs

+

internal/nft

+

wrapper dédié ; ne pas appeler nft ailleurs

-

internal/qemu, internal/qmp

+

internal/qemu, internal/qmp

lancement de QEMU et client QMP sur socket Unix

-

internal/vm

-

cycle de vie d’une VM : tap, iptables, metadata, qemu

+

internal/vm

+

cycle de vie d’une VM : tap, nftables, metadata, qemu

-

internal/dhcp

+

internal/dhcp

plan d’adressage ip → mac, et configurations dnsmasq du backend historique

-

internal/dhcpbackend

+

internal/dhcpbackend

interface commune aux deux backends DHCP (dnsmasq et two), choisie par dhcp.backend

-

internal/dhcpd

+

internal/dhcpd

moteur du serveur DHCP intégré : réservations en mémoire, réponses, écoute

-

internal/api/dhcp, internal/client/dhcp

+

internal/api/dhcp, internal/client/dhcp

protocole de la socket de contrôle du serveur DHCP intégré (set-host, probe, get-state…), côté serveur et côté agent

-

internal/metadata

+

internal/metadata

serveur de metadata cloud-init et ses templates

-

internal/watchdog

+

internal/watchdog

vérification périodique en lecture seule

-

internal/watchdog/notify

+

internal/watchdog/notify

émission des écarts relevés par le watchdog (journal)

-

internal/config/agent

+

internal/config/agent

chargement par viper — tags mapstructure, jamais yaml

-

internal/prometheus/agent

+

internal/prometheus/agent

collector des métriques syonad_*

-

pkg/db/kv

+

pkg/db/kv

wrapper Badger ; toutes les valeurs sont des chaînes plates

-

pkg/db/statefile

+

pkg/db/statefile

fichier d’état JSON typé, écrit de façon atomique, utilisé par le backend DHCP two

-

pkg/worker

+

pkg/worker

pool de goroutines sur canal

-

pkg/systemd

+

pkg/systemd

client D-Bus systemd

-

pkg/logger, pkg/prometheus

+

pkg/logger, pkg/prometheus

journalisation slog et serveur de métriques

diff --git a/main/concepts/dns-ntp.html b/main/concepts/dns-ntp.html index eb9cdca..d848f61 100644 --- a/main/concepts/dns-ntp.html +++ b/main/concepts/dns-ntp.html @@ -807,17 +807,17 @@ VRF du VPC et l’hôte.

Chemin d’une requête#

         graph LR
-  V["VM<br/>vers interface_ip:53 ou :123"] --> N["netns du VPC<br/>chaîne TWO-HOSTSVC<br/>DNAT vers 169.254.169.253"]
+  V["VM<br/>vers interface_ip:53 ou :123"] --> N["netns du VPC<br/>chaîne nftables hostsvc<br/>DNAT vers 169.254.169.253"]
   N --> H["two-hostsvc<br/>socket dans le netns<br/>169.254.169.253 sur la dummy hostsvc"]
   H -->|"depuis l'hôte"| U["serveurs amont<br/>puis résolveur ou horloge de l'hôte"]
     

À la création d’un VPC sur l’hyperviseur, l’agent pose dans son netns :

puis demande à two-hostsvc d’ouvrir ses sockets dans ce netns. La réponse repart par conntrack, avec l’adresse de la gateway pour source. Une VM qui interroge un résolveur extérieur diff --git a/main/concepts/vpc-subnet-vm.html b/main/concepts/vpc-subnet-vm.html index f44cd7f..ab59d1e 100644 --- a/main/concepts/vpc-subnet-vm.html +++ b/main/concepts/vpc-subnet-vm.html @@ -829,7 +829,7 @@ reçoivent du trafic. Il désactive aussi net.bridge.bridge-nf-call-{iptables,ip6tables,arptables}=0, quand le module est chargé) : sinon conntrack voit chaque trame pontée et le SNAT de la passerelle NAT ne s’applique plus.

Dans le netns, l’agent pose aussi la dummy hostsvc (169.254.169.253/32) et la chaîne -iptables TWO-HOSTSVC, puis demande à two-hostsvc de servir le VPC : c’est le chemin du +nftables hostsvc (table ip two), puis demande à two-hostsvc de servir le VPC : c’est le chemin du DNS et du NTP des VM (voir DNS et NTP des VM). Si two-hostsvc ne répond pas, la création du VPC échoue.

Un VPC ne peut être supprimé que si tous ses subnets le sont déjà — sinon 409.

diff --git a/main/demarrage/installation.html b/main/demarrage/installation.html index 6d9b372..fb318fb 100644 --- a/main/demarrage/installation.html +++ b/main/demarrage/installation.html @@ -371,7 +371,7 @@ plan de contrôle — est traité à part : voir

Prérequis#

Un host Linux avec KVM, sur lequel vous avez root. Les opérations réseau (network -namespaces, netlink, VXLAN, nftables, iptables) et QEMU ne fonctionnent que sous Linux.

+namespaces, netlink, VXLAN, nftables) et QEMU ne fonctionnent que sous Linux.

Déploiement#

@@ -452,7 +452,7 @@ l’utiliser que pour diagnostiquer un manifeste cassé, jamais en déploiement

Ce que fait -i#

Paquets — qemu-system-x86, qemu-utils, ovmf, dnsmasq, nftables, -iptables, nfs-common, jq, curl, sans les paquets recommandés : ceux de +nfs-common, jq, curl, sans les paquets recommandés : ceux de qemu-system-x86 (interface graphique, gtk, gstreamer, pilotes de stockage réseau) ne servent pas à un hyperviseur sans écran, et l’installation passe d’environ 270 à 65 Mo — rejouée à chaque démarrage, la racine étant en tmpfs. qemu-utils est demandé explicitement : qemu-img sert @@ -462,10 +462,11 @@ dans les netns.

dnsmasq reste installé bien que dhcp.backend vaille two par défaut : le paquet sert aux hyperviseurs qui déclarent dhcp.backend: dnsmasq, et tant qu’un hyperviseur peut revenir en arrière. Voir Configuration.

-

Noyau — chargement de br_netfilter, puis net.ipv4.ip_forward = 1 et -net.bridge.bridge-nf-call-iptables = 1. Cette dernière clé est requise par la DNAT vers -le serveur de metadata : sans elle, iptables ne voit pas le trafic bridgé des VM et cloud-init -ne se provisionne pas. Contrepartie assumée : tout le trafic inter-VM traverse les tables NAT.

+

Noyau — net.ipv4.ip_forward = 1. br_netfilter n’est pas chargé : le filtrage des +ponts est en nftables (famille bridge) et les redirections vers le serveur de metadata et +vers two-hostsvc sont posées dans le netns de chaque VPC, où l’agent coupe déjà +bridge-nf-call-*. Chargé, le module ferait passer tout le trafic bridgé des VM par netfilter +(bridge-nf-call-iptables vaut 1 par défaut).

Réseau — création du bridge public, puis rattachement de l’uplink au bridge principal, l’adresse et la route par défaut étant déplacées de l’interface physique vers le bridge.

Segment public — vxlan-public est créé avec le VNI de -N, l’adresse IPv4 du bridge diff --git a/main/developpement/lab.html b/main/developpement/lab.html index 48aef0c..d92db58 100644 --- a/main/developpement/lab.html +++ b/main/developpement/lab.html @@ -737,7 +737,7 @@ code de sortie vaut 1 si une vérification échoue ou si aucune n’a é

Tests autonomes. Avant chaque test, le runner supprime les ressources tNN laissées par un passage précédent, puis relève l’état de chaque hôte de l’en-tête # hôtes:. Après le test, il supprime ses VM, ses subnets puis ses VPC, et vérifie que l’hôte est revenu à l’état relevé -(assert_clean : netns, liens, adresses, routes, règles nftables de pont et iptables, +(assert_clean : netns, liens, adresses, routes, règles nftables de l’hôte et de chaque netns, configuration FRR et frr.conf, fichiers de /run/two, dnsmasq.d et des volumes, unités two-vm-*, processus dnsmasq et QEMU). Aucun test ne dépend d’un autre : n’importe lequel se lance seul.

Plages. Le test NN nomme ses ressources vp-tNN*, sn-tNN* et tNN-*, et utilise @@ -785,147 +785,152 @@ fait en fermant le ticket. Chaque ticket concerné liste ses marqueurs en commen

hv1

#41, #84, #79

-

21-dhcp-two

+

13-hote

+

connaissance de l’hôte — /register (hostname, CPU, RAM, OS, noyau) lu au démarrage, /ping (version, démarrages de l’hôte et de l’agent, uptime, load) mesuré périodiquement, lecture seule, redémarrage de l’agent distingué de celui de l’hôte

+

hv1

+

#39

+ +

21-dhcp-two

DHCP par le serveur intégré (backend two) — bail, server-id, renouvellement, option 121, un serveur par subnet, démarrages simultanés

hv1

#46, #57, #62

-

22-dhcp-dnsmasq

+

22-dhcp-dnsmasq

DHCP par dnsmasq (backend dnsmasq) — bail, server-id, renouvellement, option 121, une instance par subnet écoutant sur la gateway anycast

hv2

#46, #57

-

23-metadonnees

+

23-metadonnees

serveur de métadonnées et cloud-init — sshkey, password (hash), user_data servi tel quel, documents absents (templates), VM sans compte

hv1

#43, #46

-

24-uefi

+

24-uefi

démarrage UEFI (OVMF) — firmware et variables par VM, VM démarrée en UEFI, témoin BIOS

hv1

UEFI (sans ticket)

-

25-multi-nic

+

25-multi-nic

VM à plusieurs interfaces — une NIC par subnet, adresses posées, route par défaut sur la primaire seule

hv1

#33, #62, #73

-

26-multi-disque

+

26-multi-disque

VM à plusieurs disques — racine virtio (vda) et SCSI (xvdX), tailles et bus vus par la VM, liens /dev/xvdX et by-id par numéro de série, démarrage sur vda

hv1

#32, #74

-

27-reboot

+

27-reboot

redémarrage d’une VM depuis l’invité — même processus QEMU, même adresse, nouveau bail, user_data non rejoué

hv1

#46

-

28-mtu

+

28-mtu

MTU des VM (network.mtu_vm, 1500 par défaut) — annoncé par le DHCP (option 26, serveur intégré sur hv1, dnsmasq sur hv2) et par QEMU (host_mtu), porté par le tap, le bridge, le veth et le VXLAN du subnet ; subnet vxlan refusé sur un underlay qui n’est pas à 9000

hv1 hv2

#56

-

29-dns-ntp

+

29-dns-ntp

DNS et NTP des VM par two-hostsvc — options DHCP 6 et 42 = interface_ip, redirection vers 169.254.169.253 dans le VPC (vxlan et bridge), seuls 53 et 123 servis, alertes du watchdog, VPC en error si two-hostsvc ne répond pas

hv1

#86

-

31-gateway

+

31-gateway

gateway d’un subnet vxlan — gateway anycast et adresse d’émission calculées, default_route et gateway explicite, routes DHCP, macvlan gw-, FDB locale, sysctls ARP, règles de confinement, suppression et recréation

hv1

#57, #43

-

32-vxlan-local

+

32-vxlan-local

routage entre deux subnets vxlan d’un même VPC sur un même hôte, sans et avec l3vni — ICMP, TCP, saut unique par la gateway

hv1

#57, #41

-

33-bridge

+

33-bridge

subnet en mode bridge rattaché au bridge br-lan de l’hôte — un hôte, puis le même subnet sur deux hôtes (interface_ip confinée à son hôte : une seule réponse ARP, métadonnées servies par l’hôte de la VM, ni ARP ni DHCP de la gateway sur le segment, règles surveillées par le watchdog) ; VM serveur DHCP des machines diskless (dhcp_server) entendue sur le segment, voisine bloquée

hv1 hv2

#70, #75, #76

-

34-isolation-locale

+

34-isolation-locale

isolation entre deux VPC sur un même hôte — ni ICMP ni TCP d’un VPC à l’autre

hv1

#50

-

35-filtrage-port

+

35-filtrage-port

filtrage au port — en sortie vers le fabric (v-<id>-i) : ARP vers la gateway et l’adresse d’émission, DHCP émis depuis ces adresses, MAC anycast confinée dans les deux sens ; à la sortie de chaque VM (pre-tap<id>) : MAC, IP et ARP usurpés, faux serveur DHCP, source 0.0.0.0 hors DHCP, type de trame non IP, NIC autorisée en serveur DHCP (dhcp_server), règles surveillées par le watchdog et retirées avec la VM

hv1

#57, #76

-

41-evpn-l2

+

41-evpn-l2

subnet vxlan étendu entre deux hôtes par EVPN — VTEP local, VTEP distant et inondation appris, MAC des VM en type 2, trafic ICMP et TCP, MTU 1500 de bout en bout

hv1 hv2

#50, #51

-

42-isolation-evpn

+

42-isolation-evpn

isolation entre VPC à travers EVPN — deux VPC sur la même plage, la VM d’un VPC ne joint pas celle de l’autre sur un hôte distant

hv1 hv2

#50, #51

-

43-subnets-partages

+

43-subnets-partages

subnets vxlan partagés par deux hôtes, deux VM par hôte, dans un VPC avec et un VPC sans l3vni — toutes les paires, gateway anycast vue par chaque VM et absente d’EVPN, aucune MAC en double

hv2 hv3

#57, #41

-

44-fenetre-arp

+

44-fenetre-arp

fenêtre ARP de la gateway anycast entre deux hôtes — relais L2 depuis l’adresse d’émission d’un hôte, gateway de la VM inchangée, métadonnées, renouvellement DHCP et TCP local sans perte pendant la fenêtre

hv1 hv2

#57

-

45-segment-public

+

45-segment-public

segment public de l’hôte — vxlan-public (VNI 1) posé par le bootstrap sur br-public, VNI annoncé en EVPN et vu par les bordures, gateway anycast des bordures installée vers une seule bordure, gateway et destination de test joignables sans doublon, L2 entre hyperviseurs, veth des VPC sur le bridge public, watchdog

hv1 hv2 hv3

#87

-

46-passerelle-nat

+

46-passerelle-nat

passerelle NAT d’un VPC — macvlan ng-<id> sur le br-public du netns, MAC 02:04:00 + l3vni, SNAT vers l’IP de sortie (source vue à la sortie du netns), route par défaut en type 5 importée par un autre hôte, unreachable default jamais annoncée, rien n’entre sans connexion établie, refus 409, suppression propre, bascule vers un autre hôte par mobilité MAC

hv1 hv2 hv3

#42

-

47-ip-flottante

+

47-ip-flottante

IP flottante d’une interface de VM — macvlan fip-<hex> sur le br-public du netns, MAC 02:05 + IP publique, NAT 1:1 sans état, routage par source (sortie par l’IP flottante, pas par la passerelle NAT du VPC), entrée neuve depuis le segment public, métadonnées servies, affichage sur la VM, refus 409, détachement, déplacement vers un autre hôte par mobilité MAC

hv1 hv2 hv3

#88

-

48-subnet-public

+

48-subnet-public

subnet public_ip — VM qui porte son IP publique, subnet raccordé au bridge public de l’hôte (iface_type ignoré), même plage et même interface_ip pour plusieurs VPC sur un même hôte et sur deux hôtes, interface_ip invisible sur le segment, gateway et DNS propres à chaque VPC, sortie et entrée sans NAT, usurpation refusée, IP flottante refusée

hv1 hv2 hv3

#89

-

51-l3vni

+

51-l3vni

routage inter-subnet entre hôtes par L3VNI (IRB symétrique) — VRF, RMAC, exports /24 et /32, RT-5 réfléchies, TTL, isolation par RT, unreachable default dans la VRF, démontage d’un VPC routé

hv1 hv2

#41, #81

-

52-migration

+

52-migration

migration d’une adresse de VM entre hôtes d’un VPC routé — /32 retiré en premier, /24 en filet puis en ECMP, séquence orchestrée, 40 sources, suppression du subnet refusée tant qu’une VM l’utilise, MAC anycast hors EVPN

hv1 hv2 hv3

#41, #57

-

53-watchdog-l3

+

53-watchdog-l3

watchdog d’un VPC routé — /32 orphelin signalé comme trou noir, /32 manquant signalé, unreachable default absente signalée, aucune fausse alerte BGP ni L3VNI, trafic intact après les essais

hv1 hv3

#41, #81

-

61-redemarrage-agent

+

61-redemarrage-agent

redémarrage de l’agent avec des VM en marche — rien ne disparaît ni n’est recréé, trafic routé sans perte, DHCP et métadonnées servis, base BGP réappliquée à l’identique, ressources toujours gérées

hv1 hv2

#41, #46

-

62-nettoyage-global

+

62-nettoyage-global

nettoyage global en fin de suite — aucun hôte ne garde de ressource : API vide, ni netns, tap, VRF, unité, instance DHCP ou de métadonnées, processus QEMU, règle de port, volume ; FRR réduit à la base BGP

#70

-

71-perte-rr

+

71-perte-rr

perte d’un route reflector — l’autre garde la session EVPN, le VTEP distant reste connu, le trafic L2 entre hôtes passe sans perte mesurable, retour du RR arrêté

hv1 hv2

#54

-

72-perte-switch

+

72-perte-switch

perte d’un switch de la passerelle VRRP — bascule vers l’autre en moins de 5 s, sessions EVPN jamais coupées ; au retour, un seul maître (préemption désactivée : celui qui l’est est relevé), plus long silence mesuré

#54, #69, #80

diff --git a/main/exploitation/api-agent/reference.html b/main/exploitation/api-agent/reference.html index ed85f26..e8a193e 100644 --- a/main/exploitation/api-agent/reference.html +++ b/main/exploitation/api-agent/reference.html @@ -1734,6 +1734,129 @@ du contrat : en cas d’écart avec le reste de la documentation, c’est elle q +
+
+GET /register#
+

Facts of the host that do not change while it runs

+

Read once when the agent starts and kept in memory. Will also be sent to the broker of the orchestrator at startup.

+

Example request:

+
GET /register HTTP/1.1
+Host: example.com
+
+
+
+
Codes de statut:
+
    +
  • 200 OK –

    Host facts

    +

    Example response:

    +
    HTTP/1.1 200 OK
    +Content-Type: application/json
    +
    +{
    +    "hostname": "string",
    +    "cpu": {
    +        "vendor": "string",
    +        "model": "string",
    +        "sockets": 1,
    +        "cores": 1,
    +        "threads": 1
    +    },
    +    "memory_bytes": 1,
    +    "os": {
    +        "id": "string",
    +        "version_id": "string",
    +        "pretty_name": "string"
    +    },
    +    "kernel": "string"
    +}
    +
    +
    +

  • +
  • 405 Method Not Allowed –

    Method other than GET

    +

    Example response:

    +
    HTTP/1.1 405 Method Not Allowed
    +Content-Type: application/json
    +
    +{
    +    "error": "string"
    +}
    +
    +
    +

  • +
  • 503 Service Unavailable –

    Host facts could not be read when the agent started (the error says why)

    +

    Example response:

    +
    HTTP/1.1 503 Service Unavailable
    +Content-Type: application/json
    +
    +{
    +    "error": "string"
    +}
    +
    +
    +

  • +
+
+
+
+ +
+
+GET /ping#
+

Current state of the host and of the agent

+

Last reading, taken when the agent starts then every times.host_state_interval seconds and kept in memory; collected_at gives its age. boot_time and agent_start_time tell a host reboot from an agent restart; boot_time plus uptime_seconds give the clock of the host.

+

Example request:

+
GET /ping HTTP/1.1
+Host: example.com
+
+
+
+
Codes de statut:
+
    +
  • 200 OK –

    Last host state

    +

    Example response:

    +
    HTTP/1.1 200 OK
    +Content-Type: application/json
    +
    +{
    +    "agent_version": "string",
    +    "collected_at": 1,
    +    "boot_time": 1,
    +    "agent_start_time": 1,
    +    "uptime_seconds": 1.0,
    +    "load": [
    +        1.0
    +    ]
    +}
    +
    +
    +

  • +
  • 405 Method Not Allowed –

    Method other than GET

    +

    Example response:

    +
    HTTP/1.1 405 Method Not Allowed
    +Content-Type: application/json
    +
    +{
    +    "error": "string"
    +}
    +
    +
    +

  • +
  • 503 Service Unavailable –

    No reading has succeeded yet

    +

    Example response:

    +
    HTTP/1.1 503 Service Unavailable
    +Content-Type: application/json
    +
    +{
    +    "error": "string"
    +}
    +
    +
    +

  • +
+
+
+
+
diff --git a/main/exploitation/configuration.html b/main/exploitation/configuration.html index fc9b9a9..840671f 100644 --- a/main/exploitation/configuration.html +++ b/main/exploitation/configuration.html @@ -442,6 +442,7 @@ port. Ne pas l’exposer hors de la boucle locale.

timeout_subnet_start: 300 timeout_vms_start: 300 poll_interval: 2 + host_state_interval: 10

worker.count est le nombre de goroutines qui exécutent les commandes ; buffer_size le @@ -463,6 +464,9 @@ encore l’ACPI au premier appui (firmware, chargeur de démarrage) s’éteint

poll_interval

pas de toutes ces attentes.

+
host_state_interval

intervalle entre deux mesures de l’état de l’hôte servi par GET /ping (voir +Observabilité).

+

Chaque valeur doit être strictement positive, et next_vms_shutdown inférieur à timeout_vms_stop ; sinon l’agent refuse de démarrer. Les attentes s’enchaînent — une VM, diff --git a/main/exploitation/diagnostic.html b/main/exploitation/diagnostic.html index 6bba9e5..cf44432 100644 --- a/main/exploitation/diagnostic.html +++ b/main/exploitation/diagnostic.html @@ -489,6 +489,7 @@ n’est jamais traversée : la trame est commutée en L2 et le serveur reste inj

Depuis l’host, l’instance correspondante :

systemctl status 'metadata@<vm>'
 ls -l /run/two/metadata/<vm>/
+ip netns exec <vpc> nft list chain ip two md-<vm>           # une dnat par IP de la VM
 
@@ -513,8 +514,7 @@ sudo cat /run/systemd/netif/leases systemctl status two-hostsvc cat /run/two/hostsvc/hostsvc.state # le VPC doit y figurer ip -n <vpc> -4 addr show dev hostsvc # 169.254.169.253/32 -ip netns exec <vpc> iptables -t nat -S TWO-HOSTSVC # 2 RETURN puis 3 DNAT -ip netns exec <vpc> iptables -t nat -L TWO-HOSTSVC -v -n # compteurs des redirections +ip netns exec <vpc> nft list chain ip two hostsvc # 2 return puis 3 dnat ip netns exec <vpc> ss -lntu | grep 169.254.169.253 # 53/udp, 53/tcp, 123/udp journalctl -u two-hostsvc -n 50 diff --git a/main/exploitation/observabilite.html b/main/exploitation/observabilite.html index 7a48943..de1c701 100644 --- a/main/exploitation/observabilite.html +++ b/main/exploitation/observabilite.html @@ -347,6 +347,7 @@