From aa3c77c29ae32925f969904be7b91e3a7c5d11df Mon Sep 17 00:00:00 2001 From: Francois Lesueur Date: Thu, 2 Mar 2023 16:48:10 +0100 Subject: [PATCH] cache docker + squid vm ou externe --- README.md | 23 ++++++++------- files/customVM.sh.dist | 40 ++++++++++++++++++++++---- files/snster-kaz/kaz/prod/provision.sh | 15 ++++++---- files/vm-provision.sh | 3 ++ 4 files changed, 60 insertions(+), 21 deletions(-) diff --git a/README.md b/README.md index 5a79830..ba09cf3 100644 --- a/README.md +++ b/README.md @@ -112,16 +112,19 @@ vagrant destroy ## Accélération de la construction avec un proxy cache local -Au tout début de la construction de la VM, un proxy Squid et un proxy Dockerhub sont installés au niveau de la VM. Ils font du cache et sont ensuite utilisé lors des apt-get du provisionning de la VM puis lors des constructions des conteneurs LXC et des dockers. Certains téléchargements ne sont pas encore mis en cache (soit parce que certains téléchargements se font hors de ce proxy, soit par l'utilisation du HTTPS qui n'est pas (encore) intercepté pour faire ce cache), mais cela diminue déjà beaucoup le trafic réseau lors de la construction et lors des reconstructions partielles ensuite. - -Il est possible de configurer ce proxy pour utiliser un proxy du réseau local à son tour. L'intérêt est d'avoir un cache persistant lors de la reconstruction de la VM, ou de pouvoir rediriger certaines requêtes (dépôts Debian ou Alpine) vers des miroirs locaux. Pour cela, il faut : -* Un fichier `files/customVM.sh`. Un fichier `files/customVM.sh.dist` est fourni en exemple : il suffit de le renommer en `customVM.sh`, puis de modifier l'IP du proxy upstream dans la ligne `cache_peer`. Il s'adressera par exemple à un squid sur le réseau local. -* Un fichier `files/snster-kaz/kaz/prod/customKaz.sh`. Un fichier `files/snster-kaz/kaz/prod/customKaz.sh.dist` est fourni en exemple : il suffit de le renommer en `customKaz.sh`, puis de modifier l'IP du registre docker sur le réseau local. Pour installer ce registre sur une Debian : - * `apt install docker-registry` - * Éditer `/etc/docker/registry/config.yml` : - * Enlever la section `auth` - * Ajouter `proxy: - remoteurl: https://registry-1.docker.io` +Au tout début de la construction de la VM, un proxy Squid et un proxy Dockerhub (docker-registry) sont installés au niveau de la VM. Ils font du cache et sont ensuite utilisé lors des apt-get du provisionning de la VM puis lors des constructions des conteneurs LXC et des dockers. Quelques téléchargements ne sont pas encore mis en cache (soit parce que certains téléchargements se font hors de ce proxy, soit par l'utilisation du HTTPS qui n'est pas (encore) intercepté pour faire ce cache), mais cela diminue déjà beaucoup le trafic réseau lors de la construction et lors des reconstructions partielles ensuite. + +Il est possible de configurer ce proxy pour utiliser un proxy du réseau local à son tour. L'intérêt est d'avoir un cache persistant lors de la reconstruction de la VM, ou de pouvoir rediriger certaines requêtes (dépôts Debian ou Alpine) vers des miroirs locaux. Pour cela, il faut un fichier `files/customVM.sh`. Un fichier `files/customVM.sh.dist` est fourni en exemple : il suffit de le renommer en `customVM.sh`, puis de modifier les IP du proxy et du registry Docker upstreams dans les premières lignes. Il est évidemment possible de n'activer que l'une des 2 fonctionnalités (soit que le proxy http externe, soit que le docker registry externe) en commentant les lignes associées. + +Pour installer un Squid sur l'hôte : TODO + +Pour installer un docker-registry sur l'hôte : +* `apt install docker-registry` +* Éditer `/etc/docker/registry/config.yml` : + * Enlever la section `auth` + * Ajouter `proxy: +remoteurl: https://registry-1.docker.io` + ## Installation avancée diff --git a/files/customVM.sh.dist b/files/customVM.sh.dist index 3915239..c05d7d6 100644 --- a/files/customVM.sh.dist +++ b/files/customVM.sh.dist @@ -1,14 +1,42 @@ #!/bin/bash -# Upstream proxy -echo "cache_peer 192.168.0.121 parent 3128 0 no-query default -acl all src 0.0.0.0/0.0.0.0 -http_access allow all -never_direct allow all" >> /etc/squid/squid.conf +PROXY="192.168.0.121:3128" +REGISTRY="192.168.0.121:5000" -service squid restart +# Pour le proxy http/https (https sans cache) avec iptables +cat >> /etc/rc.local <> /etc/sysctl.conf +sysctl -p +# fin proxy +# Pour le cache docker +cat >> /etc/rc.local <> /etc/squid/squid.conf +#service squid restart diff --git a/files/snster-kaz/kaz/prod/provision.sh b/files/snster-kaz/kaz/prod/provision.sh index a5f1f60..a14977a 100644 --- a/files/snster-kaz/kaz/prod/provision.sh +++ b/files/snster-kaz/kaz/prod/provision.sh @@ -66,6 +66,8 @@ proxy=$(/sbin/ip route | awk '/default/ { print $3 }' | head -1) sed -i -e "s/^proxy.*$/proxy=$proxy/" /usr/local/sbin/detect_proxy.sh #echo "export http_proxy=\"http://$proxy:3142\"" > /etc/profile.d/proxy.sh #echo "export https_proxy=\"http://$proxy:3142\"" >> /etc/profile.d/proxy.sh + +# Proxy pour les environnements durant les dockerbuilds mkdir /root/.docker echo "{ \"proxies\": @@ -74,15 +76,18 @@ echo "{ { \"httpProxy\": \"http://$proxy:3142\", \"httpsProxy\": \"http://$proxy:3142\", - \"noProxy\": \"*.sns,127.0.0.0/8,100.64.0.0/10\" + \"noProxy\": \"*.sns,127.0.0.0/8,100.64.0.0/10,10.0.0.0/8,172.16.0.0/12,192.168.0.0/16\" } } }" > /root/.docker/config.json -echo "http_proxy=\"http://$proxy:3142\" -https_proxy=\"http://$proxy:3142\" -" >> /etc/default/docker -# On active btrfs+proxy pour docker +# Proxy pour les docker pull -> commenté car pas de cache avec dockerhub +# echo "http_proxy=\"http://$proxy:3142\" +# https_proxy=\"http://$proxy:3142\" +# no_proxy=\"*.sns,127.0.0.0/8,100.64.0.0/10,10.0.0.0/8,172.16.0.0/12,192.168.0.0/16\" +# " >> /etc/default/docker + +# On active btrfs+registry miroir pour docker cat >> /etc/docker/daemon.json <