• Bare-metal Kubernetes — спускайся с облаков
• Автоматический выпуск SSL-сертификатов. Используем Kubernetes и FreeIPA

• DevSecOps и промышленные решения

1. Узнать и записать свой номер стенда: X=
2. Сообщить его в чат преподавателю

• Разворачиваем стенд курса Linux. Уровень 2. Администрирование сервисов и сетей или Развертывание стенда дома (смотреть с 13-й минуты)

• !!! kubeN 8Gb RAM (GitLab) + 4 CPU (Keycloak) !!!

Запустите с правами Administrator

C:\cmder\cmder.exe

bash

cd

test -d conf && rm -rf conf

git clone http://val.bmstu.ru/unix/conf.git

cd conf/virtualbox/

!!! 10 - это номер курса, вместо X укажите Ваш номер стенда, если не знаете его, спросите преподавателя !!!

./setup.sh X 10

• Настройка виртуальных систем Unix с использованием Скрипты автоконфигурации

• gate

# sh net_gate.sh

# init 6

• server

# sh net_server.sh

# init 6

• Создать в Putty профили gate, server и подключиться

server# apt update

• Установка docker-compose
• Может понадобится Настройка registry-mirrors
• Развертывание FreeIPA С использованием docker compose

• Настройка сервера DHCP на gate

gate:~# ###git -C conf/ pull

gate:~# sh conf/dhcp.sh

• Настройка MAC адресов 08:00:27:12:34:5N (для получения назначенного IP через Сервис DHCP) и запуск kube1-4

• Настройка доступа для клиентов DNS
• Управление DNS для добавления A записей kubeN

• Настройка клиента DNS на gate и server

# cat /etc/resolv.conf

search corpX.un
nameserver 192.168.X.10

# host kubeN

• Подготовка к развертыванию через Kubespray
• Развертывание Kubernetes через Kubespray (Вариант 2 (docker))

• Импорт ВМ client1
• Инсталяция системы в конфигурации Desktop

• FreeIPA Установка и инициализация клиента client1
• FreeIPA Управление пользователями user1
• Настройка Использование системных сертификатов в Firefox

• Dynamic Volume Provisioning rancher local-path-provisioner
• Использование баз данных, (развертывание через оператор CloudNativePG)
• Преподаватель может показать использование Kustomize для сокрытия чувствительных данных

• MetalLB
• Установка Helm

• Как и чем заменить Ingress NGINX
• traefik

• Создание ключа и сертификата для стороннего сервиса
• secrets tls (keycloak-tls в ns my-keycloak-ns)

kube1:~# kubectl create ns my-keycloak-ns

kube1:~# kubectl create secret tls keycloak-tls --key /tmp/keycloak.key --cert /tmp/keycloak.crt -n my-keycloak-ns

• Сервис Keycloak в Kubernetes (версия 25.2.0, tls: true, postgresql.enabled: false, externalDatabase.host: “my-pgcluster-rw.my-pgcluster-ns”)
• Преподаватель может показать Helm Работа с чувствительными данными (секретами) для сокрытия чувствительных данных

• Базовая конфигурация (только realm, преподавателю можно user2)

• Авторизация с использованием LDAP сервера (демонстрирует преподаватель, можно с gate)
• Интеграция Keycloak с FreeIPA через LDAP
• Страница для проверки учетных записей

• Аутентификация пользователей WEB приложения

• Использование распределённых хранилищ (longhorn)

• Добавляем в DNS через GUI запись: gitlab A 192.168.X.65
• Решение FreeIPA Поддержка ACME
• Решение FreeIPA Динамический DNS
• Управление сертификатами с использованием cert-manager

• Инструмент GitLab Установка через docker-compose

kube1:~/gitlab# sed -i -e 's/server.corpX/gitlab.corpX/' docker-compose.yml

...
    privileged: true
...
      - '22:22'
...
#      - '/etc/gitlab:/etc/gitlab'
...

• Для демонстрации OpenID

server# scp /opt/freeipa-data/etc/ipa/ca.crt kube1:/tmp/

kube1:~/gitlab# kubectl -n my-gitlab-ns create configmap ca-crt --from-file=/tmp/ca.crt

• GitLab Клиент OpenID + %s/^/8пробелов/

• Использование kompose для получения манифестов

kube1:~/gitlab# kompose convert

kube1:~/gitlab# cat vol1-persistentvolumeclaim.yaml

...
      storage: 2000Mi

kube1:~/gitlab# cat gitlab-deployment.yaml

...
          image: ...
#          lifecycle:
#            postStart:
#              exec:
#                command:
#                - /bin/sh
#                - -c
#                - |
#                  mkdir -p /etc/gitlab/trusted-certs/
#                  cp /etc/gitlab/tmp/ca.crt /etc/gitlab/trusted-certs/ca.crt
#                  apt update && DEBIAN_FRONTEND=noninteractive apt install msmtp-mta bsd-mailx -y
#                  echo -e 'account default\nhost mail.corpX.un' > /etc/msmtprc
...   
          volumeMounts:
            - name: gitlab-tls-volume
              subPath: tls.crt
              mountPath: /etc/gitlab/ssl/gitlab.corpX.un.crt
            - name: gitlab-tls-volume
              subPath: tls.key
              mountPath: /etc/gitlab/ssl/gitlab.corpX.un.key
#            - name: ca-crt-volume
#              subPath: ca.crt
#              mountPath: /etc/gitlab/tmp/ca.crt
...
      hostname: gitlab
...
      volumes:
        - name: gitlab-tls-volume
          secret:
            secretName: gitlab-tls
#        - name: ca-crt-volume
#          configMap:
#            name: ca-crt
...

kube1:~/gitlab# cat gitlab-service.yaml

...
spec: 
  loadBalancerIP: 192.168.X.65
  type: LoadBalancer
...

kube1:~/gitlab# kubectl -n my-gitlab-ns apply -f vol1-persistentvolumeclaim.yaml,gitlab-service.yaml,gitlab-deployment.yaml

kube1:~/gitlab# kubectl -n my-gitlab-ns logs pods/gitlab-<TAB> -f

• Проверка конфигурации и перезапуск для процесса Sidekiq

• Для демонстрации OpenID можно создать УЗ user1 через REST API интерфейс и связать через Клиент OpenID

• htwebd A 192.168.X.66

• Deployment

kube1:~/webd-k8s# cat my-webd-deployment.yaml

...
        image: httpd
        lifecycle:
...
                cd /usr/local/apache2/htdocs/
                echo "<h1>Hello from htwebd on $(hostname) ver1.1</h1>" > index.html

• Service

• Можно показать и, затем удалить Horizontal Pod Autoscaler

• cert-manager
• Gateway
• HTTPRoute

kube1:~/webd-k8s# cp my-webd-deployment.yaml my-webd-deployment2.yaml
kube1:~/webd-k8s# cp my-webd-service.yaml my-webd-service2.yaml
...

• Стратегии деплоя в Kubernetes

• Универсальный Helm-чарт

kube1:~/webd-k8s# kubectl delete ns my-ns

kube1:~/webd-k8s# curl -fsSL https://val.bmstu.ru/unix/uni-webd-chart.tgz | tar xzvf -

kube1:~/webd-k8s# mkdir -p apps/htwebd/

kube1:~/webd-k8s# cat apps/htwebd/values.yaml

hostname: htwebd

replicaCount: 2
image:
  repository: httpd

kube1:~/webd-k8s# cat env.yaml

domain: corpX.un

kube1:~/webd-k8s# helm template my-htwebd uni-webd-chart/ -f apps/htwebd/values.yaml -f env.yaml

kube1:~/webd-k8s# helm upgrade -i my-htwebd uni-webd-chart/ -f env.yaml -f apps/htwebd/values.yaml -n my-ns --create-namespace

kube1:~/webd-k8s# cp -v my-httproute.yaml uni-webd-chart/templates/
kube1:~/webd-k8s# cp -v my-gateway.yaml uni-webd-chart/templates/

• Инструменты для статического анализа кода
• Анализ уязвимостей в контейнерах
• Интеграция инструментов безопасности в CI/CD
• Управление секретами в сети предприятия
• Управление доступом в Kubernetes
• Интеграция с внешними системами идентификации
• Использование IDS/IPS в Kubernetes

• Мониторинг кластера Kubernetes
• Резервное копирование и восстановление данных приложений
• Восстановление управляющих и рабочих узлов
• Восстановление etcd

• DevSecOps
• - Анализ кода и контейнеров на уязвимости
• - Управление доступом в K8S
• - Управление чувствительными данными в CI/CD (Hashicorp Vault, Mozilla Sops)
• - Управление сертификатами (K8S cert-manager и FreeIPA)
• Использование LDAP и OpenID для управления идентификацией (Keycloak и FreeIPA)
• IDS/IPS (Suricata)

• ArgoCD и универсальный Helm Chart
• Распределенные блочные хранилища в K8S (Longhorn)
• Операторы K8S и СУБД (CloudNativePG)
• Брокеры сообщения (Kafka или RabbitMQ)
• Service Mesh (Istio)

client1:~# time docker build -t gitlab.corpX.un:5000/student/gowebd:ver1.1 gowebd/
...
client1:~# time docker build -t gitlab.corpX.un:5000/student/gowebd:ver1.2 gowebd/

• Добавляем корпоративный сертификат в систему server

server#
cp /opt/freeipa-data/etc/ipa/ca.crt kube1:/usr/local/share/ca-certificates/
update-ca-certificates
systemctl reload docker

• Добавляем корпоративный сертификат в кластер kubernetes

server#

bash -c '
scp /opt/freeipa-data/etc/ipa/ca.crt kube1:/usr/local/share/ca-certificates/
ssh kube1 update-ca-certificates
ssh kube1 systemctl restart containerd
scp /opt/freeipa-data/etc/ipa/ca.crt kube2:/usr/local/share/ca-certificates/
ssh kube2 update-ca-certificates
ssh kube2 systemctl restart containerd
scp /opt/freeipa-data/etc/ipa/ca.crt kube3:/usr/local/share/ca-certificates/
ssh kube3 update-ca-certificates
ssh kube3 systemctl restart containerd
scp /opt/freeipa-data/etc/ipa/ca.crt kube4:/usr/local/share/ca-certificates/
ssh kube4 update-ca-certificates
ssh kube4 systemctl restart containerd
'

• Управление образами

• Демонстрирует преподаватель
• Приложение apwebd, Deployment, Service, Создание ключа и сертификата для стороннего сервиса, ingress example