k8s之包管理器Helm

helm的作用就是通过打包的方式，把deployment service ingress这些打包在一块，一键式的部署服务。类似yum官方提供的一个类似与安装仓库的功能，可以实现一键化部署应用。

Helm的三个重要概念

●Chart：Helm 的软件包，采用 TAR 格式。是创建一个应用的信息集合，包括各种 Kubernetes 对象的配置模板、参数定义、依赖关系、文档说明等。chart 是应用部署的自包含逻辑单元。 可以将 chart 想象成 apt、yum 中的软件安装包。

●Release：是 chart 的运行实例，代表了一个正在运行的应用。当 chart 被安装到 Kubernetes 集群，就生成一个 release。chart 能够多次安装到同一个集群，每次安装都是一个 release。

●Repository（仓库）：Charts 仓库，用于集中存储和分发 Charts。Repository 本质上是一个 Web 服务器，该服务器保存了一系列的 Chart 软件包以供用户下载，并且提供了一个该 Repository 的 Chart 包的清单文件以供查询。Helm 可以同时管理多个不同的 Repository。

Helm在k8s集群中的部署

将Helm安装在master01节点上?

//在github中下载所需版本的二进制 Helm client 安装包
https://github.com/helm/helm/tags?
?
tar -zxvf helm-v3.6.0-linux-amd64.tar.gz
mv linux-amd64/helm /usr/local/bin/helm
helm version

添加helm的自动补全功能

vim /etc/bashrc
source <(helm completion bash)

使用 helm 安装 Chart?

###helm添加chat的语法格式：
helm repo add ?chart仓库名 ? chart仓库地址
?
###添加常用的chart仓库############
#一个开源项目的仓库
helm repo add bitnami https://charts.bitnami.com/bitnami
#微软chart仓库，推荐使用，内容基本与官方仓库保持一致
helm repo add stable http://mirror.azure.cn/kubernetes/charts
#阿里chart仓库，应有尽有
helm repo add aliyun https://kubernetes.oss-cn-hangzhou.aliyuncs.com/charts
#官方仓库，国内网络问题，不太推荐应用
helm repo add incubator https://charts.helm.sh/incubator

对chart仓库的基本使用?

1.更新和查看 charts 列表?

helm repo update ? ? ? ? ?
helm repo list

2.查看某chart仓库的可用chart列表?

//查看 stable 仓库可用的 charts 列表
helm search repo stable?

3.删除指定的chart仓库

//eg：因为官方仓库使用起来太慢，删除 incubator 仓库
helm repo remove incubator
4.查看 chart 信息
helm show chart stable/mysql ? ? #查看指定 chart 的基本信息

helm show all stable/mysql ? ? ? ? #获取指定 chart 的所有信息

安装 chart?

helm install my-redis bitnami/redis [-n default] ? #指定 release 的名字为 my-redis，-n 指定部署到 k8s 的 namespace
?
helm install bitnami/redis --generate-name ? ?#不指定 release 的名字时，需使用 –generate-name 随机生成一个名字

对chart的基本管理

1.查看所有的release

helm ls?
helm list

2.查看指定的 release 状态

helm status my-redis?

3.删除指定的release

helm uninstall my-redis?

Helm的自定义模板

?charts 除了可以在 repo 中下载，还可以自己自定义，创建完成后通过 helm 部署到 k8s。

在镜像仓库中拉取chart，查看chart的包结构

#拉取chart 到本地目录（现在所在的目录中）
helm pull stable/mysql
?
#对该拉取的chart压缩包进行解压
tar xf mysql-1.6.9.tgz

自定义创建一个chart?

1.使用命令行创建生成一个模板

helm create nginx
?
tree nginx

cat nginx/templates/deployment.yaml

2.进行模板文件的修改，生成自定义chart?

vim nginx/Chart.yaml
apiVersion: v2
name: nginx ? ? ? ? ? ? ? ? ? ? #chart名字
description: A Helm chart for Kubernetes
type: application ? ? ? ? ? ? ? #chart类型，application或library
version: 0.1.0 ? ? ? ? ? ? ? ? ?#chart版本
appVersion: 1.16.0 ? ? ? ? ? ? ?#application部署版本

vim nginx/values.yaml
replicaCount: 1
?
image:
? repository: nginx
? pullPolicy: IfNotPresent
? tag: "latest" ? ? ? ? ? ? ? ? #设置镜像标签
?
imagePullSecrets: []
nameOverride: ""
fullnameOverride: ""
?
serviceAccount:
? create: true
? annotations: {}
? name: ""
?
podAnnotations: {}
?
podSecurityContext: {}
? # fsGroup: 2000
?
securityContext: {}
? # capabilities:
? # ? drop:
? # ? - ALL
? # readOnlyRootFilesystem: true
? # runAsNonRoot: true
? # runAsUser: 1000
?
service:
? type: ClusterIP
? port: 80
?
ingress:
? enabled: true ? ? ? ? ? ? ? ? #开启 ingress
? className: ""
? annotations: {}
? ? # kubernetes.io/ingress.class: nginx
? ? # kubernetes.io/tls-acme: "true"
? hosts:
? ? - host: www.test.com ? ? ? ? #指定ingress域名
? ? ? paths:
? ? ? ? - path: /
? ? ? ? ? pathType: Prefix ? ? ?#指定ingress路径类型
? tls: []
? # ?- secretName: chart-example-tls
? # ? ?hosts:
? # ? ? ?- chart-example.local
?
resources:
? limits:
? ? cpu: 100m
? ? memory: 128Mi
? requests:
? ? cpu: 100m
? ? memory: 128Mi
?
autoscaling:
? enabled: false
? minReplicas: 1
? maxReplicas: 100
? targetCPUUtilizationPercentage: 80
? # targetMemoryUtilizationPercentage: 80
?
nodeSelector: {}
?
tolerations: []
?
affinity: {}

3.进行chart打包

//打包 chart
helm lint nginx ? ? ? ?#检查依赖和模版配置是否正确
?
helm package nginx ? ? #打包 chart，会在当前目录下生成压缩包 nginx-0.1.0.tgz

4.利用自定义chart包进行k8s资源部署?

helm install nginx ./nginx --dry-run --debug ? ?#使用 --dry-run 参数验证 Chart 的配置，并不执行安装
?
helm install nginx ./nginx -n default ? ? ? ? ? #部署 chart，release 版本默认为 1
或者
helm install nginx ./nginx-0.1.0.tgz
?
#可根据不同的配置来 install，默认是 values.yaml
helm install nginx ./nginx -f ./nginx/values-prod.yaml

5.部署ingress

wget https://gitee.com/mirrors/ingress-nginx/raw/nginx-0.30.0/deploy/static/mandatory.yaml
wget https://gitee.com/mirrors/ingress-nginx/raw/nginx-0.30.0/deploy/static/provider/baremetal/service-nodeport.yaml
kubectl apply -f mandatory.yaml
kubectl apply -f service-nodeport.yaml

kubectl get pod,svc -n ingress-nginx
kubectl get ingress

?进行客户机测试：

vim /etc/hosts
192.168.73.107 www.test.com?

6.进行修改变动，进行chart的升级更新?

//修改为 NodePort 访问后，升级
vim nginx/values.yaml
service:
? type: NodePort
? port: 80
? nodePort: 30080
?
ingress:
? enabled: false
?
vim nginx/templates/service.yaml
apiVersion: v1
kind: Service
metadata:
? name: {{ include "nginx.fullname" . }}
? labels:
? ? {{- include "nginx.labels" . | nindent 4 }}
spec:
? type: {{ .Values.service.type }}
? ports:
? ? - port: {{ .Values.service.port }}
? ? ? targetPort: http
? ? ? protocol: TCP
? ? ? name: http
? ? ? nodePort: {{ .Values.service.nodePort }} ? ? ? ? ? ? ?#指定 nodePort
? selector:
? ? {{- include "nginx.selectorLabels" . | nindent 4 }}

?
升级 release，release 版本加 1
helm upgrade nginx nginx?

7.自定义chart的版本回滚 （根据release版本）

helm history nginx ? ? ? ? ? ? ?#查看 release 版本历史
?
helm rollback nginx 1 ? ? ? ? ? #回滚 release 到版本1
?
#通常情况下，在配置好 templates 目录下的 kubernetes 清单文件后，后续维护一般只需要修改 Chart.yaml 和 values.yaml 即可。

Helm 的私有仓库-Habor

前面介绍了Habor作为docker镜像的私有仓库，其实Habor还可以成为Helm的私有仓库，用来存放打包好的chart包

具体部署步骤

1.在新主机上安装habor和docker-compose（前提是已经安装好docker）?

//安装 harbor
#上传 harbor-offline-installer-v1.9.1.tgz 和 docker-compose 文件到 /opt 目录
cd /opt
cp docker-compose /usr/local/bin/
chmod +x /usr/local/bin/docker-compose
?
tar zxf harbor-offline-installer-v1.9.1.tgz
cd harbor/

vim harbor.yml
hostname: 192.168.73.108
harbor_admin_password: Harbor12345 ? ? #admin用户初始密码
data_volume: /data ? ? ? ? ? ? ? ? ? ? #数据存储路径，自动创建
chart:
? absolute_url: enabled ? ? ? ? ? ? ? ?#在chart中启用绝对url
log:
? level: info
? local:
? ? rotate_count: 50
? ? rotate_size: 200M
? ? location: /var/log/harbor ? ? ? ? ?#日志路径
?
#安装带有 Clair service 和 chart 仓库服务的 Harbor
./install.sh --with-clair --with-chartmuseum

2.在helm主机上安装好push插件?

#在线安装
helm plugin install https://github.com/chartmuseum/helm-push
?
#离线安装
wget https://github.com/chartmuseum/helm-push/releases/download/v0.8.1/helm-push_0.8.1_linux_amd64.tar.gz
?
mkdir -p ~/.local/share/helm/plugins/helm-push
tar -zxvf helm-push_0.8.1_linux_amd64.tar.gz -C ~/.local/share/helm/plugins/helm-push
?
helm repo ls

3.在habor主机创建项目，在helm主机添加chart仓库?

打开浏览器：访问http://192.168.73.108,新建项目

在helm主机上进行操作 ：

#添加仓库
helm repo add harbor http://192.168.73.108/chartrepo/chart_repo --username=admin --password=Harbor12345
#注：这里的 repo 的地址是<Harbor URL>/chartrepo/<项目名称>，Harbor 中每个项目是分开的 repo。如果不提供项目名称， 则默认使用 library 这个项目。

4.进行推送拉取测试?

#推送 chart 到 harbor 中
cd /opt/helm
helm push nginx-0.1.0.tgz harbor

拉取chart包测试：?

注意：第一次拉取私有仓库chart包时，需要先进行helm repo update? 更新helm仓库源

rm -f nginx-0.1.0.tgz
mkdir repo.bak
mv nginx/ ?./repo.bak
?
#因为harbor仓库是第一次使用，需要先对仓库源进行更新
helm repo update
helm pull ?harbor/nginx

Helm的命令总结

1.Helm的常用命令总结

?
helm ? ? ? ? ? #查看helm基本操作命令
helm version ? #查看helm的版本
helm env ? ? ? #查看环境变量
helm create chartName ? ?#创建chart目录（含基本配置文件和目录）
helm package chartDir ? ?#将chart目录打包
helm template chartName ?#渲染template目录下的模板文件（即将这些模板文件的字段内容用values.yaml填充，然后直接输出到终端）
?
helm search repo keyword ? #根据关键字检索chart包
helm search hub keyword
#上面2个命令仅仅在第3个字段有区别，repo表示在本地所添加的仓库中进行检索；hub表示在Helm Hub中进行检索。
?
helm list ?#查看发布到k8s中的chart对应的release
?
helm push chart.tgz repoName ? ?上传chart到chart仓库
例：helm push demo.tgz harbor-10.30.12.211 --username=admin --password=Harbor12345
#有些仓库是有账号密码验证的，所以需要加上账号、密码的参数（比如Harbor提供的chart仓库功能，可参考下面的私有仓库搭建先搭建一个私有仓库出来，再进行仓库相关命令的测试）
?
命令：helm pull repoName/keyword ? ?#从chart仓库中拉取chart到本地
例：helm pull harbor-10.30.12.211/demo
#harbor-10.30.12.211/demo的结构是本地起的仓库名/chart包的名字前缀，只要在harbor-10.30.12.211仓库中含有demo为前缀的chart包，就会被下载到本地
?
helm lint chartName ? ?#检查chart包中的文件内容是否正确（即该chart包去k8s中是否能够成功安装部署）
#包可以是chart目录、chart压缩包
?
helm install releaseName chartName ? ?#将chart包发布到k8s集群中安装部署
#releaseName为release的名字，chartName为chart包名，chart可以是未打包的chart，也可以是打包的chart，也可以是仓库中的chart。【chart和release的关系可以大致理解为程序和进程的关系，一个是静态的，一个是动态的】
helm install chartName --generate-name
#可以不指定release的名字，只需要指定–generate-name即可随机生成一个名字
#创建完后可以使用helm list查看是否有对应的release
?
helm uninstall releaseName ? #将部署到k8s中的release卸载掉
#卸载完后使用helm list查看relDemo是否被删除了，同时可以使用kubectl get pods查看相应的pod等与release相关的资源是否全部删除干净
?
helm upgrade releaseName chartName ? ? #将部署到k8s中的release升级，即相当于应用升级
#relName指定一个release，该release对应一个k8s中的应用，chartName指定一个chart包，整个过程为直接使用指定的chart包替换部署release。就helm而言release还是原来那个，不过对应的chart包被替换了。对k8s而言，仅仅是将原先资源删除，然后用新的chart包创建资源。
#使用helm list查看release的CHART字段是否更新，同时可以使用kubectl get pods查看相应的pod等与release相关的资源是否全部更新（看名字、运行时间）
?
helm rollback releaseName revision ? #将release回退到前一个或若干个版本（k8s中会同步回退）
#revision为第几个版本，1表示第一个版本，2表示第二个版本，以此类推。通常回滚会搭配helm history releaseName使用，通过该命令查看所有的关于本release的发布历史，然后选择回退到哪个版本
#回滚成功后使用helm list查看该release的CHART和APP VERSION是否更新（具体得看chart中的chart.yaml中的version和appVersion有没有相应的修改），同时可以使用kubectl get pods查看相应的pod等与release相关的资源是否全部更新（看名字、运行时间）
?
helm history releaseName ? ?#查看release的发布历史（包括安装、升级、回滚）
helm status releaseName ? ? #查看release的基本信息

2.查看chart包的操作命令

helm show chart chartName ?#查看chart包中的chart.yaml文件内容
#chart包可以是本地的未打包的chart目录（即helm create 创建出来的chart目录），也可以是打包的chart压缩包（由helm package打包），也可以是保存在仓库中的chart包
?
helm show values chartName ? ?#查看chart包中的values.yaml文件内容
#包同上有3种选择
?
helm show readme chartName ? ? #查看chart包中README文件内容
#包同上有3种选择
?
helm show all chartName ? #查看chart包中chart.yaml、values.yaml、README文件内容
#包同上有3种选择

3.查看release指定内容（与helm show作用、格式相同）?
helm get notes releaseName ? ? ?#查看release的说明信息（相当于chart中的NOTES.TXT）
helm get manifest releaseName ? #查看release在k8s中创建出来的资源
helm get hooks releaseName ? ? ?#查看release的回调创建资源
helm get values releaseName ? ? #查看release的values配置
helm get all releaseName ? ? ? ?#查看上述所有内容

4.helm plugin —— 插件管理
helm plugin list ? ? #查看本地安装好的插件 (插件管理)
?
helm plugin install pluginURL ? ?#安装插件
例：helm plugin install https://github.com/chartmuseum/helm-push
#最后的url地址为插件的下载地址，可参考 https://github.com/chartmuseum/helm-push
?
helm plugin uninstall pluginName ? #卸载插件
helm plugin update pluginName ? #更新插件，将插件升级到最新版本
#在下载插件的时候会保存插件及其下载地址，更新的时候使用原本的下载地址直接下载最新版本替换

5.helm repo —— 仓库管理

helm repo list ? ? #(仓库管理)查看添加的chart仓库，可在这些chart仓库中拉取chart（实际上就相当于一个应用的安装包）
?
helm repo add repoName repoURL ? ? #本地添加chart仓库
例：helm repo add abc http://mirror.azure.cn/kubernetes/charts/
#repoName是你自己起的一个名字，用来代表这个repoURL，后续操作仓库的命令中直接用repoName来代替repoURL，只要指定了repoName，就表示要去操作repoName指向的repoURL的仓库
?
helm repo remove repoName ?#本地删除chart仓库
?
helm repo update ? #将本地所添加的chart仓库的最新信息缓存到本地
#helm search命令是检索某仓库中的chart包，假设仓库中一开始是没有所指定的chart包，所以helm search是检索不到的。这时候如果将chart包上传至该仓库，本地需要执行一遍helm repo update以更新本地的缓存数据才能检索到该指定的chart，因为helm search就是读取本地缓存数据的
?
helm repo index repoDir --url=repoURL ? ? #根据指定仓库目录下的chart包生成index.yaml索引文件
例：helm repo index repo --url=http://192.168.73.108:8080/
#repoDir指定一个仓库的目录，该目录用来存放chart包及索引文件index.yaml。url指定仓库的访问路径，生成的索引文件中会以该url为地址前缀拼接上chart包名作为chart包的访问路径