实操进阶Jenkins和Kubernetes云上的神秘代理
最近我们构建和部署服务的方式与原来相比简直突飞猛进,像那种笨拙的、单一的、用于构建单体式应用程序的方式已经是过去式了。我们努力了这么久,终于达到了现在的效果。现在的应用为了提供更好的拓展性和可维护性,都会去拆解成各种相互依赖小、解耦性强的微服务,这些服务有各自的依赖和进度。如果想去构建服务,从一开始,就应该使用 CI/CD 的方式;当然,如果你走上了这条路, Jenkins 就是你的良师益友。
如果你是做微服务,那让我们在开始之前先花些时间想一想。如果只在 Jenkins 上构建单体式应用程序,那你肯定每天都会运行很多 Jenkins job, 而且要不厌其烦地运行很多次。所以,我们应该好好想清楚如何来做出一些改变。其实只需要付出一些努力,Jenkins 就可以很好地解决这种事情。
Jenkins 进阶之路
作为 DevOps 从业者,我遇到的最大问题是如何管理并优化自己的 Jenkins agent 结构。如果只是实验性地用 Jenkins跑一些流水线,那根本不用考虑 agent 的事情。如果每天要跑成百上千条流水线的话,那怎么去做优化就是一件非常非常重要的事情。在 Jenkins 进阶之路中,我也尝试了各种不同的方式来寻找Jenkins agent 的最佳使用方式。如果你也和我一样经历过,那下面这些事情你一定会很熟悉。
下面是我在这些年中使用 Jenkins 的各个阶段:1. 所有构建都在 master 节点上跑,在这个节点上运行所有的组件。(我给这个阶段起了个可爱的名字, Hello Jenkins)
- 创建一个 Jenkins EC2 代理,并且在这个代理上运行所有的构建, 就是大而全,这个节点什么都能做。如果需要同时做多条任务,那就把这个大而全的节点克隆一份。(这个阶段我命名为 Monster Agent.)
- 为每种服务创建不同的 Jenkins EC2 的节点(这个阶段叫Snowflake Agent.)
4. 在容器中运行流水线的所有步骤。 比如,在 Jenkins 中使用 Docker Plugin 插件将代理挂载到容器中,或者使用 multi-stage Dockerfiles 把所有构建,测试打包的流程都封装起来。这两种方法都是很好的容器抽象化的开端,并且允许轻松地将制品从一个容器复制到另一个容器。当然了,每种方法都需要访问 Docker engine 。为了让我的 Jenkins 代理能够正常工作,现在我用以下几种方式来管理 docker host:
* 在Jenkins 主容器中运行一个Docker engine – Docker in Docker (DinD);* 把主机上的 Docker socket 挂载到容器中,让容器能够以 sidecar 的方式运行;* 为 Jenkins 主服务器配置单个外部 EC2 Docker 主机,以用于在容器中启动构建;* 使用 EC2 插件和包含 Docker Engine 的 AMI 动态启动代理,然后运行多阶段 Dockerfile 中的所有步骤。以上这些阶段各有利弊,但都是为了让我们从管理 Jenkins 节点中解放出来。不过,最近我又进阶到了另外一个阶段:Jenkins on Kubernetes。
一旦在 Jenkins 中把构建节点和 job 都容器化了,迁移工作平台将变得十分简单易行。这里郑重声明一下,在使用这个方法前我一直没有接触过 Kubernetes。也就是说,在 Google Cloud Platform(GCP)GKE 中创建 Kubernetes 集群,使用 Helm Chart启动 Jenkins master ,并在 Kubernetes 集群中的 Jenkins 代理中运行构建是非常简单的。
流水线脚本中启动 K8s 中的代理
如何配置 Jenkins 才能使流水线脚本能够在 K8s 集群中启动 Jenkins 节点。首先要先安装Kubernetes plugin 插件。有意思的是,当我用 Helm chart 来安装Jenkins 时,安装好的 Jenkins 里面已经有了该插件。还有一个前提,启动的 Jenkins 节点要和 Jenkins master 在同一个 K8s 集群里。
一旦在 K8s 中运行了 Jenkins master 节点,只需要简单配置几步,就能启动一个小构建。
配置 Jenkins Master
为了保证 Jenkins 能够访问 K8s 集群的资源,首先需要按照以下步骤创建一些凭据:1. 进入 Jenkins 的 UI 界面,点击左边导航栏里的凭据链接2. 点击 Stores scoped to Jenkins 列表下 global 中的 Add credentials (将鼠标悬停在链接旁边即可看到箭头)3. 点击添加凭证4. 写好 Kubernetes Service Account5. 将范围设置为全局6. 点击 OK 按钮这样 Jenkins 就可以使用这个凭据去访问 K8s 的资源。
在 Jenkins Master 中配置云
下一步就是在 Jenkins 中设置云的配置:1. 进入 Jenkins UI 界面,点击 系统管理 → 系统设置;2. 进入管理界面后查找 『云』(一般在下面),然后点击 『新增一个云』,选择 kubernetes 类型;3. 如下这些是必填的参数:Name 自定义, 默认是 kubernetes;Kubernetes URLhttps://kubernetes.default-一般是从 service account 自动配置;Kubernetes Namespace 一般是 default 除非要在一个特殊的命名空间 ,否则不要动;Credentials 选择上一步创建的凭据;Jenkins URLhttp://
你看,只需要几个参数就能在 K8s 集群中启动一些节点了,当然你的环境需要的话也可以做一些其他的调整。
通过 Jenkins UI 配置一个 pod template
- Manage Jenkins → Configure Systems;
- 找到之前配置 Jenkins K8s 的地方;
- 点击 Add Pod Template button 选择 Kubernetes Pod Template;
- 输入下面的值: Name 自定义;Namespace default -除非想换个在上一步自定义的命名空间;Labels 自定义 – 这个将用来匹配你在 jenkinsfile 中的 label 值;Usage 如果想让这个 pod 作为默认节点的话,就选择 Use this node as much as possible, 如果选择 Only build jobs with label matching expressions matching this node 的话 那就是只有在 Jenkins 脚本中定义的label匹配的构建才能使用这个节点;The name of the pod template to inherit from 这个可以置空,现在还用不到;Containers 在 pod 中启动的容器,下面会有详细介绍;EnvVars 在 pod 中注入的环境变量;Volumes 在 pod 中挂载的任何一种卷;
- 进入 Jenkins UI 界面,回到上一步创建 pod template ;
- 点击 Add Container 按钮, 选择 Container Template;
- 输入下面的值: Name 自定义;Docker image 根据需求来写,比如在构建一个go 写的应用时,可以输入 golang:1.11-alpine3.8;Label 表明要用在流水线脚本中引用此容器模板的标签字符串;Always pull image 如果想让 pod 启动的时候都去拉取镜像就选择这个;
单击容器模板中的添加环境变量按钮,将环境变量注入特定容器,也可以单击模板中的添加环境变量按钮,将环境变量注入所有的容器。
以下环境变量会自动注入默认的 JNLP 容器,来保障它能自动连接到 Jenkins 主服务器:
JENKINS_URL
: Jenkins 网页界面网址JENKINS_JNLP_URL
: Jenkins 特定 slave 中 jnlp 的 urlJENKINS_SECRET
: 身份验证的密钥JENKINS_NAME
: Jenkins 代理的名称
此时,我们为 Kubernetes 集群创建了一个云配置,并定义了一个由一个或多个容器组成的 pod。现在如何使用它来运行 Jenkins 工作?
很简单,只需要我们在 Jenkins 流水线脚本中通过标签引用 pod 和容器就可以了。本文中的示例是使用脚本流水线,当然您可以使用声明式流水线语法实现相同的结果:
可以将 UI 或 YAML 定义中可用的任何配置参数添加到podTemplate
和containerTemplate
部分。
在下面的示例中,我已经定义了一个包含两个容器模板的 pod。
直接在节点内定义但没有在容器块中定义的任何步骤,都可以在默认的 JNLP 容器中运行。
- 浏览器输入地址:http://192.168.133.131:8080 ,显示Jenkins登录页面,如下图所示,在红框位置输入刚才复制的登录秘钥即可登录:
- 选择安装推荐的插件:
- 静候插件在线安装完成:
- 接下来是创建管理员和使用实例url的操作,这里就不多说了,您按实际情况自行斟酌;
- 至此,Jenkins的master已经搭建好,接下来将agent1和agent2作为工作节点加入集群;
加入agent1
- 在Jenkins网页上新增节点,操作如下图,先进入节点管理页面:
- 如下图,新增一个节点,名为agent1:
快速搭建Jenkins集群
关于Jenkins集群