超适合小项目的 K8S 部署策略

  1. 云栖社区>
  2. 博客>
  3. 正文

超适合小项目的 K8S 部署策略

店家小二 2018-12-17 20:47:21 浏览892
展开阅读全文

Kubernetes 的稳健性、可靠性使它成为现阶段最流行的云 原生技术之一,但也有不少用户反映, Kubernetes 技术学习起来十分复杂,只适用于大集群且成本较高。这篇文章将打破你的观念,教你在小型项目中部署 Kubernetes 集群。


选择 K8S 部署小型集群的三大理由


理由一:花费时间少

在部署小型集群之前,你需要思考以下这些问题:


  • 应该如何部署应用程序?(仅仅 rsync 到服务器?)

  • 依赖关系是怎么样的?(如果利用 python 或 ruby,你必须在服务器上安装它们!)

  • 手动运行命令?(如果以 nohup 的方式在后台运行二进制文件这可能不是最好的选择,但去配置路由服务,是否还需要学习 systemd?)

  • 如何通过不同域名或 HTTP 路径运行多个应用程序?(你可能需要设置 haproxy 或 Nginx!)

  • 当更新应用程序后应该如何推出新变化?(停止服务、部署代码、重启服务?如何避免停机?)

  • 如果搞砸了部署怎么办?有什么方法可以回滚?

  • 应用程序是否需要使用其他服务?又该如何配置这些服务?(如:redis)


以上这些问题很有可能在你部署小型集群时出现,但 Kubernetes 为上述所有问题都提供了解决方案。或许还有其他方法可以解决上述问题,但是利用 Kubernetes 往往事半功倍,因为我们需要更多的时间专注于应用程序。


理由二:Kubernetes 记录整个部署过程

让我们看看利用 Kubernetes 部署集群的第二个理由。


你在工作时是否也是这样的状态:我上次运行了什么命令?当时服务器在运行什么服务?这让我想到了著名的 bash.org:


<erno> hm. I've lost a machine.. literally _lost_. it responds to ping, it works completely, I just can't figure out where in my apartment it is.

http://bash.org/?5273


这种情况曾经出现在我的工作中,让原本 10 分钟的工作量变成了一个周末。


但是如果你选择 Kubernetes 部署集群,就不会有这种困扰。因为 Kubernetes 使用描述性格式,如此用户就可以很轻松地知道接下来应该运行哪些内容,如何部署构建块。此外,控制层也会正常处理节点故障并自动重新调度 Pod。(对于像 Web 应用程序这样的无状态服务,就不再需要担心失败。)


理由三:Kubernetes 简单易学

Kubernetes 拥有自己的词汇表、工具,以及与传统 Unix 完全不同的配置服务器。Kubernetes 的知识足以建立和维护基础设施。使用 Kubernetes,你可以完全可以在 Kubernetes 中配置服务,无需 SSH 到服务器。你不必学习 systemd 也不必知道什么是运行级别; 你不必格式化磁盘,或学习如何使用 ps,vim。


我通过一个例子,来证明我的观点!


这是利用 Unix :

[Unit]
Description=The NGINX HTTP and reverse proxy server
After=syslog.target network.target remote-fs.target nss-lookup.target[Service]
Type=forking
PIDFile=/run/nginx.pid
ExecStartPre=/usr/sbin/nginx -t
ExecStart=/usr/sbin/nginx
ExecReload=/usr/sbin/nginx -s reload
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target

真的比利用 Kubernetes 难:

apiVersion: apps/v1
kind: Deployment
metadata:
 name: my-nginx
spec:
 selector:
 matchLabels:
 run: my-nginx
 replicas: 1
 template:
 metadata:
 labels:
 run: my-nginx
 spec:
 containers:
 - name: my-nginx
 image: nginx
 ports:
 - containerPort: 80

当你远程执行基础架构管理时,是不需要手动维护服务器的。你可以使用:ansible、salt、chef、puppet 等来完成这件事。当然,你需要学习使用很多 Kubernetes 相关工具,这要比学习替代品轻松的多。


小 结

Kubernetes 并不是将一件事做到极致的工具而是一个全方位的解决方案,它取代了开发人员习惯使用的许多技术和工具。


接下来我们用实际操作,为大家部署一个小型 Kubernetes 集群。


建立小型 Kubernetes 集群


下面就开始我们的教程。对于这个例子,我们将使用谷歌的 Kubernetes引擎(GKE),但如果谷歌不是你的菜,你也可以选择亚马逊(EKS)或微软(AKS)。


要构建我们的 Kubernetes 集群,我们将需要:


  • 域名(10 美元 /年,具体取决于域名);

  • DNS 主机由 cloudflare 提供(免费);

  • GKE 中的 3 个 node kubernetes 集群(5 美元 / 月);

  • 将 Webapp 作为 Docker 容器发送到 Google Container Registry(GCR)(免费);

  • 一些 yaml 文件配置 Kubernetes。


此外,为了节省成本,我们不会使用谷歌的 ingress controller 。相反,我们将在每个节点上运行 Nginx 作为 Daemon,并构建一个自定义运算符,将工作节点外部 IP 地址与 Cloudflare 同步。


谷歌设置

首先访问 console.cloud.google.com 并创建一个项目(如果你还没有项目)。你还需要设置结算帐户。然后前往 hamburger 菜单中的 Kubernetes 页面并创建一个新的集群。


你需要执行以下操作:

  • 选择 Zonal 区域类型(我使用了 us-central1-a 作为我的区域);

  • 选择你的 Kubernetes 版本;

  • 使用最便宜的实例类型(f1-micro)创建 3 个 node 池;

  • 对于该节点池,在高级屏幕中,将引导磁盘大小设置为 10GB,启用可抢占的 node(它们更便宜),启用自动升级和自动修复;

  • 在节点池下面还有一些其他选项。我们想要禁用 HTTP 负载均衡(GCP 中的负载均衡很昂贵且不稳定)并且还禁用所有 StackDriver 的服务以及禁用 Kubernetes dashboard 。


通过设置所有这些选项,你可以继续创建集群。

以下是减少的成本:

  • Kubernetes 控制层:免费,因为谷歌不收取专家的费用;

  • Kubernetes 工作节点:5.04 美元/月,3 个微节点通常为 11.65 美元/月,通过使用它们的可抢占性,我们将其降至 7.67 美元/月(“永久免费”等级则达到 5.04 美元);

  • 存储成本:免费,存储成本可以在 GCP 中累计。我们将免费获得 30GB 的永久磁盘,这就是我们选择 10GB 大小的原因;

  • 负载均衡器成本:免费,我们禁用 HTTP 负载均衡,因为仅此一项费用将达到 18 美元/月。相反,我们将在每个节点上运行我们自己的 HTTP 代理,并将 DNS 指向公共 IP;

  • 网络费用:免费,只要你每月低于 1GB,出口就是免费的(之后每GB 8 美分)。


因此,我们可以拥有一个 3 个节点的 Kubernetes 集群,价格与单个数字机器相同。


除了设置 GKE 之外,我们还需要添加一些防火墙规则,以允许外网点击我们节点上的 HTTP 端口。操作是:从 hamburger 菜单转到 VPC 网络,防火墙规则添加为 TCP 端口 80 和 443 的规则,IP 范围为 0.0.0.0/0。


1
本地设置

随着集群的启动和运行,我们就可以对其进行配置。通过 cloud.google.com/sdk/docs 的说明安装 gcloud 工具。


安装完成后,你可以通过运行以下命令进行设置:

gcloud auth login

你还需安装 Docker,将其连接到 GCR 上,方便你进行容器推送:

gcloud auth configure-docker

你也可以按照此处的说明安装和设置 kubectl (此工具适用于 Windows,OSX 或 Linux)。


gcloud components install kubectl gcloud config set project PROJECT_ID gcloud config set compute/zone COMPUTE_ZONE gcloud container clusters get-credentials CLUSTER_NAME

构建 Web 应用程序

你可以使用任何编程语言构建 Web 应用。我们只需构建一个 port 端口的 HTTP 应用程序。就个人而言,我更喜欢在 Go 中构建这些应用程序,但对于某些类型,让我们尝试使用 Crystal。


创建一个 main.cr 文件:

# crystal-www-example/main.crrequire "http/server"Signal::INT.trap do
 exit
end

server = HTTP::Server.new do |context|
 context.response.content_type = "text/plain"
 context.response.print "Hello world from crystal-www-example! The time is #{Time.now}"end

server.bind_tcp("0.0.0.0", 8080)
puts "Listening on http://0.0.0.0:8080"server.listen

我们还需要一个 Dockerfile:

# crystal-www-example/Dockerfile
FROM crystallang/crystal:0.26.1 as builder

COPY main.cr main.cr

RUN crystal build -o /bin/crystal-www-example main.cr --release

ENTRYPOINT [ "/bin/crystal-www-example" ]

我们可以通过以下命令来构建和测试我们的 Web 应用程序:


docker build -t gcr.io/PROJECT_ID/crystal-www-example:latest . docker run -p 8080:8080 gcr.io/PROJECT_ID/crystal-www-example:latest

然后输入 localhost:8080 在浏览器中访问。接着我们可以通过以下方式将我们的应用程序推到 GCR 中运行:


docker push gcr.io/PROJECT_ID/crystal-www-example:latest

配置 Kubernetes

对于此示例,我们将创建几个 yaml 文件来表示各种服务,然后通过运行 kubectl apply 在集群中配置它们。Kubernetes 的配置具有描述性,这些 yaml 文件将会告诉 Kubernetes 我们希望看到的状态。


我们需要做的事情:

  • 为我们的 crystal-www-example Web 应用程序创建部署和服务;

  • 为 Nginx 创建一个 Daemon Set 和 Config Map;

  • 运行自定义应用程序使用 Cloudflare 到 DNS 同步 node IP。


Web App 配置

首先让我们配置 webapp:(先将 PROJECT_ID 替换为你的项目 ID)

# kubernetes-config/crystal-www-example.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
 name: crystal-www-example
 labels:
 app: crystal-www-example
spec:
 replicas: 1
 selector:
 matchLabels:
 app: crystal-www-example
 template:
 metadata:
 labels:
 app: crystal-www-example
 spec:
 containers:
 - name: crystal-www-example
 image: gcr.io/PROJECT_ID/crystal-www-example:latest
 ports:
 - containerPort: 8080---

kind: Service
apiVersion: v1
metadata:
 name: crystal-www-example
spec:
 selector:
 app: crystal-www-example
 ports:
 - protocol: TCP
 port: 8080
 targetPort: 8080

现在创建一个 Deployment,它会通知 Kubernetes 创建一个 Pod,其中包含一个运行 Docker 容器的容器,以及一个用于集群内的 service discovery 。要应用此配置运行(在 kubernetes-config 文件夹中):

kubectl apply -f .

我们可以使用以下方法测试它是否在运行:

kubectl get pod
# you should see something like:
# crystal-www-example-698bbb44c5-l9hj9 1/1 Running 0 5m

我们还可以创建代理 API,以便我们访问它:

kubectl proxy

然后访问:

http://localhost:8001/api/v1/namespaces/default/services/crystal-www-example/proxy/


Nginx 配置

通常,在 Kubernetes 中处理 HTTP 服务时,你会使用 ingress controller。不幸的是,Google 的 HTTP 负载均衡器非常昂贵,因此我们将运行自己的 HTTP 代理并手动配置它。


我们将使用 Daemon Set 和 Config Map。Daemon Set 是在每个节点上运行的应用程序。Config Map 基本上是一个小文件,我们可以在容器中安装它,我们将存储 Nginx 配置。


yaml 看起来像这样:

apiVersion: apps/v1
kind: DaemonSet
metadata:
 name: nginx
 labels:
 app: nginx
spec:
 selector:
 matchLabels:
 app: nginx
 template:
 metadata:
 labels:
 app: nginx
 spec:
 hostNetwork: true
 dnsPolicy: ClusterFirstWithHostNet
 containers:
 - image: nginx:1.15.3-alpine
 name: nginx
 ports:
 - name: http
 containerPort: 80
 hostPort: 80
 volumeMounts:
 - name: "config"
 mountPath: "/etc/nginx"
 volumes:
 - name: config
 configMap:
 name: nginx-conf

---

apiVersion: v1
kind: ConfigMap
metadata:
 name: nginx-conf
data:
 nginx.conf: |
 worker_processes 1;
 error_log /dev/stdout info;

 events {
 worker_connections 10;
 }

 http {
 access_log /dev/stdout;

 server {
 listen 80;
 location / {
 proxy_pass http://crystal-www-example.default.svc.cluster.local:8080;
 }
 }
 }

你可以看到我们如何在 Nginx 容器内挂载 config map 的 nginx.conf。我们还在规范上设置了两个附加字段:hostNetwork: true、dnsPolicy: ClusterFirstWithHostNet 。

  • hostNetwork: true 以便我们可以绑定主机端口并从外网到达 Nginx;

  • dnsPolicy: ClusterFirstWithHostNet 以便我们可以访问集群内的服务。


应用更改:通过点击节点的公共 IP 来到达 Nginx。


你可以通过运行找到:

kubectl get node -o yaml
# look for:
# - address: ...
# type: ExternalIP

我们的网络应用程序现在可通过互联网访问了。现在想想给它起一个好听的名字!


连接 DNS

我们需要 A 为集群的节点设置 3 条 DNS 记录:

1

然后添加一个 CNAME 条目以指向那些 A 记录。(即 www.example.com CNAME kubernetes.example.com)我们可以手动执行此操作,但最好自动执行此操作,以便在扩展或替换节点时 DNS 记录自动更新。


我认为这也是一个很好的说明示例,说明如何让 Kubernetes 为你工作而不是反对它。Kubernetes 完全可编写脚本,并且具有强大的 API。因此你可以使用不太难编写的自定义组件填补空白。我为此构建了一个小型 Go 应用程序,可在此处找到:kubernetes-cloudflare-sync。


建立一个 informer:

factory := informers.NewSharedInformerFactory(client, time.Minute)
lister := factory.Core().V1().Nodes().Lister()
informer := factory.Core().V1().Nodes().Informer()
informer.AddEventHandler(cache.ResourceEventHandlerFuncs{
 AddFunc: func(obj interface{}) {
 resync()
 },
 UpdateFunc: func(oldObj, newObj interface{}) {
 resync()
 },
 DeleteFunc: func(obj interface{}) {
 resync()
 },
})
informer.Run(stop)

informer 将在节点更改时随时调用我的 resync 函数。然后使用 Cloudflare API 库(github.com/cloudflare/cloudflare-go)同步 IP ,类似于:

var ips []stringfor _, node := range nodes { for _, addr := range node.Status.Addresses { if addr.Type == core_v1.NodeExternalIP {
 ips = append(ips, addr.Address)
 }
 }
}
sort.Strings(ips)for _, ip := range ips {
 api.CreateDNSRecord(zoneID, cloudflare.DNSRecord{
 Type: "A",
 Name: options.DNSName,
 Content: ip,
 TTL: 120,
 Proxied: false,
 })
}

就像我们的网络应用程序一样,我们将此应用程序作为 Kubernetes 中的部署:

apiVersion: apps/v1
kind: Deployment
metadata:
 name: kubernetes-cloudflare-sync
 labels:
 app: kubernetes-cloudflare-sync
spec:
 replicas: 1
 selector:
 matchLabels:
 app: kubernetes-cloudflare-sync
 template:
 metadata:
 labels:
 app: kubernetes-cloudflare-sync
 spec:
 serviceAccountName: kubernetes-cloudflare-sync
 containers:
 - name: kubernetes-cloudflare-sync
 image: gcr.io/PROJECT_ID/kubernetes-cloudflare-sync
 args:
 - --dns-name=kubernetes.example.com
 env:
 - name: CF_API_KEY
 valueFrom:
 secretKeyRef:
 name: cloudflare
 key: api-key
 - name: CF_API_EMAIL
 valueFrom:
 secretKeyRef:
 name: cloudflare
 key: email

你需要使用 cloudflare api 密钥和电子邮件地址创建 Kubernetes 密码:

kubectl create secret generic cloudflare --from-literal=email='EMAIL' --from-literal=api-key='API_KEY'

你还需要创建服务帐户(它允许我们的部署访问 Kubernetes API 来检索节点)。首次运行(特别是对于 GKE):

kubectl create clusterrolebinding cluster-admin-binding --clusterrole cluster-admin --user YOUR_EMAIL_ADDRESS_HERE

然后申请:

apiVersion: v1
kind: ServiceAccount
metadata:
 name: kubernetes-cloudflare-sync
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
 name: kubernetes-cloudflare-sync
rules:
- apiGroups: [""]
 resources: ["nodes"]
 verbs: ["list", "watch"]
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
 name: kubernetes-cloudflare-sync-viewer
roleRef:
 apiGroup: rbac.authorization.k8s.io
 kind: ClusterRole
 name: kubernetes-cloudflare-sync
subjects:
- kind: ServiceAccount
 name: kubernetes-cloudflare-sync
 namespace: default

配置就绪后,运行 Cloudflare 的应用程序将在任何节点更改时被更新。以上就是基于 Kubernetes 部署小型集群的详细教程。

总 结

Kubernetes 就是这样一个收放自如的技术。就像你可能永远用不到 SQL 数据库中的所有功能,但你不得不承认 SQL 数据库极大地提高了你快速交付解决方案的能力。

Kubernetes 与 SQL 十分相似。在 Kubernetes 庞大的技术体系下,我们也并不能用到所有功能,却能在每个项目中恰到好处的使用部分功能实现完美部署。在每次利用 Kubernetes 部署小型集群时,我都会从中获得新的认知。

所以我的观点是,Kubernetes 对于小型部署也很有意义,而且既易于使用又便宜。如果你从来没有尝试过,现在就开动起来吧!

本文转自掘金-超适合小项目的 K8S 部署策略

网友评论

登录后评论
0/500
评论
店家小二
+ 关注