146 lines
4.6 KiB
Markdown
146 lines
4.6 KiB
Markdown
# 本地分布式开发环境搭建（使用Vagrant和Virtualbox）
|
||
|
||
当我们需要在本地开发时，更希望能够有一个开箱即用又可以方便定制的分布式开发环境，这样才能对Kubernetes本身和应用进行更好的测试。现在我们使用[Vagrant](https://www.vagrantup.com/)和[VirtualBox](https://www.virtualbox.org/wiki/Downloads)来创建一个这样的环境。
|
||
|
||
部署时需要使用的配置文件和`vagrantfile`请见：https://github.com/rootsongjc/kubernetes-vagrant-centos-cluster
|
||
|
||
**注意**：kube-proxy使用ipvs模式。
|
||
|
||
## 准备环境
|
||
|
||
需要准备以下软件和环境：
|
||
|
||
- 8G以上内存
|
||
- Vagrant 2.0+
|
||
- Virtualbox 5.0 +
|
||
- 提前下载kubernetes的安装包
|
||
|
||
## 集群
|
||
|
||
我们使用Vagrant和Virtualbox安装包含3个节点的kubernetes集群，其中master节点同时作为node节点。
|
||
|
||
| IP | 主机名 | 组件 |
|
||
| ------------ | ----- | ---------------------------------------- |
|
||
| 172.17.8.101 | node1 | kube-apiserver、kube-controller-manager、kube-scheduler、etcd、kubelet、docker、flannel |
|
||
| 172.17.8.102 | node2 | kubelet、docker、flannel |
|
||
| 172.17.8.103 | node3 | kubelet、docker、flannel |
|
||
|
||
**注意**：以上的IP、主机名和组件都是固定在这些节点的，即使销毁后下次使用vagrant重建依然保持不变。
|
||
|
||
## 安装的组件
|
||
|
||
安装完成后的集群包含以下组件：
|
||
|
||
- flannel
|
||
- kubernetes dashboard
|
||
- etcd（单节点）
|
||
- kubectl
|
||
|
||
## 部署
|
||
|
||
确保安装好以上的准备环境后，执行下列命令启动kubernetes集群：
|
||
|
||
```bash
|
||
git clone https://github.com/rootsongjc/kubernetes-vagrant-centos-cluster.git
|
||
cd kubernetes-vagrant-centos-cluster
|
||
vagrant up
|
||
```
|
||
|
||
**注意**：克隆完Git仓库后，需要提前下载kubernetes的压缩包到`kubenetes-vagrant-centos-cluster`目录下，包括如下两个文件：
|
||
|
||
- kubernetes-client-linux-amd64.tar.gz
|
||
- kubernetes-server-linux-amd64.tar.gz
|
||
|
||
如果是首次部署，会自动下载`centos/7`的box，这需要花费一些时间，另外每个节点还需要下载安装一系列软件包，整个过程大概需要10几分钟。
|
||
|
||
## 访问kubernetes集群
|
||
|
||
访问Kubernetes集群的方式有三种：
|
||
|
||
**通过本地访问**
|
||
|
||
可以直接在你自己的本地环境中操作该kubernetes集群，而无需登录到虚拟机中，执行以下步骤：
|
||
|
||
将`conf/admin.kubeconfig`文件放到`~/.kube/config`目录下即可在本地使用`kubectl`命令操作集群。
|
||
|
||
**在虚拟机内部访问**
|
||
|
||
如果有任何问题可以登录到虚拟机内部调试：
|
||
|
||
```bash
|
||
vagrant ssh node1
|
||
sudo -i
|
||
kubectl get nodes
|
||
```
|
||
|
||
**Kubernetes dashboard**
|
||
|
||
还可以直接通过dashboard UI来访问：https://172.17.8.101:8443
|
||
|
||
可以在本地执行以下命令获取token的值（需要提前安装kubectl）：
|
||
|
||
```bash
|
||
kubectl -n kube-system describe secret `kubectl -n kube-system get secret|grep admin-token|cut -d " " -f1`|grep "token:"|tr -s " "|cut -d " " -f2
|
||
```
|
||
|
||
**注意**：token的值也可以在`vagrant up`的日志的最后看到。
|
||
|
||
**Heapster监控**
|
||
|
||
创建Heapster监控：
|
||
|
||
```bash
|
||
kubectl apply -f addon/heapster/
|
||
```
|
||
|
||
访问Grafana
|
||
|
||
使用Ingress方式暴露的服务，在本地`/etc/hosts`中增加一条配置：
|
||
|
||
```ini
|
||
172.17.8.102 grafana.jimmysong.io
|
||
```
|
||
|
||
访问Grafana：<http://grafana.jimmysong.io>
|
||
|
||
**Traefik**
|
||
|
||
部署Traefik ingress controller和增加ingress配置：
|
||
|
||
```bash
|
||
kubectl apply -f addon/traefik-ingress
|
||
```
|
||
|
||
在本地`/etc/hosts`中增加一条配置：
|
||
|
||
```ini
|
||
172.17.8.102 traefik.jimmysong.io
|
||
```
|
||
|
||
访问Traefik UI：<http://traefik.jimmysong.io>
|
||
|
||
**EFK**
|
||
|
||
使用EFK做日志收集。
|
||
|
||
```bash
|
||
kubectl apply -f addon/efk/
|
||
```
|
||
|
||
**注意**：运行EFK的每个节点需要消耗很大的CPU和内存，请保证每台虚拟机至少分配了4G内存。
|
||
|
||
## 清理
|
||
|
||
```bash
|
||
vagrant destroy
|
||
rm -rf .vagrant
|
||
```
|
||
|
||
## 参考
|
||
|
||
- [Kubernetes handbook - jimmysong.io](https://jimmysong.io/kubernetes-handbook)
|
||
- [duffqiu/centos-vagrant](https://github.com/duffqiu/centos-vagrant)
|
||
- [kubernetes-vagrant-centos-cluster](https://github.com/rootsongjc/kubernetes-vagrant-centos-cluster)
|
||
- [vagrant系列二：Vagrant的配置文件vagrantfile详解](https://helei112g.github.io/2016/10/30/vagrant%E7%B3%BB%E5%88%97%E4%BA%8C%EF%BC%9AVagrant%E7%9A%84%E9%85%8D%E7%BD%AE%E6%96%87%E4%BB%B6vagrantfile%E8%AF%A6%E8%A7%A3/)
|
||
- [vagrant网络配置](https://blog.hedzr.com/2017/05/02/vagrant-%E7%BD%91%E7%BB%9C%E9%85%8D%E7%BD%AE/)
|
||
- [Kubernetes 1.8 kube-proxy 开启 ipvs](https://mritd.me/2017/10/10/kube-proxy-use-ipvs-on-kubernetes-1.8/#%E4%B8%80%E7%8E%AF%E5%A2%83%E5%87%86%E5%A4%87) |