k8s
  • Initial page
  • 序言
  • 前言
    • 发展历史
    • CNCF - 云原生计算基金会简介
    • Kubernetes与云原生应用的概念
  • 概念与原理
    • 基本概念总结
    • 开放接口
      • CRI - Container Runtime Interface
      • CNI - Container Network Interface
      • CSI - Container Storage Interface
    • 核心概念与原理
      • Kubernetes简介
      • Kubernetes架构与原理
      • 核心组件
      • 设计理念
      • 核心组件原理
        • etcd概念与原理
          • Etcd基于RAFT的一致性
          • Etcd v2 与 v3存储
        • kube-apiserver
        • kube-scheduler
        • kube-Controller Manager
        • Kubelet
        • kubectl常用命令
      • kubectl
      • kube-proxy
      • IPVS负载均衡
      • kube-dns
      • Federation-集群联邦
      • kubeadm
    • 资源对象与基本概念解析
    • 资源对象
      • Pod
        • Pod概述
        • Pod解析
        • Pod 的生命周期
        • 探针
        • Init 容器
        • Pause容器
        • Pod 安全策略
        • Pod hook
        • Pod Preset
        • pod其他设置
        • Pod中断与PDB
    • Kubernetes中的网络
      • 图解Kubernetes网络(一)
      • 图解Kubernetes网络(二)
      • 图解Kubernetes网络(三)
      • calico
      • flannel
    • 转发K8S后端服务的四种方式
    • 集群资源对象
      • Node
      • Namespace
      • Label
      • Annotation
      • Taint和Toleration(污点和容忍
      • 垃圾收集
      • Autoscaling
      • Horizontal Pod Autoscaling
        • Metrics-Server
        • Heapster
      • ReplicationController和ReplicaSet
    • 控制器资源对象
      • CronJob
      • Job
      • DaemonSet
      • Deployment
      • StatefulSet
    • 服务发现-资源对象
      • DNS原理讲解
      • Ingress 选型
      • Service
      • Ingress
    • 存储对象
      • ConfigMap
      • Volume
      • Persistent Volume(持久化卷)
      • StorageClass
      • 本地持久化存储
      • Secret
    • 策略对象
      • Resource Quota
      • SecurityContext
    • 身份对象
      • 认证
      • Service Account
      • RBAC——基于角色的访问控制
      • 准入控制
      • Network Policy
    • 资源调度
      • QoS(服务质量等级)
  • 插件扩展
    • Kubernetes的CI/CD
    • Dashboard
    • CoreDNS
    • 监控
      • 概述
      • 第1章 采集
        • Probes
        • Docker Stats
        • cAdvisor
        • Heapster
          • HPA
        • metrics-server
        • custom metrics自定义指标
        • kube-state-metrics
        • node-exporter
        • Prometheus
          • go 自定义metric
          • 本地存储
          • Prometheus概述
          • Prometheus基本架构
          • Prometheus部署方案
          • Prometheus的配置与服务发现
          • PromQL查询解析
          • Prometheus数据可视化
          • Prometheus存储机制
        • Sysdig
        • Untitled
      • 自定义监控
      • Custom-Metrics及Prometheus监控系统
      • grafana各种类型监控-实用
    • 日志
    • 存储
      • Kubernetes Ceph 工作原理详解
    • Metrics
    • GPU
    • Cluster AutoScaler
    • CI/CD
      • 基于DOCKER的CI工具—DRONE
      • DRONE安装指南
      • 如何使用DRONE
      • Drone
      • Jenkins
        • jenkins 集成 keycloak 认证
    • 50个免费的Kubernetes工具盘点
      • Kube集群部署工具
      • 监控工具
      • 测试工具
      • 安全工具
      • 实用的CLI工具
      • 开发工具
      • 无服务器/函数工具
      • 原生服务发现
      • 原生可视化与控制
    • Untitled
  • 领域应用
    • Istio
      • Helm安装
      • 安装并试用Istio service mesh
      • 示例应用部署
      • Bookinfo 应用-
      • 配置请求的路由规则
      • 故障注入
      • 流量转移
      • Istio流量管理实现机制深度解析
      • istio:监控能力介绍
      • Istio 04:Istio性能及扩展性介绍
      • Untitled
  • 实践
    • 大规模集群
    • 高可用
  • k8s运维排查
    • 常用命令
    • Kubernetes之YAML文件
      • yaml文件例子--pod
      • yaml文件例子--rc
    • Kubernetes运维
      • 集群管理
      • 集群与应用监控
      • 日志收集与管理
      • 常见问题定位
      • 权限管理RBAC
    • 排错概览
    • 集群排错
      • kubernetes集群管理常用命令一
    • Pod 排错
    • 网络排错
      • 容器内抓包定位网络问题
    • PV 排错
    • Windows 排错
    • 云平台排错
    • 集群安装脚本
    • 排错工具
    • 常见问题
      • k8s故障解决干货文档链接
      • 记一次Docker/Kubernetes上无法解释的连接超时原因探寻之旅
      • service没有负载均衡
      • kubernetes集群etcd空间配额2G的坑优化
    • K8S--100问
      • 解决 Docker 日志文件太大的问题
      • Kubernetes集群里容器之间的通讯方式
      • k8s 优化
      • lxcfs 在容器内显示容器的 CPU、内存状态
      • kubectl 创建 Pod流程
      • k8s网络-iptables
      • k8s底层网络原理
      • 网络排查
      • kubectl top 和 cadvisor metric ,docker state不一致的问题
      • 容器挂载数据卷的几种情况
      • 容器的终止流程
      • Kubernetes 中如何保证优雅地停止 Pod
      • K8S的apiVersion
      • 如何在Pod中执行宿主机上的命令
      • 创建 Pod 流程
      • k8s主要组件说明
      • 节点网络规划
      • Deployment管理方式
      • pod的分配方式
  • 深入浅出k8s
    • 说明
    • k8s发布策略介绍
    • oom kill原理讲解
    • Kubernetes 的架构设计与实现原理
  • 附录
    • CKA认证
    • 生态圈
    • 资讯快报
      • 2018态势回顾与2019年前景展望
      • Untitled
    • 学习资源
    • 参考文档
    • Kubernetes版本更新日志
      • Kubernetes 1.14 更新日志
      • Kubernetes 1.13 更新日志
      • Kubernetes1.12更新日志
      • Kubernetes1.10更新日志
      • Kubernetes1.11更新日志
  • 思维导图
    • k8s
    • DEVOPS
  • DEVOPS
    • 开源仓库-nexus
      • 一,nexus的安装
      • 二,使用nexus3配置docker私有仓库
      • 三,使用nexus3配置maven私有仓库
      • 四,nexus-3.14.0升级到3.15.2
      • 五,nexus3搭建golang私服
    • vpn
      • openvpn
    • Tcpdump 示例教程
    • Ipsec VPN-centos7使用strangwang搭建vpn
    • yum安装redis及常用指令
    • 数据库
      • mysql表操作
      • mysql 库常用操作及备份还原
      • MySQL 优化实施方案
    • NSQ
      • nsq问题解答
      • 选型
      • docker-compose部署 简单nsq 集群
    • 部署Redis集群
    • zookeeper安装及使用
    • Etcd
      • Untitled
      • Etcd配置
  • k8s系统完整部署
    • CentOS7.5 使用二进制程序部署Kubernetes1.12.2
    • 二进制的方式部署 K8S-1.16 高可用集群
    • CoreOS部署Kubernetes集群
    • EFK
      • 日志-kafka
      • logstash的部署、整合ELK+Filebeat
      • 应用日志收集
      • ES搭建
      • es集群部署
      • ElasticSearch技术原理
      • Elasticsearch操作
      • kibana
      • kibana简单使用
      • 非K8S主机部署Filebat
    • 镜像仓库-Harbor
    • Harbor 2.6.2安装
    • cURL 命令获取本机外网 IP
    • Shell 解析 JSON
    • 制作 gitbook 文档镜像,运行在 K8S 上
    • Kubernetes 之 MySQL 持久存储和故障转移
    • 如何删除etcd上的旧数据
    • Git 实战教程
  • 生活
    • 信合.阳光城
Powered by GitBook
On this page
  • 本地持久化存储
  • 配置要求
  • 版本兼容性
  • K8s功能状态
  • 用户指南
  • 最佳实践
  • 参考
  1. 概念与原理
  2. 存储对象

本地持久化存储

本地持久化存储

本地持久化卷允许用户通过标准 PVC 接口以简单便携的方式访问本地存储。PV 中包含系统用于将 Pod 安排到正确节点的节点亲和性信息。

一旦配置了本地卷,外部静态配置器(provisioner)可用于帮助简化本地存储管理。请注意,本地存储配置器与大多数配置器不同,并且尚不支持动态配置。相反,它要求管理员预先配置每个节点上的本地卷,并且这些卷应该是:

  1. Filesystem volumeMode(默认)PV—— 将它们挂载到发现目录下。

  2. Block volumeMode PV——在发现目录下为节点上的块设备创建一个符号链接。

配置器将通过为每个卷创建和清除 PersistentVolumes 来管理发现目录下的卷。

配置要求

  • 本地卷插件希望路径稳定,包括在重新启动时和添加或删除磁盘时。

  • 静态配置器仅发现挂载点(对于文件系统模式卷)或符号链接(对于块模式卷)。对于基于目录的本地卷必须绑定到发现目录中。

版本兼容性

推荐配置器版本与Kubernetes版本

Provisioner version

K8s version

Reason

1.10

Beta API default, block

1.8, 1.9

Mount propagation

1.7

K8s功能状态

1.10:Beta

  • 添加了新的 PV.NodeAffinity 字段。

  • Alpha:添加了对 raw block 的支持。

1.9:Alpha

  • 新的 StorageClass volumeBindingMode 参数将延迟PVC绑定,直到 pod 被调度。

1.7:Alpha

  • 新的local PersistentVolume 源,允许指定具有 node affinity 的目录或挂载点。

  • 使用绑定到该 PV 的 PVC 的 Pod 将始终调度到该节点。

未来的功能

  • 本地块设备作为卷源,具有分区和 fs 格式化

  • 共享本地持久化存储的动态资源调配

  • 当地 PV 健康监测、污点和容忍

  • 内联 PV(使用专用本地磁盘作为临时存储)

用户指南

步骤1:使用本地磁盘启动集群

启用alpha feature gate

1.10+

如果需要原始的本地块功能,

export KUBE_FEATURE_GATES ="BlockVolume = true"

选项1:裸金属环境

  1. 根据应用程序的要求对每个节点上的磁盘进行分区和格式化。

  2. 根据 StorageClass 将所有文件系统挂载到同一个目录下。目录在 configmap 中指定,见下文。

  3. 如果不使用默认 Kubernetes 调度程序策略,则必须启用以下谓词:

    • 1.9之前:NoVolumeBindConflict

    • 1.9+:VolumeBindingChecker

选项2:本地测试集群

  1. 创建 /mnt/disks目录并将多个卷挂载到其子目录。下面的示例使用三个 ram 磁盘来模拟真实的本地卷:

    mkdir/mnt/disks
    vol for vol1 vol2 vol3;do
    mkdir/mnt/disks/$vol
    mount -t tmpfs $vol/mnt/disks/$vol
    DONE
  2. 运行本地集群。

    $ALLOW_PRIVILEGED = true LOG_LEVEL = 5 FEATURE_GATES = $KUBE_FEATURE_GATES hack/local-up-cluster.sh

步骤2:创建StorageClass(1.9+)

要延迟卷绑定,直到 pod 被调度,并在单个 pod 中处理多个本地 PV,必须使用设置为 WaitForFirstConsumer 的 volumeBindingMode 创建 StorageClass。

$kubectl create -f provisioner/deployment/kubernetes/example/default_example_storageclass.yaml

步骤3:创建本地持久卷

选项1:使用本地卷静态配置器

  1. 生成 Provisioner 的 ServiceAccount、Role、DaemonSet 和 ConfigMap 规范,并对其进行自定义。

    helm template ./helm/provisioner > ./provisioner/deployment/kubernetes/provisioner_generated.yaml

    您也可以提供一个自定义值文件:

    helm template ./helm/provisioner --values custom-values.yaml > ./provisioner/deployment/kubernetes/provisioner_generated.yaml
  2. 部署配置程序

    如果用户对 Provisioner 的 yaml 文件的内容感到满意,可以用 kubectl 创建 Provisioner 的 DaemonSet 和 ConfigMap。

    $kubectl create -f ./provisioner/deployment/kubernetes/provisioner_generated.yaml
  3. 检查发现的本地卷

    一旦启动,外部静态配置器将发现并创建本地 PV。

    例如,如果目录 /mnt/disks/ 包含一个目录 /mnt/disks/vol1,则静态配置器会创建以下本地卷 PV:

    $ kubectl get pv
    NAME                CAPACITY    ACCESSMODES   RECLAIMPOLICY   STATUS      CLAIM     STORAGECLASS    REASON    AGE
    local-pv-ce05be60   1024220Ki   RWO           Delete          Available             local-storage             26s
    
    $ kubectl describe pv local-pv-ce05be60 
    Name:        local-pv-ce05be60
    Labels:        <none>
    Annotations:    pv.kubernetes.io/provisioned-by=local-volume-provisioner-minikube-18f57fb2-a186-11e7-b543-080027d51893
    StorageClass:    local-fast
    Status:        Available
    Claim:        
    Reclaim Policy:    Delete
    Access Modes:    RWO
    Capacity:    1024220Ki
    NodeAffinity:
      Required Terms:
          Term 0:  kubernetes.io/hostname in [my-node]
    Message:    
    Source:
        Type:    LocalVolume (a persistent volume backed by local storage on a node)
        Path:    /mnt/disks/vol1
    Events:        <none>

    上面描述的 PV 可以通过引用 local-fast storageClassName 声明和绑定到 PVC。

选项2:手动创建本地持久化卷

步骤4:创建本地持久卷声明

kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: example-local-claim
spec:
  accessModes:
  - ReadWriteOnce
  resources:
    requests:
      storage: 5Gi
  storageClassName: local-storage

请替换以下元素以反映您的配置:

  • 卷所需的存储容量“5Gi”

  • “local-storage”,与本地 PV 关联的存储类名称应该用于满足此 PVC

对于试图声明 “Block” PV 的 “Block” volumeMode PVC,可以使用以下示例:

kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: example-local-claim
spec:
  accessModes:
  - ReadWriteOnce
  resources:
    requests:
      storage: 5Gi
  volumeMode: Block
  storageClassName: local-storage

请注意,此处唯一需要注意的字段是 volumeMode,它已被设置为“Block”。

最佳实践

  • 对于IO隔离,建议每个卷使用整个磁盘

  • 对于容量隔离,建议使用单个分区

  • 避免重新创建具有相同节点名称的节点,而仍然存在指定了该节点亲和性的旧 PV。否则,系统可能认为新节点包含旧的 PV。

  • 对于带有文件系统的卷,建议在 fstab 条目和该挂载点的目录名称中使用它们的 UUID(例如 ls -l/dev/disk/by-uuid 的输出)。这种做法可确保即使设备路径发生变化(例如,如果 /dev/sda1 在添加新磁盘时变为 /dev/sdb1),也不会错误地挂在本地卷。此外,这种做法将确保如果创建具有相同名称的另一个节点,则该节点上的任何卷都是唯一的,而不会误认为是具有相同名称的另一个节点上的卷。

  • 对于没有文件系统的 raw block 卷,使用唯一的 ID 作为符号链接名称。根据您的环境,/dev/disk/by-id/中的卷 ID 可能包含唯一的硬件序列号。否则,应该生成一个唯一的 ID。符号链接名称的唯一性将确保如果创建具有相同名称的另一个节点,则该节点上的任何卷都是唯一的,而不会误认为是具有相同名称的另一个节点上的卷。

删除/清理底层卷

当您想要停用本地卷时,以下是可能的工作流程。

  1. 停止使用卷的 pod

  2. 从节点中删除本地卷(即卸载、拔出磁盘等)

  3. 删除 PVC

  4. 供应商将尝试清理卷,但由于卷不再存在而会失败

  5. 手动删除 PV 对象

参考

PreviousStorageClassNextSecret

Last updated 6 years ago

另请参阅和 。

重要: Alpha PV NodeAffinity annotation 已弃用。用户必须手动更新其 PV 以使用新的 NodeAffinity字段或运行。

这些说明反映了最新版本的代码库。有关旧版本的说明,请参阅下的版本链接。

注意:1.10 之前的 Kubernetes 版本需要,因为持久的本地卷和其他功能处于 alpha 版本。

使用 KUBE_FEATURE_GATES配置 Kubernetes API server、controller manager、scheduler 和所有kubelet,。

这一步使用 helm 模板来生成规格。有关安装说明,请参阅。要使用生成配置器的规格,请运行:

有关示例 PersistentVolume 规范,请参阅。

已知问题
CHANGELOG
一次性更新作业
版本兼容性
几个附加 feature gate
如上所述
helm readme
默认值
Kubernetes文档
Local Persistent Storage User Guide
2.1.0
2.0.0
1.0.1