一 openstack由来
openstack最早由美国国家航空航天局nasa研发的nova和rackspace研发的swift组成。后来以apache许可证授权,旨在为公共及私有云平台建设。openstack主要用来为企业内部实现类似于amazon ec2和s3的云基础架构服务(iaas).每6个月更新一次,基本与ubuntu同步,命名是以a-z作为首字母来的。
二 openstack项目与组件(服务名是项目名的别名)
核心项目3个
1.控制台
服务名:dashboard
项目名:horizon
功能:web方式管理云平台,建云主机,分配网络,配安全组,加云盘
2.计算
服务名:计算
项目名:nova
功能:负责响应虚拟机创建请求、调度、销毁云主机
3.网络
服务名:网络
项目名:neutron
功能:实现sdn(软件定义网络),提供一整套api,用户可以基于该api实现自己定义专属网络,不同厂商可以基于此api提供自己的产品实现
存储项目2个
1.对象存储
服务名:对象存储
项目名:swift
功能:rest风格的接口和扁平的数据组织结构。restful http api来保存和访问任意非结构化数据,ring环的方式实现数据自动复制和高度可以扩展架构,保证数据的高度容错和可靠性
2.块存储
服务名:块存储
项目名:cinder
功能:提供持久化块存储,即为云主机提供附加云盘。
共享服务项目3个
1.认证服务
服务名:认证服务
项目名:keystone
功能:为访问openstack各组件提供认证和授权功能,认证通过后,提供一个服务列表(存放你有权访问的服务),可以通过该列表访问各个组件。
2.镜像服务
服务名:镜像服务
项目名:glance
功能:为云主机安装操作系统提供不同的镜像选择
3.计费服务
服务名:计费服务
项目名:ceilometer
功能:收集云平台资源使用数据,用来计费或者性能监控
高层服务项目1个
1.编排服务
服务名:编排服务
项目名:heat
功能:自动化部署应用,自动化管理应用的整个生命周期.主要用于paas
三 openstack各组件详解及运行流程
各组件逻辑关系图:
openstack新建云主机流程图:
虚拟机启动过程如下:
界面或命令行通过restful api向keystone获取认证信息。
keystone通过用户请求认证信息,并生成auth-token返回给对应的认证请求。
界面或命令行通过restful api向nova-api发送一个boot instance的请求(携带auth-token)。
nova-api接受请求后向keystone发送认证请求,查看token是否为有效用户和token。
keystone验证token是否有效,如有效则返回有效的认证和对应的角色(注:有些操作需要有角色权限才能操作)。
通过认证后nova-api和数据库通讯。
初始化新建虚拟机的数据库记录。
nova-api通过rpc.call向nova-scheduler请求是否有创建虚拟机的资源(host id)。
nova-scheduler进程侦听消息队列,获取nova-api的请求。
nova-scheduler通过查询nova数据库中计算资源的情况,并通过调度算法计算符合虚拟机创建需要的主机。
对于有符合虚拟机创建的主机,nova-scheduler更新数据库中虚拟机对应的物理主机信息。
nova-scheduler通过rpc.cast向nova-compute发送对应的创建虚拟机请求的消息。
nova-compute会从对应的消息队列中获取创建虚拟机请求的消息。
nova-compute通过rpc.call向nova-conductor请求获取虚拟机消息。(flavor)
nova-conductor从消息队队列中拿到nova-compute请求消息。
nova-conductor根据消息查询虚拟机对应的信息。
nova-conductor从数据库中获得虚拟机对应信息。
nova-conductor把虚拟机信息通过消息的方式发送到消息队列中。
nova-compute从对应的消息队列中获取虚拟机信息消息。
nova-compute通过keystone的restfull api拿到认证的token,并通过http请求glance-api获取创建虚拟机所需要镜像。
glance-api向keystone认证token是否有效,并返回验证结果。
token验证通过,nova-compute获得虚拟机镜像信息(url)。
nova-compute通过keystone的restfull api拿到认证k的token,并通过http请求neutron-server获取创建虚拟机所需要的网络信息。
neutron-server向keystone认证token是否有效,并返回验证结果。
token验证通过,nova-compute获得虚拟机网络信息。
nova-compute通过keystone的restfull api拿到认证的token,并通过http请求cinder-api获取创建虚拟机所需要的持久化存储信息。
cinder-api向keystone认证token是否有效,并返回验证结果。
token验证通过,nova-compute获得虚拟机持久化存储信息。
nova-compute根据instance的信息调用配置的虚拟化驱动来创建虚拟机。
下面我们就围绕上图流程展开。
1.keystone
user:指使用openstack service的用户,可以是人、服务、系统,但凡使用了openstack service的对象都可以称为user。
project(tenant):可以理解为一个人、或服务所拥有的资源集合。在一个project(tenant)中可以包含多个user,每一个user都会根据权限的划分来使用project(tenant)中的资源。比如通过nova创建虚拟机时要指定到某个project中,在cinder创建卷也要指定到某个project中。user访问project的资源前,必须要与该project关联,并且指定user在project下的role。
role:用于划分权限。可以通过给user指定role,使user获得role对应的操作权限。keystone返回给user的token包含了role列表,被访问的services会判断访问它的user和user提供的token中所包含的role。系统默认使用管理role admin和成员role _member_ 。
policy:openstack对user的验证除了openstack的身份验证以外,还需要鉴别user对某个service是否有访问权限。policy机制就是用来控制user对tenant中资源(包括services)的操作权限。对于keystone service来说,policy就是一个json文件,默认是/etc/keystone/policy.json。通过配置这个文件,keystone service实现了对user基于role的权限管理。
token:是一个字符串表示,作为访问资源的令牌。token包含了在指定范围和有效时间内可以被访问的资源。eg. 在nova中一个tenant可以是一些虚拟机,在swift和glance中一个tenant可以是一些镜像存储,在network中一个tenant可以是一些网络资源。token一般被user持有。
credentials:用于确认用户身份的凭证
authentication:确定用户身份的过程
service:openstack service,即openstack中运行的组件服务。
endpoint:一个可以通过网络来访问和定位某个openstack service的地址,通常是一个url。比如,当nova需要访问glance服务去获取image 时,nova通过访问keystone拿到glance的endpoint,然后通过访问该endpoint去获取glance服务。我们可以通过endpoint的region属性去定义多个region。endpoint 该使用对象分为三类:
admin url –> 给admin用户使用,post:35357
internal url –> openstack内部服务使用来跟别的服务通信,port:5000
public url –> 其它用户可以访问的地址,post:5000
创建完service后创建api endpoint. 在openstack中,每一个service都有三种end points. admin, public, internal。 admin是用作管理用途的,如它能够修改user/tenant(project)。 public 是让客户调用的,比如可以部署在外网上让客户可以管理自己的云。internal是openstack内部调用的。三种endpoints 在网络上开放的权限一般也不同。admin通常只能对内网开放,public通常可以对外网开放internal通常只能对安装有openstack对服务的机器开放。
v3新增
tenant 重命名为 project
添加了 domain 的概念
添加了 group 的概念
详细流程:
用户alice登录keystone系统(password或者token的方式),获取一个临时的token和catalog服务目录(v3版本登录时,如果没有指定scope,project或者domain,获取的临时token没有任何权限,不能查询project或者catalog)。
alice通过临时token获取自己的所有的project列表。
alice选定一个project,然后指定project重新登录,获取一个正式的token,同时获得服务列表的endpoint,用户选定一个endpoint,在http消息头中携带token,然后发送请求(如果用户知道project name或者project id可以直接第3步登录)。
消息到达endpoint之后,由服务端(nova)的keystone中间件(pipeline中的filter:authtoken)向keystone发送一个验证token的请求。(token类型:uuid需要在keystone验证token,pki类型的token本身是包含用户详细信息的加密串,可以在服务端完成验证)
keystone验证token成功之后,将token对应用户的详细信息,例如:role,username,userid等,返回给服务端(nova)。
服务端(nova)完成请求,例如:创建虚拟机。
服务端返回请求结果给alice。
2.glance
v1
v2
3.nova与cinder
nova主要组成:
nova-api
nova-scheduler
nova-compute
nova-conductor
cinder主要组成:
cinder-api
cinder-scheduler
cinder-volume
cinder各组件功能:
cinder-api 是 cinder 服务的 endpoint,提供 rest 接口,负责处理 client 请求,并将 rpc 请求发送至 cinder-scheduler 组件。
cinder-scheduler 负责 cinder 请求调度,其核心部分就是 scheduler_driver, 作为 scheduler manager 的 driver,负责 cinder-volume 具体的调度处理,发送 cinder rpc 请求到选择的 cinder-volume。
cinder-volume 负责具体的 volume 请求处理,由不同后端存储提供 volume 存储空间。目前各大存储厂商已经积极地将存储产品的 driver 贡献到 cinder 社区
cinder架构图:
openstack组件间通信:调用各组件api提供的rest接口,组件内通信:基于rpc(远程过程调用)机制,而rpc机制是基于amqp模型实现的
从rpc使用的角度出发,nova,neutron,和cinder的流程是相似的,我们以cinder为例阐述rpc机制
(参考链接:https://www.ibm.com/developerworks/cn/cloud/library/1403_renmm_opestackrpc/)
openstack 组件内部的 rpc(remote producer call)机制的实现是基于 amqp(advanced message queuing protocol)作为通讯模型,从而满足组件内部的松耦合性。amqp 是用于异步消息通讯的消息中间件协议,amqp 模型有四个重要的角色:
exchange:根据 routing key 转发消息到对应的 message queue 中
routing key:用于 exchange 判断哪些消息需要发送对应的 message queue
publisher:消息发送者,将消息发送的 exchange 并指明 routing key,以便 message queue 可以正确的收到消息
consumer:消息接受者,从 message queue 获取消息
消息发布者 publisher 将 message 发送给 exchange 并且说明 routing key。exchange 负责根据 message 的 routing key 进行路由,将 message 正确地转发给相应的 message queue。监听在 message queue 上的 consumer 将会从 queue 中读取消息。
routing key 是 exchange 转发信息的依据,因此每个消息都有一个 routing key 表明可以接受消息的目的地址,而每个 message queue 都可以通过将自己想要接收的 routing key 告诉 exchange 进行 binding,这样 exchange 就可以将消息正确地转发给相应的 message queue。
publisher可以分为4类:
direct publisher发送点对点的消息;
topic publisher采用“发布——订阅”模式发送消息;
fanout publisher发送广播消息的发送;
notify publisher同topic publisher,发送 notification 相关的消息。
exchange可以分为3类:
direct exchange根据routing key进行精确匹配,只有对应的 message queue 会接受到消息;
topic exchange根据routing key进行模式匹配,只要符合模式匹配的message queue都会收到消息;
fanout exchange将消息转发给所有绑定的message queue。
amqp消息模型
rpc 发送请求
client 端发送 rpc 请求由 publisher 发送消息并声明消息地址,consumer 接收消息并进行消息处理,如果需要消息应答则返回处理请求的结果消息。
openstack rpc 模块提供了 rpc.call,rpc.cast, rpc.fanout_cast 三种 rpc 调用方法,发送和接收 rpc 请求。
rpc.call 发送 rpc 请求并返回请求处理结果,请求处理流程如图 5 所示,由 topic publisher 发送消息,topic exchange 根据消息地址进行消息转发至对应的 message queue 中,topic consumer 监听 message queue,发现需要处理的消息则进行消息处理,并由 direct publisher 将请求处理结果消息,请求发送方创建 direct consumer 监听消息的返回结果
rpc.cast 发送 rpc 请求无返回,请求处理流程如图 6 所示,与 rpc.call 不同之处在于,不需要请求处理结果的返回,因此没有 direct publisher 和 direct consumer 处理。
rpc.fanout_cast 用于发送 rpc 广播信息无返回结果
neutron
neutron包含组件:
neutron-server
neutron-plugin
neutron-agent
neutron各组件功能介绍:
neutron-server可以理解为一个专门用来接收neutron rest api调用的服务器,然后负责将不同的rest api分发到不同的neutron-plugin上。
neutron-plugin可以理解为不同网络功能实现的入口,各个厂商可以开发自己的plugin。neutron-plugin接收neutron-server分发过来的rest api,向neutron database完成一些信息的注册,然后将具体要执行的业务操作和参数通知给自身对应的neutron agent。
neutron-agent可以直观地理解为neutron-plugin在设备上的代理,接收相应的neutron-plugin通知的业务操作和参数,并转换为具体的设备级操作,以指导设备的动作。当设备本地发生问题时,neutron-agent会将情况通知给neutron-plugin。
neutron database,顾名思义就是neutron的数据库,一些业务相关的参数都存在这里。
network provider,即为实际执行功能的网络设备,一般为虚拟交换机(ovs或者linux bridge)。
neutron-plugin分为core-plugin和service-plugin两类。
core-plugin,neutron中即为ml2(modular layer 2),负责管理l2的网络连接。ml2中主要包括network、subnet、port三类核心资源,对三类资源进行操作的rest api被neutron-server看作core api,由neutron原生支持。其中:
service-plugin,即为除core-plugin以外其它的plugin,包括l3 router、firewall、loadbalancer、vpn、metering等等,主要实现l3-l7的网络服务。这些plugin要操作的资源比较丰富,对这些资源进行操作的rest api被neutron-server看作extension api,需要厂家自行进行扩展。
“neutron对quantum的插件机制进行了优化,将各个厂商l2插件中独立的数据库实现提取出来,作为公共的ml2插件存储租户的业务需求,使得厂商可以专注于l2设备驱动的实现,而ml2作为总控可以协调多厂商l2设备共同运行”。在quantum中,厂家都是开发各自的service-plugin,不能兼容而且开发重复度很高,于是在neutron中就为设计了ml2机制,使得各厂家的l2插件完全变成了可插拔的,方便了l2中network资源扩展与使用。
(注意,以前厂商开发的l2 plugin跟ml2都存在于neutron/plugins目录下,而可插拔的ml2设备驱动则存在于neutron/plugins/ml2/drivers目录下)
ml2作为l2的总控,其实现包括type和mechanism两部分,每部分又分为manager和driver。type指的是l2网络的类型(如flat、vlan、vxlan等),与厂家实现无关。mechanism则是各个厂家自己设备机制的实现,如下图所示。当然有ml2,对应的就可以有ml3,不过在neutron中l3的实现只负责路由的功能,传统路由器中的其他功能(如firewalls、lb、vpn)都被独立出来实现了,因此暂时还没有看到对ml3的实际需求。
一般而言,neutron-server和各neutron-plugin部署在控制节点或者网络节点上,而neutron agent则部署在网络节点上和计算节点上。我们先来分析控制端neutron-server和neutron-plugin的工作,然后再分析设备端neutron-agent的工作。
neutron新进展(dragon flow):
https://www.ustack.com/blog/neutron-dragonflow/
网络模式介绍:
根据创建网络的用户的权限,neutron network 可以分为:
provider network:管理员创建的和物理网络有直接映射关系的虚拟网络。
tenant network:租户普通用户创建的网络,物理网络对创建者透明,其配置由 neutorn 根据管理员在系统中的配置决定。
根据网络的类型,neutron network 可以分为:
vlannetwork(虚拟局域网):基于物理 vlan 网络实现的虚拟网络。共享同一个物理网络的多个 vlan 网络是相互隔离的,甚至可以使用重叠的 ip 地址空间。每个支持 vlan network 的物理网络可以被视为一个分离的 vlan trunk,它使用一组独占的 vlan id。有效的 vlan id 范围是 1 到 4094。
flat network:基于不使用 vlan 的物理网络实现的虚拟网络。每个物理网络最多只能实现一个虚拟网络。
local network(本地网络):一个只允许在本服务器内通信的虚拟网络,不知道跨服务器的通信。主要用于单节点上测试。
gre network (通用路由封装网络):一个使用 gre 封装网络包的虚拟网络。gre 封装的数据包基于 ip 路由表来进行路由,因此 gre network 不和具体的物理网络绑定。
vxlan network(虚拟可扩展网络):基于 vxlan 实现的虚拟网络。同 gre network 一样, vxlan network 中 ip 包的路由也基于 ip 路由表,也不和具体的物理网络绑定。
注:在aws中,该概念对应 vpc 概念。aws 对 vpc 的数目有一定的限制,比如每个账户在每个 region 上默认最多只能创建 5 个vpc,通过特别的要求最多可以创建 100 个。
1.vlan
2.gre与vxlan请参考
http://www.cnblogs.com/sammyliu/p/4622563.html
http://www.cnblogs.com/xingyun/p/4620727.html
gre网络
gre与vxlan区别
关于gre和vxlan二次封装数据包的mtu问题
vxlan 模式下虚拟机中的 mtu 最大值为1450,也就是只能小于1450,大于这个值会导致 openvswitch 传输分片,进而导致虚拟机中数据包数据重传,从而导致网络性能下降。gre 模式下虚拟机 mtu 最大为1462。
计算方法如下:
vxlan mtu = 1450 = 1500 – 20(ip头) – 8(udp头) – 8(vxlan头) – 14(以太网头)
gre mtu = 1462 = 1500 – 20(ip头) – 4(gre头) – 14(以太网头)
可以配置 neutron dhcp 组件,让虚拟机自动配置 mtu,
#/etc/neutron/dhcp_agent.ini[default]dnsmasq_config_file = /etc/neutron/dnsmasq-neutron.conf#/etc/neutron/dnsmasq-neutron.confdhcp-option-force=26,1450或1462
重启 dhcp agent,让虚拟机重新获取 ip,然后使用 ifconfig 查看是否正确配置 mtu。
英特尔试产10nm工艺Cannonlake处理器 提升50%?
ITU最新数据显示:全球范围内有近40%农村家庭是没有接入互联网服务
MicroLED的新型制造方法介绍
如何让家庭双向充电技术像手机充电那样简单便捷?
平滑后的DC/DC转换(稳定化)方式-所谓Buck(降压、非绝缘)方式
openstack的放弃之路
断路器信号回路的基本要求
ULN2003引脚功能介绍
YAFFS文件系统在嵌入式Linux系统中的构建与改进
比较适合iPhone13的蓝牙耳机有哪些?音质好的耳机推荐
如何用ESP8266ESP-01和串行端口以及Python构建一个自动指向接收器
C语言入门教程-Scanf
数据采集卡的基本原理、应用领域、特点以及选购注意事项
“中国芯力量”从启动开始120个项目报名参加只有15家公司入围
魅族pro7什么时候上市?魅族pro7最新消息:魅族Pro 7即将来袭!你会因联发科处理器拒绝购买吗?
聚光科技上市12周年 | 聚心聚力 行稳致远
2023慕尼黑上海电子展,圣邦精彩回顾
特种磁助电接点压力表使用时需要注意什么
苹果正式发邀请函!iphone8上市时间确定,已经开始预售,售价也稳了!网友:还是买iphone7
轨道交通车载设备的供电需求与分类介绍