DeepSpeed里面和Zero相关技术教程
使用原始的 megatron-lm 训练 gpt2
设置训练数据
运行未修改的megatron-lm gpt2模型
开启deepspeed
deepspeed 使用 gpt-2 进行评估
zero概述
训练环境
开启zero优化
训练一个1.5b参数的gpt2模型
训练一个10b的gpt-2模型
使用zero-infinity训练万亿级别的模型
使用zero-infinity将计算转移到cpu和nvme
分配大规模megatron-lm模型
以内存为中心的分块优化
提取权重
zero-offload概述
训练环境
在单个 v100 gpu 上训练10b的gpt2模型
megatron-lm gpt-2 的启动脚本更改：
deepspeed 配置更改
0x0. 前言
这篇文章主要翻译deepspeed的megatron-lm gpt2 ，zero零冗余优化器技术，zero-offload技术。关于deepspeed 的zero和zero-offload的技术原理大家也可以查看图解大模型训练之：数据并行下篇(zero，零冗余优化) 这篇文章，文章里面对内存的计算和通信量的分析都很棒。
0x1. megatron-lm gpt2
如果你还没有阅读过入门指南，我们建议你在开始本教程之前先阅读该指南（https://www.deepspeed.ai/getting-started/ 这个指南的翻译在 【deepspeed 教程翻译】开始，安装细节和cifar-10 tutorial）。
在本教程中，我们将向 megatron-lm gpt2 模型添加 deepspeed，megatron-lm gpt2 是一个大而强的 transformer。megatron-lm 支持模型并行和多节点训练。有关更多详细信息，请参阅相应的论文：megatron-lm: training multi-billion parameter language models using model parallelism（https://arxiv.org/abs/1909.08053）。
首先，我们讨论数据和环境设置，以及如何使用原始的megatron-lm训练gpt-2模型。接下来，我们逐步介绍如何使用deepspeed使该模型运行。最后，我们演示使用deepspeed所获得的性能提升和内存占用减少。
使用原始的 megatron-lm 训练 gpt2
我们将原始的megatron-lm（https://github.com/nvidia/megatron-lm）模型代码复制到deepspeed megatron-lm（https://github.com/microsoft/megatron-deepspeed）中，并将其作为子模块提供。要下载，请执行以下操作：
git submodule update --init --recursive
设置训练数据
按照megatron的说明（https://github.com/nvidia/megatron-lm#collecting-gpt-webtext-data）下载webtext数据，并在deepspeedexamples/megatron-lm/data(在最新版本的deepspeedexamples中可以放置在 /home/zhangxiaoyu/deepspeedexamples/training/megatron )下放置一个符号链接。
运行未修改的megatron-lm gpt2模型
对于单块gpu：
修改 scripts/pretrain_gpt2.sh，将其 --train-data 参数设置为 webtext。
运行 bash scripts/pretrain_gpt2.sh
对于多个节点和多个gpu：
修改 scripts/pretrain_gpt2_model_parallel.sh
将其 --train-data 参数设置为 webtext。
gpus_per_node 指示了测试中每个节点使用的gpu数量。
nnodes 指示了测试中涉及的节点数量。
执行 bash scripts/pretrain_gpt2_model_parallel.sh
开启deepspeed
为了用上deepspeed需要更新三个文件：
arguments.py : 参数配置文件
pretrain_gpt2.py : 训练的主入口点
utils.py : 模型保存和加载工具
参数解析
第一步是在 arguments.py 中使用 deepspeed.add_config_arguments() 将 deepspeed 参数添加到 megatron-lm gpt2 模型中。
初始化和训练
我们将修改 pretrain.py 以启用使用 deepspeed 进行训练。
初始化
我们使用 deepspeed.initialize 创建 model_engine、optimizer 和 lr scheduler。下面是其定义：
def initialize(args, model, optimizer=none, model_parameters=none, training_data=none, lr_scheduler=none, mpu=none, dist_init_required=true, collate_fn=none):
对于 megatron-lm gpt2 模型，我们在其 setup_model_and_optimizer() 函数中进行 deepspeed 初始化，函数传的参数包含原始model、optimizer、args、lr_scheduler 和 mpu。
请注意，当启用fp16时，megatron-lm gpt2会在adam优化器上添加一个包装器。deepspeed有自己的fp16优化器，因此我们需要直接将adam优化器传递给deepspeed，而不需要任何包装器。当启用deepspeed时，我们从 get_optimizer() 返回未包装的adam优化器。
使用训练api
由 deepspeed.initialize 返回的模型是 deepspeed 模型引擎，我们将基于该引擎使用 forward、backward 和 step api 训练模型。
前向传播
前向传播api与pytorch兼容，不需要进行任何更改。
反向传播
通过在模型引擎上直接调用 backward(loss) 来进行反向传播。
def backward_step(optimizer, model, lm_loss, args, timers): backward step. # total loss. loss = lm_loss # backward pass. if args.deepspeed: model.backward(loss) else: optimizer.zero_grad() if args.fp16: optimizer.backward(loss, update_master_grads=false) else: loss.backward()
deepspeed会在使用小批量更新权重后自动处理梯度清零。此外，deepspeed在内部解决了分布式数据并行和fp16，简化了多个地方的代码。
(a) deepspeed 还在梯度累积边界处自动执行梯度平均，因此我们跳过allreduce通信。
if args.deepspeed: # deepspeed反向传播已经处理了allreduce通信。重置计时器以避免破坏下面的计时器日志。 timers('allreduce').reset() else: torch.distributed.all_reduce(reduced_losses.data) reduced_losses.data = reduced_losses.data / args.world_size if not use_torch_ddp: timers('allreduce').start() model.allreduce_params(reduce_after=false, fp32_allreduce=args.fp32_allreduce) timers('allreduce').stop()
(b) 我们也跳过更新主节点梯度，因为deepspeed在内部解决了这个问题。
# update master gradients. if not args.deepspeed: if args.fp16: optimizer.update_master_grads() # clipping gradients helps prevent the exploding gradient. if args.clip_grad > 0: if not args.fp16: mpu.clip_grad_norm(model.parameters(), args.clip_grad) else: optimizer.clip_master_grads(args.clip_grad) return lm_loss_reduced
更新模型参数
deepspeed引擎中的 step() 函数更新模型参数以及学习率。
if args.deepspeed: model.step() else: optimizer.step() # update learning rate. if not (args.fp16 and optimizer.overflow): lr_scheduler.step() else: skipped_iter = 1
损失缩放
gpt2训练脚本在训练过程中记录了损失缩放值。在deepspeed优化器内部，该值存储为 cur_scale，而不是megatron的优化器中的 loss_scale。因此，我们在日志字符串中适当地进行了替换。
if args.fp16: log_string += ' loss scale {:.1f} |'.format( optimizer.cur_scale if args.deepspeed else optimizer.loss_scale)
检查点保存和加载
deepspeed引擎具有灵活的api，用于保存和加载检查点，以处理来自客户端模型和其自身内部的状态。
def save_checkpoint(self, save_dir, tag, client_state={})def load_checkpoint(self, load_dir, tag)
要使用deepspeed，我们需要更新utils.py，它是megatron-lm gpt2保存和加载检查点的脚本。
创建一个新的函数 save_ds_checkpoint()，如下所示。新函数收集客户端模型状态，并通过调用deepspeed的 save_checkpoint() 将其传递给deepspeed引擎。
def save_ds_checkpoint(iteration, model, args): save a model checkpoint. sd = {} sd['iteration'] = iteration # rng states. if not args.no_save_rng: sd['random_rng_state'] = random.getstate() sd['np_rng_state'] = np.random.get_state() sd['torch_rng_state'] = torch.get_rng_state() sd['cuda_rng_state'] = get_accelerator().get_rng_state() sd['rng_tracker_states'] = mpu.get_cuda_rng_tracker().get_states() model.save_checkpoint(args.save, iteration, client_state = sd)
在 megatron-lm gpt2 的 save_checkpoint() 函数中，添加以下行以调用上述 deepspeed 函数。
def save_checkpoint(iteration, model, optimizer, lr_scheduler, args): save a model checkpoint. if args.deepspeed: save_ds_checkpoint(iteration, model, args) else: ......
在 load_checkpoint() 函数中，使用以下 deepspeed 检查点加载api，并返回客户端模型的状态。
def load_checkpoint(model, optimizer, lr_scheduler, args): load a model checkpoint. iteration, release = get_checkpoint_iteration(args) if args.deepspeed: checkpoint_name, sd = model.load_checkpoint(args.load, iteration) if checkpoint_name is none: if mpu.get_data_parallel_rank() == 0: print(unable to load checkpoint.) return iteration else: ......
deepspeed activation checkpoints（可选）
deepspeed可以通过在模型并行gpu之间划分激活检查点或者将其转移到cpu来减少模型并行训练过程中激活的内存消耗。这些优化措施是可选的,除非激活内存成为瓶颈,否则可以跳过。要启用activation checkpoint,我们使用deepspeed.checkpointing api来替换megatron的activation checkpoint和随机状态跟踪器api。这个替换应该发生在首次调用这些api之前。
a) 替换 pretrain_gpt.py 中的：
# optional deepspeed activation checkpointing features # if args.deepspeed and args.deepspeed_activation_checkpointing: set_deepspeed_activation_checkpointing(args)def set_deepspeed_activation_checkpointing(args): deepspeed.checkpointing.configure(mpu, deepspeed_config=args.deepspeed_config, partition_activation=true) mpu.checkpoint = deepspeed.checkpointing.checkpoint mpu.get_cuda_rng_tracker = deepspeed.checkpointing.get_cuda_rng_tracker mpu.model_parallel_cuda_manual_seed = deepspeed.checkpointing.model_parallel_cuda_manual_seed
替换 mpu/transformer.py 中的：
if deepspeed.checkpointing.is_configured(): global get_cuda_rng_tracker, checkpoint get_cuda_rng_tracker = deepspeed.checkpoint.get_cuda_rng_tracker checkpoint = deepspeed.checkpointing.checkpoint
通过这些替换，可以使用 deepspeed.checkpointing.configure 或 deepspeed_config 文件指定各种 deepspeed activation checkpoint优化，例如activation partitioning, contiguous checkpointing 和 cpu checkpointing。
关于deepspeed activation checkpoint的更多信息我们可以参考 https://deepspeed.readthedocs.io/en/latest/activation-checkpointing.html#configuring-activation-checkpointing ，我翻译一下主要的 configure 和 is_configured接口。
deepspeed.checkpointing.configure(mpu_, deepspeed_config=none, partition_activations=none, contiguous_checkpointing=none, num_checkpoints=none, checkpoint_in_cpu=none, synchronize=none, profile=none)
配置 deepspeed activation checkpointing.
参数：
mpu – 可选：一个实现以下方法的对象：get_model_parallel_rank/group/world_size 和 get_data_parallel_rank/group/world_size。 deepspeed_config – 可选：当提供deepspeed配置json文件时，将用于配置deepspeed激活检查点。 partition_activations – 可选：启用后在模型并行gpu之间partitions activation checkpoint。默认为false。如果提供，将覆盖deepspeed_config。 contiguous_checkpointing – 可选：将activation checkpoint复制到一个连续的内存缓冲区中。仅在启用partitions activation checkpoint时与同构检查点一起使用。必须提供num_checkpoints。默认为false。如果提供，将覆盖deepspeed_config。 num_checkpoints – 可选：在模型的前向传播期间存储的activation checkpoint数。用于计算连续checkpoint缓冲区的大小。如果提供，将覆盖deepspeed_config。 checkpoint_in_cpu – 可选：将activation checkpoint移动到cpu。仅在partitions activation checkpoint时工作。默认值为false。如果提供，将覆盖deepspeed_config。 synchronize – 可选：在每次调用deepspeed.checkpointing.checkpoint的前向和反向传递的开始和结束处执行get_accelerator().synchronize()。默认为false。如果提供，将覆盖deepspeed_config。 profile – 可选：记录每个deepspeed.checkpointing.checkpoint调用的前向和反向传播时间。如果提供，将覆盖deepspeed_config。
deepspeed.checkpointing.is_configured()
如果已配置deepspeed activation checkpoint，则为true否则返回false，需要通过调用deepspeed.checkpointing.configure来进行配置。
训练脚本
我们假设在先前的步骤中准备好了 webtext 数据。要开始使用 deepspeed 训练 megatron-lm gpt2 模型，请执行以下命令开始训练。
单gpu运行：bash scripts/ds_pretrain_gpt2.sh
多gpu/节点运行：bash scripts/ds_zero2_pretrain_gpt2_model_parallel.sh
deepspeed 使用 gpt-2 进行评估
deepspeed 通过先进的 zero 优化器有效地训练非常大的模型。在2020年2月，我们在 deepspeed 中发布了 zero 的一部分优化，该优化执行优化器状态切分。我们将其称为 zero-1。在2020年5月，我们在 deepspeed 中扩展了 zero-1，包括来自 zero 的其它优化，包括梯度和激活切分，以及连续内存优化。我们将此版本称为 zero-2。
zero-2显着降低了训练大型模型的内存占用，这意味着可以使用更少的模型并行度和更大的批量大小来训练大型模型。较小的模型并行度通过增加计算的粒度（例如矩阵乘法）来提高训练效率，其中性能与矩阵的大小直接相关。此外，较小的模型并行度还导致模型并行gpu之间的通信更少，进一步提高了性能。较大的批量大小具有类似的效果，增加了计算粒度，并减少了通信，也获得了更好的性能。因此，通过deepspeed和zero-2集成到megatron中，与仅使用megatron相比，我们将模型规模和速度提升到了一个全新的水平。
更具体地说，deepspeed和zero-2在以下四个方面表现出色（如图2所示），支持比现有模型大一个数量级的模型，速度快了多达10倍，具有超线性的可扩展性，并提高了可用性以实现大型模型训练的平民化。以下详细介绍了这四个方面。
模型大小：目前最先进的大型模型，例如openai gpt-2、nvidia megatron-lm、google t5和microsoft turing-nlg，分别具有1.5b、8.3b、11b和17b个参数。zero-2提供了系统支持，可以高效地运行1700亿个参数的模型，比这些最大的模型大一个数量级（图2，左上角）。速度: 改进的内存效率提高了吞吐量和训练速度。图2（左下角）显示了zero-2和zero-1（两者都将由zero驱动的数据并行与nvidia megatron-lm模型并行结合在一起）的系统吞吐量，以及仅使用最先进的模型并行方法megatron-lm（图2，左下方的基准线）。zero-2可以在一个由400个nvidia v100 gpu组成的集群上运行1000亿参数的模型，每个gpu的性能超过38 teraflops，聚合性能超过15 petaflops。对于相同大小的模型，与仅使用megatron-lm相比，zero-2的训练速度快10倍，与zero-1相比快5倍。扩展性: 我们观察到超线性加速（图2，右上角），即当gpu数量翻倍时，性能增长超过两倍。zero-2降低了模型状态的内存占用，使我们可以在每个gpu上容纳更大的批量大小，从而提高了性能。随着数据并行度的增加，zero-2减少了模型状态的内存占用，这也导致了超线性加速的效果。平民化大模型训练: zero-2使模型科学家能够高效地训练高达130亿个参数的模型，而无需进行通常需要模型重构的模型并行（图2，右下角）。130亿个参数比大多数最先进的模型（如具有110亿个参数的google t5）都要大。因此，模型科学家可以自由地尝试大型模型，而不必担心模型并行。相比之下，经典数据并行方法的实现（如pytorch分布式数据并行）在1.4亿个参数的模型上会耗尽内存，而zero-1则支持最多6亿个参数。
此外，在没有模型并行的情况下，这些模型可以在带宽较低的集群上进行训练，同时仍然比使用模型并行获得显着更高的吞吐量。例如，使用40 gbps infiniband互连连接的四个节点集群（每个节点具有四个连接到pci-e的nvidia 16gb v100 gpu），使用zero提供的数据并行比使用模型并行快近4倍，可将gpt-2模型训练得更快。因此，通过这种性能提升，大型模型训练不再仅限于具有超快速互连的gpu集群，而且也可以在带宽有限的中等集群上进行。
目前，megatron的仓库也集成了deepspeed提供的大量feature，所以megatron-deepspeed这个仓库用的人很少，一般还是独立使用megatron或者deepspeed来炼丹。不过这里的教程为我们指出了要将deepspeed用在megatron仓库需要做的修改，我们也可以看到deepspeed的扩展性是还不错的。如果你对deepspeed和megatron的联合使用感兴趣，可以参考下面deepspeedexamples中的例子：https://github.com/microsoft/deepspeedexamples/tree/bdf8e59aede8c8e0577e8d4d557298ca8515268f/megatron-lm
0x2. zero redundancy optimizer （零冗余优化器）
在阅读这个 tutorial 之前可以先浏览一下0x1节，在本教程中，我们将把zero优化器应用于megatron-lm gpt-2模型。zero是一组强大的内存优化技术，可以有效地训练具有数万亿参数的大型模型，如gpt-2和turing-nlg 17b。与其它用于训练大型模型的模型并行方法相比，zero的一个关键优势是不需要对模型代码进行修改。正如本教程将演示的那样，在deepspeed模型中使用zero非常快捷和简单，因为你只需要在deepspeed配置json中更改一些配置即可。不需要进行代码更改。
zero概述
zero利用数据并行的计算和内存资源来降低模型训练所需的每个设备（gpu）的内存和计算要求。zero通过在分布式训练硬件中的可用设备（gpu和cpu）之间分区各种模型训练状态（权重、梯度和优化器状态）来降低每个gpu的内存消耗。具体而言，zero被实现为逐步优化的阶段，其中早期阶段的优化在后期阶段可用。如果您想深入了解zero，请参见zero的论文（https://arxiv.org/abs/1910.02054v3）。
stage 1 。优化器状态（例如adam优化器的32位权重和第一、第二阶矩估计）在进程间被切分，以便每个进程仅更新它持有的部分。
stage 2。用于更新模型权重的32位梯度也被切分，以便每个进程仅保留与其优化器状态部分对应的梯度。
stage 3。16位模型参数被在进程间被切分。zero-3将在前向和后向传递期间自动收集和切分它们。
此外，zero-3还包括无限卸载引擎以形成zero-infinity（https://arxiv.org/abs/2104.07857），可以卸载到cpu和nvme内存以实现巨大的内存节省。
训练环境
我们使用deepspeed megatron-lm gpt-2代码作为例子。你可以按照megatron-lm教程逐步操作，熟悉代码。我们将在配备32gb ram的nvidia tesla v100-sxm3 tensor core gpu（https://www.nvidia.com/en-us/data-center/v100/）上训练本教程中的模型。
开启zero优化
要为deepspeed模型启用zero优化，我们只需要将zero_optimization键添加到deepspeed json配置中。有关zero_optimization键的配置的完整描述，请参见此处(https://www.deepspeed.ai/docs/config-json/#zero-optimizations-for-fp16-training)。
训练一个1.5b参数的gpt2模型
我们通过展示zerostage 1的优点来演示它使得在八个v100 gpu上进行1.5亿参数的gpt-2模型的数据并行训练成为可能。我们将训练配置为每个设备使用1个批次，以确保内存消耗主要由模型参数和优化器状态引起。我们通过对deepspeed启动脚本应用以下修改来创建这个训练场景：
--model-parallel-size 1 --num-layers 48 --hidden-size 1600 --num-attention-heads 16 --batch-size 1 --deepspeed_config ds_zero_stage_1.config
在没有zero的情况下训练这个模型会失败，并显示出内存不足（oom）错误，如下所示：
这个模型不能适应gpu内存的一个重要原因是adam优化器状态消耗了18gb的内存，这是32gb ram的一个相当大的部分。通过使用zero stage1将优化器状态在八个数据并行 rank 之间进行切分，每个设备的内存消耗可以降低到2.25gb，从而使得模型可训练。为了启用zero stage1，我们只需要更新deepspeed json配置文件如下：
{ zero_optimization: { stage: 1, reduce_bucket_size: 5e8 }}
如上所示，我们在zero_optimization键中设置了两个字段。具体来说，我们将stage字段设置为1，并将可选的reduce_bucket_size设置为500m。启用zero stage1后，模型现在可以在8个gpu上平稳地训练，而不会耗尽内存。以下是模型训练的一些屏幕截图：
在这里插入图片描述
从上面的nvidia-smi截图中，我们可以看到只有第6-7个gpu被用于训练模型。通过使用zero stage1，我们可以进一步减少每个设备的内存消耗，通过增加数据并行度来实现这些内存节省，这些内存节省可以用于增加模型大小和/或 batch 大小。相比之下，仅使用数据并行无法实现这样的好处。
训练一个10b的gpt-2模型
zero stage2 优化进一步增加了可以使用数据并行训练的模型大小。我们通过使用32个v100 gpu训练一个具有10b参数的模型来展示这一点。
首先，我们需要配置一个启用了activation checkpoint的10b参数模型。这可以通过对deepspeed启动脚本应用以下gpt-2模型配置更改来完成。
--model-parallel-size 1 --num-layers 50 --hidden-size 4096 --num-attention-heads 32 --batch-size 1 --deepspeed_config ds_zero_stage_2.config --checkpoint-activations
接下来，我们需要更新deepspeed json配置，如下所示，以启用zero stage2优化：
{ zero_optimization: { stage: 2, contiguous_gradients: true, overlap_comm: true, reduce_scatter: true, reduce_bucket_size: 5e8, allgather_bucket_size: 5e8 }}
在上面的更改中，我们将stage字段设置为2，并配置了在zero stage2 中可用的其他优化选项。例如，我们启用了contiguous_gradients，以减少反向传播期间的内存碎片。这些优化设置的完整描述可在（https://www.deepspeed.ai/docs/config-json/#zero-optimizations-for-fp16-training）找到。有了这些更改，我们现在可以启动训练。
以下是训练日志的截图：
以下是训练期间nvidia-smi显示的gpu活动的截图：
在这里插入图片描述
使用zero-infinity训练万亿级别的模型
zero-3是zero的第三个阶段，它可以将完整的模型状态（即权重、梯度和优化器状态）进行切分，以线性地扩展内存节省量和数据并行度。可以在json配置中启用zero-3。这里（https://www.deepspeed.ai/docs/config-json/#zero-optimizations-for-fp16-training）提供了这些配置的完整描述。
使用zero-infinity将计算转移到cpu和nvme
zero-infinity使用deepspeed的无限卸载引擎将完整的模型状态转移到cpu或nvme内存中，从而使更大的模型尺寸成为可能。卸载可以在deepspeed配置中启用：
{ zero_optimization: { stage: 3, contiguous_gradients: true, stage3_max_live_parameters: 1e9, stage3_max_reuse_distance: 1e9, stage3_prefetch_bucket_size: 1e7, stage3_param_persistence_threshold: 1e5, reduce_bucket_size: 1e7, sub_group_size: 1e9, offload_optimizer: { device: cpu }, offload_param: { device: cpu } }}
zero-infinity与zero-offload的区别：deepspeed最初通过zero-offload实现了offload功能，这是一种将优化器和梯度状态转移到zero-2中的cpu内存的系统。zero-infinity是下一代基于zero-3的offload功能。zero-infinity能够比zero-offload更多地卸载数据，并具有更有效的带宽利用和计算与通信的重叠。
分配大规模megatron-lm模型
我们进行了两项进一步的模型初始化更改，以支持超出本地系统内存但未超出总系统内存的模型。
以可扩展内存的方式分配模型。模型参数将被分配并立即切分到数据并行group中。如果remote_device是“cpu”或“nvme”，模型也将被分配到cpu / nvme内存中而不是gpu内存中。有关更多详细信息，请参阅完整的zero-3初始化文档(https://deepspeed.readthedocs.io/en/latest/zero3.html#deepspeed.zero.init)。
with deepspeed.zero.init(data_parallel_group=mpu.get_data_parallel_group(), remote_device=get_args().remote_device, enabled=get_args().zero_stage==3): model = gpt2model(num_tokentypes=0, parallel_output=true)
收集额外的嵌入权重以进行初始化。deepspeed 在 module 的构造函数和前向/反向传递期间会自动收集 module 的参数。但是，如果需要额外的访问，则必须与deepspeed进行协调以确保参数数据被收集并随后被切分。如果修改了张量，则还应使用modifier_rank参数，以确保所有进程对数据有一致的视角。有关更多详细信息，请参阅完整的gatheredparameters文档(https://deepspeed.readthedocs.io/en/latest/zero3.html#deepspeed.zero.gatheredparameters)。
self.position_embeddings = torch.nn.embedding(...) with deepspeed.zero.gatheredparameters(self.position_embeddings.weight, modifier_rank=0): # initialize the position embeddings. self.init_method(self.position_embeddings.weight) ... self.tokentype_embeddings = torch.nn.embedding(...) with deepspeed.zero.gatheredparameters(self.tokentype_embeddings.weight, modifier_rank=0): # initialize the token-type embeddings. self.init_method(self.tokentype_embeddings.weight)
阅读了一下文档，这里的优化就类似于编译器中的公共子表达式消除，由于embeding层在模型中只在init中声明，然后每一层的transformer块都要访问embedding对象的weight，所以可以采用这种声明为公共变量的特殊优化来减少显存占用。
以内存为中心的分块优化
zero-infinity包括一个用于进一步降低内存使用的linear层替代方案。我们可以选择性地对每个transformer层中的模型并行线性层进行分块。请注意，可以通过在构建层时指定相应的基类来将模型并行性和分块相结合。deepspeed.zero.tiledlinear模块利用zero-3的数据获取和释放模式，将一个大的运算符分解成较小的块，可以顺序执行，从而降低工作内存需求。
我们在代码中包含了一个来自megatron-lm的parallelmlp（https://github.com/microsoft/deepspeedexamples/blob/bdf8e59aede8c8e0577e8d4d557298ca8515268f/megatron-lm-v1.1.5-zero3/megatron/model/transformer.py#l82）的示例更改。transformer.py中的另外三个模型并行层的处理方式类似。
megatron-lm的模型并行层具有特殊的形式，其中层的加性bias被延迟，并在forward()中返回，以便与后续运算符融合。deepspeed的deepspeed.zero.tiledlinearreturnbias是tiledlinear的子类，它只是将返回的偏置参数转发而不进行累加。
-self.dense_h_to_4h = mpu.columnparallellinear(+self.dense_h_to_4h = deepspeed.zero.tiledlinearreturnbias( args.hidden_size, 4 * args.hidden_size,+ in_splits=args.tile_factor,+ out_splits=4*args.tile_factor,+ linear_cls=mpu.columnparallellinear, gather_output=false, init_method=init_method, skip_bias_add=true)
注意，我们按比例缩放in_splits和out_splits与input_size和output_size。这会导致固定大小的小块[hidden/tile_factor，hidden/tile_factor]。
提取权重
如果您需要从deepspeed中获取预训练权重，则可以按以下步骤获取fp16权重：
在zero-2下，state_dict包含fp16模型权重，可以使用torch.save正常保存这些权重。
在zero-3下，state_dict仅包含占位符，因为模型权重被切分到多个gpu上。如果你想要获取这些权重，请启用：
zero_optimization: { stage3_gather_16bit_weights_on_model_save: true },
然后使用如下的代码保存模型：
if self.deepspeed: self.deepspeed.save_16bit_model(output_dir, output_file)
因为它需要在一个gpu上合并权重，所以这可能会很慢并且需要大量内存，因此只在需要时使用此功能。
请注意，如果stage3_gather_16bit_weights_on_model_save为false，则不会保存任何权重（因为state_dict中没有这些权重）。你也可以使用此方法保存zero-2权重。
如果你想获取fp32权重，我们提供了一种特殊的脚本，可以进行离线合并。它不需要配置文件或gpu。以下是其使用示例：
$ cd /path/to/checkpoint_dir$ ./zero_to_fp32.py . pytorch_model.binprocessing zero checkpoint at global_step1detected checkpoint of type zero stage 3, world_size: 2saving fp32 state dict to pytorch_model.bin (total_numel=60506624)
当你保存checkpoint时，zero_to_fp32.py脚本会自动生成。注意：目前该脚本使用的内存（通用ram）是最终checkpoint大小的两倍。
或者，如果你有足够的cpu内存，并且想要将模型更新为其fp32权重，您可以在训练结束时执行以下操作：
from deepspeed.utils.zero_to_fp32 import load_state_dict_from_zero_checkpoint fp32_model = load_state_dict_from_zero_checkpoint(deepspeed.module, checkpoint_dir)
请注意，该模型适合保存，但不再适合继续训练，并且需要重新执行deepspeed.initialize()。如果你只想要state_dict，可以执行以下操作：
from deepspeed.utils.zero_to_fp32 import get_fp32_state_dict_from_zero_checkpoint state_dict = get_fp32_state_dict_from_zero_checkpoint(checkpoint_dir)
0x3. zero-offload
zero-offload有一篇介绍的博客（https://www.microsoft.com/en-us/research/blog/zero-infinity-and-deepspeed-unlocking-unprecedented-model-scale-for-deep-learning-training/），本来想翻译下发现智源的一篇博客基本算是翻译版本了，所以大家可以看这篇中文版的zero-offload博客 https://hub.baai.ac.cn/view/7905。这里做一下zero-offload的教程翻译。
zero-offload 是一种 zero 优化，它将优化器内存和计算从gpu转移到主机cpu。 zero-offload 可以在单个gpu上高效地训练具有多达130亿个参数的大模型。在本教程中，我们将使用 zero-offload 在 deepspeed 中训练一个具有100亿个参数的 gpt-2 模型。此外，在 deepspeed 模型中使用 zero-offload 很快很容易，因为你只需要在 deepspeed 配置json中更改一些配置即可，无需进行代码更改。
zero-offload概述
对于大型模型训练，如adam等优化器可能会消耗大量gpu计算和内存资源。zero-offload通过利用主机cpu的计算和内存资源执行优化器来减少此类模型的gpu计算和内存要求。此外，为了防止优化器成为瓶颈，zero-offload使用deepspeed高度优化的cpu adam实现，称为deepspeedcpuadam（https://github.com/microsoft/deepspeed/tree/master/deepspeed/ops/adam）。 deepspeedcpuadam比标准的pytorch实现快5倍到7倍。要深入了解zero-offload的设计和性能，请参阅我们的博客文章（就是上面提到的）。截图：
在这里插入图片描述
训练环境
在本教程中，我们将使用 deepspeed megatron-lm gpt-2 代码配置一个具有 100 亿参数的 gpt-2 模型。如果你之前没有使用过 megatron-lm，请建议你先完成 megatron-lm 教程（也就是本文中的0x1节）。我们将使用一张 nvidia tesla v100-sxm3 tensor core gpu，其具有 32gb 的内存。
在单个 v100 gpu 上训练10b的gpt2模型
我们需要对 megatron-lm 的启动脚本和 deepspeed 配置 json 进行更改。
megatron-lm gpt-2 的启动脚本更改：
我们需要对 deepspeed megatron-lm gpt-2 模型的启动脚本进行两个更改。第一个更改是配置一个启用activation checkpointing的 10b 参数 gpt-2 模型，可以通过以下一组更改来实现：
--model-parallel-size 1 --num-layers 50 --hidden-size 4096 --num-attention-heads 32 --batch-size 10 --deepspeed_config ds_zero_offload.config --checkpoint-activations
如果你已经完成了 megatron-lm 教程，上述更改中的大多数标志应该是熟悉的。
其次，我们需要应用以下更改，以确保只使用一个gpu进行训练。
deepspeed --num_nodes 1 --num_gpus 1 ...
deepspeed 配置更改
zero-offload 利用了一些 zero stage 1和 stage 2 机制，因此启用 zero-offload 需要的配置更改是启用 zero stage 1和 stage 2 所需的扩展。下面是启用 zero-offload 的 zero_optimization 配置：
{ zero_optimization: { stage: 2, offload_optimizer: { device: cpu, } contiguous_gradients: true, overlap_comm: true }}
如上所述，除了将stage字段设置为2（启用zero stage 2，但stage 1也可以），我们还需要将offload_optimizer设备设置为cpu以启用zero-offload优化。此外，我们可以设置其他zero stage 2优化标志，例如overlap_comm来调整zero-offload性能。通过这些更改，我们现在可以运行模型。我们在下面分享了一些训练的截图。
以下是 nvidia-smi 的截图，显示仅在训练期间激活了 gpu 0
在这里插入图片描述
最后，以下是 htop 的截图，显示了在优化器计算期间主机cpu和内存的活动情况：
在这里插入图片描述
0x4. 总结
本篇文章主要翻译了deepspeed里面和zero相关的技术教程，对deepspeed感兴趣的读者可以对照官方文档学习一下。
XL6019升压模块工作原理解析
工信部发布《智能制造发展指数报告》
布里渊散射型分布式光纤温度传感器频域分析法
IM3、IIP3、OIP3、G、P1dB指标之间的关系
气体涡轮流量计的应用场合及工作原理
DeepSpeed里面和Zero相关技术教程
eTopus高速收发器架构推出，实现降低系统成本和功耗
NOP指令实现过程
看懂低压降稳压器(LDO)一篇就够了
华为腕上穿戴设备成功问鼎世界第一
回顾2018：汽车产业史上最动荡一年
薄膜表面瑕疵在线检测仪的优点是什么
A/D转换实验
主板上的各种插针详解
Vim中默认未启用但实际非常有用的选项
三相电动机编程控制工作原理及方案
选用弱电线缆阻燃等级时需考虑哪些方面
功率表如何校准_功率分析仪校准规范
学习HTML和CSS的5大理由
小米6最新消息：高通骁龙835、8+256GB内存、双摄，小米6售2899元！
设置训练数据
运行未修改的megatron-lm gpt2模型
开启deepspeed
deepspeed 使用 gpt-2 进行评估
zero概述
训练环境
开启zero优化
训练一个1.5b参数的gpt2模型
训练一个10b的gpt-2模型
使用zero-infinity训练万亿级别的模型
使用zero-infinity将计算转移到cpu和nvme
分配大规模megatron-lm模型
以内存为中心的分块优化
提取权重
zero-offload概述
训练环境
在单个 v100 gpu 上训练10b的gpt2模型
megatron-lm gpt-2 的启动脚本更改：
deepspeed 配置更改
0x0. 前言
这篇文章主要翻译deepspeed的megatron-lm gpt2 ，zero零冗余优化器技术，zero-offload技术。关于deepspeed 的zero和zero-offload的技术原理大家也可以查看图解大模型训练之：数据并行下篇(zero，零冗余优化) 这篇文章，文章里面对内存的计算和通信量的分析都很棒。
0x1. megatron-lm gpt2
如果你还没有阅读过入门指南，我们建议你在开始本教程之前先阅读该指南（https://www.deepspeed.ai/getting-started/ 这个指南的翻译在 【deepspeed 教程翻译】开始，安装细节和cifar-10 tutorial）。
在本教程中，我们将向 megatron-lm gpt2 模型添加 deepspeed，megatron-lm gpt2 是一个大而强的 transformer。megatron-lm 支持模型并行和多节点训练。有关更多详细信息，请参阅相应的论文：megatron-lm: training multi-billion parameter language models using model parallelism（https://arxiv.org/abs/1909.08053）。
首先，我们讨论数据和环境设置，以及如何使用原始的megatron-lm训练gpt-2模型。接下来，我们逐步介绍如何使用deepspeed使该模型运行。最后，我们演示使用deepspeed所获得的性能提升和内存占用减少。
使用原始的 megatron-lm 训练 gpt2
我们将原始的megatron-lm（https://github.com/nvidia/megatron-lm）模型代码复制到deepspeed megatron-lm（https://github.com/microsoft/megatron-deepspeed）中，并将其作为子模块提供。要下载，请执行以下操作：
git submodule update --init --recursive
设置训练数据
按照megatron的说明（https://github.com/nvidia/megatron-lm#collecting-gpt-webtext-data）下载webtext数据，并在deepspeedexamples/megatron-lm/data(在最新版本的deepspeedexamples中可以放置在 /home/zhangxiaoyu/deepspeedexamples/training/megatron )下放置一个符号链接。
运行未修改的megatron-lm gpt2模型
对于单块gpu：
修改 scripts/pretrain_gpt2.sh，将其 --train-data 参数设置为 webtext。
运行 bash scripts/pretrain_gpt2.sh
对于多个节点和多个gpu：
修改 scripts/pretrain_gpt2_model_parallel.sh
将其 --train-data 参数设置为 webtext。
gpus_per_node 指示了测试中每个节点使用的gpu数量。
nnodes 指示了测试中涉及的节点数量。
执行 bash scripts/pretrain_gpt2_model_parallel.sh
开启deepspeed
为了用上deepspeed需要更新三个文件：
arguments.py : 参数配置文件
pretrain_gpt2.py : 训练的主入口点
utils.py : 模型保存和加载工具
参数解析
第一步是在 arguments.py 中使用 deepspeed.add_config_arguments() 将 deepspeed 参数添加到 megatron-lm gpt2 模型中。
初始化和训练
我们将修改 pretrain.py 以启用使用 deepspeed 进行训练。
初始化
我们使用 deepspeed.initialize 创建 model_engine、optimizer 和 lr scheduler。下面是其定义：
def initialize(args, model, optimizer=none, model_parameters=none, training_data=none, lr_scheduler=none, mpu=none, dist_init_required=true, collate_fn=none):
对于 megatron-lm gpt2 模型，我们在其 setup_model_and_optimizer() 函数中进行 deepspeed 初始化，函数传的参数包含原始model、optimizer、args、lr_scheduler 和 mpu。
请注意，当启用fp16时，megatron-lm gpt2会在adam优化器上添加一个包装器。deepspeed有自己的fp16优化器，因此我们需要直接将adam优化器传递给deepspeed，而不需要任何包装器。当启用deepspeed时，我们从 get_optimizer() 返回未包装的adam优化器。
使用训练api
由 deepspeed.initialize 返回的模型是 deepspeed 模型引擎，我们将基于该引擎使用 forward、backward 和 step api 训练模型。
前向传播
前向传播api与pytorch兼容，不需要进行任何更改。
反向传播
通过在模型引擎上直接调用 backward(loss) 来进行反向传播。
def backward_step(optimizer, model, lm_loss, args, timers): backward step. # total loss. loss = lm_loss # backward pass. if args.deepspeed: model.backward(loss) else: optimizer.zero_grad() if args.fp16: optimizer.backward(loss, update_master_grads=false) else: loss.backward()
deepspeed会在使用小批量更新权重后自动处理梯度清零。此外，deepspeed在内部解决了分布式数据并行和fp16，简化了多个地方的代码。
(a) deepspeed 还在梯度累积边界处自动执行梯度平均，因此我们跳过allreduce通信。
if args.deepspeed: # deepspeed反向传播已经处理了allreduce通信。重置计时器以避免破坏下面的计时器日志。 timers('allreduce').reset() else: torch.distributed.all_reduce(reduced_losses.data) reduced_losses.data = reduced_losses.data / args.world_size if not use_torch_ddp: timers('allreduce').start() model.allreduce_params(reduce_after=false, fp32_allreduce=args.fp32_allreduce) timers('allreduce').stop()
(b) 我们也跳过更新主节点梯度，因为deepspeed在内部解决了这个问题。
# update master gradients. if not args.deepspeed: if args.fp16: optimizer.update_master_grads() # clipping gradients helps prevent the exploding gradient. if args.clip_grad > 0: if not args.fp16: mpu.clip_grad_norm(model.parameters(), args.clip_grad) else: optimizer.clip_master_grads(args.clip_grad) return lm_loss_reduced
更新模型参数
deepspeed引擎中的 step() 函数更新模型参数以及学习率。
if args.deepspeed: model.step() else: optimizer.step() # update learning rate. if not (args.fp16 and optimizer.overflow): lr_scheduler.step() else: skipped_iter = 1
损失缩放
gpt2训练脚本在训练过程中记录了损失缩放值。在deepspeed优化器内部，该值存储为 cur_scale，而不是megatron的优化器中的 loss_scale。因此，我们在日志字符串中适当地进行了替换。
if args.fp16: log_string += ' loss scale {:.1f} |'.format( optimizer.cur_scale if args.deepspeed else optimizer.loss_scale)
检查点保存和加载
deepspeed引擎具有灵活的api，用于保存和加载检查点，以处理来自客户端模型和其自身内部的状态。
def save_checkpoint(self, save_dir, tag, client_state={})def load_checkpoint(self, load_dir, tag)
要使用deepspeed，我们需要更新utils.py，它是megatron-lm gpt2保存和加载检查点的脚本。
创建一个新的函数 save_ds_checkpoint()，如下所示。新函数收集客户端模型状态，并通过调用deepspeed的 save_checkpoint() 将其传递给deepspeed引擎。
def save_ds_checkpoint(iteration, model, args): save a model checkpoint. sd = {} sd['iteration'] = iteration # rng states. if not args.no_save_rng: sd['random_rng_state'] = random.getstate() sd['np_rng_state'] = np.random.get_state() sd['torch_rng_state'] = torch.get_rng_state() sd['cuda_rng_state'] = get_accelerator().get_rng_state() sd['rng_tracker_states'] = mpu.get_cuda_rng_tracker().get_states() model.save_checkpoint(args.save, iteration, client_state = sd)
在 megatron-lm gpt2 的 save_checkpoint() 函数中，添加以下行以调用上述 deepspeed 函数。
def save_checkpoint(iteration, model, optimizer, lr_scheduler, args): save a model checkpoint. if args.deepspeed: save_ds_checkpoint(iteration, model, args) else: ......
在 load_checkpoint() 函数中，使用以下 deepspeed 检查点加载api，并返回客户端模型的状态。
def load_checkpoint(model, optimizer, lr_scheduler, args): load a model checkpoint. iteration, release = get_checkpoint_iteration(args) if args.deepspeed: checkpoint_name, sd = model.load_checkpoint(args.load, iteration) if checkpoint_name is none: if mpu.get_data_parallel_rank() == 0: print(unable to load checkpoint.) return iteration else: ......
deepspeed activation checkpoints（可选）
deepspeed可以通过在模型并行gpu之间划分激活检查点或者将其转移到cpu来减少模型并行训练过程中激活的内存消耗。这些优化措施是可选的,除非激活内存成为瓶颈,否则可以跳过。要启用activation checkpoint,我们使用deepspeed.checkpointing api来替换megatron的activation checkpoint和随机状态跟踪器api。这个替换应该发生在首次调用这些api之前。
a) 替换 pretrain_gpt.py 中的：
# optional deepspeed activation checkpointing features # if args.deepspeed and args.deepspeed_activation_checkpointing: set_deepspeed_activation_checkpointing(args)def set_deepspeed_activation_checkpointing(args): deepspeed.checkpointing.configure(mpu, deepspeed_config=args.deepspeed_config, partition_activation=true) mpu.checkpoint = deepspeed.checkpointing.checkpoint mpu.get_cuda_rng_tracker = deepspeed.checkpointing.get_cuda_rng_tracker mpu.model_parallel_cuda_manual_seed = deepspeed.checkpointing.model_parallel_cuda_manual_seed
替换 mpu/transformer.py 中的：
if deepspeed.checkpointing.is_configured(): global get_cuda_rng_tracker, checkpoint get_cuda_rng_tracker = deepspeed.checkpoint.get_cuda_rng_tracker checkpoint = deepspeed.checkpointing.checkpoint
通过这些替换，可以使用 deepspeed.checkpointing.configure 或 deepspeed_config 文件指定各种 deepspeed activation checkpoint优化，例如activation partitioning, contiguous checkpointing 和 cpu checkpointing。
关于deepspeed activation checkpoint的更多信息我们可以参考 https://deepspeed.readthedocs.io/en/latest/activation-checkpointing.html#configuring-activation-checkpointing ，我翻译一下主要的 configure 和 is_configured接口。
deepspeed.checkpointing.configure(mpu_, deepspeed_config=none, partition_activations=none, contiguous_checkpointing=none, num_checkpoints=none, checkpoint_in_cpu=none, synchronize=none, profile=none)
配置 deepspeed activation checkpointing.
参数：
mpu – 可选：一个实现以下方法的对象：get_model_parallel_rank/group/world_size 和 get_data_parallel_rank/group/world_size。 deepspeed_config – 可选：当提供deepspeed配置json文件时，将用于配置deepspeed激活检查点。 partition_activations – 可选：启用后在模型并行gpu之间partitions activation checkpoint。默认为false。如果提供，将覆盖deepspeed_config。 contiguous_checkpointing – 可选：将activation checkpoint复制到一个连续的内存缓冲区中。仅在启用partitions activation checkpoint时与同构检查点一起使用。必须提供num_checkpoints。默认为false。如果提供，将覆盖deepspeed_config。 num_checkpoints – 可选：在模型的前向传播期间存储的activation checkpoint数。用于计算连续checkpoint缓冲区的大小。如果提供，将覆盖deepspeed_config。 checkpoint_in_cpu – 可选：将activation checkpoint移动到cpu。仅在partitions activation checkpoint时工作。默认值为false。如果提供，将覆盖deepspeed_config。 synchronize – 可选：在每次调用deepspeed.checkpointing.checkpoint的前向和反向传递的开始和结束处执行get_accelerator().synchronize()。默认为false。如果提供，将覆盖deepspeed_config。 profile – 可选：记录每个deepspeed.checkpointing.checkpoint调用的前向和反向传播时间。如果提供，将覆盖deepspeed_config。
deepspeed.checkpointing.is_configured()
如果已配置deepspeed activation checkpoint，则为true否则返回false，需要通过调用deepspeed.checkpointing.configure来进行配置。
训练脚本
我们假设在先前的步骤中准备好了 webtext 数据。要开始使用 deepspeed 训练 megatron-lm gpt2 模型，请执行以下命令开始训练。
单gpu运行：bash scripts/ds_pretrain_gpt2.sh
多gpu/节点运行：bash scripts/ds_zero2_pretrain_gpt2_model_parallel.sh
deepspeed 使用 gpt-2 进行评估
deepspeed 通过先进的 zero 优化器有效地训练非常大的模型。在2020年2月，我们在 deepspeed 中发布了 zero 的一部分优化，该优化执行优化器状态切分。我们将其称为 zero-1。在2020年5月，我们在 deepspeed 中扩展了 zero-1，包括来自 zero 的其它优化，包括梯度和激活切分，以及连续内存优化。我们将此版本称为 zero-2。
zero-2显着降低了训练大型模型的内存占用，这意味着可以使用更少的模型并行度和更大的批量大小来训练大型模型。较小的模型并行度通过增加计算的粒度（例如矩阵乘法）来提高训练效率，其中性能与矩阵的大小直接相关。此外，较小的模型并行度还导致模型并行gpu之间的通信更少，进一步提高了性能。较大的批量大小具有类似的效果，增加了计算粒度，并减少了通信，也获得了更好的性能。因此，通过deepspeed和zero-2集成到megatron中，与仅使用megatron相比，我们将模型规模和速度提升到了一个全新的水平。
更具体地说，deepspeed和zero-2在以下四个方面表现出色（如图2所示），支持比现有模型大一个数量级的模型，速度快了多达10倍，具有超线性的可扩展性，并提高了可用性以实现大型模型训练的平民化。以下详细介绍了这四个方面。
模型大小：目前最先进的大型模型，例如openai gpt-2、nvidia megatron-lm、google t5和microsoft turing-nlg，分别具有1.5b、8.3b、11b和17b个参数。zero-2提供了系统支持，可以高效地运行1700亿个参数的模型，比这些最大的模型大一个数量级（图2，左上角）。速度: 改进的内存效率提高了吞吐量和训练速度。图2（左下角）显示了zero-2和zero-1（两者都将由zero驱动的数据并行与nvidia megatron-lm模型并行结合在一起）的系统吞吐量，以及仅使用最先进的模型并行方法megatron-lm（图2，左下方的基准线）。zero-2可以在一个由400个nvidia v100 gpu组成的集群上运行1000亿参数的模型，每个gpu的性能超过38 teraflops，聚合性能超过15 petaflops。对于相同大小的模型，与仅使用megatron-lm相比，zero-2的训练速度快10倍，与zero-1相比快5倍。扩展性: 我们观察到超线性加速（图2，右上角），即当gpu数量翻倍时，性能增长超过两倍。zero-2降低了模型状态的内存占用，使我们可以在每个gpu上容纳更大的批量大小，从而提高了性能。随着数据并行度的增加，zero-2减少了模型状态的内存占用，这也导致了超线性加速的效果。平民化大模型训练: zero-2使模型科学家能够高效地训练高达130亿个参数的模型，而无需进行通常需要模型重构的模型并行（图2，右下角）。130亿个参数比大多数最先进的模型（如具有110亿个参数的google t5）都要大。因此，模型科学家可以自由地尝试大型模型，而不必担心模型并行。相比之下，经典数据并行方法的实现（如pytorch分布式数据并行）在1.4亿个参数的模型上会耗尽内存，而zero-1则支持最多6亿个参数。
此外，在没有模型并行的情况下，这些模型可以在带宽较低的集群上进行训练，同时仍然比使用模型并行获得显着更高的吞吐量。例如，使用40 gbps infiniband互连连接的四个节点集群（每个节点具有四个连接到pci-e的nvidia 16gb v100 gpu），使用zero提供的数据并行比使用模型并行快近4倍，可将gpt-2模型训练得更快。因此，通过这种性能提升，大型模型训练不再仅限于具有超快速互连的gpu集群，而且也可以在带宽有限的中等集群上进行。
目前，megatron的仓库也集成了deepspeed提供的大量feature，所以megatron-deepspeed这个仓库用的人很少，一般还是独立使用megatron或者deepspeed来炼丹。不过这里的教程为我们指出了要将deepspeed用在megatron仓库需要做的修改，我们也可以看到deepspeed的扩展性是还不错的。如果你对deepspeed和megatron的联合使用感兴趣，可以参考下面deepspeedexamples中的例子：https://github.com/microsoft/deepspeedexamples/tree/bdf8e59aede8c8e0577e8d4d557298ca8515268f/megatron-lm
0x2. zero redundancy optimizer （零冗余优化器）
在阅读这个 tutorial 之前可以先浏览一下0x1节，在本教程中，我们将把zero优化器应用于megatron-lm gpt-2模型。zero是一组强大的内存优化技术，可以有效地训练具有数万亿参数的大型模型，如gpt-2和turing-nlg 17b。与其它用于训练大型模型的模型并行方法相比，zero的一个关键优势是不需要对模型代码进行修改。正如本教程将演示的那样，在deepspeed模型中使用zero非常快捷和简单，因为你只需要在deepspeed配置json中更改一些配置即可。不需要进行代码更改。
zero概述
zero利用数据并行的计算和内存资源来降低模型训练所需的每个设备（gpu）的内存和计算要求。zero通过在分布式训练硬件中的可用设备（gpu和cpu）之间分区各种模型训练状态（权重、梯度和优化器状态）来降低每个gpu的内存消耗。具体而言，zero被实现为逐步优化的阶段，其中早期阶段的优化在后期阶段可用。如果您想深入了解zero，请参见zero的论文（https://arxiv.org/abs/1910.02054v3）。
stage 1 。优化器状态（例如adam优化器的32位权重和第一、第二阶矩估计）在进程间被切分，以便每个进程仅更新它持有的部分。
stage 2。用于更新模型权重的32位梯度也被切分，以便每个进程仅保留与其优化器状态部分对应的梯度。
stage 3。16位模型参数被在进程间被切分。zero-3将在前向和后向传递期间自动收集和切分它们。
此外，zero-3还包括无限卸载引擎以形成zero-infinity（https://arxiv.org/abs/2104.07857），可以卸载到cpu和nvme内存以实现巨大的内存节省。
训练环境
我们使用deepspeed megatron-lm gpt-2代码作为例子。你可以按照megatron-lm教程逐步操作，熟悉代码。我们将在配备32gb ram的nvidia tesla v100-sxm3 tensor core gpu（https://www.nvidia.com/en-us/data-center/v100/）上训练本教程中的模型。
开启zero优化
要为deepspeed模型启用zero优化，我们只需要将zero_optimization键添加到deepspeed json配置中。有关zero_optimization键的配置的完整描述，请参见此处(https://www.deepspeed.ai/docs/config-json/#zero-optimizations-for-fp16-training)。
训练一个1.5b参数的gpt2模型
我们通过展示zerostage 1的优点来演示它使得在八个v100 gpu上进行1.5亿参数的gpt-2模型的数据并行训练成为可能。我们将训练配置为每个设备使用1个批次，以确保内存消耗主要由模型参数和优化器状态引起。我们通过对deepspeed启动脚本应用以下修改来创建这个训练场景：
--model-parallel-size 1 --num-layers 48 --hidden-size 1600 --num-attention-heads 16 --batch-size 1 --deepspeed_config ds_zero_stage_1.config
在没有zero的情况下训练这个模型会失败，并显示出内存不足（oom）错误，如下所示：
这个模型不能适应gpu内存的一个重要原因是adam优化器状态消耗了18gb的内存，这是32gb ram的一个相当大的部分。通过使用zero stage1将优化器状态在八个数据并行 rank 之间进行切分，每个设备的内存消耗可以降低到2.25gb，从而使得模型可训练。为了启用zero stage1，我们只需要更新deepspeed json配置文件如下：
{ zero_optimization: { stage: 1, reduce_bucket_size: 5e8 }}
如上所示，我们在zero_optimization键中设置了两个字段。具体来说，我们将stage字段设置为1，并将可选的reduce_bucket_size设置为500m。启用zero stage1后，模型现在可以在8个gpu上平稳地训练，而不会耗尽内存。以下是模型训练的一些屏幕截图：
在这里插入图片描述
从上面的nvidia-smi截图中，我们可以看到只有第6-7个gpu被用于训练模型。通过使用zero stage1，我们可以进一步减少每个设备的内存消耗，通过增加数据并行度来实现这些内存节省，这些内存节省可以用于增加模型大小和/或 batch 大小。相比之下，仅使用数据并行无法实现这样的好处。
训练一个10b的gpt-2模型
zero stage2 优化进一步增加了可以使用数据并行训练的模型大小。我们通过使用32个v100 gpu训练一个具有10b参数的模型来展示这一点。
首先，我们需要配置一个启用了activation checkpoint的10b参数模型。这可以通过对deepspeed启动脚本应用以下gpt-2模型配置更改来完成。
--model-parallel-size 1 --num-layers 50 --hidden-size 4096 --num-attention-heads 32 --batch-size 1 --deepspeed_config ds_zero_stage_2.config --checkpoint-activations
接下来，我们需要更新deepspeed json配置，如下所示，以启用zero stage2优化：
{ zero_optimization: { stage: 2, contiguous_gradients: true, overlap_comm: true, reduce_scatter: true, reduce_bucket_size: 5e8, allgather_bucket_size: 5e8 }}
在上面的更改中，我们将stage字段设置为2，并配置了在zero stage2 中可用的其他优化选项。例如，我们启用了contiguous_gradients，以减少反向传播期间的内存碎片。这些优化设置的完整描述可在（https://www.deepspeed.ai/docs/config-json/#zero-optimizations-for-fp16-training）找到。有了这些更改，我们现在可以启动训练。
以下是训练日志的截图：
以下是训练期间nvidia-smi显示的gpu活动的截图：
在这里插入图片描述
使用zero-infinity训练万亿级别的模型
zero-3是zero的第三个阶段，它可以将完整的模型状态（即权重、梯度和优化器状态）进行切分，以线性地扩展内存节省量和数据并行度。可以在json配置中启用zero-3。这里（https://www.deepspeed.ai/docs/config-json/#zero-optimizations-for-fp16-training）提供了这些配置的完整描述。
使用zero-infinity将计算转移到cpu和nvme
zero-infinity使用deepspeed的无限卸载引擎将完整的模型状态转移到cpu或nvme内存中，从而使更大的模型尺寸成为可能。卸载可以在deepspeed配置中启用：
{ zero_optimization: { stage: 3, contiguous_gradients: true, stage3_max_live_parameters: 1e9, stage3_max_reuse_distance: 1e9, stage3_prefetch_bucket_size: 1e7, stage3_param_persistence_threshold: 1e5, reduce_bucket_size: 1e7, sub_group_size: 1e9, offload_optimizer: { device: cpu }, offload_param: { device: cpu } }}
zero-infinity与zero-offload的区别：deepspeed最初通过zero-offload实现了offload功能，这是一种将优化器和梯度状态转移到zero-2中的cpu内存的系统。zero-infinity是下一代基于zero-3的offload功能。zero-infinity能够比zero-offload更多地卸载数据，并具有更有效的带宽利用和计算与通信的重叠。
分配大规模megatron-lm模型
我们进行了两项进一步的模型初始化更改，以支持超出本地系统内存但未超出总系统内存的模型。
以可扩展内存的方式分配模型。模型参数将被分配并立即切分到数据并行group中。如果remote_device是“cpu”或“nvme”，模型也将被分配到cpu / nvme内存中而不是gpu内存中。有关更多详细信息，请参阅完整的zero-3初始化文档(https://deepspeed.readthedocs.io/en/latest/zero3.html#deepspeed.zero.init)。
with deepspeed.zero.init(data_parallel_group=mpu.get_data_parallel_group(), remote_device=get_args().remote_device, enabled=get_args().zero_stage==3): model = gpt2model(num_tokentypes=0, parallel_output=true)
收集额外的嵌入权重以进行初始化。deepspeed 在 module 的构造函数和前向/反向传递期间会自动收集 module 的参数。但是，如果需要额外的访问，则必须与deepspeed进行协调以确保参数数据被收集并随后被切分。如果修改了张量，则还应使用modifier_rank参数，以确保所有进程对数据有一致的视角。有关更多详细信息，请参阅完整的gatheredparameters文档(https://deepspeed.readthedocs.io/en/latest/zero3.html#deepspeed.zero.gatheredparameters)。
self.position_embeddings = torch.nn.embedding(...) with deepspeed.zero.gatheredparameters(self.position_embeddings.weight, modifier_rank=0): # initialize the position embeddings. self.init_method(self.position_embeddings.weight) ... self.tokentype_embeddings = torch.nn.embedding(...) with deepspeed.zero.gatheredparameters(self.tokentype_embeddings.weight, modifier_rank=0): # initialize the token-type embeddings. self.init_method(self.tokentype_embeddings.weight)
阅读了一下文档，这里的优化就类似于编译器中的公共子表达式消除，由于embeding层在模型中只在init中声明，然后每一层的transformer块都要访问embedding对象的weight，所以可以采用这种声明为公共变量的特殊优化来减少显存占用。
以内存为中心的分块优化
zero-infinity包括一个用于进一步降低内存使用的linear层替代方案。我们可以选择性地对每个transformer层中的模型并行线性层进行分块。请注意，可以通过在构建层时指定相应的基类来将模型并行性和分块相结合。deepspeed.zero.tiledlinear模块利用zero-3的数据获取和释放模式，将一个大的运算符分解成较小的块，可以顺序执行，从而降低工作内存需求。
我们在代码中包含了一个来自megatron-lm的parallelmlp（https://github.com/microsoft/deepspeedexamples/blob/bdf8e59aede8c8e0577e8d4d557298ca8515268f/megatron-lm-v1.1.5-zero3/megatron/model/transformer.py#l82）的示例更改。transformer.py中的另外三个模型并行层的处理方式类似。
megatron-lm的模型并行层具有特殊的形式，其中层的加性bias被延迟，并在forward()中返回，以便与后续运算符融合。deepspeed的deepspeed.zero.tiledlinearreturnbias是tiledlinear的子类，它只是将返回的偏置参数转发而不进行累加。
-self.dense_h_to_4h = mpu.columnparallellinear(+self.dense_h_to_4h = deepspeed.zero.tiledlinearreturnbias( args.hidden_size, 4 * args.hidden_size,+ in_splits=args.tile_factor,+ out_splits=4*args.tile_factor,+ linear_cls=mpu.columnparallellinear, gather_output=false, init_method=init_method, skip_bias_add=true)
注意，我们按比例缩放in_splits和out_splits与input_size和output_size。这会导致固定大小的小块[hidden/tile_factor，hidden/tile_factor]。
提取权重
如果您需要从deepspeed中获取预训练权重，则可以按以下步骤获取fp16权重：
在zero-2下，state_dict包含fp16模型权重，可以使用torch.save正常保存这些权重。
在zero-3下，state_dict仅包含占位符，因为模型权重被切分到多个gpu上。如果你想要获取这些权重，请启用：
zero_optimization: { stage3_gather_16bit_weights_on_model_save: true },
然后使用如下的代码保存模型：
if self.deepspeed: self.deepspeed.save_16bit_model(output_dir, output_file)
因为它需要在一个gpu上合并权重，所以这可能会很慢并且需要大量内存，因此只在需要时使用此功能。
请注意，如果stage3_gather_16bit_weights_on_model_save为false，则不会保存任何权重（因为state_dict中没有这些权重）。你也可以使用此方法保存zero-2权重。
如果你想获取fp32权重，我们提供了一种特殊的脚本，可以进行离线合并。它不需要配置文件或gpu。以下是其使用示例：
$ cd /path/to/checkpoint_dir$ ./zero_to_fp32.py . pytorch_model.binprocessing zero checkpoint at global_step1detected checkpoint of type zero stage 3, world_size: 2saving fp32 state dict to pytorch_model.bin (total_numel=60506624)
当你保存checkpoint时，zero_to_fp32.py脚本会自动生成。注意：目前该脚本使用的内存（通用ram）是最终checkpoint大小的两倍。
或者，如果你有足够的cpu内存，并且想要将模型更新为其fp32权重，您可以在训练结束时执行以下操作：
from deepspeed.utils.zero_to_fp32 import load_state_dict_from_zero_checkpoint fp32_model = load_state_dict_from_zero_checkpoint(deepspeed.module, checkpoint_dir)
请注意，该模型适合保存，但不再适合继续训练，并且需要重新执行deepspeed.initialize()。如果你只想要state_dict，可以执行以下操作：
from deepspeed.utils.zero_to_fp32 import get_fp32_state_dict_from_zero_checkpoint state_dict = get_fp32_state_dict_from_zero_checkpoint(checkpoint_dir)
0x3. zero-offload
zero-offload有一篇介绍的博客（https://www.microsoft.com/en-us/research/blog/zero-infinity-and-deepspeed-unlocking-unprecedented-model-scale-for-deep-learning-training/），本来想翻译下发现智源的一篇博客基本算是翻译版本了，所以大家可以看这篇中文版的zero-offload博客 https://hub.baai.ac.cn/view/7905。这里做一下zero-offload的教程翻译。
zero-offload 是一种 zero 优化，它将优化器内存和计算从gpu转移到主机cpu。 zero-offload 可以在单个gpu上高效地训练具有多达130亿个参数的大模型。在本教程中，我们将使用 zero-offload 在 deepspeed 中训练一个具有100亿个参数的 gpt-2 模型。此外，在 deepspeed 模型中使用 zero-offload 很快很容易，因为你只需要在 deepspeed 配置json中更改一些配置即可，无需进行代码更改。
zero-offload概述
对于大型模型训练，如adam等优化器可能会消耗大量gpu计算和内存资源。zero-offload通过利用主机cpu的计算和内存资源执行优化器来减少此类模型的gpu计算和内存要求。此外，为了防止优化器成为瓶颈，zero-offload使用deepspeed高度优化的cpu adam实现，称为deepspeedcpuadam（https://github.com/microsoft/deepspeed/tree/master/deepspeed/ops/adam）。 deepspeedcpuadam比标准的pytorch实现快5倍到7倍。要深入了解zero-offload的设计和性能，请参阅我们的博客文章（就是上面提到的）。截图：
在这里插入图片描述
训练环境
在本教程中，我们将使用 deepspeed megatron-lm gpt-2 代码配置一个具有 100 亿参数的 gpt-2 模型。如果你之前没有使用过 megatron-lm，请建议你先完成 megatron-lm 教程（也就是本文中的0x1节）。我们将使用一张 nvidia tesla v100-sxm3 tensor core gpu，其具有 32gb 的内存。
在单个 v100 gpu 上训练10b的gpt2模型
我们需要对 megatron-lm 的启动脚本和 deepspeed 配置 json 进行更改。
megatron-lm gpt-2 的启动脚本更改：
我们需要对 deepspeed megatron-lm gpt-2 模型的启动脚本进行两个更改。第一个更改是配置一个启用activation checkpointing的 10b 参数 gpt-2 模型，可以通过以下一组更改来实现：
--model-parallel-size 1 --num-layers 50 --hidden-size 4096 --num-attention-heads 32 --batch-size 10 --deepspeed_config ds_zero_offload.config --checkpoint-activations
如果你已经完成了 megatron-lm 教程，上述更改中的大多数标志应该是熟悉的。
其次，我们需要应用以下更改，以确保只使用一个gpu进行训练。
deepspeed --num_nodes 1 --num_gpus 1 ...
deepspeed 配置更改
zero-offload 利用了一些 zero stage 1和 stage 2 机制，因此启用 zero-offload 需要的配置更改是启用 zero stage 1和 stage 2 所需的扩展。下面是启用 zero-offload 的 zero_optimization 配置：
{ zero_optimization: { stage: 2, offload_optimizer: { device: cpu, } contiguous_gradients: true, overlap_comm: true }}
如上所述，除了将stage字段设置为2（启用zero stage 2，但stage 1也可以），我们还需要将offload_optimizer设备设置为cpu以启用zero-offload优化。此外，我们可以设置其他zero stage 2优化标志，例如overlap_comm来调整zero-offload性能。通过这些更改，我们现在可以运行模型。我们在下面分享了一些训练的截图。
以下是 nvidia-smi 的截图，显示仅在训练期间激活了 gpu 0
在这里插入图片描述
最后，以下是 htop 的截图，显示了在优化器计算期间主机cpu和内存的活动情况：
在这里插入图片描述
0x4. 总结
本篇文章主要翻译了deepspeed里面和zero相关的技术教程，对deepspeed感兴趣的读者可以对照官方文档学习一下。
XL6019升压模块工作原理解析
工信部发布《智能制造发展指数报告》
布里渊散射型分布式光纤温度传感器频域分析法
IM3、IIP3、OIP3、G、P1dB指标之间的关系
气体涡轮流量计的应用场合及工作原理
DeepSpeed里面和Zero相关技术教程
eTopus高速收发器架构推出，实现降低系统成本和功耗
NOP指令实现过程
看懂低压降稳压器(LDO)一篇就够了
华为腕上穿戴设备成功问鼎世界第一
回顾2018：汽车产业史上最动荡一年
薄膜表面瑕疵在线检测仪的优点是什么
A/D转换实验
主板上的各种插针详解
Vim中默认未启用但实际非常有用的选项
三相电动机编程控制工作原理及方案
选用弱电线缆阻燃等级时需考虑哪些方面
功率表如何校准_功率分析仪校准规范
学习HTML和CSS的5大理由
小米6最新消息：高通骁龙835、8+256GB内存、双摄，小米6售2899元！