vscode调试deepspeed代码

2024-02-05 18:44
文章标签 代码 调试 vscode deepspeed

本文主要是介绍vscode调试deepspeed代码,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

下面展示一个例子:

{"version": "0.2.0","configurations": [{"name": "Python: Debug DeepSpeed","type": "python","request": "launch","program": "/home/upa1/.conda/envs/dsmoe/bin/deepspeed","justMyCode": true,"console": "integratedTerminal","args": ["--num_nodes=1","--num_gpus=1","/data01/cym/Project/MoE/Megatron-DeepSpeed/Megatron-DeepSpeed/tools/generate_samples_gpt.py","--tensor-model-parallel-size", "1","--num-layers", "24","--hidden-size", "1024","--num-attention-heads", "16","--max-position-embeddings", "1024","--tokenizer-type", "GPT2BPETokenizer","--fp16","--num-experts", "1","--mlp-type", "standard","--micro-batch-size", "1","--seq-length", "1024","--out-seq-length", "1024","--temperature", "1.0","--vocab-file", "/data01/cym/Project/MoE/Megatron-DeepSpeed/Megatron-DeepSpeed/dataset/gpt2-vocab.json","--merge-file", "/data01/cym/Project/MoE/Megatron-DeepSpeed/Megatron-DeepSpeed/dataset/gpt2-merges.txt","--genfile", "unconditional_samples.json","--top_p", "0.9","--log-interval", "1","--num-samples", "0","--load", "/data01/cym/Project/MoE/Megatron-DeepSpeed/Megatron-DeepSpeed/dataset/checkpoints/gpt2_345m",]}]
}
  • 其中program需要改成自己deepspeed所在位置,在运行环境中查看方式:which deeespeed
  • args参数改成自己想要的就行。

这篇关于vscode调试deepspeed代码的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/681826

相关文章

Python实例题之pygame开发打飞机游戏实例代码

《Python实例题之pygame开发打飞机游戏实例代码》对于python的学习者,能够写出一个飞机大战的程序代码,是不是感觉到非常的开心,:本文主要介绍Python实例题之pygame开发打飞机... 目录题目pygame-aircraft-game使用 Pygame 开发的打飞机游戏脚本代码解释初始化部

Java中Map.Entry()含义及方法使用代码

《Java中Map.Entry()含义及方法使用代码》:本文主要介绍Java中Map.Entry()含义及方法使用的相关资料,Map.Entry是Java中Map的静态内部接口,用于表示键值对,其... 目录前言 Map.Entry作用核心方法常见使用场景1. 遍历 Map 的所有键值对2. 直接修改 Ma

IDEA如何实现远程断点调试jar包

《IDEA如何实现远程断点调试jar包》:本文主要介绍IDEA如何实现远程断点调试jar包的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录问题步骤总结问题以jar包的形式运行Spring Boot项目时报错,但是在IDEA开发环境javascript下编译

深入解析 Java Future 类及代码示例

《深入解析JavaFuture类及代码示例》JavaFuture是java.util.concurrent包中用于表示异步计算结果的核心接口,下面给大家介绍JavaFuture类及实例代码,感兴... 目录一、Future 类概述二、核心工作机制代码示例执行流程2. 状态机模型3. 核心方法解析行为总结:三

python获取cmd环境变量值的实现代码

《python获取cmd环境变量值的实现代码》:本文主要介绍在Python中获取命令行(cmd)环境变量的值,可以使用标准库中的os模块,需要的朋友可以参考下... 前言全局说明在执行py过程中,总要使用到系统环境变量一、说明1.1 环境:Windows 11 家庭版 24H2 26100.4061

VSCode设置python SDK路径的实现步骤

《VSCode设置pythonSDK路径的实现步骤》本文主要介绍了VSCode设置pythonSDK路径的实现步骤,包括命令面板切换、settings.json配置、环境变量及虚拟环境处理,具有一定... 目录一、通过命令面板快速切换(推荐方法)二、通过 settings.json 配置(项目级/全局)三、

pandas实现数据concat拼接的示例代码

《pandas实现数据concat拼接的示例代码》pandas.concat用于合并DataFrame或Series,本文主要介绍了pandas实现数据concat拼接的示例代码,具有一定的参考价值,... 目录语法示例:使用pandas.concat合并数据默认的concat:参数axis=0,join=

C#代码实现解析WTGPS和BD数据

《C#代码实现解析WTGPS和BD数据》在现代的导航与定位应用中,准确解析GPS和北斗(BD)等卫星定位数据至关重要,本文将使用C#语言实现解析WTGPS和BD数据,需要的可以了解下... 目录一、代码结构概览1. 核心解析方法2. 位置信息解析3. 经纬度转换方法4. 日期和时间戳解析5. 辅助方法二、L

Python使用Code2flow将代码转化为流程图的操作教程

《Python使用Code2flow将代码转化为流程图的操作教程》Code2flow是一款开源工具,能够将代码自动转换为流程图,该工具对于代码审查、调试和理解大型代码库非常有用,在这篇博客中,我们将深... 目录引言1nVflRA、为什么选择 Code2flow?2、安装 Code2flow3、基本功能演示

使用vscode搭建pywebview集成vue项目实践

《使用vscode搭建pywebview集成vue项目实践》:本文主要介绍使用vscode搭建pywebview集成vue项目实践,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录环境准备项目源码下载项目说明调试与生成可执行文件核心代码说明总结本节我们使用pythonpywebv