NVIDIA显卡硬件技术交流整理
527
2022-05-29
第六届Nvidia Sky Hackathon已于2022年5月21日开营。由于张小白不是学生,所以只能参与旁听。
本期的主题AI助力防疫——创建AI“大白”:
主要的场景如下:
这里面涉及到AI的几个技术:
(1)ASR自动语音识别:STEP1 识别你的“你好大白,请让我进入小区。。”语音,并转换为文字。
(2)CV目标检测:STEP2 识别口罩是否已带,识别二维码。
(3)TTS语音合成:STEP2: 语音回复:“请戴好口罩,并出示二维码”。STEP3:语音回复“您好,欢迎回家,二维码有效,请您通过”。
在本次的案例中,我们用到了以下技术:
NVIDIA NeMO:它支持Automatic Speech Recognition (ASR):声纹识别,Natural Language Processing (NLP):自然语言处理,Text-to-Speech (TTS) models:文本转音频。
NVIDIA TAO:Train, TAO是Adapt, and Optimize 训练、适配、优化的缩写。TAO ToolKit是NVIDIA推出的基于GUI工作流程驱动框架,可以简化并加速企业级AI应用和服务的创建。
NVIDIA TensorRT:TRT是用于高性能深度学习推理的 SDK。此 SDK 包含深度学习推理优化器和运行时环境,可为深度学习推理应用提供低延迟和高吞吐量。
通过本次训练营,可以学会以下技能:
为了完成相关任务,我们首先需要搭建环境。
训练营提供了相关环境安装的知识图谱:
众所周知,AI的环境一般包含两套:训练环境和推理环境。
训练环境需要是基于Ubuntu的X86电脑(带NVidia GPU),张小白拟使用 惠普暗影精灵8Plus(使用NVidia GTX 3080 Laptop GPU)作为训练环境。这个环境张小白在《且看张小白如何用暗影精灵玩转MindSpore》系列文章中有介绍如何安装双系统:
(一)开箱、拆机加装硬盘 https://bbs.huaweicloud.com/blogs/309887
(二)Windows 11预览版和ubuntu 18.04.5双系统共存 https://bbs.huaweicloud.com/blogs/309888
(三)3080的崛起 https://bbs.huaweicloud.com/blogs/309891
以上文章介绍了从零开始(零——就是你只有一个Windows系统)搭建ubuntu x86环境,并安装Nvidia驱动、CUDA和cuDNN的全过程。
推理环境需要是基于Ubuntu aarch64的Jetson Nano,张小白拟使用Jetson Nano B01 作为推理环境。但这次不使用自己制作的环境,而是采用训练营提供的镜像环境。
后者比较简单,先介绍一下。
训练营提供了 10G大小的Jetson Nano镜像:
使用balenaEtcher打开这个gz文件刻录到TF卡上即可。张小白找了一张32G的TF卡完成了刻录,然后将刻录好的TF卡放入Nano的TF卡槽,并接上网线:
开机启动系统:
这个系统是训练营特制的,没有图形界面,输入用户名和密码:nvidia/nvidia即可完成登录。
使用jtop可以看到它的版本是JetPack 4.4:
查看下Nano的IP地址是192.168.1.118:
所以在暗影精灵的X86 ubuntu上可以使用浏览器打开 http://192.168.199.118:8888
输入密码nvidia,即可进入jupyter环境:
(未完待续)
AI Ubuntu 机器学习 深度学习
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。