ai,特别是生成式ai已经成为科技圈最热门的话题之一。chatgpt、midjourney、newbing、stable diffusion、firefly ai、文心一言、360智脑、通义千问……你就算没有用过这些热门的ai工具,至少也在朋友圈、微博以及其它互联网平台看到过关于它们的资讯。目前生成式ai已经在全球范围内引起了广泛且热烈的关注和讨论,各行各业的未来,几乎都在向着ai领域前进。
对于x86阵营的笔记本电脑来说,amd今年率先推出ryzen ai引擎,也率先带领锐龙笔记本电脑进入ai时代。那么问题来了,和普通笔记本相比,ai笔记本能带来怎样的体验呢?
ryzen ai:ai笔记本的性能基石
从广义上来讲,ai涵盖了机器学习、深度学习、自然语言处理、计算机视觉等多个领域,实现它们的手段主要是依靠机器学习训练和推理。一般来讲,很多机器学习引擎和模型都能在cpu和gpu上运行,但对于笔记本平台来说,如果让cpu或者gpu来处理机器学习训练和推理任务,那么cpu或者gpu就会长期处于高负载状态,这样一来笔记本将更费电,而且效率也很低。因此把机器学习训练和推理交给更专业的“角色”来做会是一个更合理的解决方案,而这个“角色”就是独立的ai引擎。
amd率先迈出第一步,它在今年1月份就为x86处理器首次带来了ryzen ai,这个集成在锐龙7040系列移动处理器中的ai引擎专为ai运算而生。英特尔要在第14代笔记本酷睿meteor lake处理器中才会内置一个神经网络计算引擎npu,也就是要等到下一代才会有类似的设计。
ryzen ai基于专门设计的amd xdna ai架构,其核心是多个独立的aie单元,而且与传统的cpu多核运算相比,xdna ai架构有多个独立的内存电压单元、对应的内存控制器并拥有独立的高速互连通道,所以它在进行ai推理时更加灵活,效率更高,性能也更强。
ryzen ai支持不同的ai神经网络,比如cnn(卷积神经网络)、rnn(循环神经网)、lstm(长短时记忆)等。此外,它还支持int8/16/32、bfloat16等各种高级数据类型,同时它还具备实时多任务能力,可处理最多4条并发空间流,这意味着它能够同时处理多个ai任务,提供更高的处理效率。
ryzen ai是amd锐龙笔记本的ai性能基石,它在笔记本平台主要负责轻量级的ai推理工作负载,包括音频、视频和图像处理等任务,能够比cpu或gpu更高效地执行这些任务,并显著降低延迟。要知道目前很多ai计算和应用都是通过云端ai服务器或者本地gpu来实现的,而现在有了x86处理器专属的ryzen ai,意味着很多ai计算可以在非独显笔记本的端侧就能完成。对于笔记本平台来说,ryzen ai有着出色的能效比和高算力,它能够为cpu或者gpu分忧,发挥自己高能效的优势。
轻薄本ai应用体验对比
在笔记本中加入ryzen ai有什么用?实际上ryzen ai主要的任务是处理ai推理与运算,所以在不少专用的场景以及常见的应用场景中,它能够发挥自己的优势。比如,ryzen ai能够进行自然语言处理,使笔记本能够解读、处理和理解人类语言。在图像和视频处理方面,ryzen ai也能快速高效地处理图像和视频数据,完成诸如更换背景、消除噪音、人脸识别、图像分类、图像修复等任务。
目前,amd已经和微软进行合作,借助windows studio effects来提升windows系统中关于摄像头的体验。具体来说,windows studio effects可让用户将某些滤镜和效果应用到系统底层的摄像头和麦克风上,以改善用户在视频通话期间的外观和声音,它们需要神经处理单元提供支持。
▲ryzen ai笔记本支持windows studio effects(左)和不支持该效果的普通笔记本(右)。
在支持ryzen ai的笔记本上,我们可以快速启用windows studio effects。最简单的方法就是单击通知区域图标组打开快捷设置,选择“工作室效果”。在默认情况下,你会先看到相机效果。此时你可以方便地对相机效果(背景虚化、眼神交流、自动取景)进行设置。当然,你也可以直接在系统的相机设置中启用windows studio effects,这里的设置项目更加丰富、细致。我们对比一下其他没有配备ryzen ai的笔记本就能看到,它的相机设置中没有背景虚化、眼神交流、自动取景等功能,这类笔记本如果要使用这些功能,或许只有借助第三方软件才行——而这无疑会增加系统负载,并影响续航。
有了系统底层上的功能支持,就算原生不支持任何视频效果的软件(比如tim)也能在系统开启相应功能之后,得到背景模糊、眼神接触、自动取景等效果。这些基于windows的高级功能可以在搭载amd锐龙7040系列处理器和ryzen ai的笔记本电脑上直接使用,但目前的酷睿笔记本上则不能使用。
轻薄本ai性能对比测试
除了ai应用上的不同体验之外,普通笔记本和具有ryzen ai功能的笔记本在ai性能上有多大的差距呢?我们通过两台集显轻薄本来简单对比一下。amd平台方面,我们选择联想yoga air 14s 2023来测试,这台机器搭载联想定制的amd锐龙7 7840s处理器。这款处理器基于zen 4架构,采用4nm先进制造工艺,配备8核心16线程,最大加速频率达到5.1ghz,内置ryzen ai。同时,这款处理器还内置采用rdna 3架构的radeon 780m显卡。
联想yoga air 14s 2023是一款14.5英寸的轻盈本,机身采用轻薄化设计,薄约13.9mm,轻至1.28kg。这台机器采用2944×1840分辨率的puresight超感oled屏幕(支持触控),屏幕刷新率达到90hz,并支持100% dci-p3色域。此外,这台机器还配备70wh电池,电池续航支持全天候办公9.5小时。接口方面,这台机器也十分齐全,它配备两个全能的usb4接口、一个全功能usb-c 3.2接口以及一个3.5mm二合一音频接口,不管是外接多台显示器还是鼠标键盘,都能满足用户的需求。
对比的英特尔平台,我们选择一款搭载酷睿i7-13700h的14英寸轻薄本,酷睿i7-13700h处理器采用混合架构,采用intel 7生产工艺,配备14核心20线程,最大睿频频率达到5.0ghz,这款处理器内置频率为1.5ghz的英特尔锐炬xe核显,其配备96个eu执行单元。酷睿i7-13700h与锐龙7 7840s处理器最大的不同在于酷睿处理器没有专门的ai引擎。此外,对比的两个平台都采用32gb双通道内存以及1tb pcie 4.0 ssd。
理论ai性能方面,我们主要通过ul ai inference benchmark来测试,该软件囊括了mobile net v3、inception v4、yolo v3、deeplab v3、real-esrgan和resnet 50等神经网络模型,支持microsoft windows ml、qualcomm snpe、英特尔openvino和nvidia tensorrt等4种sdk,非常权威和专业。
从测试成绩统计图可以看到,在microsoft windows ml测试场景下,ryzen ai加持的锐龙7 7840s平台在float32精度下的cpu测试分数为107分,相对于酷睿i7-13700h平台的99分,领先大约8%。我们知道gpu也能进行ai推理和运算,所以再来看看这两款处理器内置的集显的表现。用集显来进行测试的话,可以看到锐龙7 7840s内置的radeon 780m显卡得到227分,这样的成绩领先酷睿i7-13700h内置的锐炬xe集显大约104%,radeon 780m显卡在ai推理和运算中的表现可以说非常出色。从这个测试其实也能看到,无论是cpu还是集显,有着ryzen ai加成的锐龙7 7840s的ai性能都全面领先于酷睿i7-13700h。
最后再来看看两个平台在实际应用中的表现。知名ai应用厂商topaz labs旗下的 topaz photo ai、topaz video ai等软件已经加入了对ryzen ai的支持,我们本次通过topaz photo ai来测试,topaz photo ai主要使用ai技术来分析和增强图像,它可以消除照片噪点、放大照片并提高整体质量。
topaz photo ai软件已经加入了对ryzen ai的支持,不过由于ryzen ai集成在cpu中,不会被软件单独识别出来,所以本次对比测试时我们统一在软件中设置为使用cpu加速,然后将一张3840×2466分辨率的图片进行放大6倍并用ai来清除照片噪点,最后来看两个平台进行这两项操作的总耗时,耗时越短表明其越高效。
可以说最终的测试结果令人大吃一惊。将一张3840×2466分辨率的图片放大6倍并清除照片噪点,有着ryzen ai加成的锐龙7 7840s平台仅耗时10秒就完成了操作,速度非常之快。要知道原始图片仅1.65mb大小,放大之后的图片达到40.9mb,分辨率达到23040×14796。对于如此庞大的工作量,锐龙7 7840s平台几乎眨眼间就完成了。相反,没有任何ai引擎加成的酷睿i7-13700h平台,完成这个操作需要98秒,妥妥的是纯cpu在干活,效率非常低。
stable diffusion webui绘图测试
要说目前最火的ai应用,除了各种在线的大模型生成式对话工具之外,以stable diffusion为代表的生成式aigc工具更是受到大家的广泛追捧。与各类在线ai出图的工具相比,stable diffusion拥有出色的高自由度,同时也拥有大量免费的资源,部署在笔记本本地的话,在安全性、私密性、便捷性上也有保障。在stable diffusion本地ai出图加速方面,gpu相比cpu有着更大的优势,对于搭载集显的轻薄本而言,这主要考验不同平台的集显性能。那么对于stable diffusion本地ai出图,锐龙7 7840s轻薄本和酷睿i7-13700h轻薄本谁的效率更高呢?我们来实战比拼一下。
automatic1111的stable diffusion webui支持通过directml调用集显来加速,因此我们用秋葉aaaki的stable diffusion 4.4整合包来测试。在整合包的启动器中,我们可以单独选择radeon 780m和锐炬xe显卡进行加速。在测试中,我们采用墨幽1050 2g模型,具体设置为迭代步数:20、采样器:dpm++ 2m karras、cfg scale:7、图片分辨率:512×512。
▲radeon 780m只用57秒就完成了一个批次单图的生成。
从测试结果来看,锐龙7 7840s处理器内置的radeon 780m显卡有着出色的表现,用它进行加速,stable diffusion webui完成一批次单张图片的生成只用了57秒,而酷睿i7-13700h处理器内置的锐炬xe显卡则需要3分钟9秒才能完成,差距非常大,大大出乎我们的预料。由此可见radeon 780m在stable diffusion webui中的表现十分出色。另外,如果我们设置为一个批次连续生成5张图的话,radeon 780m仅耗时4分钟51秒就完成了任务,而锐炬xe平台则根本无法完成任务,因为测试时程序直接报错崩溃了。由此可见,在stable diffusion本地出图应用中,radeon 780m的效率远高于锐炬xe,而且它还有更好的稳定性和可靠性。对于集显轻薄本用户来说,如果你在平时或者工作中需要使用stable diffusion,又或者想要尝尝鲜,那么锐龙本才是更好的选择。
双管齐下 轻薄本的ai体验还得看锐龙
今年以来,大模型和生成式ai已经成为科技领域最新的风口!科技公司如果不谈ai,就像落后了几个时代。回到pc领域,此前可能很多人认为笔记本,特别是轻薄本无法胜任ai方面的工作。
▲topaz photo ai软件支持调用ryzen ai引擎来完成ai工作
随着ryzen ai的到来,amd为我们打开了ai笔记本新世界的大门。在ryzen ai的加成下,锐龙ai笔记本已经能在视频会议方面带来更出色的体验,也能在topaz photo ai、topaz video ai等ai应用中带来更高的效率,相信在未来也会有越来越多的应用加入ai功能,并加入对ryzen ai的支持。
另一方面,从我们的stable diffusion webui测试也能看到,锐龙7040系列移动处理器内置的rdna 3显卡同样能提供出色的本地ai加速性能,它在stable diffusion webui中的出图效率远远领先于锐炬xe显卡,而且连续出图的稳定性和可靠性也更好。这就是说除了专用于ai加速的ryzen ai,amd在轻薄本上还有性能强大的rdna 3 gpu。这个组合让锐龙轻薄本具备了全面ai加速的能力。
如果说ai是笔记本发展的未来,那么从兼容下一代软件的角度以及ai实际体验的角度来看,双管齐下的锐龙ai笔记本已经拥有很好的先发优势,这是竞争对手目前还无法与之相比的。可以说,现阶段的轻薄本ai体验,还得看锐龙!
技术干货分享:色温均匀性对LED前照灯的重要性
零担物流货物追踪不再难 ZETag云标签追货全程可视
抓住3D视觉市场快速增长契机,打造自身品牌,引领国产替代
然而臣妾还是抢不到啊!传闻小米6将首发骁龙835
华盛昌DT-5300B数字接地电阻测试仪筑牢电力安全运行根基
轻薄本AI应用深度测试,锐龙7 7840S大战酷睿i7-13700H
国产LoRa技术?ZETA相比LoRa有哪些优势?
选购看台:个性车载GPS导航产品大集合
鸿芯微纳与上海交通大学微电子学院签订新一年的联合培养协议
美女手持荣耀V9玩自拍:这颜值必买啊
节碱性电池到3.3V/1A升压变换器电路
明略科技构建“感知-认知-行动”AI闭环,进一步推动AI行业落地
曝索尼将在CES 2020上展示PS5和PS VR2
经历疏油门和闪存门后华为手机再问鼎冠军,华为P10绝处逢生贡献大?
buffer和cache的区别
瑞萨电子推出全新32位RX72N和RX66N MCU,可提供高达4MB片上闪存
行业持续稳定增长-汽车模拟芯片
华为麒麟芯片9000用于华为什么机型
高精密行星减速机的用途是什么
台达变频器MX300系列产品介绍