落地的AI才是好AI,新一代酷睿Ultra到底给我们带来了什么

世界尽头有备而来 2024-03-08 02:34:26

2023年,乃至2024年,PC圈啥最火?

没错,就是AI PC。

那么什么是AI PC?就是能使用AI功能的PC。AI可通过云与PC的紧密协作,或在电脑端独立运行大语言模型,进而从根本上改变、重塑PC的用户体验,释放人们的生产力和创造力。同时AI PC的功能是包罗万象的,包括AI配音、变声、生成式AI(比如文生文、文生图、文生音乐这些功能)AI抠图、手势识别、动作捕捉等等。总之适合各类工作应用。

AI 通常可以分为训练和推理两个阶段,训练阶段需要使用大量的数据和算法来训练 AI 模型,推理阶段则是使用已经训练好的 AI 模型来进行实际的预测或决策。

由于PC发展之初,CPU是主要来做复杂的逻辑判断的,而GPU只是为了计算图像数据。AI领域特别是深度学习方面,就是模拟人脑神经系统而建立的数学网络模型,这个模型的最大特点是需要大数据来训练。这正好是GPU擅长的领域,GPU优势就是更多的核心数量适应进行高并行度计算,高带宽带来的高吞吐量,以及更强的浮点运算速度。从此GPU成为了AI时代的王者。

目前,GPU相比CPU更适合做计算量巨大的AI 训练,但在AI 推理方面就不一样了,这一应用还是需要一些逻辑判断的,只要算法优化的好,CPU就可以很好地处理预算工作。

尤其是在云端可以做到CPU和AI芯片分离(AI芯片是专用的加速芯片,以加速卡的形式用于服务器上)。但在端侧,作为个人PC,CPU是必不可缺的(或者说是需要一个SOC)。此外在笔记本方面如果集成高性 GPU 往往意味着更重的机身、更短的续航时间、更高的功耗发热,这与移动端 PC 形态的演化是相悖的,也不符合大部分想要购买 AI PC 的消费者心理预期(现在主打办公应用的都是超薄本)。

那么我们就来看看CPU领域的大佬英特尔在这方面都做了什么样的努力。

酷睿Ultra

intel的IA芯片叫NPU,它的全名叫人工智能加速引擎 NPU ,集成足够的矩阵处理单元和推理单元,将会出现在最新发布的 Meteor Lake 处理器上。

在移动端,英特尔提出了最新的AIPC处理器:酷睿 Ultra,在这种全新架构的CPU中加入了AI专用的NPU,它和核显GPU、CPU,也形成了三级AI加速:GPU、NPU和CPU都可以承接AI算力,侧重点不同。CPU AI算力能耗比最不划算,但响应快,延迟很低,如果你对延迟很敏感,那么用 CPU 来处理;GPU算力强大,在最高性能和最大吞吐量的场景中,推荐使用 GPU,能耗比尚可;NPU算力中等,特点就是非常高效、功耗很低,这样一些推理的AI运算完全可以在NPU上运行,效率相比CPU提升非常巨大。

比如在动辄一两个小时的视频会议中,实现背景虚化、或者人眼追踪功能,AI 需要能长时间在后台运行。NPU 就是这么一个低功耗的人工智能加速引擎,通过它可以极大降低 CPU 和 GPU 的使用率,实现更好的电池续航。

添加图片注释,不超过 140 字(可选)

软件方面,英特尔通过 OpenVINO 开源工具套件,让开发者能够快速地将各种 AI 工具优化为在 X86 平台上更高效运行的程序,实现了“一次写入,处处部署”,大大提升了软件层面的 AI 开发和使用效率,同时降低了 AI 对 PC 硬件性能的苛刻要求,也拓宽了 X86 平台的广度,让各种类型的 AI 都能够运行在普通的轻薄本上。

落地的AI应用

英特尔酷睿Ultra如此强大的算力在落地到AI应用上表现如何呢?下面我们让我们回到几天前的发布会现场,听听现场的行业大佬们是如何评价的。

在文生图,图生图方面,酷睿Ultra已经有了超多的应用实例。比如,下图是是北京画院用AI生成的水墨作品。

中国传媒大学动画与数字艺术学院团队创作的国内首部AIGC水墨武侠动画短片《龙门》,借助AI的算力和应用提升,数字艺术作品不仅具有更强的表现力,还仿佛有了生命,提供更具代入感的互动体验,让每个观众都能成为"艺术家"。

在幕后的制作中,使用了英特尔Arc显卡、OpenVINO等产品和领先技术。创作团队还率先试用了英特尔酷睿Ultra处理器,大大提高了效率。新一代英特尔酷睿Ultra处理器首次集成了神经网络处理单元(NPU),提供灵活高效的AI算力支持,并且低功耗,保证长时间高效能的AI体验。

据《龙门》的主创团队介绍,传统水墨画制作过程中有大量笔触细节几乎无法实现逐帧手绘,通过训练AI绘画方式,可以由多模态控制程序来绘制创作者想要实现的效果。可以说,AIGC的运用大幅减少了大量时间及人力成本,帮助创作者聚焦精力投入到表达本身,释放更多创意。

最后

以上介绍的应用中,生成式人工智能要多一些,其实在大语言模型方面,酷睿Ultra也是有所突破。前面介绍过参数要求动辄千亿以上的大模型确实不适合用个人CPU,它只适合云端部署GPU去实现。但在一些轻量化的模型(参数基本是在60亿-130亿之间),它的应用方向更加明确,参数量较小,是适合在PC端运行的。目前英特尔和百川、千问,智谱,Codeshell有了成功的应用案例,并且能够支持200亿大语言模型的本地流畅运行。

AI PC,让AI应用融入日常生活、工作、娱乐等场景中,为个人用户和专业团队带来全新的,高效的使用体验;也可以分摊现阶段AI算力需求对于云端资源的挤占,另外在本地部署AI也更加安全。英特尔酷睿Ultra在这方面的应用领域是走在了前面,所以不管算力如何,能落地的AI就是好AI!

0 阅读:0

世界尽头有备而来

简介:感谢大家的关注