芯东西3月29日报道,AI PC到底能干啥?跟传统PC差别有多大?跑大模型真的能重塑PC体验吗?这些问题从去年AI PC概念诞生起一直被问到现在,就在本周二,全球最大PC处理器供应商英特尔,拉着智谱AI、百川智能、星环科技、面壁智能、中科创达、无问芯穹等国内AIGC独立软件开发商(ISV)们,集中展示了商用AI PC的新应用和新功能。
现场,英特尔与超过35家ISV和10家OEM合作伙伴展出了各种PC版本AIGC工具的花式用法。在断网状态下,一个笔记本电脑就能运行AI聊天回答、智能生成PPT、AI文生图、会议总结、视频总结及问答等常见的办公和创作应用。
其中一些功能相当戳中人心,比如你忘记了具体文件名,输入一些偏模糊的描述,如“打开昨天没看完的研究案例文件”,AI工具能准确找到对应文件;再比如操作Excel表格,不用记住复杂的各种函数和指令,只要文字描述你的要求,AI助手就会告诉你怎么完成相应的操作。
国内AI绘画社区爱好者开发的一款免费AI绘画启动软件绘事启动器,已支持用酷睿Ultra核显进行AI绘画创作,打开开源Stable Diffusion WebUI项目本地运行ControlNet,过程很流畅。
可以看到,在芯片企业与ISV厂商、模型厂商、系统厂商的合力下,AI PC生态正逐渐变得丰富起来。
英特尔客户端事业部副总裁、细分市场部总经理冯大为宣布,全球有近100款商用笔记本产品会陆续上市,包括90多款基于酷睿Ultra处理器的vPro平台商用PC以及10多款工作站设计,其中有超过30款同时满足vPro和Evo的要求。
英特尔酷睿Ultra处理器还把AI计算能力带进了掌机游戏,为掌机跑大语言模型打好算力基础,并与腾讯合作在英特尔平台上做了编解码优化,以提供极低延迟的串流体验。通过局域网或公网,玩家就能将游戏电脑或游戏主机中的3A游戏无缝串流到掌机。
会后,英特尔客户端事业部副总裁兼细分市场部总经理冯大为、英特尔中国区技术部总经理高宇、智谱AI首席运营官张帆、星环科技副总裁杨一帆、当虹科技CTO黄进接受芯东西等媒体的采访,进一步分享AI PC的商用进展和未来构想,解答把大模型塞进PC所面临的技术挑战。
在中国,英特尔联手生态伙伴面向AI PC领域打造创新解决方案,率先锚定了六大关键应用——AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI多媒体处理、AI PC管理,这些应用均能在离线环境下本地运行。
1、AI PC助理:简化PC操作,智能管理PC上的数据和个人文档,可根据用户指令自动操作电脑,能做到一次性接受复杂的多指令并执行。
国内AI大模型独角兽智谱AI的首席运营官张帆进行现场演示:发语音要求智谱AI PC智能助手“把电脑静音+切换至最佳性能模式+打开昨天没看完的研究案例文件”,智能助手随即一气呵成地完成这一连串任务。整个操作过程自然流畅。
注意前面并没有指明文件名,智能助手能根据关键词描述,准确找到对应的文件。这个搜索功能如果能做好,对快速查找文件非常有帮助,因为很多人都会碰到一时想不起来文件名的情景。
打开文件后,你还可以进一步要求它做文档内容提炼、生成观点等任务。文件批量重命名、自动写邮件并发送等更是不在话下。智能助手能针对用户的习惯进行优化,就像给用户配备了一个随时听指示而且很懂你的个性化需求的贴身助理。
欧菲思(Extend Office)开发了基于本地AI的Office扩展工具,除了自动回复邮件、在Word生成指定文案等相对常见的功能外,一个很有用的工具是针对Excel表格设计的,用户只用提要求,比如“把XXX类别的金额都从美元转换民币”、“把XXX范围内的单元格加密”,AI工具就能理解并执行复杂的指令,自动调用相应功能,甚至学习用户的工作习惯。
比如中科创达开发了经过大量专业法律案例训练的法务智能助手,不仅能解答各种法律基础问题,而且能对法律案例快速地进行分析、做出判断并生成结论,而且跑在离线端非常安全,不会出现文件泄密的情况。
在展区,中科创达还演示了基于13B基础大语言模型开发的魔方智能编程助手。现场讲解人员告诉芯东西,PC版本的编程助手跟在线版本使用的是相同模型,通过量化技术塞进PC,并已针对英特尔芯片进行性能优化,能以离线服务方式提供代码补全、代码生成、技术问答等功能,支持C++、Java、Python等主流编程语言。
4、AI本地知识库:可将本地文件和资料转化成一个运行在AI PC上的知识库,进行快速文档处理和知识检索。
星环科技在现场展示了RAG产品无涯·问知,这是一个在AI PC本地运行的多模态向量数据库,能够针对不同格式,不限长度地将知识和文档入库,并提供准确的数据分析。
比如你可以上传一个几十页的文档,然后向它提问。通过RAG技术对文档进行切分、存储、本地化检索,它能给出非常精准的答案,还能生成配套的图谱。无涯·问知支持文本检索、图像查询、视频总结和摘要等功能。星环科技副总裁杨一帆预告这款产品将在4月份上线、AI多媒体处理能力:
以2D数字人为例,以前做数字人需要用到专业设备,现在用一台AI PC,只需上传一段简单的视频、读一段话,在大模型和RAG的加持下,就能创造个人专属分身。再比如在教育领域
智谱AI首席运营官张帆和星环科技副总裁杨一帆都强调“算力需求永无上限”,硬件能力是客观条件,应回归到如何尽可能将端侧算力发挥到极致,来为用户提供更好的体验,然后与云侧做无缝结合,让用户在保障高可用、稳定性的同时享受更高性能、更便捷安全的环境。
高宇补充说,NPU特别适合做计算机视觉类应用,比如捕捉骨骼点,另外一些持续性的、后台性的、对功耗敏感的任务跑在NPU上收益最多;但大语言模型更适合跑在GPU上,因为吞吐量高,处理速度快。
高宇提到几个基本要素:1)CPU整体散热能力增强,因为在AI峰值运算时,GPU功耗冲得高;2)内存速度要快,因为大语言模型的下一个token生成速度与内存带宽成正相关,内存速度越快,吐字速度速度越快;3)未来可能出现容量更大的内存配置;4)SSD容量越大,吞吐约稿,跑大模型的用户体验就会越好。
当虹科技CTO黄进认为AIGC最大的瓶颈是成本,ChatGPT每天在云上烧钱近百万,对很多中小企业来说是沉重负担。AI PC带来一种可能赚钱的商业模式,把基础功能放到AI PC上运行,把高价值的应用放到云上运行,这样就能通过高价值用户去覆盖云上的运营成本,刺激很多AI公司做应用创新,也使得更多用户先在AI PC上试用,再到云上使用更高级的功能。
杨一帆从To B的角度来看,发现AI PC下沉过程中有两大难点:一是在AI PC的有限算力上提供什么,二是在AI PC上如何不断提供杀手级应用,让大模型真正能够带来实际增值。
从企业IT角度,系统的安全性和可管理性需求不断提高。而每个PC终端的安全性都与企业的信息安全息息相关,提高PC终端的可管理性有助于提高企业生产力,同时环保要求从产品的全生命周期来严格把控节能减排,降低污染。
与三年前的PC相比,酷睿Ultra性能提升最高可达47%,在运行视频会议时功耗可降低36%,在运行视频编辑应用时AI性能可以达到上一代产品的2.2倍,在3D渲染评分上性能可达到上一代产品的12倍,在运行Adobe光线追踪时通过软硬件优化能将性能提高到上一代产品的8倍。
高宇和黄进都谈道,面向消费者和面向商用的产品测试流程、软件设计等都会有所不同。张帆和杨一帆则强调稳定性的差别,商业信任比个人信任建立周期会更长,今天推出的产品都要经过充分的测试和试水,才敢放到ToB市场上扩张。
通过全生命周期的管理优化,vPro平台在可持续性的表现上也非常突出。基于vPro的系统级产品有94%都通过了EPEAT电子产品环境影响评估工具的银牌,71%获得了金牌认证按照。每使用一次vPro的远程支持功能,无需派遣技术人员上门服务,所避免的碳排放量相当于这台PC两年使用的碳排放量总量。
在可持续性方面,英特尔不断提出新的技术和特性,比如其平台服务记录帮助IT管理人员了解PC过去使用历史,充分利用它的声誉价值。
在英特尔公司市场营销集团副总裁、中国区云&行业解决方案部梁雅莉看来,生成式AI技术颠覆了所有传统的业务模式,重塑了商业效率和创新价值链,并驱动了未来计算,AIGC也会以一个高效、低成本、高质量的方式为各行各业提供新的内容生产方式和创新路径,推动智能技术和千行百业以及多元化业务场景的深度融合。
她相信AI作为新质生产力,未来会成为所有企业创新的原动力和新动力。企业在开发新产品、做创新业务的过程中会从源头开始,从研发、设计、生产、运营到市。