20年一遇的PC革新,英特尔畅谈AI PC和存储应用
峰会新闻 2024-03-27 11:01
在CFMS2024上,英特尔中国区技术部总经理高宇先生,发表了《无处不在的AI—AI PC发展展望》的主题演讲,阐述了AI PC的应用和发展方向。自2023年9月英特尔CEO第一次创新性提出AI PC概念,AI PC便迅速获得了全行业关注,英特尔对AI PC的定位是20年一遇的PC产业重大革新,不亚于20年前英特尔划时代的“迅驰”对产业的影响。
高宇谈到,生成式AI正在快速成长,成为现在第一大科技发展动力。从ChatGPT步入大众视野开始,AI 发展势头迅猛,未来五年,AI领域无论是硬件、软件、服务都有天量的增长速度。而生成式AI的核心是大语言模型,按照参数规模可分为,大于1Trillion的超大模型,和适于行业应用约100亿参数规模的中小模型。针对不同行业或场景下的AI大模型逐渐成为主流,并符合未来持续发展的商业逻辑。面对当下AI的发展趋势,生成式AI的训练一定需要高端GPU,但AI推理不见得;大参数的生成式AI一定得部署在服务器上,但中小参数模型不见得,因此,中小参数模型在边缘和端侧落地有着巨大机会。
高宇表示,大参数AI必须部署在大型服务器上,而针对特定行业、特定场景的中小参数AI,则可以在边缘或端侧进行训练和推理,而AI PC则是中小参数AI部署的最佳选择。英特尔给出不同场景下AI应用部署方式的建议:当2~13B参数需要推理并量化,可通过Intel Core Ultra的AI PC在端侧部署;面对6~40B参数需要推理并进行参数微调时,可在Intel Xeon Max的AI Xeon服务器上完成企业私有化的AI部署;若高于40B的参数需要推理并全量训练,可通过搭载Intel Gaudi的AI训练服务器完成AI云上部署。
诚然轻量的生成式AI可部署在手机、平板、汽车等智能终端上,但英特尔认为PC将是AI的最佳载体,由于PC是当代社会不可或缺的工具性产品,AI PC对于人们将是最好的生产工具、最佳的学习工具、最强的娱乐工具和最好的协作工具。生成式AI在PC端侧部署有着重要价值,它不依赖网络所以延迟更低,算力成本低并且触手可及,对用户隐私安全性友好,并可高度定制化,模型在用户使用过程中不断自我微调,高度适配用户习性。
英特尔现场带来了AI PC的精彩应用展示,包括与AI PC对话以解决问题的AI Chatbot,通过自然语言帮助用户完成文件检索等功能的AI PC助理,与Word、Excel、PPT等office软件融合的AI工作助手,在冗杂的文件中提炼信息并深度处理的本地知识库,可生成视频并分析照片的AI图像视频处理,以及在AI PC中生成个人的数字人形象并进行对话。在诸多医疗辅助、工业等场景中能够看到AI PC的行业应用,英特尔与大模型的适配速度也非常快,譬如国内首个医疗大模型华佗GPT,英特尔仅用1天时间就完成了平台适配,高宇先生称道。
那么,如何部署AI PC?
高宇先生表示,需要软硬一体才能打造出真正好用的AI PC,其基石是英特尔最新的处理器Core Ultra,和英特尔提供的AI开发工具链OpenVINO、BigDL、GGUF,微软提供的ONNX、DirectML、WinML等,从而更好地把硬件性能发挥出来。底层需要OEM厂商预装AI入口,打造繁荣的AI软件生态链。但并非所有PC加入AI操作软件后即可成为AI PC,AI PC的核心在于处理器,被英特尔称为AI PC基石的Intel Core Ultra处理器,其采用Intel 4制程工艺和革命性的3D封装混合架构,集成了英特尔ArcGPU、NPU及CPU。这三种不同计算引擎统称为XPU,高吞吐量的大语言模型推荐在GPU上处理,对功耗敏感则在NPU上运行最省电,需求快速适配的轻量模型则建议在CPU上处理,英特尔有专门的工具链来完成三个不同引擎的调度。正因如此,Intel Core Ultra的AI处理能力是上一代的8倍以上。通过一系列的软硬结合,目前AI PC可支持200亿参数的大模型,可在1秒内速生图片,6秒内生成1024x768高清图。目前Intel AI PC已对国内外最新、最流行的开源模型完成全覆盖。
AI PC对存储行业带来哪些机会?
高宇认为AI PC 搭载的存储将有全面升级,这包括内存和SSD。大语言模型是典型的内存受限场景,对内存速度和容量都非常敏感。高宇表示,未来的AI PC的标配是32GB内存,如32GB的LPDDR5X,明年将看到搭载64GB内存的PC开始出货。AI PC采用的内存频率会越来越高、容量越来越大,高频内存从7467MT/s到下半年Intel支持的8500MT/s, 16GB容量将逐步被淘汰,内存标配升至32GB,明年将看到64GB的PC开始出货,这为存储厂商带来机会。另外,AI PC支持运行的多个大模型将占用巨大的存储空间,对load文件有迫切的提速需求,这将对SSD容量和性能提出非常高的要求。
AI PC是一个20年一遇的PC产业重大转型机会,英特尔与产业链众多厂商共同奔赴PC转型契机,携手共进共同受益。