CFMS | MemoryS 2024 峰会专题报道

作为存储模组供应商,宜鼎国际是如何参与AI盛宴的?

峰会新闻 2024-04-09 16:00

CFMS2024存储峰会上,宜鼎国际智能周边应用事业处处长吴志清先生,带来了《AI时代启发存储全新思维》的主题演讲,与业界人士分享了存储与边缘计算,和宜鼎国际未来的策略规划。

边缘AI技术正掀起产业的转型浪潮,吴志清先生表示,AI创新正加速各垂直领域的先进技术应用,汽车、医疗、零售、金融、工业等领域纷纷引入AI技术。数据显示2023-2030年,全球AI市场规模将以37.3%的CAGR高速成长,从2023年的1970亿美元增长到2030年达到1.812万亿美元。伴随软硬件与微型AI技术的成熟,原先存于云端的数据作业,正开始转移至终端附近的边缘环境,这为边缘市场的应用创造了价值。

宜鼎:存储设备、AI平台和AI软件是AI应用落地的三要素

吴志清先生称,宜鼎过去与4000家客户一起合作了上千个AI项目,这些案例里AI应用于不同的行业市场,而多元的客户群体需要做少量多样的定制化,这也面临着极大的挑战。宜鼎经过多年打磨,概括AI应用落地的三要素,包括存储设备、AI平台和AI软件。AI模型的训练和推论,不只是GPU发挥关键作用,SSD和DRAM的性能和容量也会出现不同的结果。过程上来看,AI训练需要大量的数据集先挪至DRAM中暂存,才能再转移至GPU上运算,并将训练过程中不断迭代的最佳模型存盘至SSD。反之亦然,模型训练完成后也会先部署到边缘设备的SSD,当要使用的时候再转移至GPU内使用,过程中也会需要DRAM作暂存,甚至在GPU计算完结果后,也是在DRAM里进行绘制再输出呈现,所以理论上DRAM容量越大,训练速度也会越快。根据英伟达的架构,DRAM暂存空间需要是GPU内存的2倍,AI对DRAM的应用也会越来越多。

吴志清先生表示,DDR5将内存产品效能提升到新阶段,D5的PMIC由主板移至D5模块上,支持同步刷新的双倍bank group,和芯片级的On-die ECC。宜鼎正为AI专案提供5600MT/s的DDR5模组,在-40摄氏度到105摄氏度的极宽温环境下均适用。在模型结果部署到SSD后,多数应用是读取动作,而一旦开始训练,可能长达十几天都需要保持数据的顺畅读取。所以,AI应用中SSD固件特别需要优化读取部分,以保持高性能高持续性的读取效果。根据宜鼎国际的SSD优化,AI平均训练过程可有效减少20%的时间。另外,为确保准确的算法推论结果和用户隐私,宜鼎SSD支持TCG OPAL、ASPM和PLP断电保护、eLog-SSD事件日志等特性,利于保证端侧训练的数据完整性。

除满足硬件的基本需求外,AI训练和推理尤其看重平台效应。当端侧应用环境发生变化,客户端的需求不仅限于基础的存储功能,而是更垂直地聚焦于不同场景的专业应用,譬如MRI的防磁和低轨卫星的自我修复。吴志清先生表示,未来的存储应用思考点在于,从SSD角度如何与AI平台更好地结合。边缘AI的存储进化之路,应是由存储向应用、组件向平台的演变。从SSD产品本身优化进阶到存储系统的优化,结合不同协议不同架构不同加速方式,将存储组件与AI系统深度协同合作,让SSD能够在AI案例中有突破性的发挥和应用。宜鼎通过构建平台把存储和AI的生态系统连接起来,边端的视觉传感器让AI后续处理能够得到更精准的辨识率,通过宜鼎擅长的存储及内存产品,结合英伟达、AMD、英特尔等平台和AI加速模块,为云端远程管理众多边缘设备提供AI管理软件。

吴志清先生以充电桩和智能交通的案例,来说明存储与AI平台结合的重要性。国内目前有超过900万只充电桩,后续的维护面临相当大的挑战,通过远端驱动SSD的管理和复原能带来诸多便利。智能交通中通过影像调教和存储记录,无论环境好坏与否,都能清晰捕捉并记录道路和车辆信息,从而便于进行智能化的交通管理。吴志清先生称,宜鼎国际除了提供优质的存储产品以外,更希望从应用的角度,为客户带来更多的价值服务。通常企业的资源有限,宜鼎会协助用户针对不同场景进行软硬件整合的搭配应用。另外,人机比例也正在变化,企业倾向通过更少的人来管理更多的设备,所以通过远端平台来管理模组、设备、系统,进一步保障数据的安全性变得至关重要。

宜鼎国际正通过存储与平台的深度结合,积极打造AIoT物联应用,完成从IPC市场到IIoT垂直工控市场、AIoT工业智能物联、AI人工智能的进阶跨越,为用户创造更多的价值应用。