CFMS2023 峰会专题报道

宜鼎国际:SSD在Edge AI趋势下应用

峰会新闻 2023-04-10 11:48 宜鼎国际

在2023中国闪存市场峰会(CFMS2023)上,宜鼎国际嵌入式闪存事业部副总裁兼总经理吴锡熙先生,以《SSD在Edge AI 趋势下应用》为主题,分享了宜鼎对AI市场趋势的洞察和布局。针对在高速发展的5G与AI应用,宜鼎看好全球市场后势强劲需求,进而提前积极布局相关应用场域,并集结软件、硬件、固件高度整合的研发量能推出完整的解决方案,分享边缘服务器市场开拓全新商机的成功案例。

Edge AI市场极具潜力,衍生AIoT串联和整合的庞大需求

边缘计算是一种基于平台的技术,为5G、物联网、人工智能等新兴技术提供重要的承载能力,其价值在于将计算资源从物理空间移动到数据被创建的位置,从而大大提高实现数据洞察价值的效率,实现核心IT环境之外的业务流程和决策智能的即时激活。

吴锡熙先生强调,从2020年到2025年,中国边缘计算服务器整体市场规模的增长率均超过20%,大幅增加的AI算力需求,使AI逐渐成为全球重要基础设施的发展与决策依归,成为未来全球科技发展的一大焦点。因此,宜鼎重点瞄准Edge AI市场,宜鼎从2017年开始布局物联网,从IPC到工业物联网再到AIoT和Edge AI,宜鼎推动物联网的智能化,加速人工智能物联网AIoT的落地。

在AI时代,人工智能视觉监控、边缘服务器、智能汽车、近地轨道、智能机器人以及功能强大的ChatGPT等等,各式Edge AI应用蓬勃发展。吴锡熙先生认为,业界面临着一个重大的挑战——AI是跨平台的,因此必须将跨平台的串联和整合考虑进去。

吴锡熙先生提到,AI基本元素是训练(Training)和推理(Inference),Training会在服务器和云端上运作,这里蕴藏着大容量SSD的商机。而Inference的区别在于,大量工作会在边缘设备上运作,这会涉及到多种运算平台互相协作,衍生出不同算力平台下的串联和管理需求。譬如每款平台需要的模型格式和执行环境不同,NVDIA Jetson需要软件拓展,AMD Xilinx注重FPGA的高弹性和可定制化,Hailo ASIC具备独特和专用性,AI推理主要还会用到ARM Linux架构,以及其他服务器级别的运算平台如英伟达Mega Edge等等。面对如此多元化的运算平台和AI算力管理,宜鼎提出有效的整合解决方案。

宜鼎积极布局Edge AI市场,提供从软件、硬件到模组的完整解决方案

吴锡熙先生介绍到,宜鼎完整的AI解决方案,能够做到CPU、GPU、ASIC、FPGA平台的算力整合。训练好的程序通过前端iCAP平台部署到云端,进行设备管理和AI管理,并通过iVIT软件训练边缘AI模型,可以低成本简单化的训练AI,从而串联起整个AI平台架构。宜鼎研发的InnoAgent硬件架构,拥有OOB(Out-of-Band)带外管理技术,可以高效地实现设备远程管理,降低运营成本和维护费用。

面对更高的算力需求,边缘AI服务器平台也会被广泛采用。在边缘计算架构中,数据处理可以在与客户端更接近的中间处理器总进行。边缘数据中心包括中央企业数据中心在内,是复杂网络中的众多数据中心之一,通常放置在服务区域附近进行着远程管理,具有与传统数据中心相同的组件,但占用的空间小很多,用于边缘处理、存储关键数据和应用程序。宜鼎为此提供边缘服务器SSD产品来满足客户的需求,可以达到稳定的表现、高IOPS、高DWPD和低延迟效果。至此,宜鼎提供了软件、硬件到模组的全方位解决方案,使得AI运用和管理更加简易化。

当然,边缘AI应用随着创新技术的发展,正在向各个领域不断渗透。在智慧城市应用中,电动汽车充电设施必不可少,而强大的AI Edge可以通过智能充电桩触屏完成收费动作和应用记录,实现ANPR、安全监控、图像捕获等功能。对于智慧城市的交通管理,需要边缘AI应用对车流、人流进行识别和分析。在智慧工厂中,边缘AI计算能够降本增效,使得重复的检测工作更加完善和简易。

最后,吴锡熙先生总结到,AI计算从云端到边缘的发展,将AI训练从云端服务器引至边缘服务器进行运作,产生不同算力应用,从而衍生出多样化的SSD需求。宜鼎综合的AIoT整合方案,正是响应其中蕴藏的潜在需求,帮助AI部署更易落地。宜鼎未来也期许以全球产业合作为目标,一步步推动产业智能革新。