边缘AI迎来新阶段
边缘计算和机器视觉技术步入成熟期,未来将更多聚焦大语言模型和AI的应用。AI模型正逐步从云端向边缘端迁移,预示着创新浪潮的到来。市场上已涌现出众多成熟的解决方案,标志着转型的关键时期。
在2024英特尔网络与边缘计算行业大会上,英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti表示,边缘AI从机器视觉向大语言模型和生成式AI等方向演进,英特尔将持续提供技术支持,加速边缘端的AI部署。
今年上半年,英特尔中国区边缘端业务保持增长势头,公司预计这趋势将持续。边缘AI在零售、医药、物流等多个行业均有部署。Sachin Katti提到,英特尔不仅提供硬件,还涉足应用层、软件及客户服务支持等领域。MWC期间,英特尔宣布已完成九万多个边缘端的实际部署,并计划采用开放、模块化的统一平台策略来加速解决方案的部署。
多家巨头如AMD、英伟达、高通等也纷纷布局边缘计算市场。在大会展区,包括机器人、深信服在内的多家厂商展示了边缘AI成果。基于英特尔技术的方案实现了自动数据标注,大幅降低了训练成本。
英特尔推出的3D虚拟数智人“小英”,完全在边缘端运行,集成大语言模型和RAG技术,可担任多种角色。
英特尔将AI发展分为三个阶段:AI辅助时代、AI助手时代和全功能AI时代。目前AI助手的功能已初露端倪。电信企业的网络安全产品已经开始利用大模型分析网络日志,帮助网络管理员快速响应。Sachin Katti预计未来一到两年内,AI助手将更加普及。
据预测,2026年80%的企业将使用生成式AI,50%的边缘部署将包含AI。2030年全球边缘服务市场规模将达到4450亿美元,AI将是最大的边缘工作负载。
企业选择在边缘部署的原因在于数据安全性、传输带宽限制和实时性需求。随着数据量的增加,将所有数据传输到云端的成本变得非常高昂,特别是在工业环境中,企业倾向于训练较小规模的模型,并根据自身数据进行定制化。
随着大模型的发展,边缘计算的需求将进一步提升,要求所有分析处理在本地完成,以应对算力、网络稳定性和能耗等方面的挑战。