Posted in

国内首家!智谱 GLM 端侧大模型获得信通院可信 AI 端侧大模型评估最高评级_AI阅读总结 — 包阅AI

包阅导读总结

思维导图:

文章地址:https://mp.weixin.qq.com/s/Aa9lSstW45dg6kytGexO_A

文章来源:mp.weixin.qq.com

作者:智谱

发布时间:2024/8/6 6:58

语言:中文

总字数:1013字

预计阅读时间:5分钟

评分:88分

标签:智谱GLM,端侧大模型,信通院评估,AI技术,边缘计算


以下为原文内容

本内容来源于用户推荐转载,旨在分享知识与观点,如有侵权请联系删除 联系邮箱 media@ilingban.com

智谱GLM端侧大模型参与中国信通院组织的《端侧大模型技术和应用评估方法》标准首轮评估,最终获得4级评级, 智谱成为国内首家通过该项评估并获得当前最高评级的大模型企业

GLM端侧大模型,是智谱推出的一系列适用于PC、手机、车机等终端场景的大模型,包括1.5B、6B、9B等多个规格,灵活适配各类终端应用场景和算力条件,赋能智能终端AI应用,革新用户体验。基于先进的预训练技术和大量优质数据,GLM端侧大模型具备文本生成、对话交互、网页浏览、代码执行、Function Call、多模态交互等功能。

目前,GLM端侧大模型已完成与众多主流终端芯片的适配和性能优化,支持GPU、NPU推理。同时,已经适配多个品牌的AI PC、AI手机、智能座舱等设备,实现了设备复杂控制、设备使用问答、闲聊陪伴、写作助手、文档处理、本地知识库、生活服务、多模态交互等场景。通过端云一体的方式,GLM端侧大模型还可与云端大模型无缝协同,执行多场景、高复杂度的任务,并提供一致体验。

中国信通院高度重视端侧大模型技术及应用发展动态,联合业界多家单位共同编制《端侧大模型技术和应用评估方法》标准(简称“端侧大模型标准”),并于6月26日在可信AI•南京人工智能产业发展论坛大模型引领人工智能变革分会场正式发布。该标准自2024年1月启动编制,在标准框架设计、标准内容编写、标准文稿研讨及多轮修订工作中,得到了五十余家单位和专家的大力支持,智谱是该标准核心参编的牵头单位。

端侧大模型标准核心参编单位颁发仪式

端侧大模型标准聚焦行业高质量发展,综合评估端侧大模型的技术和应用水平,在促进产业发展、提升技术影响力和服务规范等方面具有重要作用,围绕模型优化、模型效果、终端适配、服务优越度、服务成熟度等维度,为端侧大模型在模型能力、模型适配以及模型服务等方面提供规范与指导。

1)模型能力:关注端侧大模型的训练推理能力及任务应用效果,包括模型优化(模型压缩、算法改进等)、模型效果(对话交互、分析决策、生成创造等)。

2)模型适配:关注端侧大模型的适配能力,包括设备适配(手机、汽车、计算机、机器人等)、算力适配(芯片适配、硬件加速等)、行业适配(行业覆盖、场景定制等)。

3)模型服务:关注端侧大模型的服务质量,包括服务体验性(服务稳定性、交互多样性等)、服务优越度(响应时间、推理效率等)、服务成熟度(安全性、鲁棒性等)。