Posted in

阿里云国内首家支持 Llama3.1 训练推理,提供免费算力!_AI阅读总结 — 包阅AI

包阅导读总结

1. 阿里云、Llama3.1、训练推理、免费算力、大模型

2. 阿里云国内首家支持 Llama3.1 训练推理,百炼平台推出全系列一键方案,限时一个月提供免费算力。阿里云要做“AI 时代最开放的云”,已成为中国大模型公共算力底座。

3.

– 阿里云百炼平台

– 第一时间上架 Llama 3.1 全系列 3 款模型

– 首家推出针对 Llama 3.1 系列的训练、部署、推理服务

– 推出针对 Llama 3.1 全系列的一键再训练、部署、推理方案,限时一个月提供免费算力额度

– Llama 3.1 系列

– 包括 80 亿、700 亿、4050 亿参数版本

– 上下文长度扩展,增加对八种语言支持

– 4050 亿参数版本是目前最大规模开源大模型,本地开发部署难度高

– 阿里云优势

– 融合 AI 基础设施能力,提供丰富计算资源和极致弹性

– 灵骏智算集群扩展性强

– 人工智能平台提升训练性能

– 打造最大规模 AI 模型社区魔搭和模型服务平台百炼

– 阿里云目标

– 做“AI 时代最开放的云”,支持中国大模型生态繁荣

– 已成为中国大模型公共算力底座,支持众多开源及国内机构大模型

思维导图:

文章地址:https://www.qbitai.com/2024/07/170830.html

文章来源:qbitai.com

作者:量子位的朋友们

发布时间:2024/7/24 7:11

语言:中文

总字数:987字

预计阅读时间:4分钟

评分:90分

标签:阿里云,Llama 3.1,大模型,人工智能,深度学习


以下为原文内容

本内容来源于用户推荐转载,旨在分享知识与观点,如有侵权请联系删除 联系邮箱 media@ilingban.com

阿里云国内首家支持Llama3.1训练推理,提供免费算力!

量子位的朋友们量子位的朋友们2024-07-2415:11:54 来源:量子位

阿里云百炼平台推出针对Llama 3.1全系列的一键再训练、部署、推理方案

7月23日,Meta开源最新Llama 3.1系列,包括备受关注的4050亿参数 “超大杯”模型。阿里云魔搭社区第一时间上架全系列3款模型,阿里云百炼平台在国内首家推出针对Llama 3.1系列的训练、部署、推理服务,企业和开发者即日起可在阿里云上基于其打造自己的专属大模型。

Llama 3.1系列包括80亿、700亿、4050亿参数版本,上下文长度扩展至12.8万tokens,并增加了对八种语言的支持。其中“超大杯”4050亿参数版本,是目前最大规模的开源大模型,在各项测评中能力表现突出,不过由于模型尺寸极大,本地开发部署难度极高。

为方便国内开发者,阿里云百炼平台推出针对Llama 3.1全系列的一键再训练、部署、推理方案,且限时一个月为所有用户提供免费算力额度。企业和开发者可在阿里云百炼模型广场申请使用,通过后即可快速体验Llama 3.1效果,并与其他模型进行直观比较。

希望直接进行推理应用的用户,可在百炼上点击模型调试、prompt模版等功能,快速基于Llama 3.1打造自己的AI助手。希望深度开发的企业,后续可结合企业数据集,一键启动SFT全参训练或LoRA高效训练,并利用百炼RAG检索增强、智能体打造等能力进行应用开发。

在云上开发和使用大模型具有诸多优势。百炼平台融合了阿里云获评产品力全球第二的AI基础设施能力,企业和开发者能获得丰富的AI计算资源和极致弹性,轻松完成对超大模型的深度开发、高效部署和高并发推理。在基础设施层,阿里云灵骏智算集群具备高达十万卡GPU的扩展性;在AI平台层,人工智能平台PAI可10倍提升大模型训练性能,并稳定运行千卡任务5周以上;在模型即服务层面,阿里云打造了国内最大规模的AI模型社区魔搭和模型服务平台百炼,提供从大模型选型、体验到再训练、部署、应用、推理的一站式服务。

作为中国云计算领导者,阿里云提出要做“AI时代最开放的云”,全面支持中国大模型生态繁荣。从去年起,阿里云全尺寸、全模态开源了自研通义千问大模型,并深度支持对Llama、Mistral、Stable Diffusion、ComfyUI等开源模型的开发应用,以及百川智能、智谱AI、零一万物、昆仑万维、vivo、复旦大学等众多国内机构大模型的训练推理。目前,阿里云已成为中国大模型的公共算力底座,超过一半中国主流大模型跑在阿里云上。

魔搭社区下载网址:

https://modelscope.cn/models

阿里云百炼网址:

https://www.aliyun.com/product/bailian

版权所有,未经授权不得以任何形式转载及使用,违者必究。