6.99元租H800,一键部署Llama3,有羊毛速来薅!

AIGC动态2周前发布 QbitAI
72 0 0
6.99元租H800,一键部署Llama3,有羊毛速来薅!

 

文章摘要


【关 键 词】 大模型降价潞晨云补贴一键部署高性能计算优惠活动

近期,大模型圈出现了一股降价风潮,智谱、DeepSeek等大模型厂商纷纷降低API价格,GPU租赁价格也有所下降。潞晨云官方推出了限时大额算力补贴,NVIDIA H800、A800和4090的租用价格分别降至6.99元/卡/时、5.99元/卡/时和1.39元/卡/时。此外,潞晨云还支持快速简易部署Llama 3微调、训练和推理,通过Colossal-AI优化,可提升LLaMA3 70B的训练性能近20%,推理性能也优于vLLM等方案。

潞晨云提供一键部署功能,用户可以快速启动计算环境。例如,对Llama 3微调训练,可在8卡H800上完成。用户需要先创建云主机,选择Colossal-llama3训练微调镜像,然后创建云主机,修改config文件,输入Llama3训练脚本。接下来,编译安装Colossal-AI,创建训练需要的文件夹,修改hostfile,安装IP address指令,查看并更新hostfile中的IP地址,完成Llama3微调流程。

对于Llama 3推理,用户可以在云主机上选择单张H800作为算力资源。Colossal-Inference已适配支持LLaMA-3推理加速,模型权重已准备好,无需额外安装。用户可以运行生成脚本进行多卡TP推理,运行吞吐Benchmark测试,单卡H100对LLaMA3-8B进行Benchmark结果与vLLM对比。

潞晨云还支持常用的计算环境配置保存为私有镜像,随时调用,减少重复配置时间,并保证环境的一致性和稳定性。此外,潞晨云还支持视频生成模型部署,如Open-Sora 1.0。Open-Sora推理可以在单卡H800上完成,潞晨云Open-Sora镜像中内置了运行环境,同时预置了Open-Sora权重,支持开箱即用。

潞晨云采用按秒计费模式,有效降低不必要的成本支出,适合短期或动态计算任务。除了复杂机器学习模型训练、海量数据分析外,还支持高性能图形渲染,为广泛应用场景提供强大的计算支持和优化方案。用户可以利用市场波动实现成本优化,通过算力市场提供潮汐定价机制,根据需求和预算选择不同的算力资源。

潞晨云正在举行特别活动,提供百万补贴并定期发放代金券。用户在社交媒体和专业论坛上分享使用体验,有效分享一次可得100元代金券,每月最佳分享可额外再获500元代金券。在平台分享AI应用镜像等,根据后续平台用户的调用时长,可获得现金奖励。同时,潞晨云社群中不定时发放特价资源、代金券等优惠活动感兴趣的用户可以访问潞晨云官网了解更多详情。

原文和模型


【原文链接】 阅读原文 [ 1807字 | 8分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆

© 版权声明
讯飞星火大模型

相关文章

星火内容运营大师

暂无评论

暂无评论...