文章摘要
【关 键 词】 大模型降价、潞晨云补贴、一键部署、高性能计算、优惠活动
近期，大模型圈出现了一股降价风潮，智谱、DeepSeek等大模型厂商纷纷降低API价格，GPU租赁价格也有所下降。潞晨云官方推出了限时大额算力补贴，NVIDIA H800、A800和4090的租用价格分别降至6.99元/卡/时、5.99元/卡/时和1.39元/卡/时。此外，潞晨云还支持快速简易部署Llama 3微调、训练和推理，通过Colossal-AI优化，可提升LLaMA3 70B的训练性能近20%，推理性能也优于vLLM等方案。
潞晨云提供一键部署功能，用户可以快速启动计算环境。例如，对Llama 3微调训练，可在8卡H800上完成。用户需要先创建云主机，选择Colossal-llama3训练微调镜像，然后创建云主机，修改config文件，输入Llama3训练脚本。接下来，编译安装Colossal-AI，创建训练需要的文件夹，修改hostfile，安装IP address指令，查看并更新hostfile中的IP地址，完成Llama3微调流程。
对于Llama 3推理，用户可以在云主机上选择单张H800作为算力资源。Colossal-Inference已适配支持LLaMA-3推理加速，模型权重已准备好，无需额外安装。用户可以运行生成脚本进行多卡TP推理，运行吞吐Benchmark测试，单卡H100对LLaMA3-8B进行Benchmark结果与vLLM对比。
潞晨云还支持常用的计算环境配置保存为私有镜像，随时调用，减少重复配置时间，并保证环境的一致性和稳定性。此外，潞晨云还支持视频生成模型部署，如Open-Sora 1.0。Open-Sora推理可以在单卡H800上完成，潞晨云Open-Sora镜像中内置了运行环境，同时预置了Open-Sora权重，支持开箱即用。
潞晨云采用按秒计费模式，有效降低不必要的成本支出，适合短期或动态计算任务。除了复杂机器学习模型训练、海量数据分析外，还支持高性能图形渲染，为广泛应用场景提供强大的计算支持和优化方案。用户可以利用市场波动实现成本优化，通过算力市场提供潮汐定价机制，根据需求和预算选择不同的算力资源。
潞晨云正在举行特别活动，提供百万补贴并定期发放代金券。用户在社交媒体和专业论坛上分享使用体验，有效分享一次可得100元代金券，每月最佳分享可额外再获500元代金券。在平台分享AI应用镜像等，根据后续平台用户的调用时长，可获得现金奖励。同时，潞晨云社群中不定时发放特价资源、代金券等优惠活动。感兴趣的用户可以访问潞晨云官网了解更多详情。
原文和模型
【原文链接】 阅读原文 [ 1807字 | 8分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆
相关文章
