Vultr通过VKE Marketplace提供来自AMD的企业级AI软件组件,针对AMD Instinct™GPU进行了优化,运行于Vultr GPU云服务器和Vultr Kubernetes Engine(VKE)之上使企业能够更快地在生产规模上部署AI应用。可用组件包括AMD AI Workbench、AMD推理微服务(AIM)和AMD资源管理器。
随着企业从人工智能实验阶段过渡到实际应用,它们在部署、可扩展性、治理和基础设施管理方面面临着日益严峻的挑战。构建可用于生产环境的人工智能环境通常需要团队集成来自多个供应商的模型服务框架、编排平台、监控工具和GPU管理解决方案。
AMD企业级AI软件堆栈通过模块化、开放式架构设计,为整个AI生命周期提供解决方案,从而帮助应对这些挑战。
该解决方案省去了启动时通常需要执行的许多运维任务。集群配置、网络连接、公网IP地址分配和SSL证书配置均自动完成,使团队能够直接投入到开发和部署工作中。
包括内容:
- AMD AI工作台:提供了一个集中式的AI开发环境,包含支持GPU的工作区、优化的AI模型以及用于训练、微调和部署的工具。它还包含针对在Kubernetes上运行的AI工作负载的生命周期管理功能。
- AMD推理微服务(AIMs):可直接用于生产环境的推理服务,支持通过OpenAI兼容的API进行标准化模型部署。它们提供自动硬件优化、可扩展的部署选项,并支持广泛的开放模型生态系统。
- AMD资源管理器:提供企业级治理和GPU编排功能,包括配额管理、基于角色的访问控制、工作负载调度和实时监控,以帮助组织最大限度地利用GPU。
这些工具共同提供了一种简化的方法来构建、部署和管理AI工作负载,而无需手动组装和集成多个软件组件,从而避免了复杂性。
AMD企业级AI软件栈专为需要灵活、可扩展且能够有效控制AI基础设施的组织而设计。无论团队是评估AI项目、部署面向客户的应用程序,还是在全球范围内扩展推理工作负载,AMD软件与Vultr基础设施的结合都能提供从开发到生产的简化路径。
AMD AI Workbench(包括对AMD推理微服务和AMD资源管理器的访问权限)现已通过VKE Marketplace提供。
通过将AMD的企业级AI软件与Vultr GPU云服务器相结合,企业可以更快地部署和扩展AI服务,同时保持基于开放技术和标准的灵活性。
Vultr GPU云服务器方案推荐
| GPU | GPU内存 | CPU | 内存 | 存储 | 带宽 | 价格 |
| 1/8 | 10GB | 2vCPUs | 15GB | 170GB | 2TB | $0.342/hr |
| 1/4 | 20GB | 3vCPUs | 30GB | 350GB | 3TB | $0.616/hr |
| 1/2 | 40GB | 6vCPUs | 60GB | 700GB | 6TB | $1.199/hr |
| 1 | 80GB | 12vCPUs | 120GB | 1.40TB | 10TB | $2.397/hr |
| 2 | 160GB | 24vCPUs | 240GB | 1.40TB | 10TB | $4.795/hr |
| 4 | 320GB | 48vCPUs | 480GB | 1.40TB | 15TB | $9.589/hr |
| 8 | 640GB | 96vCPUs | 960GB | 2.20TB | 25TB | $19.178/hr |
《点击进入官网选购》
Vultr优惠码:50美元优惠链接(新用户注册赠送50美元)