宁德生活圈

网站首页 互联网 > 正文

在微软用来扩展基于云的人工智能边界的不断增长的技术中

2021-09-21 22:55:14 互联网 来源:
导读 将Kubernetes添加到微软用来扩展基于云的人工智能边界的不断增长的技术中。流行的开源容器布局平台Kubernetes在2017年取得了突破。现在,除

将Kubernetes添加到微软用来扩展基于云的人工智能边界的不断增长的技术中。流行的开源容器布局平台Kubernetes在2017年取得了突破。现在,除了帮助企业管理他们在云中或本地的应用程序容器部署,Kubernetes还被招募来为基于云的人工智能工作负载提供他们在需求上升时完成工作所需的空间。

微软推出了新的自动扩展系统,该系统使用Kubernetes来扩展或减少学习和培训工作负载所需的云计算资源量。该系统是与加州圣何塞的科技初创公司Litbit合作开发的,该公司利用物联网数据创建“人工智能角色”,工作场所可以根据员工的集体经验和专有技术来增强他们的能力。

例如,一个组织可以创建和培训角色,以帮助其现场技术人员在跳上工作卡车和亲自参观正在工作的机器以节省时间和金钱之前检测和诊断设备问题。

事实证明,这是一项艰巨而不可预测的任务。Litbit发现,由于客户在不同的时间进行角色训练,AI训练的工作量差异很大。

“一些训练任务(如Spark ML)大量使用CPU,而另一些(如TensorFlow)则大量使用GPU。在后一种情况下,一些工作将重新训练神经网络的单层并快速完成,而另一些工作则需要训练整个新的神经网络,这可能需要几个小时甚至几天的时间。”微软代表在博客中解释道。

微软和Litbit选择Kubernetes,部分原因是其成熟的集群管理技术,也是因为该项目在短短几年内吸引了社区的大力支持。虽然这个项目是从谷歌开始的,但它仍然被视为Linux基金会云原生计算基金会(CNCF)的重中之重。

两家公司着手通过为Kubernetes使用Azure CNI网络插件在支持GPU的Azure上配置Kubernetes集群,来解决机器学习工作负载高度可变的问题。然后,他们使用针对Kubernetes的Helm包管理器应用节点级自动定标器,然后进行一些配置更改来启动和运行系统。

这个项目很成功。该系统已运行4个月,使Litbit一次扩展到40个节点,在需求下降时可以无缝缩小规模。微软在其开发者博客上发布了Kubernetes自动缩放器的完整练习。

反映了困扰DevOps团队的容器热潮,微软加倍了对Kubernetes的支持。

在今年12月初的KubeCon大会上,微软宣布其Azure容器服务现已缩写为AKS,这表明其以客户为中心、以Kubernetes为中心的云原生应用开发方式。该公司还推出了一个名为Virtual Kubelet的新连接器,使用户能够定位Azure容器实例(ACI),这是该公司的快速容器创建和部署服务。

郑重声明:本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误,请第一时间联系我们修改或删除。谢谢你。


免责声明: 本文由用户上传,如有侵权请联系删除!


标签: