下一次Windows大更新将带来硬件加速的机器学习

刘洁彬
导读 2022年1月4日整理发布:微软正忙于为下一个 Windows 10 大更新版本 1803 准备开发人员,并将重点放在机器学习上。今年 3 月或 4

2022年1月4日整理发布:微软正忙于为下一个 Windows 10 大更新版本 1803 准备开发人员,并将重点放在机器学习上。今年 3 月或 4 月,新版本将包含一个新的机器学习框架,用于在 Windows 应用程序中使用机器学习模型。

到目前为止,我们在整个计算机行业看到的大部分机器学习重点都放在云系统上。处理数据集以构建模型,这些模型可用于识别模式。例如,一个工业系统通过视觉检查制造物品的缺陷将通过处理已知工作和已知缺陷物品的图像来训练其模型。机器学习系统将学习好对象和坏对象的外观并构建模型。然后,该模型可用于检查新制作物品的图像,然后可以将它们分类为可能有效或可能有缺陷。

云焦点之所以存在,是因为构建模型通常需要大量数据集和强大的计算能力。但是,运行模型以使用它对数据进行分类的要求要低得多。这并不是说它一定是微不足道的——例如,针对实时视频运行模型,仍然需要多个 GPU 才能达到可接受的性能——但它往往是“PC 规模”而不是“云规模”。

当然,模型也可以在云中运行,但在本地运行它们有很多好处。对于服务提供商来说,一个简单的好处是最终用户资源可以免费使用,而云服务需要花钱。如果您可以在客户端机器而不是云系统上运行东西,您就可以减少每月的云费用。本地执行延迟较低,因为它不必通过网络发送数据,并且具有明显的隐私优势:敏感数据永远不必离开场所。

这就是微软的机器学习框架发挥作用的地方。它是一个用于运行机器学习模型的新 Windows 组件(适用于所有 Windows 变体——不仅适用于 PC,还适用于 HoloLens、服务器和物联网设备)。它是硬件加速的;在 CPU 上,它将使用包括最新 AVX512 在内的指令集,它也可以在 GPU 上使用,微软表示大约 80% 的 Windows 10 系统具有足够强大的 GPU 来运行模型。还有一个用于专用机器学习加速器(例如英特尔的 Movidius“视觉处理单元”)的驱动程序模型,以便它们也可用于运行模型。这些模型本身使用一种称为 ONNX 的格式,由 Microsoft、Facebook 和 Amazon Web Services 开发,并得到 Nvidia、Qualcomm、

微软本身将更新其照片应用程序以使用新框架。照片应用程序具有许多机器学习驱动的功能,例如人脸检测和相关视频内容识别。

该公司还表示,它将更新 Visual Studio 以改进其对 ONNX 的支持,并使开发人员更容易构建具有机器学习驱动功能的应用程序。

标签:

免责声明:本文由用户自主上传,版权归原作者所有,若有来源标注错误或侵犯了您的合法权益,请与本网联系,我们将及时更正、删除,谢谢您的支持与理解。