人工智能通过SolidRun和回转隼的人工智能推理服务器进入边缘

诸葛瑞凡
导读 你需要边缘人工智能视频智能设备吗?然后,高性能边缘计算硬件的开发者和制造商SolidRun,以及专用集成电路芯片制造商Gyrfalcon技术,为你

你需要边缘人工智能视频智能设备吗?然后,高性能边缘计算硬件的开发者和制造商SolidRun,以及专用集成电路芯片制造商Gyrfalcon技术,为你提供了一个服务器:基于手臂和Linux操作系统的雅力士GS31 AI推理服务器。

什么是人工智能推理服务器?例如,一旦使用机器学习来训练神经网络以识别汽车和空间,所学到的经验教训就可以被构建到应用程序中。然后,程序可以根据它的训练来推断关于新数据的信息。所以,比如有人超速或者闯红灯,艾授权的交警可能会做出推论。

当然,如果你想实时处理这个,你需要一台电脑在边缘延迟一到两秒,而不是在云数据中心。这就是雅力士GS31出现的地方。

雅力士GS31是一款机架式1U服务器。其核心是采用CEx7 LX2160A 16核Arm Cortex A72 CPU .凭借其真正的处理能力,它可以使用多达128个GyrfalconLightspeeur SPR2803 AI加速芯片和32个一. MX8M片上系统(足球).对于快速内存,它使用高达64GB的双通道内存。

这支持所有主要的神经网络框架。具体来说,它支持开源的张量流、咖啡和PyTorch框架。

它旨在支持最高128个1080p/60Hz视频通道的超低延迟解码和视频分析。这使得它非常适合监控智能城市和基础设施、智能企业/工业视频监控应用,以及为基于文本的搜索标记照片和视频。

制造商声称,它可以将片上系统(SoC)和基于国家政治保卫局。参见OGPU的系统的性能提高几个数量级,同时只消耗具有相当计算能力的系统的一小部分能量。

SolidRun首席执行官阿泰齐夫博士在一份声明中表示:"强大的新人工智能模型将分分钟被引入市场,部署这些人工智能模型的人工智能推理解决方案的需求正在快速增长。""尽管基于国家政治保卫局。参见OGPU的推理服务器在基于云的应用中获得了广泛关注,但对边缘优化解决方案的需求日益增长,这些解决方案提供了强大的人工智能推理,并且比基于云的解决方案具有更少的延迟。与回转隼合作并利用其成熟的ASIC,使我们能够为在边缘上部署人工智能创建一个强大且经济高效的解决方案,以提供无缝的可扩展性。"

标签:

免责声明:本文由用户上传,如有侵权请联系删除!