新闻 news
您现在的位置:首页 > 新闻 > AWS推出其定制的Inferentia推理芯片

新闻

振东制药达霏欣推出中药生发片:中西结合双管齐下,攻克脱发难题 振东制药达霏欣推出中药生发片:中西结合双管齐下...

近年来,脱发问题已成为困扰现代人的一大健康难题。无论是因压力、作息不规律还是遗传因素导致的头发稀...

财经

唯品会经营范围变更 新增医疗器械、蔬菜水果零售等业务 唯品会经营范围变更 新增医疗器械、蔬菜水果零售等...

天眼查数据显示,3月31日,唯品会(中国)有限公司发生工商变更,经营范围新增蔬菜零售;非许可类医疗器...

  • 品钛旗下赣州爱信小贷正式接入人民银行征信系统

        北京2020年4月7日 /美通社/ -- 领先的金融科技解决方案提供商品钛(Pintec Technology Holdings Ltd., Nasdaq: PT) 今日宣布旗下的赣州爱信网络小额贷款有限公司(下称“爱信小贷”)正式接入中国人民银行...

  • 特斯拉空头近一个月减少超200万股

      据金融分析机构S3 Partner数据显示,截至4月3日,特斯拉未平仓空头头寸为1604万股,占流通股的10.97%。过去30天,特斯拉未平仓空头头寸减少222万股或12.18%,期间股价上涨32%;过去一周,特斯拉未平仓空头头...

  • 特斯拉展示新型自研呼吸机:与Model 3共用零件

      特斯拉之前宣布将开发新的呼吸机,而现在他们展示了这种新型设计。特斯拉在YouTube发布了视频,其工程师演示了两个版本的呼吸机,一个是把所有零件摆在桌子上的原型,另外一个则是组装好的设备,用于显示在医...

  • 特朗普称将在下一轮刺激计划中为美国民众发放更多的钱

      北京时间4月7日消息,美国总统特朗普称将在下一轮刺激计划中为美国民众发放更多的钱。在白宫新闻发布会上表示,特朗普“肯定”想听取下一次刺激计划的想法,并补充道他希望其中包括“切切实实的基础设施”。  ...

AWS推出其定制的Inferentia推理芯片

发布时间:2019/12/04 新闻 浏览:465

 
在re:Invent会议上,AWS今天宣布了其Inferentia芯片的发布,该芯片最初于去年宣布。这些新芯片有望进行推理,即使用您之前进行过预训练的机器学习模型,速度明显更快且具有成本效益。
正如AWS首席执行官Andy Jassy指出的那样,许多公司都在关注可让您训练模型的定制芯片(尽管Google和其他公司肯定会对此表示反对)。推理通常可以在常规CPU上很好地工作,但是定制芯片显然会更快。与EC4上的常规G4实例相比,借助Inferentia,AWS可提供更低的延迟和三倍的吞吐量,且每次推理成本降低40%。
新的Inf1实例可实现多达2,000 TOPS的功能,并与TensorFlow,PyTorch和MXNet集成,以及用于在框架之间移动模型的ONNX格式。目前,它仅在EC2计算服务中可用,但很快还将用于AWS的容器服务及其SageMaker机器学习服务。