侵权投诉

                  游戏AI对自对弈推理速度提出新要求

                  NVIDIA英伟达企业解决方案 ? 2021-10-22 09:23 ? 次阅读

                  腾讯一直积极地推动强化学习在游戏AI领域的发展,并在2019年推出了“开悟”AI开放研究平台,提供不同游戏的训练场景、支撑AI进行强化训练的大规模算力、统一的强化学习框架以加速研发速度、通用的训练与推理服务,加快AI训练速度。

                  游戏AI对自对弈推理速度提出新要求

                  和图像以及语音的训练方式不同,目前在游戏AI训练上表现最好的方式是强化学习。强化学习除了需要大量的算力来训练深度学习网络之外,还需要一个自对弈的模块用来产生训练数据。在自对弈模块当中,会模拟游戏环境,并且选择不同时期的模型来操控游戏内的角色,AI对游戏内角色的每一操控都需要对模型进行一次前向推理。由于更新模型的训练数据来自于自对弈模块,因此自对弈的推理速度会对整个模型的训练速度和效果造成非常大的影响。

                  而自对弈推理每一次前向推理对延时的要求比实际的线上服务小,因此常见的方式是通过CPU来进行自对弈中的推理,但CPU成本太高。为了提高自对弈的速度与吞吐,减少推理成本,腾讯希望在“开悟”AI开放研究平台里面充分利用GPU去进行自对弈中的模型前向推理。

                  TensorRT 助力“开悟”AI加速自对弈推理

                  为了解决在自对弈推理当中GPU利用率不高的问题, 腾讯“开悟”AI开放研究平台选择使用NVIDIA V100 GPU和NVIDIA TensorRT推理引擎来加速推理。

                  为了自动化地将模型从TensorFlow转换到TensorRT, 腾讯“开悟”AI开放研究平台一开始通过自行开发parser,将TensorFlow的算子映射到TensorRT的算子。同时,为了支持更广泛的模型与算子,减少维护和开发的成本, 腾讯“开悟”AI开放研究平台也积极地与NVIDIA合作,推动从TensorFlow转换成ONNX模型,再通过TensorRT ONNX parser转换到TensorRT的流程。

                  在自对弈的过程中,需要频繁地更新模型的权重,让自对弈模型始终能保持在较新的状态。这个更新的频率大概几分钟一次,每次必须限制在几百个毫秒。如果通过重新build engine 的方式来更新模型的话,无法满足上述要求。因此 腾讯“开悟”AI开放研究平台采用 TensorRT refit engine的功能来更新权重。同时,为了对更新权重有更好的支持、以及支持更多的算子, 腾讯“开悟”AI开放研究平台从原本的TensorRT 5 升级到TensorRT 7。

                  TensorRT 7虽然在部分算子上支持权重更新,但并不支持LSTM这个在游戏AI当中很重要的算子。为了解决这个问题, 腾讯“开悟”AI开放研究平台通过开发TensorRT插件的方式封装LSTM算子,并在插件当中更新权重。

                  为了充分利用NVIDIA V100 GPU的Tensor core, 腾讯“开悟”AI开放研究平台希望能够使用TensorRT FP16精度来加速推理。由于TensorRT对FP16的支持非常成熟和简便,整个推理流程很快被切换到FP16,并取得了2倍左右的加速。

                  寻找模型推理时的性能瓶颈,通过开发TensorRT插件进行算子融合,进一步地提升推理的速度。

                  在完成以上的工作之后,对比TensorFlow的基础版本,TensorRT 7 能提供5倍以上的加速效果。

                  通过NVIDIA V100 GPU以及TensorRT推理引擎加速自对弈训练的推理部分,腾讯“开悟”AI开放研究平台极大地提升了自对弈推理的吞吐量与速度,进一步地提升了整个模型训练的速度与降低训练成本,加快模型迭代的周期。

                  责任编辑:haq

                  原文标题:NVIDIA TensorRT助力腾讯加速“开悟”AI开放研究平台

                  文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

                  收藏 人收藏
                  分享:

                  评论

                  相关推荐

                  京东方携智慧一体机产品亮相2021深圳国际全触与显示展

                  10月19日,2021国际全触与显示展在深圳国际会展中心隆重举行,本届展会集中展示了全球最前沿的创新....
                  的头像 京东方BOE 发表于 10-25 16:18 ? 453次 阅读

                  AI芯片是智能汽车发展的基石

                  “以智能芯片和操作系统为基石,智能汽车未来将成为个人智能终端发展最大的母生态,而开放、融合、共创是新....
                  的头像 地平线HorizonRobotics 发表于 10-25 14:40 ? 157次 阅读

                  冲刺科创板,扫描全能王所属公司未来可期

                  扫描全能王在办公类APP中一直名列前茅,是职场办公人士手机中不可或缺的重要APP之一。扫描全能王的成....
                  的头像 话说科技 发表于 10-25 13:33 ? 45次 阅读
                  冲刺科创板,扫描全能王所属公司未来可期

                  华为开发者大会概念股大涨

                  华为2021开发者大会于10月22日至24日在东莞松山湖欧洲小镇举办,据了解,鸿蒙生态相关公司有望获....
                  的头像 lhl545545 发表于 10-25 10:23 ? 204次 阅读

                  IBM公布一项开创性承诺与全球计划

                  日前 -- IBM(纽交所证券代码: IBM)公布了一项开创性承诺与全球计划,承诺在 2030年之前....
                  的头像 IBM中国 发表于 10-25 10:10 ? 175次 阅读

                  如何助力商业银行对公业务的数智化转型

                  对公业务作为商业银行的主要资产、营业收入和净利润来源,对银行的意义不言而喻。伴随着金融科技的进一步迭....
                  的头像 IBM中国 发表于 10-25 10:07 ? 207次 阅读

                  传苹果正考虑将汽车电池采购订单转投松下

                  近日,苹果公司与宁德时代就其计划电动汽车的电池供应所进行的谈判,谈判进展并没有达到预期效果。不过苹果....
                  的头像 lhl545545 发表于 10-25 09:55 ? 376次 阅读

                  华为开发者大会发布HarmonyOS 3预览版等全新开发技术,搭载HarmonyOS的设备超过1.5亿台

                  HarmonyOS已在超过1.5亿智能手机、平板、手表、智慧屏等设备上应用,成为万物智联时代的数字底....
                  的头像 西西 发表于 10-25 09:55 ? 417次 阅读

                  华为昇腾异构计算架构CANN 助力应对AI发展新挑战!

                  电子发烧友网报道(文/李弯弯)人工智能在21世纪以后,经历了PC、互联网以及移动互联网这几波浪潮之后....
                  的头像 Carol Li 发表于 10-25 09:35 ? 504次 阅读
                  华为昇腾异构计算架构CANN 助力应对AI发展新挑战!

                  探访百度AI反诈第一线,揭秘百度AI安全技术

                  科技发展一路向前,电信诈骗、黑灰产的犯罪手段也越来越高明。“反诈”这个词,正在越来越高频的出现在我们....
                  的头像 脑极体 发表于 10-25 09:35 ? 86次 阅读
                  探访百度AI反诈第一线,揭秘百度AI安全技术

                  凌华科技边缘AI助力全球首场于著名印第安纳波利斯赛道进行的高速Indy自动驾驶挑战赛

                  同期举办科学教育互动活动,可直击F1TENTH赛道、Kvaser‘s DevKit 赛车模拟器以及更....
                  发表于 10-22 17:45 ? 664次 阅读
                  凌华科技边缘AI助力全球首场于著名印第安纳波利斯赛道进行的高速Indy自动驾驶挑战赛

                  华为开发者大会2021:Wireless Kit + Network Kit

                   Wireless Kit + Network Kit new 智能网络调优无惧网络拥塞让应用加速,....
                  的头像 西西 发表于 10-22 16:50 ? 219次 阅读
                  华为开发者大会2021:Wireless Kit + Network Kit

                  华为开发者大会2021年 AI能力帮助网络快速链接

                  华为开发者大会2021年 AI能力帮助网络快速链接 AI能力强大通过AI预测通信信号,AI通过网络路....
                  的头像 inr999 发表于 10-22 16:30 ? 982次 阅读
                  华为开发者大会2021年 AI能力帮助网络快速链接

                  华为开发者大会2021,开发AI信号预测及信号调优

                  开发者大会上,为达到手机网络信号的稳定,华为助力开发AI信号预测及对网络的优化调优。
                  的头像 电子魔法师 发表于 10-22 16:24 ? 187次 阅读
                  华为开发者大会2021,开发AI信号预测及信号调优

                  华为开发者大会2021:打造全场景万物智联的应用生态底座

                   21,738APls打造全场景万物智联的应用生态底座具体是什么样子的。
                  的头像 西西 发表于 10-22 16:23 ? 325次 阅读
                  华为开发者大会2021:打造全场景万物智联的应用生态底座

                  2021华为开发者大会张平安:全场景沉浸的数字孪生亮相

                  2021华为开发者大会上,全场景沉浸的数字孪生亮相。AI实时处理能力把智慧能力给更多的开发者,为应用....
                  的头像 lhl545545 发表于 10-22 16:18 ? 192次 阅读
                  2021华为开发者大会张平安:全场景沉浸的数字孪生亮相

                  AI芯片公司获大笔融资,英特尔前副总裁证实加入董事会

                  据外媒报道,日前,以色列芯片公司Hailo完成1.36亿美元C轮融资,据业内知情人士所说,该笔融资让....
                  的头像 电子发烧友网 发表于 10-22 16:00 ? 367次 阅读

                  华为开发者大会,AI实现万物互联

                  华为开发者大会进行时,AI助力万物互联,万物智联需要新的智慧交互体验,多设备的协同合作可以更专业化。
                  的头像 电子魔法师 发表于 10-22 15:26 ? 191次 阅读
                  华为开发者大会,AI实现万物互联

                  华为开发者大会2021采用最新AI技术 沟通无障碍

                  在华为开发者大会2021直播间里,左下角有一个实时手语服务,这是开放AI技术,使能音视频实时手语服务....
                  的头像 璟琰乀 发表于 10-22 15:01 ? 202次 阅读
                  华为开发者大会2021采用最新AI技术 沟通无障碍

                  AI助力华为2021开发者大会

                  10月22日下午14:30,“万物互联”华为开发者大会2021(Together)主题演讲正在进行中....
                  的头像 lhl545545 发表于 10-22 14:56 ? 153次 阅读
                  AI助力华为2021开发者大会

                  华为开发者大会2019回顾

                  华为开发者大会2019于8月9日-8月11日在东莞松山湖正式举行,华为消费者业务CEO、华为技术有限....
                  的头像 独爱72H 发表于 10-22 14:45 ? 153次 阅读

                  新数智芯生态共飞腾 | 2021飞腾生态伙伴大会诚邀您的参与

                  渤海之滨,海河之津,2021飞腾生态伙伴大会即将如约启幕,作为面向生态伙伴的年度盛会,我们汇聚力量、....
                  的头像 话说科技 发表于 10-22 13:46 ? 95次 阅读
                  新数智芯生态共飞腾 | 2021飞腾生态伙伴大会诚邀您的参与

                  腾讯云有哪些杀手锏产品助力企业数字化转型

                  电子发烧友网报道(文/章鹰)“我们经历了PC互联网、移动互联网时代,现在到了万物互联的时代,大家感受....
                  的头像 电子发烧友网 发表于 10-22 10:56 ? 548次 阅读

                  2021华为开发者大会在哪里买票

                  2021华为开发者大会在哪里买票?2021华为开发者大会将于本月22号在广东东莞松山湖正式举行,20....
                  的头像 lhl545545 发表于 10-22 10:51 ? 360次 阅读

                  哈啰出行与您相约潍坊第七届中日韩产业博览会

                  出行是人们最初探索世界的方式,从旷野到城市,那些未知、好奇的,都将在路上得到解答,为了可以放肆同行,....
                  的头像 话说科技 发表于 10-22 10:08 ? 155次 阅读
                  哈啰出行与您相约潍坊第七届中日韩产业博览会

                  华为开发者大会2020举办地点

                  华为开发者大会2020举办地点在广东东莞松山湖举行。这是华为面向信息与通信领域全球开发者的年度顶级旗....
                  的头像 lhl545545 发表于 10-22 09:58 ? 299次 阅读

                  Graphcore首次发布大型IPU产品,为超级计算机领域提供超强AI算力

                  Graphcore今日宣布发布最新产品IPU-POD128和IPU-POD256。IPU-POD12....
                  发表于 10-22 09:52 ? 678次 阅读
                  Graphcore首次发布大型IPU产品,为超级计算机领域提供超强AI算力

                  华为开发者大会2021带来什么产品

                  华为官方公布了华为开发者大会2021将在中国松山湖举行,时间将定档在10月22日至10月24日,干货....
                  的头像 lhl545545 发表于 10-22 09:43 ? 300次 阅读

                  借助NVIDIA CloudXR重新构想增强现实和虚拟现实

                  在云栖大会上,阿里云展示了一个云端虚拟仿真实验室的沉浸式体验,这一云化XR体验借助NVIDIA Cl....
                  的头像 NVIDIA英伟达企业解决方案 发表于 10-22 09:32 ? 254次 阅读

                  NVIDIA为轻量级地图和精确感知提供高性能计算

                  NVIDIA DRIVE Orin为轻量级地图和精确感知提供高性能计算。 自动驾驶卡车需要减轻绘制地....
                  的头像 NVIDIA英伟达企业解决方案 发表于 10-22 09:26 ? 169次 阅读

                  2021数字经济峰会上中原人工智能计算中心正式宣布投运

                  “闻听三国事,每欲到许昌”,提到河南许昌,很多人首先联想到的就是三国历史、曹魏文化。 事实上,除了久....
                  的头像 脑极体 发表于 10-22 09:21 ? 279次 阅读

                  avatarin能够像提供共享电瓶车一样向企业提供机器人

                  白天,Akira Fukabori 和 Kevin Kajitani 在日本最大的航空控股公司工作;....
                  的头像 NVIDIA英伟达企业解决方案 发表于 10-22 09:18 ? 198次 阅读

                  NVIDIA加速虚拟人项目渲染与推理效率

                  腾讯AI LAB致力于打造产学研用一体的 AI 生态,主要的研究方向包括计算机视觉、语音识别、自然语....
                  的头像 NVIDIA英伟达企业解决方案 发表于 10-22 09:12 ? 185次 阅读

                  知识计算 华为云要给AI时代开一扇门 华为开发者大会你不来看看?

                  在企业、行业应用AI时,我们一般都会说需要具备三大条件:算力、算法、数据。而企业在获取这三大要素过程....
                  的头像 脑极体 发表于 10-21 19:02 ? 880次 阅读

                  华为开发者大会2021如何购票

                  华为开发者大会(Together)将于10月22日-10月24日在东莞松山湖举行,持续3天,内容包括....
                  的头像 ss 发表于 10-21 17:00 ? 394次 阅读

                  华为全联接大会2020在上海开幕

                  华为2020全联接大会在上海举行,华为全联接大会将深耕数字化、能源数字化与能源技术的创新融合,使能源....
                  的头像 lhl545545 发表于 10-21 16:56 ? 372次 阅读

                  工信部印发一份与人工智能相关的通知

                  10月14日,工信部印发了一份与人工智能相关的通知,宣布开展2021年人工智能产业创新任务揭榜挂帅申....
                  的头像 电子发烧友网 发表于 10-21 15:38 ? 574次 阅读

                  MediaTek举办天玑旗舰技术媒体沟通会,先进技术引领移动平台体验升级

                  2021年10月20日,MediaTek举办天玑旗舰技术媒体沟通会,分享了基于天玑5G移动平台的多领....
                  发表于 10-20 18:20 ? 767次 阅读
                  MediaTek举办天玑旗舰技术媒体沟通会,先进技术引领移动平台体验升级

                  矩池云亮相PyConChina 释放AI创新潜能

                  2021年10月16日,Python开发者大会PyCon China 2021于线上举行,这是PyC....
                  的头像 话说科技 发表于 10-20 17:52 ? 470次 阅读
                  矩池云亮相PyConChina 释放AI创新潜能

                  2021地平线开发者加速营交流活动在南京圆满举办

                  9月28日,2021地平线开发者加速营交流活动在南京圆满举办。活动由地平线主办,第一创客、Segme....
                  的头像 地平线HorizonRobotics 发表于 10-20 17:34 ? 433次 阅读

                  嵌入式AI需要什么样的解决方案

                  ADAS 和自动驾驶、智慧城市、智慧医疗和工业视觉应用,是嵌入式 AI 应用的典型场景,也是赛灵思 ....
                  发表于 10-20 16:49 ? 1107次 阅读
                  嵌入式AI需要什么样的解决方案

                  软硬结合的智慧园区综合管理系统

                  在中国社会高速发展的时间周期中,大量老旧园区在完成历史使命后被闲置甚至被荒废,如何让老旧园区重新焕发....
                  的头像 旷视MEGVII 发表于 10-20 15:47 ? 336次 阅读

                  摄像头分析能力是否八面玲珑

                  今天,视频分析广泛正应用于人们的日常生活。从帮助智能楼宇提升安全性、在智慧城市中检测拥堵与犯罪,到配....
                  的头像 FPGA开发圈 发表于 10-20 14:23 ? 142次 阅读

                  摄像头分析能力是否八面玲珑

                  今天,视频分析广泛正应用于人们的日常生活。从帮助智能楼宇提升安全性、在智慧城市中检测拥堵与犯罪,到配....
                  的头像 FPGA开发圈 发表于 10-20 14:23 ? 159次 阅读

                  中国天眼携手浪潮存储构建超大规模科研数据基础设施平台

                  IDC公布2021年未来企业大奖获奖名单,国家天文台携手浪潮存储建设的“中国科学院国家天文台FAST....
                  的头像 浪潮存储 发表于 10-20 11:50 ? 386次 阅读

                  华邦HyperRAMTM 助力Efinix驱动新一代紧凑型超低功耗AI与IoT设备

                  华邦电子今日宣布,可编程产品平台和技术的创新厂商Efinix选择华邦HyperRAMTM 内存来驱动....
                  发表于 10-20 10:29 ? 1939次 阅读
                  华邦HyperRAMTM 助力Efinix驱动新一代紧凑型超低功耗AI与IoT设备

                  2021届GTC大会的内容预告

                  有朝一日,所有会动的事物都可能实现自主化,这将改变行业并创造新的业务模式。 NVIDIA GTC大会....
                  的头像 NVIDIA英伟达企业解决方案 发表于 10-20 10:07 ? 328次 阅读

                  高通孟樸:XR+5G+AI驱动下一轮产业变革 赋能全新视界

                  在高通我们认为XR包括VR、AR和MR,它将是下一代移动计算平台。
                  发表于 10-20 10:03 ? 684次 阅读
                  高通孟樸:XR+5G+AI驱动下一轮产业变革 赋能全新视界

                  麒麟980/麒麟970/麒麟960处理器怎么样

                  麒麟980/麒麟970/麒麟960处理器怎么样?有什么区别?有什么差距?...
                  发表于 10-20 07:56 ? 0次 阅读

                  请问CPU和GPU的关系是什么?

                  什么是显卡? 什么是GPU? 什么是CUDA? CPU和GPU的关系是什么? ...
                  发表于 09-27 08:22 ? 0次 阅读

                  什么样的程序适合在GPU上运行呢

                  机器学习一、人工智能1)人工智能应用场景就与现在的社会发展趋势而言,人工智能已经体现在了大家生活中的很多方面,如交通路况查...
                  发表于 09-07 07:56 ? 0次 阅读

                  计算密集型的程序简析

                  人工智能学习1. 人工智能应用场景网络安全、电子商务、计算模拟、社交网络 … …2. 人工智能必备三要素数据,算法,计算力计算力...
                  发表于 09-07 06:14 ? 0次 阅读

                  视觉推理新杀器!英特尔新一代VPU性能翻10倍,反超英伟达 精选资料分享

                  点击我爱计算机视觉标星,更快获取CVML新技术本文转自新智元。新智元报道来源:venturebeat编辑:肖琴【新智元导读】英特尔今...
                  发表于 07-26 06:48 ? 101次 阅读

                  什么是GPU?跟CPU有什么区别?终于有人讲明白了 精选资料分享

                  2016年,发生了一件震动IT界的大事。谷歌的人工智能软件阿尔法狗(AlphaGo)击败了韩国的世界......
                  发表于 07-23 08:06 ? 101次 阅读

                  GPU有何作用

                  GPU:图像在计算机中是多维矩阵,有RGBA(红绿蓝透)四层通道的,每个像素在四通道的值叠加形成像素点颜色。因此(41024680)大...
                  发表于 07-19 08:48 ? 101次 阅读

                  XS GPU是什么?XS GPU的主要特性包括哪些?

                  请问一下XS GPU是什么?XS GPU的主要特性包括哪些?XS GPU具备哪些功能?主要应用于哪些领域?...
                  发表于 07-01 06:55 ? 101次 阅读

                  Arction图表控件LightningChart振动分析可以检测什么

                  LightningChart是优化了GPU加速,硬件性能的制图组件,用于实时呈现超过10亿个数据点的海量数据。同时LightningChart是为...
                  发表于 06-30 07:44 ? 101次 阅读

                  如何让计算机视觉更进一步接近人类视觉?

                  如何让计算机视觉更进一步接近人类视觉?
                  发表于 06-01 06:27 ? 202次 阅读
                  欧美美女的白虎