Microsoft Azure机器学习为Word编辑器提供语法建议

实时语法检查模型预计每年运行超过5000亿次查询。有人说好文章都是编辑出来的。幸运的是,为了满足全球读者的挑剔要求,微软正在为数百万人提供ai语法编辑器。该工具如同一名优秀的编辑一样快速而专业。这是由于微软编辑器在microsoft word在线版中对语法进行了改进,可以运用nvidia triton 推理服务器、onnx 运行时和azure ai中的微软azure 机器学习,来提供这种丰富的智能体验。
10月5日,nvidia首席执行官黄仁勋在gtc大会上的主题演讲中宣布了这一新讯。
日常工作中的ai应用
微软为microsoft office生产力应用用户提供强大的ai性能。这些节省时间的新功能包括实时语法建议、文档内问题解答(如 “完全匹配”之外的bing文档搜索),以及帮助将句子填写完整的文本预测。唯有通过深度学习和神经网络,才能实现这些提高生产力的功能。例如,与基于传统规则型逻辑构建的服务不同,在纠正语法方面,word在线编辑器可以理解句子的上下文,并提供适当的单词选择建议。
这些深度学习模型可能涉及数亿个参数,它们必须具有可扩展性,并提供实现最佳用户体验所需的实时推理。预计仅用于语法检查的微软编辑器ai模型每年就要对word在线处理超过5000亿次查询。但这种规模的部署可能会大幅增加深度学习的预算。幸运的是,可通过azure机器学习访问的nvidia triton的动态批处理和并发模型执行功能将成本降低了约70%,并且在单个nvidia v100 tensor core gpu上实现了每秒450次查询的吞吐量,响应时间在200毫秒以内。
azure机器学习具备管理模型生命周期所需的规模和能力,比如版本管理和监控。
在azure 机器学习上通过triton实现高性能推理
随着机器学习模型规模的不断扩大,模型训练和部署过程对gpu的需求比以往任何时候都更加迫切。为了将ai部署到生产中,企业机构正在寻找可扩展的推理服务解决方案、对多个框架后端的支持、最佳的gpu和cpu利用率以及机器学习生命周期管理。azure 机器学习中的nvidia triton和onnx 运行时堆栈提供可扩展的高性能推理。azure机器学习用户可以利用triton对多种框架的支持、实时、批和流推理、动态批处理以及并发执行等性能。
借助ai进行word创作
作家和诗人robert graves曾说过:“没有写得好的文章,只有改得好的文章。”换言之,就是要对写好的文章进行编辑和润色。您可以使用word在线编辑器同时进行这两项工作。尽管编辑器是word中第一个通过triton和onnx 运行时增加速度与广度的功能,但它仅仅是更多功能的开始。
fqj

欧司朗灯具:寿命长达50000小时 使用过程中接近零维护
Fairchild FAN302HL 5W手机充电器解决方案
三大通信运营商联合发布,放弃对山东菏泽怡海花园小区进行网络覆盖
Lora与NB-IOT的优缺点对比分析
磷酸铁锂稳定性主要影响因素有哪些?
Microsoft Azure机器学习为Word编辑器提供语法建议
RRC层功能
“如果没坏,就不要修理”调节固定增益差分放大器的增益
世界环境日,OPPO发布《2022年可持续发展报告》
【esp32教程】0、环境搭建
歌尔助力推出基于高通骁龙XR1平台的AR参考设计
海信紧抓授权不放恐有阴谋,夏普重振美国电视市场蒙尘
AcrelCloud-3000环保用电监管云平台在新疆阜康市的应用
被落在起跑线上的零跑汽车很难成为主角
Synopsys推出用于早期RTL探测的DC Explorer
音圈马达柔性振动供料系统的应用范围有哪些
PIC16F874在喷织机控制系统中的应用
台湾5G频谱竞标底价过高将会抬高5G产业的成本影响产业发展
OTA走向何方?多个OTA更新选项等待汽车软件开发人员
首批工业互联网国标 助电子变压器行业数字化