技术速递 | Java Agent场景性能测试分析优化经验分享
作者：栾文飞 高阶软件工程师
一、背景介绍
sermant是一个主打服务治理领域的java agent框架，在服务治理中难免会有针对业务流量进行解析和处理的过程，此类服务治理能力将会对微服务的服务能力产生一定的性能影响，作为一个基于java agent技术做服务治理的框架，我们需要在保证服务治理能力生效的同时，极小的影响微服务原有的服务性能。
虽然基于java agent的服务治理和基于sdk的服务治理在其原理上有所不同，但也避免不了微服务治理过程中产生对微服务原有性能的影响，基于java agent服务治理方式的相较于sdk的服务治理方式免去了侵入式的代码开发，是一种运行时技术，所以还需要考虑更多方面性能优化问题，例如在启动时间，运行时增强性能开销等，本文将以sermant的springboot 注册插件的性能测试及优化过程为例，分享在java agent场景如何进行更好的性能测试优化及在java agent下需要着重注意的性能陷阱。
springboot 注册插件为springboot应用提供服务注册发现能力，可用于在不修改原有代码的前提下快速从esb架构演进为微服务架构，在该插件中包含针对域名的替换能力，服务注册发现能力，请求的超时重试等，为架构的成功演进，原有架构中基于域名的请求调用，将会被基于注册信息的请求调用（通过该插件的服务注册发现能力，获取服务提供者注册的信息）所取代，如下图所示：
在域名处理的过程是必然会参与到调用过程中的，这是服务治理能力对业务性能影响的典型场景。
二、测试方案
众所周知，java agent程序和被增强应用运行时同进程，java agent程序最重要的是不能对被挂载的应用产生异常影响，导致应用不可用，所以sermant在运行时的处理性能及稳定性等做多方面的测试考量。在针对微服务进行测试的过程中，我们往往只需要关注该微服务的性能即可，通过压力测试来检验微服务的服务提供能力，由于服务治理能力并不直接提供服务，我们更多地需要关注在开启服务治理能力时，对微服务本身服务提供能力的影响，所以我们在测试方案中需要进行对比测试来评估服务治理能力的好坏。
本对照测试中，我们通过压力测试让系统达到极限场景（consumer端的cpu已经到达瓶颈），来分析携带sermant并启用服务治理能力时，对应用原有服务提供能力的影响，此处采用两种部署方案：
不携带sermant，基于网关的场景，是架构改造前的运行模式
携带sermant的场景，是迁移后的微服务架构运行模式
注：在这种对比测试中，基于java agent的服务治理只需要对携带java agent程序和不携带java agent程序的场景进行对照测试即可，无需两套代码进行对照测试。
由于java agent程序和被增强应用处于统一进程，资源共享，基于上述两种部署方案进行测试，以不携带java agent程序作为测试分析的对照组，就可以很清晰的看出引入java agent程序后产生的影响，并可根据对照结果进行优化，应用于sermant上，就可以很容易的分析出sermant的服务治理能力对微服务本身服务提供能力带来的影响。
三、性能分析
由于需要针对应用发起的请求通过字节码增量的方式做域名的替换，springboot 注册插件通过对httpclient、openfeign、okhttp等http客户端进行了字节码增强，我们根据上一章节中的测试方案对该插件提供的服务治理能力进行了测试，下面我们以httpclien为例通过cpu火焰图来讲述如何在java agent场景下分析性能瓶颈：
在性能调优过程中，我们可通过cpu火焰图来分析性能瓶颈，火焰图可以称之为性能问题分析的x光，可以很一针见血的看出在程序运行中哪些代码片段产生了异常的cpu占用。可以参考《使用火焰图(flamegraph)分析程序性能》进行学习，当然，采集cpu火焰图的方式很多，我们只需要学会如何看懂火焰图即可。
分析步骤
1. 找到字节码增强逻辑的cpu占用
在分析过程中，首先需要找到字节码增强时选中的被增强方法（本文场景增强方法为internalhttpclient::doexecute），字节码增强需要被增强程序的原有方法调用触发，所以也可以很清晰的在cpu火焰图中可以看到，sermant实现的逻辑调用栈在被增强方法之上，在字节码增强逻辑执行结束后，被增强方法还会继续执行。
所以除被增强方法执行的调用栈及cpu时间片占用外，皆为字节码增强所引入逻辑，在性能优化中需着重关注。
2. 分析异常占用
根据cpu火焰图原理，找出字节码增强部分，找出异常占用cpu时间片的调用栈，并进行程序的优化，如下图所示红框选择部分，皆为字节码增强中引入的逻辑，占用了非常多的cpu时间片，由于字节码增强程序和被增强程序，这种异常的占用，将会严重影响原程序的性能，在针对java agent场景的优化中可着重优化。
通过上述步骤，我们可以一目了然的看到我们通过java agent程序引入的cpu额外占用，具体占用原因本文就不一一分析。
四、性能陷阱
基于上述两个章节的测试和分析方法，在本文的最后，列举出在java agent开发过程中经常会遇到的性能陷阱，这里也给出解决方式，可以在开发中注意：
| 减少反射使用
在字节码增强开发过程中，很多情况下，如果类加载器不同，针对被增强应用的类和方法往往需要通过反射去获取并使用，在我们的性能分析中，反射是一个cpu占用的巨大陷阱，在有些被bootstrapclassloader加载的类增强时，甚至反射占用了一个方法调用30%以上的cpu时间片。
下图选中方法中，反射占用该方法调用中的大部分cpu时间片:
但是由于类加载器的限制，有些反射是必须要使用的，我们也可以通过一定的手段进行优化，比如缓存通过反射获取的类和方法，在字节码增强中，多次触发增强逻辑时减少反射占用cpu时间片非常有效。
通过上述步骤优化后，通过火焰图来看，效果是非常显著的：
| 注意字节码增强插桩选择
在做字节码增强时的增强点选择很重要，字节码增强添加transformer后运行时分为两种情况：
transform：针对尚未被类加载器加载的类，如果添加transformer，在类被加载时就会触发字节码的转换.
retransform：针对已经被类加载器加载的类，如果添加了transformer，则需要被重新加载后再进行字节码的转换。
java中被bootstrapclassloader加载的类，如果想要进行字节码增强，就需要使用第二种字节码转换的方式，可想而知，如果重新加载类再进行转换必然没有在类第一次加载时就进行转换的效率高。
除上述原因之外，在增强启动类加载器加载的类时，由于双亲委派机制的限制（只能向上委托，不能向下委托），往往都是需要大量使用反射（用于调用其他类加载器加载的类）来实现增强逻辑。
上文中也讲到，不加节制的使用反射将会通过java agent程序严重影响被增强应用的性能，所以在开发java agent时，需要谨慎选择增强的类，非必要不增强被启动类加载器加载的类。
上述两点是在java agent开发过程中最容易发生的向被增强应用引入的性能陷阱，除此之外，java agent也是由java所开发，在开发过程中也需要注意不要引入常见的性能陷阱。
sermant作为专注于服务治理领域的字节码增强框架，致力于提供高性能、可扩展、易接入的服务治理体验，并会在每个版本中做好性能、功能、体验的看护，广泛欢迎大家的加入。
sermant官网：https://sermant.io
github仓库地址：https://github.com/huaweicloud/sermant
添加sermant小二（微信号：sermant-support）加入社区交流群
或扫码加入sermant社区交流群
原文标题：技术速递 | java agent场景性能测试分析优化经验分享
文章出处：【微信公众号：华为devcloud】欢迎添加关注！文章转载请注明出处。
AI企业的盈利破局点在哪里
有没有比Xshell更牛逼的工具？
长电科技2022年上半年实现营业收入155.94亿元
HTC或在CES 2017上发布Vive2？
基于CPCI总线的多网口卡设计
技术速递 | Java Agent场景性能测试分析优化经验分享
多路竞赛抢答器
十大陨落的IT消费类电子产品公司：诺基亚居榜首
基于机器视觉的智能车系统
浦东生产线的首架ARJ21飞机已在浦东机场完成首次生产试飞
出游拍照手机推荐？华为p9,vivox7首选专业拍照手机！
3D打印和增材制造：一个充满活力和创新的行业
简单分析服务器的可用性问题
OPPO R17 Pro开启夜拍手机的2.0时代
基于有限状态机[8]的DSR路由表项设计实现方法
浅谈工业以太网串口网关ES-301A的典型应用
美国研究人员开发出了一种由3D打印的刚性机器人
土壤温度湿度测试仪的产品介绍
关于LabVIEW如何实现截屏
IPSec增强原理过程—L2TP over IPSec
一、背景介绍
sermant是一个主打服务治理领域的java agent框架，在服务治理中难免会有针对业务流量进行解析和处理的过程，此类服务治理能力将会对微服务的服务能力产生一定的性能影响，作为一个基于java agent技术做服务治理的框架，我们需要在保证服务治理能力生效的同时，极小的影响微服务原有的服务性能。
虽然基于java agent的服务治理和基于sdk的服务治理在其原理上有所不同，但也避免不了微服务治理过程中产生对微服务原有性能的影响，基于java agent服务治理方式的相较于sdk的服务治理方式免去了侵入式的代码开发，是一种运行时技术，所以还需要考虑更多方面性能优化问题，例如在启动时间，运行时增强性能开销等，本文将以sermant的springboot 注册插件的性能测试及优化过程为例，分享在java agent场景如何进行更好的性能测试优化及在java agent下需要着重注意的性能陷阱。
springboot 注册插件为springboot应用提供服务注册发现能力，可用于在不修改原有代码的前提下快速从esb架构演进为微服务架构，在该插件中包含针对域名的替换能力，服务注册发现能力，请求的超时重试等，为架构的成功演进，原有架构中基于域名的请求调用，将会被基于注册信息的请求调用（通过该插件的服务注册发现能力，获取服务提供者注册的信息）所取代，如下图所示：
在域名处理的过程是必然会参与到调用过程中的，这是服务治理能力对业务性能影响的典型场景。
二、测试方案
众所周知，java agent程序和被增强应用运行时同进程，java agent程序最重要的是不能对被挂载的应用产生异常影响，导致应用不可用，所以sermant在运行时的处理性能及稳定性等做多方面的测试考量。在针对微服务进行测试的过程中，我们往往只需要关注该微服务的性能即可，通过压力测试来检验微服务的服务提供能力，由于服务治理能力并不直接提供服务，我们更多地需要关注在开启服务治理能力时，对微服务本身服务提供能力的影响，所以我们在测试方案中需要进行对比测试来评估服务治理能力的好坏。
本对照测试中，我们通过压力测试让系统达到极限场景（consumer端的cpu已经到达瓶颈），来分析携带sermant并启用服务治理能力时，对应用原有服务提供能力的影响，此处采用两种部署方案：
不携带sermant，基于网关的场景，是架构改造前的运行模式
携带sermant的场景，是迁移后的微服务架构运行模式
注：在这种对比测试中，基于java agent的服务治理只需要对携带java agent程序和不携带java agent程序的场景进行对照测试即可，无需两套代码进行对照测试。
由于java agent程序和被增强应用处于统一进程，资源共享，基于上述两种部署方案进行测试，以不携带java agent程序作为测试分析的对照组，就可以很清晰的看出引入java agent程序后产生的影响，并可根据对照结果进行优化，应用于sermant上，就可以很容易的分析出sermant的服务治理能力对微服务本身服务提供能力带来的影响。
三、性能分析
由于需要针对应用发起的请求通过字节码增量的方式做域名的替换，springboot 注册插件通过对httpclient、openfeign、okhttp等http客户端进行了字节码增强，我们根据上一章节中的测试方案对该插件提供的服务治理能力进行了测试，下面我们以httpclien为例通过cpu火焰图来讲述如何在java agent场景下分析性能瓶颈：
在性能调优过程中，我们可通过cpu火焰图来分析性能瓶颈，火焰图可以称之为性能问题分析的x光，可以很一针见血的看出在程序运行中哪些代码片段产生了异常的cpu占用。可以参考《使用火焰图(flamegraph)分析程序性能》进行学习，当然，采集cpu火焰图的方式很多，我们只需要学会如何看懂火焰图即可。
分析步骤
1. 找到字节码增强逻辑的cpu占用
在分析过程中，首先需要找到字节码增强时选中的被增强方法（本文场景增强方法为internalhttpclient::doexecute），字节码增强需要被增强程序的原有方法调用触发，所以也可以很清晰的在cpu火焰图中可以看到，sermant实现的逻辑调用栈在被增强方法之上，在字节码增强逻辑执行结束后，被增强方法还会继续执行。
所以除被增强方法执行的调用栈及cpu时间片占用外，皆为字节码增强所引入逻辑，在性能优化中需着重关注。
2. 分析异常占用
根据cpu火焰图原理，找出字节码增强部分，找出异常占用cpu时间片的调用栈，并进行程序的优化，如下图所示红框选择部分，皆为字节码增强中引入的逻辑，占用了非常多的cpu时间片，由于字节码增强程序和被增强程序，这种异常的占用，将会严重影响原程序的性能，在针对java agent场景的优化中可着重优化。
通过上述步骤，我们可以一目了然的看到我们通过java agent程序引入的cpu额外占用，具体占用原因本文就不一一分析。
四、性能陷阱
基于上述两个章节的测试和分析方法，在本文的最后，列举出在java agent开发过程中经常会遇到的性能陷阱，这里也给出解决方式，可以在开发中注意：
| 减少反射使用
在字节码增强开发过程中，很多情况下，如果类加载器不同，针对被增强应用的类和方法往往需要通过反射去获取并使用，在我们的性能分析中，反射是一个cpu占用的巨大陷阱，在有些被bootstrapclassloader加载的类增强时，甚至反射占用了一个方法调用30%以上的cpu时间片。
下图选中方法中，反射占用该方法调用中的大部分cpu时间片:
但是由于类加载器的限制，有些反射是必须要使用的，我们也可以通过一定的手段进行优化，比如缓存通过反射获取的类和方法，在字节码增强中，多次触发增强逻辑时减少反射占用cpu时间片非常有效。
通过上述步骤优化后，通过火焰图来看，效果是非常显著的：
| 注意字节码增强插桩选择
在做字节码增强时的增强点选择很重要，字节码增强添加transformer后运行时分为两种情况：
transform：针对尚未被类加载器加载的类，如果添加transformer，在类被加载时就会触发字节码的转换.
retransform：针对已经被类加载器加载的类，如果添加了transformer，则需要被重新加载后再进行字节码的转换。
java中被bootstrapclassloader加载的类，如果想要进行字节码增强，就需要使用第二种字节码转换的方式，可想而知，如果重新加载类再进行转换必然没有在类第一次加载时就进行转换的效率高。
除上述原因之外，在增强启动类加载器加载的类时，由于双亲委派机制的限制（只能向上委托，不能向下委托），往往都是需要大量使用反射（用于调用其他类加载器加载的类）来实现增强逻辑。
上文中也讲到，不加节制的使用反射将会通过java agent程序严重影响被增强应用的性能，所以在开发java agent时，需要谨慎选择增强的类，非必要不增强被启动类加载器加载的类。
上述两点是在java agent开发过程中最容易发生的向被增强应用引入的性能陷阱，除此之外，java agent也是由java所开发，在开发过程中也需要注意不要引入常见的性能陷阱。
sermant作为专注于服务治理领域的字节码增强框架，致力于提供高性能、可扩展、易接入的服务治理体验，并会在每个版本中做好性能、功能、体验的看护，广泛欢迎大家的加入。
sermant官网：https://sermant.io
github仓库地址：https://github.com/huaweicloud/sermant
添加sermant小二（微信号：sermant-support）加入社区交流群
或扫码加入sermant社区交流群
原文标题：技术速递 | java agent场景性能测试分析优化经验分享
文章出处：【微信公众号：华为devcloud】欢迎添加关注！文章转载请注明出处。
AI企业的盈利破局点在哪里
有没有比Xshell更牛逼的工具？
长电科技2022年上半年实现营业收入155.94亿元
HTC或在CES 2017上发布Vive2？
基于CPCI总线的多网口卡设计
技术速递 | Java Agent场景性能测试分析优化经验分享
多路竞赛抢答器
十大陨落的IT消费类电子产品公司：诺基亚居榜首
基于机器视觉的智能车系统
浦东生产线的首架ARJ21飞机已在浦东机场完成首次生产试飞
出游拍照手机推荐？华为p9,vivox7首选专业拍照手机！
3D打印和增材制造：一个充满活力和创新的行业
简单分析服务器的可用性问题
OPPO R17 Pro开启夜拍手机的2.0时代
基于有限状态机[8]的DSR路由表项设计实现方法
浅谈工业以太网串口网关ES-301A的典型应用
美国研究人员开发出了一种由3D打印的刚性机器人
土壤温度湿度测试仪的产品介绍
关于LabVIEW如何实现截屏
IPSec增强原理过程—L2TP over IPSec