深入JVM - Code Cache内存池
1. 本文内容
本文简要介绍JVM的 Code Cache(本地代码缓存池)。
2. Code Cache 简要介绍
简单来说，JVM会将字节码编译为本地机器码，并使用 Code Cache 来保存。
每一个可执行的本地代码块，称为一个 nmethod。
nmethod 可能对应一个完整的Java方法，或者是内联后的方法。
即时编译器（just-in-time，JIT）是代码缓存区的最大消费者，所以此区域又被开发者称为 JIT code cache。
3. 对 Code Cache 进行调优
code cache 区域的大小是固定的。
如果Code Cache区域用满了，就会停止JIT编译, 也就是说JVM不再编译任何代码。
我们还会收到 “CodeCache is full… The compiler has been disabled” 之类的告警消息。
JIT编译器关闭的结果，就是系统性能急剧下降。
为了避免这种情况，我们需要对Code Cache进行调优，例如使用以下参数:
InitialCodeCacheSize– 初始大小, 默认值为160KBReservedCodeCacheSize– 保留给Code Cache的空间, 也就是最大空间, 默认值:48MBCodeCacheExpansionSize– 每次扩充的大小, 一般为32KB或者64KB
合理地增加 ReservedCodeCacheSize 是一种解决办法， 毕竟现在很多应用加上依赖库的代码量一点都不少。
但我们也不能无限制地增大这个区域的大小。
幸运的是，JVM提供了一个启动参数 UseCodeCacheFlushing, 用来控制Code Cache的刷新。 这个参数的默认值为 false。
如果将其开启(-XX:+UseCodeCacheFlushing)，则会在满足以下条件时释放占用的区域:
- code cache用满； 如果该区域的大小超过某个阈值，则会刷新。
- 自上次清理后经过了一定的时间间隔。
- 预编译的代码不够热。 对于每个JIT编译的方法，JVM都会有一个热度跟踪计数器。 如果计数器的值小于动态阈值，则JVM会释放这段预编译的代码。
提示: 除非Code Cache不够用了,否则不要乱开;
4. 查看Code Cache的使用情况
想要监控代码缓存的使用情况，我们可以跟踪当前使用的内存大小。
指定JVM启动参数: –XX:+PrintCodeCache, 会打印Code Cache区的使用情况。
程序执行过程中, 我们可以看到类似下面的输出:
CodeCache: size=32768Kb used=542Kb max_used=542Kb free=32226Kb
一起来分析下各个部分数值的含义:
size表示此内存区域的最大值，与ReservedCodeCacheSize相等。used是此区域当前实际使用的内存大小。max_used是程序启动以来的历史最大使用量free是此区域尚未使用的空闲空间
PrintCodeCache 选项非常有用，可以帮助我们:
- 查看何时进行了刷新(flushing)
- 确定内存使用量是否达到关键点位
5. Code Cache分段
从Java 9开始，JVM将 Code Cache 细分为三个不同的段，每个段包含一种类型的编译代码。
具体是:
- 非方法段(non-method segment), 保存相关的JVM内部代码，例如字节码解释器。 默认情况下，此段约为
5 MB。 可通过-XX:NonNMethodCodeHeapSize参数进行调整。 - 待分析代码段(profiled-code segment), 包含经过简单优化的代码，使用寿命很短。 此段的大小默认为
122 MB，可以通过-XX:ProfiledCodeHeapSize参数进行调整。 - 静态代码段(non-profiled segment), 保存经过全面优化的本地代码，使用寿命可能很长。 默认大小同样是
122 MB。 可以通过-XX:NonProfiledCodeHeapSize参数进行调整。
这种新的分段结构，以不同方式处理各种类型的编译代码，整体上具有更好的性能。
例如，将已编译的短命代码和长寿代码分开，提高方法清除器的性能 - 毕竟需要扫描的内存区域变小了。
6. 小结
本文简要介绍了JVM的Code Cache内存区域。
也介绍了一些监视和诊断此内存区使用情况的方法，以及相关的优化和配置选项。
- 原文链接: https://www.baeldung.com/jvm-code-cache
- GitHub双语对照版: https://github.com/cncounter/translation/tree/master/tiemao_2020/21_jvm-code-cache (路过的小伙伴, 请点小星星Star支持)