堆是分配对象的唯一选择么?
在《深入理解Java虚拟机》中关于Java堆内存有这样一段描述:
- 随着JIT编译期的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也渐渐变得不那么“绝对”了。
- 在Java虚拟机中,对象是在Java堆中分配内存的,这是一个普遍的常识。但是,有一种特殊情况,那就是如果经过逃逸分析(Escape Analysis)后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。这样就无需在堆上分配内存,也无须进行垃圾回收了。这也是最常见的堆外存储技术。
- 此外,前面提到的基于OpenJDK深度定制的TaoBao VM,其中创新的GCIH(GC invisible heap)技术实现off-heap,将生命周期较长的Java对象从heap中移至heap外,并且GC不能管理GCIH内部的Java对象,以此达到降低GC的回收频率和提升GC的回收效率的目的。
逃逸分析
- 如何将堆上的对象分配到栈,需要使用逃逸分析手段。
- 这是一种可以有效减少Java程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法。
- 通过逃逸分析,Java Hotspot编译器能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上。
逃逸分析的基本行为就是分析对象动态作用域:
没有发生逃逸的对象,则可以分配到栈(无线程安全问题)上,随着方法执行的结束,栈空间就被移除(也就无需GC)
public void my_method() {
V v = new V();
// use v
// ....
v = null;
}
下面代码中的 StringBuffer sb 发生了逃逸,作为返回值,传递给了调用者,不能在栈上分配
public static StringBuffer createStringBuffer(String s1, String s2) {
StringBuffer sb = new StringBuffer();
sb.append(s1);
sb.append(s2);
return sb;
}
如果想要StringBuffer sb不发生逃逸,可以这样写,sb没有逃逸,知识创建了一个新的String对象返回给调用者
public static String createStringBuffer(String s1, String s2) {
StringBuffer sb = new StringBuffer();
sb.append(s1);
sb.append(s2);
return sb.toString();
}
如何快速的判断是否发生了逃逸分析,大家就看new的对象实体是否有可能在方法外被调用。 ```java /**
逃逸分析 */ public class EscapeAnalysis {
public EscapeAnalysis obj;
/ 方法返回EscapeAnalysis对象,发生逃逸 / public EscapeAnalysis getInstance(){ return obj == null? new EscapeAnalysis() : obj; } / 为成员属性赋值,发生逃逸 / public void setObj(){ this.obj = new EscapeAnalysis(); } //思考:如果当前的obj引用声明为static的?仍然会发生逃逸。
/ 对象的作用域仅在当前方法中有效,没有发生逃逸 / public void useEscapeAnalysis(){ EscapeAnalysis e = new EscapeAnalysis(); } / 引用成员变量的值,发生逃逸 / public void useEscapeAnalysis1(){ EscapeAnalysis e = getInstance(); //getInstance().xxx()同样会发生逃逸 } }
<a name="nwOdy"></a>
# **逃逸分析参数设置**
1. 在JDK 1.7 版本之后,HotSpot中默认就已经开启了逃逸分析
2. 如果使用的是较早的版本,开发人员则可以通过:
- 选项**-XX:+DoEscapeAnalysis**显式开启逃逸分析
- 通过选项**-XX:+PrintEscapeAnalysis**查看逃逸分析的筛选结果
<a name="NDs5z"></a>
# 逃逸分析做的代码优化
使用逃逸分析,编译器可以对代码做如下优化:
1. **栈上分配**:通过逃逸分析,将堆分配转化为栈分配。不用GC。
2. **同步省略**:如果一个对象被发现只有一个线程被访问到,那么对于这个对象的操作可以不考虑同步。
3. **分离对象或标量替换**:有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器中。
<a name="Qn9Ss"></a>
## 栈上分配
1. JIT编译器在编译期间根据逃逸分析的结果,发现如果一个对象并没有逃逸出方法的话,就可能被优化成栈上分配。分配完成后,继续在调用栈内执行,最后线程结束,栈空间被回收,局部变量对象也被回收。这样就无须进行垃圾回收了。
2. 常见的栈上分配的场景:在逃逸分析中,已经说明了,分别是给成员变量赋值、方法返回值、实例引用传递。
<a name="bZiMD"></a>
### 举例
设置VM参数<br />`-Xmx128m -Xms128m -XX:-DoEscapeAnalysis -XX:+PrintGCDetails`
```java
/**
* 栈上分配测试
* -Xmx128m -Xms128m -XX:-DoEscapeAnalysis -XX:+PrintGCDetails
*/
public class StackAllocation {
public static void main(String[] args) {
long start = System.currentTimeMillis();
for (int i = 0; i < 10000000; i++) {
alloc();
}
// 查看执行时间
long end = System.currentTimeMillis();
System.out.println("花费的时间为: " + (end - start) + " ms");
// 为了方便查看堆内存中对象个数,线程sleep
try {
Thread.sleep(1000000);
} catch (InterruptedException e1) {
e1.printStackTrace();
}
}
private static void alloc() {
User user = new User();//未发生逃逸
}
static class User {
}
}
输出结果
[GC (Allocation Failure) [PSYoungGen: 33280K->808K(38400K)] 33280K->816K(125952K), 0.0483350 secs] [Times: user=0.00 sys=0.00, real=0.06 secs]
[GC (Allocation Failure) [PSYoungGen: 34088K->808K(38400K)] 34096K->816K(125952K), 0.0008411 secs] [Times: user=0.00 sys=0.00, real=0.00 secs]
[GC (Allocation Failure) [PSYoungGen: 34088K->792K(38400K)] 34096K->800K(125952K), 0.0008427 secs] [Times: user=0.00 sys=0.00, real=0.00 secs]
[GC (Allocation Failure) [PSYoungGen: 34072K->808K(38400K)] 34080K->816K(125952K), 0.0012223 secs] [Times: user=0.08 sys=0.00, real=0.00 secs]
花费的时间为: 114 ms
开启逃逸分析,VM参数-Xmx128m -Xms128m -XX:+DoEscapeAnalysis -XX:+PrintGCDetails
输出结果
花费的时间为: 5 ms
同步省略(同步消除)
- 线程同步的代价是相当高的,同步的后果是降低并发性和性能。
- 在动态编译同步块的时候,JIT编译器可以借助逃逸分析来判断同步块所使用的锁对象是否只能够被一个线程访问而没有被发布到其他线程。
如果没有,那么JIT编译器在编译这个同步块的时候就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略,也叫锁消除。
举例
如下面的代码
public void f() {
Object hello = new Object();
synchronized(hello) {
System.out.println(hello);
}
}
代码中对hello这个对象加锁,但是hello对象的生命周期只在f()方法中,并不会被其他线程所访问到,所以在JIT编译阶段就会被优化掉,优化成:
public void f() {
Object hellis = new Object();
System.out.println(hellis);
}
这是f方法的字节码
0 new #2 <java/lang/Object>
3 dup
4 invokespecial #1 <java/lang/Object.<init>>
7 astore_1
8 aload_1
9 dup
10 astore_2
11 monitorenter
12 getstatic #3 <java/lang/System.out>
15 aload_1
16 invokevirtual #4 <java/io/PrintStream.println>
19 aload_2
20 monitorexit
21 goto 29 (+8)
24 astore_3
25 aload_2
26 monitorexit
27 aload_3
28 athrow
29 return
字节码文件中并没有进行优化,可以看到加锁和释放锁的操作依然存在,同步省略操作是在解释运行时发生的
标量替换(分离对象)
标量(scalar)是指一个无法再分解成更小的数据的数据。Java中的原始数据类型就是标量。
- 相对的,那些还可以分解的数据叫做聚合量(Aggregate),Java中的对象就是聚合量,因为他可以分解成其他聚合量和标量。
在JIT阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过JIT优化,就会把这个对象拆解成若干个其中包含的若干个成员变量来代替。这个过程就是标量替换。
举例
public static void main(String args[]) {
alloc();
}
private static void alloc() {
Point point = new Point(1,2);
System.out.println("point.x" + point.x + ";point.y" + point.y);
}
class Point {
private int x;
private int y;
}
以上代码,经过标量替换后,就会变成
private static void alloc() {
int x = 1;
int y = 2;
System.out.println("point.x = " + x + "; point.y=" + y);
}
可以看到,Point这个聚合量经过逃逸分析后,发现他并没有逃逸,就被替换成两个标量了。
- 那么标量替换有什么好处呢?就是可以大大减少堆内存的占用。因为一旦不需要创建对象了,那么就不再需要分配堆内存了。
-
标量替换参数设置
参数 -XX:+ElimilnateAllocations:开启了标量替换(默认打开),允许将对象打散分配在栈上。
举例2
/**
* 标量替换测试
* -Xmx100m -Xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:-EliminateAllocations
*/
public class ScalarReplace {
public static class User {
public int id;
public String name;
}
public static void alloc() {
User u = new User();//未发生逃逸
u.id = 5;
u.name = "www.atguigu.com";
}
public static void main(String[] args) {
long start = System.currentTimeMillis();
for (int i = 0; i < 10000000; i++) {
alloc();
}
long end = System.currentTimeMillis();
System.out.println("花费的时间为: " + (end - start) + " ms");
}
}
未开启标量替换,JVM参数为
-server -Xmx100m -Xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:-EliminateAllocations
结果[GC (Allocation Failure) 25600K->880K(98304K), 0.0012658 secs]
[GC (Allocation Failure) 26480K->832K(98304K), 0.0012124 secs]
[GC (Allocation Failure) 26432K->784K(98304K), 0.0009719 secs]
[GC (Allocation Failure) 26384K->832K(98304K), 0.0009071 secs]
[GC (Allocation Failure) 26432K->768K(98304K), 0.0010643 secs]
[GC (Allocation Failure) 26368K->824K(101376K), 0.0012354 secs]
[GC (Allocation Failure) 32568K->712K(100864K), 0.0011291 secs]
[GC (Allocation Failure) 32456K->712K(100864K), 0.0006368 secs]
花费的时间为: 99 ms
开启标量替换,JVM参数为
-server -Xmx100m -Xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:+EliminateAllocations
花费的时间为: 6 ms
时间减少很多且无GC日志。 :::success 这里设置参数如下:
参数 -server:启动Server模式,因为在server模式下,才可以启用逃逸分析。
- 参数 -XX:+DoEscapeAnalysis:启用逃逸分析
- 参数 -Xmx10m:指定了堆空间最大为10MB
- 参数 -XX:+PrintGC:将打印GC日志。
- 参数 -XX:+EliminateAllocations:开启了标量替换(默认打开),允许将对象打散分配在栈上,比如对象拥有id和name两个字段,那么这两个字段将会被视为两个独立的局部变量进行分配
:::
栈上分配需要先进行逃逸分析,觉得这个对象逃不过,再进行标量替换,把一个聚合量替换成n个标量,放在局部变量表里面进行使用。换句话说没有标量替换,HotSpot虚拟机无法进行栈上分配。
逃逸分析的不足
- 逃逸分析还不是很成熟
- 其根本原因就是无法保证逃逸分析的性能消耗一定高于其他的消耗。虽然经过逃逸分析可以做标量替换,栈上分配,和锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析,这其实也是一个相对耗时的过程。
- 一个极端的例子,就是经过逃逸分析后,发现没有一个对象是不逃逸的,那这个逃逸分析的过程就白白浪费掉了。
- 虽然逃逸分析不是十分成熟,但是它也是即使编译器优化中一个十分重要的手段。
- 注意到有一些观点,认为通过逃逸分析,JVM会在栈上分配那些不会逃逸的对象,这在理论上是可行的,但是取决于JVM设计者的选择。据我所知,Oracle Hotspot JVM中并未这么做(上面例子的演示的效果,是因为HotSpot实现了标量替换),这一点在逃逸分析相关的文档里已经说明,所以可以明确在HotSpot虚拟机上,所有的对象实例都是创建在堆上。
- 目前很多书籍还是基于JDK7以前的版本,JDK已经发生了很大变化,intern字符串的缓存和静态变量曾经都被分配在永久代上,而永久代已经被元数据区取代。但是intern字符串缓存和静态变量并不是被转移到元数据区,而是直接在堆上分配,所以这一点同样符合前面一点的结论:对象实例都是分配在堆上。
再问:堆是分配对象的唯一选择么?
综上:对象实例都是分配在堆上。
HotSpot虚拟机栈上分配的其实不是对象实例,是被拆分的标量,对象的实例,本质上都是分配在堆上。