Java異步非阻塞編程的幾種方式

作者：阿里技術 2021-02-27 16:08:17

一個很簡單的業務邏輯，其他后端服務提供了一個接口，我們需要通過接口調用，獲取到響應的數據。

一從一個同步的Http調用說起

一個很簡單的業務邏輯，其他后端服務提供了一個接口，我們需要通過接口調用，獲取到響應的數據。

逆地理接口：通過經緯度獲取這個經緯度所在的省市區縣以及響應的code：

curl-i"http://xxx?latitude=31.08966221524924&channel=amap7a&near=false&longitude=105.13990312814713" 
 
{"adcode":"510722"}

服務端執行，最簡單的同步調用方式：

服務端響應之前，IO會阻塞在：java.net.SocketInputStream#socketRead0 的native方法上：

通過jstack日志，可以發現，此時這個Thread會一直在runable的狀態：

"main"#1 prio=5 os_prio=31 tid=0x00007fed0c810000 nid=0x1003 runnable [0x000070000ce14000]   java.lang.Thread.State: RUNNABLE 
        at java.net.SocketInputStream.socketRead0(Native Method) 
        at java.net.SocketInputStream.socketRead(SocketInputStream.java:116) 
        at java.net.SocketInputStream.read(SocketInputStream.java:171) 
        at java.net.SocketInputStream.read(SocketInputStream.java:141) 
        at org.apache.http.impl.conn.LoggingInputStream.read(LoggingInputStream.java:84) 
        at org.apache.http.impl.io.SessionInputBufferImpl.streamRead(SessionInputBufferImpl.java:137) 
        at org.apache.http.impl.io.SessionInputBufferImpl.fillBuffer(SessionInputBufferImpl.java:153) 
        at org.apache.http.impl.io.SessionInputBufferImpl.readLine(SessionInputBufferImpl.java:282) 
        at org.apache.http.impl.conn.DefaultHttpResponseParser.parseHead(DefaultHttpResponseParser.java:138) 
        at org.apache.http.impl.conn.DefaultHttpResponseParser.parseHead(DefaultHttpResponseParser.java:56) 
        at org.apache.http.impl.io.AbstractMessageParser.parse(AbstractMessageParser.java:259) 
        at org.apache.http.impl.DefaultBHttpClientConnection.receiveResponseHeader(DefaultBHttpClientConnection.java:163) 
        at org.apache.http.impl.conn.CPoolProxy.receiveResponseHeader(CPoolProxy.java:165) 
        at org.apache.http.protocol.HttpRequestExecutor.doReceiveResponse(HttpRequestExecutor.java:273) 
        at org.apache.http.protocol.HttpRequestExecutor.execute(HttpRequestExecutor.java:125) 
        at org.apache.http.impl.execchain.MainClientExec.execute(MainClientExec.java:272) 
        at org.apache.http.impl.execchain.ProtocolExec.execute(ProtocolExec.java:185) 
        at org.apache.http.impl.execchain.RetryExec.execute(RetryExec.java:89) 
        at org.apache.http.impl.execchain.RedirectExec.execute(RedirectExec.java:110) 
        at org.apache.http.impl.client.InternalHttpClient.doExecute(InternalHttpClient.java:185) 
        at org.apache.http.impl.client.CloseableHttpClient.execute(CloseableHttpClient.java:83) 
        at org.apache.http.impl.client.CloseableHttpClient.execute(CloseableHttpClient.java:108) 
        at com.amap.aos.async.AsyncIO.blockingIO(AsyncIO.java:207) 
                .......

線程模型示例：

同步最大的問題是在IO等待的過程中，線程資源沒有得到充分的利用，對于大量IO場景的業務吞吐量會有一定限制。

二 JDK NIO & Future

在JDK 1.5 中，JUC提供了Future抽象：

當然并不是所有的Future都是這樣實現的，如 io.netty.util.concurrent.AbstractFuture 就是通過線程輪詢去。

這樣做的好處是，主線程可以不用等待IO響應，可以去做點其他的，比如說再發送一個IO請求，可以等到一起返回：

"main"#1 prio=5 os_prio=31 tid=0x00007fd7a500b000 nid=0xe03 waiting on condition [0x000070000a95d000]   java.lang.Thread.State: WAITING (parking) 
        at sun.misc.Unsafe.park(Native Method) 
- parking to wait for  <0x000000076ee2d768> (a java.util.concurrent.CountDownLatch$Sync) 
        at java.util.concurrent.locks.LockSupport.park(LockSupport.java:175) 
        at java.util.concurrent.locks.AbstractQueuedSynchronizer.parkAndCheckInterrupt(AbstractQueuedSynchronizer.java:836) 
        at java.util.concurrent.locks.AbstractQueuedSynchronizer.doAcquireSharedInterruptibly(AbstractQueuedSynchronizer.java:997) 
        at java.util.concurrent.locks.AbstractQueuedSynchronizer.acquireSharedInterruptibly(AbstractQueuedSynchronizer.java:1304) 
        at java.util.concurrent.CountDownLatch.await(CountDownLatch.java:231) 
        at org.asynchttpclient.netty.NettyResponseFuture.get(NettyResponseFuture.java:162) 
        at com.amap.aos.async.AsyncIO.futureBlockingGet(AsyncIO.java:201) 
        ..... 
"AsyncHttpClient-2-1"#11 prio=5 os_prio=31 tid=0x00007fd7a7247800 nid=0x340b runnable [0x000070000ba94000]   java.lang.Thread.State: RUNNABLE 
        at sun.nio.ch.KQueueArrayWrapper.kevent0(Native Method) 
        at sun.nio.ch.KQueueArrayWrapper.poll(KQueueArrayWrapper.java:198) 
        at sun.nio.ch.KQueueSelectorImpl.doSelect(KQueueSelectorImpl.java:117) 
        at sun.nio.ch.SelectorImpl.lockAndDoSelect(SelectorImpl.java:86) 
- locked <0x000000076eb00ef0> (a io.netty.channel.nio.SelectedSelectionKeySet) 
- locked <0x000000076eb00f10> (a java.util.Collections$UnmodifiableSet) 
- locked <0x000000076eb00ea0> (a sun.nio.ch.KQueueSelectorImpl) 
        at sun.nio.ch.SelectorImpl.select(SelectorImpl.java:97) 
        at io.netty.channel.nio.NioEventLoop.select(NioEventLoop.java:693) 
        at io.netty.channel.nio.NioEventLoop.run(NioEventLoop.java:353) 
        at io.netty.util.concurrent.SingleThreadEventExecutor$2.run(SingleThreadEventExecutor.java:140) 
        at io.netty.util.concurrent.DefaultThreadFactory$DefaultRunnableDecorator.run(DefaultThreadFactory.java:144) 
        at java.lang.Thread.run(Thread.java:748)