當前位置: 妍妍網 > 碼農

支撐每秒 600 萬訂單,SpringBoot + Disruptor 太猛了!

2020-04-05碼農

來源:blog.csdn.net/buertianci/article/details/105327031

# 背景

工作中遇到計畫使用Disruptor做訊息佇列,對你沒看錯,不是Kafka,也不是rabbitmq;Disruptor有個最大的優點就是快,還有一點它是開源的哦,下面做個簡單的記錄.

# Disruptor介紹

Disruptor 是英國外匯交易公司LMAX開發的一個高效能佇列,研發的初衷是解決記憶體佇列的延遲問題(在效能測試中發現竟然與I/O操作處於同樣的數量級)。基於 Disruptor 開發的系統單執行緒能支撐每秒 600 萬訂單,2010 年在 QCon 演講後,獲得了業界關註。

Disruptor是一個開源的Java框架,它被設計用於在生產者—消費者(producer-consumer problem,簡稱PCP)問題上獲得盡量高的吞吐量(TPS)和盡量低的延遲。

從功能上來看,Disruptor 是實作了「佇列」的功能,而且是一個有界佇列。那麽它的套用場景自然就是「生產者-消費者」模型的套用場合了。

Disruptor是LMAX線上交易平台的關鍵組成部份,LMAX平台使用該框架對訂單處理速度能達到600萬TPS,除金融領域之外,其他一般的套用中都可以用到Disruptor,它可以帶來顯著的效能提升。

其實Disruptor與其說是一個框架,不如說是一種設計思路,這個設計思路對於存在「並行、緩沖區、生產者—消費者模型、事務處理」這些元素的程式來說,Disruptor提出了一種大幅提升效能(TPS)的方案。

Disruptor的github主頁:https://github.com/LMAX-Exchange/disruptor

# Disruptor 的核心概念

先從了解 Disruptor 的核心概念開始,來了解它是如何運作的。下面介紹的概念模型,既是領域物件,也是對映到程式碼實作上的核心物件。

1. Ring Buffer

如其名,環形的緩沖區。曾經 RingBuffer 是 Disruptor 中的最主要的物件,但從3.0版本開始,其職責被簡化為僅僅負責對透過 Disruptor 進行交換的數據(事件)進行儲存和更新。在一些更高級的套用場景中,Ring Buffer 可以由使用者的自訂實作來完全替代。

2. Sequence Disruptor

透過順序遞增的序號來編號管理透過其進行交換的數據(事件),對數據(事件)的處理過程總是沿著序號逐個遞增處理。一個 Sequence 用於跟蹤標識某個特定的事件處理者( RingBuffer/Consumer )的處理進度。雖然一個 AtomicLong 也可以用於標識進度,但定義 Sequence 來負責該問題還有另一個目的,那就是防止不同的 Sequence 之間的CPU緩存偽共享(Flase Sharing)問題。

(註:這是 Disruptor 實作高效能的關鍵點之一,網上關於偽共享問題的介紹已經汗牛充棟,在此不再贅述)。

3. Sequencer

Sequencer 是 Disruptor 的真正核心。此介面有兩個實作類 SingleProducerSequencer、MultiProducerSequencer ,它們定義在生產者和消費者之間快速、正確地傳遞數據的並行演算法。

4. Sequence Barrier

用於保持對RingBuffer的 main published Sequence 和Consumer依賴的其它Consumer的 Sequence 的參照。Sequence Barrier 還定義了決定 Consumer 是否還有可處理的事件的邏輯。

5. Wait Strategy

定義 Consumer 如何進行等待下一個事件的策略。(註:Disruptor 定義了多種不同的策略,針對不同的場景,提供了不一樣的效能表現)

6. Event

在 Disruptor 的語意中,生產者和消費者之間進行交換的數據被稱為事件(Event)。它不是一個被 Disruptor 定義的特定型別,而是由 Disruptor 的使用者定義並指定。

7. EventProcessor

EventProcessor 持有特定消費者(Consumer)的 Sequence,並提供用於呼叫事件處理實作的事件迴圈(Event Loop)。

8. EventHandler

Disruptor 定義的事件處理介面,由使用者實作,用於處理事件,是 Consumer 的真正實作。

9. Producer

即生產者,只是泛指呼叫 Disruptor 釋出事件的使用者程式碼,Disruptor 沒有定義特定介面或型別。

# 案例-demo

透過下面8個步驟,你就能將Disruptor Get回家啦:

1、添加pom.xml依賴

<dependency><groupId>com.lmax</groupId><artifactId>disruptor</artifactId><version>3.4.4</version></dependency>

2、訊息體Model

/** * 訊息體 */@Datapublic class MessageModel {privateString message;}

3、構造EventFactory

public classHelloEventFactoryimplementsEventFactory<MessageModel> {@Overridepublic MessageModel newInstance(){returnnew MessageModel(); }}

4、構造EventHandler-消費者

@Slf4jpublic classHelloEventHandlerimplementsEventHandler<MessageModel> {@OverridepublicvoidonEvent(MessageModel event, long sequence, boolean endOfBatch){try {//這裏停止1000ms是為了確定消費訊息是異步的 Thread.sleep(1000); log.info("消費者處理訊息開始");if (event != null) { log.info("消費者消費的資訊是:{}",event); } } catch (Exception e) { log.info("消費者處理訊息失敗"); } log.info("消費者處理訊息結束"); }}

5、構造BeanManager

/** * 獲取例項化物件 */@Componentpublic classBeanManagerimplementsApplicationContextAware{privatestatic ApplicationContext applicationContext = null;@OverridepublicvoidsetApplicationContext(ApplicationContext applicationContext)throws BeansException {this.applicationContext = applicationContext; }publicstatic ApplicationContext getApplicationContext(){ return applicationContext; }publicstatic Object getBean(String name){return applicationContext.getBean(name); }publicstatic <T> T getBean( class<T> clazz){return applicationContext.getBean(clazz); }}

6、構造MQManager

@Configurationpublic classMQManager{@Bean("messageModel")public RingBuffer<MessageModel> messageModelRingBuffer(){//定義用於事件處理的執行緒池, Disruptor透過java.util.concurrent.ExecutorSerivce提供的執行緒來觸發consumer的事件處理 ExecutorService executor = Executors.newFixedThreadPool(2);//指定事件工廠 HelloEventFactory factory = new HelloEventFactory();//指定ringbuffer字節大小,必須為2的N次方(能將求模運算轉為位運算提高效率),否則將影響效率int bufferSize = 1024 * 256;//單執行緒模式,獲取額外的效能 Disruptor<MessageModel> disruptor = new Disruptor<>(factory, bufferSize, executor, ProducerType.SINGLE, new BlockingWaitStrategy());//設定事件業務處理器---消費者 disruptor.handleEventsWith(new HelloEventHandler());// 啟動disruptor執行緒 disruptor.start();//獲取ringbuffer環,用於接取生產者生產的事件 RingBuffer<MessageModel> ringBuffer = disruptor.getRingBuffer();return ringBuffer; }

7、構造Mqservice和實作類-生產者

publicinterfaceDisruptorMqService{/** * 訊息 * @param message */voidsayHelloMq(String message);}@Slf4j@Component@Servicepublic classDisruptorMqServiceImplimplementsDisruptorMqService{@Autowiredprivate RingBuffer<MessageModel> messageModelRingBuffer;@OverridepublicvoidsayHelloMq(String message){ log.info("record the message: {}",message);//獲取下一個Event槽的下標long sequence = messageModelRingBuffer.next();try {//給Event填充數據 MessageModel event = messageModelRingBuffer.get(sequence); event.setMessage(message); log.info("往訊息佇列中添加訊息:{}", event); } catch (Exception e) { log.error("failed to add event to messageModelRingBuffer for : e = {},{}",e,e.getMessage()); } finally {//釋出Event,啟用觀察者去消費,將sequence傳遞給改消費者//註意最後的publish方法必須放在finally中以確保必須得到呼叫;如果某個請求的sequence未被送出將會堵塞後續的釋出操作或者其他的producer messageModelRingBuffer.publish(sequence); } }}

8、構造測試類及方法

@Slf4j@RunWith(SpringRunner. class)@SpringBootTest( classes = DemoApplication. class)public classDemoApplicationTests{@Autowiredprivate DisruptorMqService disruptorMqService;/** * 計畫內部使用Disruptor做訊息佇列 * @throws Exception */@TestpublicvoidsayHelloMqTest()throws Exception{ disruptorMqService.sayHelloMq("訊息到了,Hello world!"); log.info("訊息佇列已發送完畢");//這裏停止2000ms是為了確定是處理訊息是異步的 Thread.sleep(2000); }}

測試執行結果

2020-04-05 14:31:18.543 INFO 7274 --- [ main] c.e.u.d.d.s.Impl.DisruptorMqServiceImpl : record the message: 訊息到了,Hello world!2020-04-05 14:31:18.545 INFO 7274 --- [ main] c.e.u.d.d.s.Impl.DisruptorMqServiceImpl : 往訊息佇列中添加訊息:MessageModel(message=訊息到了,Hello world!)2020-04-05 14:31:18.545 INFO 7274 --- [ main] c.e.utils.demo.DemoApplicationTests : 訊息佇列已發送完畢2020-04-05 14:31:19.547 INFO 7274 --- [pool-1-thread-1] c.e.u.d.disrupMq.mq.HelloEventHandler : 消費者處理訊息開始2020-04-05 14:31:19.547 INFO 7274 --- [pool-1-thread-1] c.e.u.d.disrupMq.mq.HelloEventHandler : 消費者消費的資訊是:MessageModel(message=訊息到了,Hello world!)2020-04-05 14:31:19.547 INFO 7274 --- [pool-1-thread-1] c.e.u.d.disrupMq.mq.HelloEventHandler : 消費者處理訊息結束

# 總結

其實 生成者 -> 消費者 模式是很常見的,透過一些訊息佇列也可以輕松做到上述的效果。不同的地方在於,Disruptor 是在記憶體中以佇列的方式去實作的,而且是無鎖的。這也是 Disruptor 為什麽高效的原因。

熱門推薦