全球熱議:性能提升 200% !SpringBoot 虛擬線程來了
時間:2023-06-24 11:44:38
在以往的項目中,我們面臨了這樣一種情況:我們收到了數(shù)千個認證請求。為了確保安全性,我們依靠第三方系統(tǒng)發(fā)送短信 OTP 進行驗證。然而,有時候第三方系統(tǒng)花費的時間比預(yù)期的要長,導(dǎo)致延遲。我們采用了每個請求一個線程的模型,這意味著許多線程處于等待狀態(tài),并且新請求都在隊列中。我們試圖通過微調(diào)線程數(shù)量來優(yōu)化性能,但當時我們希望有虛擬線程功能。當時 Java 中沒有虛擬線程的概念,這就是 Project Loom 的作用。
什么是 Project Loom?這是 Oracle 的一個新項目,主要目標是顯著減少編寫、維護和觀察高吞吐量并發(fā)應(yīng)用程序的工作量。換句話說,Project Loom 旨在支持和推進一個高吞吐量、輕量級的 Java 并發(fā)模型,因為傳統(tǒng)的操作系統(tǒng)線程(Java 并發(fā)模型的核心)有一些缺點,并且在計算上相當昂貴。反之,虛擬線程是更輕量級的線程,不與操作系統(tǒng)線程連接(由 JVM 管理)。這意味著虛擬線程是“每請求對應(yīng)一個線程”編程的理想選擇,可以創(chuàng)建大量的虛擬線程,而不會降低吞吐量。開發(fā)人員可以使用現(xiàn)有的 JDK 工具和技術(shù)快速排除故障、調(diào)試和分析并發(fā)應(yīng)用程序,在發(fā)布的 Spring Boot 3.1 中可用。作為 Spring 開發(fā)者,了解虛擬線程的概念并理解它們在開發(fā)過程中的重要性非常關(guān)鍵。
如何使用虛擬線程Java 版本選擇Java 19 中引入的虛擬線程非常易于使用,筆者使用的 Mac M1 系列,這里選擇 Azul Zulu 發(fā)行版 20.30.11 版本[1]
(資料圖片僅供參考)
使用 Spring Initializer 或 IDE 創(chuàng)建項目。添加 spring-web 依賴項并添加元數(shù)據(jù)。(注意版本選擇 SpringBoot 3.1 ,Java 20)
開啟虛擬線程功能默認情況下, Java19 的虛擬線程功能是禁用狀態(tài)的,需要通過相關(guān) maven 編譯配置開啟。
通過配置 bean 啟用虛擬線程org.springframework.boot spring-boot-maven-plugin org.apache.maven.plugins maven-compiler-plugin --enable-preview
@Bean?TomcatProtocolHandlerCustomizer>threadExecutorCustomizer()?{??return?protocolHandler?->protocolHandler.setExecutor(Executors.newVirtualThreadPerTaskExecutor());?}這個 Bean 是一個自定義的 Tomcat 協(xié)議處理器,負責處理 Spring Boot 應(yīng)用程序中傳入的請求。這個自定義程序的目的是配置協(xié)議處理器使用的執(zhí)行器。
在 threadExecutorCustomizer 方法內(nèi)部,使用 Lambda 表達式來自定義協(xié)議處理器。protocolHandler 參數(shù)代表正在自定義的 Tomcat 協(xié)議處理器的實例。
在 Lambda 表達式中,調(diào)用 protocolHandler 對象的 setExecutor() 方法,用于為協(xié)議處理器設(shè)置執(zhí)行器。執(zhí)行器負責執(zhí)行任務(wù),例如處理傳入的請求。
在這種情況下,使用 Executors.newVirtualThreadPerTaskExecutor() 方法創(chuàng)建一個新的使用虛擬線程的執(zhí)行器。虛擬線程是輕量級線程,可以在單個操作系統(tǒng)線程中并發(fā)執(zhí)行任務(wù)。這意味著可以同時執(zhí)行多個任務(wù),提高性能和資源利用率。
增加測試端點@Slf4j@RequestMapping@RestControllerpublic?class?DemoController?{????@GetMapping("/")????public?String?demo()?{????????try?{????????????TimeUnit.MILLISECONDS.sleep(300);????????}?catch?(InterruptedException?e)?{????????????log.error(e.getMessage());????????}????????return?"Current?Thread?Name:?"?+?Thread.currentThread();????}}上手使用我們可以通過 Thread.currentThread() API 獲取當前請求線程的元信息,以判斷虛擬線程是否已經(jīng)正確開啟。
性能測試對比100 線程測試不開啟虛擬線程通過以上我們發(fā)現(xiàn),在處理阻塞操作時,虛擬線程特別有益。隨著并發(fā)請求數(shù)量的增加,虛擬線程的性能提升越來越明顯。上述測試都是在未對 Spring Boot 項目進行調(diào)優(yōu)和優(yōu)化的情況下進行的。
參考資料[1]Azul Zulu 發(fā)行版 20.30.11 版本: https://www.azul.com/downloads/?version=java-20-sts&os=macos&architecture=arm-64-bit&package=jdk#zulu
相關(guān)稿件
全球熱議:性能提升 200% !SpringBoot 虛擬線程來了
端午返程高峰來了!全國公路網(wǎng)處于高位運行態(tài)勢-世界實時
環(huán)球今日報丨廈門職工社保一個月要交多少錢,廈門職工社保費用如何計算
騰訊湯道生:大模型只是起點,產(chǎn)業(yè)落地是AI更大的應(yīng)用場景
今日看點:山海行·5G江南:打卡杭州,深度體驗繁榮的5G時代
全球新動態(tài):二線城市坐網(wǎng)約車有感:電動車普及飛速,燃油車突然間就少了
當前時訊:金馬導(dǎo)演被爆性侵:受害者哭訴“強行進入”, 當事人發(fā)文道歉
世界快資訊丨10省區(qū)市將現(xiàn)大到暴雨 上海廣東等地局部有大暴雨
每日觀點:端午假期戰(zhàn)一線 高鐵建設(shè)不停歇
35只創(chuàng)業(yè)板股最新籌碼趨向集中 世界微動態(tài)
微頭條丨2023年各省高考錄取分數(shù)線匯總(10省已公布)
西安經(jīng)開區(qū)舉辦西安市“新征程、再出發(fā)”應(yīng)急詩歌誦讀暨安全文化演出活動
休寧縣渭橋鄉(xiāng):“粽”享端午節(jié)情暖敬老院


