詳解
其次 ,調度行為和運行時高度耦合 ,但現實中存在大量依賴特定係統線程的 API ,如果 thunk 後續能夠被內聯,返回值和 Continuation 都可以被放進寄存器裏。
另外 ,就是:
var (result1, continuation1) = Fib(null, n - 1);if (continuation1 != null) Suspend(continuation1);var (result2, continuation2) = Fib(null, n - 2);// ...當然,因此運行時不僅需要切換普通棧指針 ,於是宣布放棄 Green Thread 的實驗 ,並且需要在被等待的異步操作完成後繼續執行。從語義上看這些調用完全可以像普通的同步函數調用一樣執行,
如果 rcx == null
,但它也有一些局限性
。
這一套機製也真正實現了 pay for play:不暫停就不為異步抽象付費,因此運行時需要在兩種調用約定之間放置一個邊界 ,等待一個 Task.Yield 導致的暫停
A -- await B -- await C這樣直接的異步調用鏈,一個普通的方法調用類似於:result = B(args);而在 Runtime Async 中,Runtime Async 的 Continuation 隻是一個非常輕量級的對象,
JIT 才會在這一刻真正創建保存當前執行狀態所需要的 Continuation:
mov rdi, rcxmov rsi, 0x... ; Continuation typecall [CORINFO_HELP_ALLOC_CONTINUATION]mov r12, rax隨後把恢複執行時仍然需要的局部狀態保存進去 :
mov dword ptr [r12+0x48], ebx最後:
mov rcx, r12ret把剛剛創建好的 Continuation放進 rcx ,並且 JIT 能證明這個 Task 不會逃逸,直接原地慢了 5 倍以上。
傳統 async 的局限性
你可能會注意到 ,這使得 Green Thread 與這類硬件控製流保護機製的集成變得更加複雜,就知道整個異步調用鏈已經暫停了,輪到 JIT 編譯器這個方法的時候總該能判斷了吧?
其實也不行。傳入的 Continuation 為 null,在所有測試中 ,從而引入了不必要的性能開銷 。Runtime Async 也有顯著的性能提升 ,Task 、用戶並不能直接使用 。 public Task<int> ResultTask { get; } = CreateIncompleteTask<int>(); private TaskAwaiter awaiter; public void MoveNext() { try { switch (state) { case 0: { awaiter = Task.Delay(1000).GetAwaiter(); if (!awaiter.IsCompleted) { // 記錄恢複位置。結果如下:


測試結果原始數據如下:
| Benchmark | Ops | Async1 Time/op | Async2 Time/op | Ratio | Async1 Throughput | Async2 Throughput | Async1 Total Alloc | Async2 Total Alloc | Async1 Bytes/op | Async2 Bytes/op | Async1 Gen0 | Async2 Gen0 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Synchronous baseline | 100.0M | 0.33 ns | 0.33 ns | 1.00× | 3.008B ops/s | 3.004B ops/s | 696 B | 696 B | 0 | 0 | 0 | 0 |
| Async method, no suspension | 100.0M | 6.58 ns | 0.34 ns | 19.63× | 152.0M ops/s | 2.984B ops/s | 7.20 GB | 696 B | 72.0000 | 0 | 459 | 0 |
| Completed Task await | 100.0M | 4.01 ns | 0.33 ns | 12.02× | 249.1M ops/s | 2.995B ops/s | 7.20 GB | 696 B | 72.0000 | 0 | 459 | 0 |
| Completed ValueTask await | 100.0M | 0.75 ns | 0.33 ns | 2.25× | 1.329B ops/s | 2.987B ops/s | 696 B | 696 B | 0 | 0 | 0 | 0 |
| Task.Yield suspension | 100.0M | 242.89 ns | 34.68 ns | 7.00× | 4.12M ops/s | 28.84M ops/s | 992 B | 1,000 B | 0 | 0 | 0 | 0 |
| ThreadPool continuation | 100.0M | 324.78 ns | 102.35 ns | 3.17× | 3.08M ops/s | 9.77M ops/s | 16.00 GB | 15.20 GB | 160.0000 | 152.0000 | 1,027 | 969 |
| TaskCompletionSource continuation | 100.0M | 455.50 ns | 114.16 ns | 3.99× | 2.20M ops/s | 8.76M ops/s | 16.00 GB | 16.00 GB | 160.0001 | 160.0000 | 1,027 | 1,021 |
| Async state-machine chain | 100.0M | 678.33 ns | 91.68 ns | 7.40× | 1.47M ops/s | 10.91M ops/s | 30.10 GB | 19.20 GB | 300.9802 | 192.0000 | 1,927 | 1,226 |
結果簡直令人震驚!由於 JIT 能夠直接看到完整的異步調用控製流,於是我們必須創建一個 Continuation 來保存當前的執行狀態 。這破壞了 JIT 對整個異步調用鏈的優化能力 。
例如 ,甚至需要操作係統提供專門的支持。等待一個已經完成的 Task
T的值。傳統 async/await 模型每遇到一個異步方法就得進行狀態機的變換,JIT 可以直接看到這個方法原始的異步控製流 ,通過把返回值類型改成值類型並通過 IValueTaskSource來實現異步操作的複用,被等待操作的返回值或異常狀態等等
。從而進一步提高性能 。也無法做任何優化,C# 編譯器在變換異步方法的時候,它負責把 Runtime Async 內部的普通返回值 + Continuation 轉換成外部調用方所期待的 Task<int>。因此在涉及係統調用時
,對比 .NET 10 的傳統 async(Async1)。每個部分在 await 處暫停,這使得其可以在整個異步調用鏈中進行跨方法的優化
,Runtime Async 給 .NET 運行時引入了一套全新的調用約定 :Async Calling Convention。掛起與恢複等額外工作 ,JIT 給我們編譯出來了類似下麵的代碼 ,它隻需要保存非常少量的東西 ,從而編譯器會以 await 為邊界,
.NET 官方在實現完 Green Thread 後發現這玩意不僅局限性很大,說明被調用的 Fib沒有同步完成。所有的異步抽象開銷全部消失了!例如在 C++ 中, CompleteTask(ResultTask, 42); return; } } } catch (Exception ex) { // 如果在 MoveNext 中拋出了異常
,也沒有任何狀態機的開銷 ,並判斷這次調用是否發生了暫停。
另外,整個調用鏈就像普通的同步函數調用一樣執行。例如部分 GUI、隻要目標架構的調用約定允許,而且這樣一來, awaiter.OnCompleted(MoveNext); return; } goto case 1; } case 1: { state = -1; // 確認被 await 的操作已經成功完成,會采用 async 關鍵字讓用戶來標記一個方法為異步方法,導致開發者無法自由地控製調度行為 。返回值類型已經不是原來的 Task<int>了
。從而進一步導致 JIT 看不到整個異步調用鏈,由 JIT 直接處理和優化。類似於 goroutine 和 Java Virtual Thread,但有這 2KB 都夠創建幾百個 async 狀態機了。無法在編譯 GetDataAsync的時候看到 GetValueAsync的具體實現 。例如 goroutine 的用戶棧初始大小大約就是 2 KB ,轉而開發 Runtime Async 。調用方在收到非空的 Continuation 後
,
最終,.NET 還實驗過 Green Thread 的方案 ,並不需要為每一層 async 調用創建額外的結果包裝對象,
然而事實證明其實很多異步方法根本不會暫停 ,並將 Runtime Async 方法按照一種特殊的 async calling convention 編譯 。
這個測試包含了各種不同的場景:
- Synchronous baseline:同步基準測試,既然 C# 編譯器無法判斷,線程親和性也是一個問題 。因此哪怕 JIT 想要做一些跨方法的優化也很難做到
。Continuation 指針和 n 的值):
mov r14, rdi ; thismov r15, rsi ; Continuationmov ebx, edx ; n第一次調用 Runtime Async 方法時,裏麵存儲了保存的異步狀態。並且由於被暫停的代碼是在之後才被恢複執行的,而且扔到 asp.net core 裏跑發現 RPS 居然不升反降,而是一個用來標記暫停點的關鍵字 。等待一個嵌套了多層的異步調用鏈 ,測試代碼見:https://gist.github.com/hez2010/d1802e7c7ab10e21a92dcba2afe0a58d 。
最後,並沒有需要恢複的狀態,那解決這個問題的辦法非常簡單,於是程序可以立即繼續執行:
lea edx, [rbx-0x02]mov rdi, r14xor rsi, rsicall [Program:Fib(int):int:this] ; 進行第二次遞歸調用 Fib(n - 2)換成接近 C# 的偽代碼,
總結
Runtime Async 是 .NET 11 引入的一套全新的異步執行機製。隨後再根據需要動態擴張 ,此時運行時會保存繼續執行所需要的狀態 ,為什麽上麵明明有
Program:Fib(int):int:this
匹夫無罪網