मेरी मूल धारणा यह है कि जब एक प्रक्रिया 'केवल सीमित कारक डिस्क और सीपीयू हैं, तो कुल सिस्टम "इओविट" + सीपीयू का उपयोग एक तार्किक सीपीयू के कम से कम 100% के बराबर होना चाहिए। (अन्य मामलों में यह होल्ड नहीं होगा। उदाहरण के लिए wget
, किसी फ़ाइल का उपयोग करते समय , नेटवर्क अक्सर सीमित कारक होता है)।
इस धारणा का उल्लंघन एक साधारण परीक्षण द्वारा किया जाता है। क्या यह अपेक्षित है? यदि यह अपेक्षित है, तो क्या ऐसी परिस्थितियों का एक सेट है जहां मुझे अपनी धारणा को सच रखने की उम्मीद करनी चाहिए ?
यहाँ "iowait" के बारे में कुछ पृष्ठभूमि है: सीपीयू कैसे जानता है कि आईओ लंबित है? यहां जवाब काउंटर-सहज ज्ञान युक्त विचार को उद्धृत करता है, कि संचयी आयोवाइट "कुछ स्थितियों में घट सकता है"। मुझे आश्चर्य है कि क्या मेरा सरल परीक्षण ऐसी अनिर्धारित स्थिति को ट्रिगर कर सकता है?
अद्यतन : कृपया उत्तर पर जाएं ।
उत्तर में मूल रूप से मेरे द्वारा उपयोग किए जाने की तुलना में एक सरल परीक्षण है। मैंने नीचे मूल प्रश्न को संरक्षित किया है। मूल प्रश्न कुछ अतिरिक्त विवरण दिखा सकता है।
मूल प्रश्न
एक छोटे परीक्षण में, मैं dd
कर्नेल को यादृच्छिक बाइट्स बनाने के लिए अनुरोध करता हूं , और उन्हें एक फाइल पर लिखता हूं। मैं dd
कमांड को अंदर चलाता हूं perf stat
, बस कर्नेल के अंदर बिताए गए सीपीयू समय की एक गिनती प्राप्त करने के लिए। मैं इसे अंदर भी चलाता हूं perf trace -s
, ताकि अंदर बिताए गए समय की रिपोर्ट कर सकूं write()
। उसी समय, मैं vmstat 5
एक और टर्मिनल में चलाता हूं , सिस्टम "इओविट" को देखने के लिए।
- मुझे उम्मीद थी कि मैं कम से कम एक पूरे सीपीयू को "नॉन-आइडल" के रूप में देखूंगा, यानी 100% यह या तो चल रहा है, या रुका हुआ है लेकिन IO ("iowait") की प्रतीक्षा कर रहा है। यह नहीं था।
- (इसके अलावा, मैं "आयोवाइट" समय को लिखने में बिताए समय से मिलान करने की उम्मीद कर रहा था ()। लेकिन ऐसा करने के लिए प्रकट नहीं हुआ।)
विस्तृत परिणाम और परीक्षण वातावरण नीचे दिखाया गया है। यह भी दिखाया गया कि एक वैकल्पिक परीक्षा है, जहां मेरी धारणा ने पकड़ बनाई। नोट: यह perf stat
अंदर चलाने के लिए आवश्यक था perf trace
, अन्य तरीके से नहीं। यह यहां विस्तृत है: क्या "परफेक्ट ट्रेस" (और "समय"!) "पूर्ण ट्रेस - एस" चलाते समय गलत परिणाम दिखाता है?
"Iowait" पर पृष्ठभूमि की जानकारी
निम्नलिखित
sar
मैनपेज से ली गई परिभाषा है :% Iowait:
उस समय का प्रतिशत जो सीपीयू या सीपीयू निष्क्रिय थे जिसके दौरान सिस्टम में एक बकाया डिस्क I / O अनुरोध था।
इसलिए,% iowait का अर्थ है कि सीपीयू के दृष्टिकोण से, कोई भी कार्य चलाने योग्य नहीं थे, लेकिन कम से कम एक I / O प्रगति पर था। आयोवाइट केवल निष्क्रिय समय का एक रूप है जब कुछ भी निर्धारित नहीं किया जा सकता है। मान प्रदर्शन समस्या को इंगित करने में उपयोगी हो सकता है या नहीं भी हो सकता है, लेकिन यह उपयोगकर्ता को बताता है कि सिस्टम निष्क्रिय है और अधिक काम कर सकता है।
https://support.hpe.com/hpsc/doc/public/display?docId=c02783994
एक लंबा लेख भी है: I / O प्रतीक्षा को समझना (या 0% Idle ठीक क्यों हो सकता है) । यह बताता है कि आप कर्नेल कोड से परिभाषा को कैसे स्पष्ट रूप से देख सकते हैं। कोड कुछ हद तक बदल गया है, लेकिन विचार अभी भी स्पष्ट है:
/*
* Account for idle time.
* @cputime: the CPU time spent in idle wait
*/
void account_idle_time(u64 cputime)
{
u64 *cpustat = kcpustat_this_cpu->cpustat;
struct rq *rq = this_rq();
if (atomic_read(&rq->nr_iowait) > 0)
cpustat[CPUTIME_IOWAIT] += cputime;
else
cpustat[CPUTIME_IDLE] += cputime;
}
लेख एकल-सीपीयू प्रणाली पर कई संबंधित प्रयोगों को भी दिखाता है। कुछ प्रयोगों के dd
साथ भी उपयोग करें if=/dev/urandom
! हालाँकि प्रयोगों में मेरा परीक्षण शामिल नहीं है dd if=/dev/urandom of=test.out
। यह केवल उपयोग करता है dd if=/dev/urandom of=/dev/null
।
"आईओ वेट" अब सोचने के लिए थोड़ा और मुश्किल है क्योंकि हम मल्टी-सीपीयू सिस्टम का उपयोग करते हैं, लेकिन मुझे लगता है कि मैं अभी भी इसे समझा हूं, उद्धृत कोड के आधार पर।
वातावरण
मेरे पास चार तार्किक सीपीयू हैं।
मैं LVM और ext4 फाइल सिस्टम का उपयोग करता हूं। मैं अपनी डिस्क या फ़ाइल सिस्टम पर किसी भी एन्क्रिप्शन का उपयोग नहीं कर रहा हूं। मेरे पास कोई नेटवर्क फाइल सिस्टम नहीं है, इसलिए मैं नेटवर्क फाइल सिस्टम पढ़ या लिख नहीं रहा हूं।
नीचे दिए गए परिणाम कर्नेल से हैं 4.20.15-200.fc29.x86_64
, noop
IO अनुसूचक का उपयोग करते हुए । cfq
आईओ शेड्यूलर भी इसी तरह के परिणाम देता है।
(मैंने कर्नेल बिल्ड पर समान परिणाम भी देखे हैं जो एक समान कॉन्फ़िगरेशन पर आधारित था, लेकिन कर्नेल संस्करण के करीब था, और उपयोग कर रहा था mq-deadline
। इसलिए वह नए blk-mq
कोड का उपयोग कर रहा था )।
परीक्षण और परिणाम
$ sudo perf trace -s \
perf stat \
dd if=/dev/urandom of=test.out bs=1M oflag=direct count=3000
3000+0 records in
3000+0 records out
3145728000 bytes (3.1 GB, 2.9 GiB) copied, 31.397 s, 100 MB/s
Performance counter stats for 'dd if=/dev/urandom of=test.out bs=1M oflag=direct count=3000':
18,014.26 msec task-clock # 0.574 CPUs utilized
3,199 context-switches # 0.178 K/sec
4 cpu-migrations # 0.000 K/sec
328 page-faults # 0.018 K/sec
45,232,163,658 cycles # 2.511 GHz
74,538,278,379 instructions # 1.65 insn per cycle
4,372,725,344 branches # 242.737 M/sec
4,650,429 branch-misses # 0.11% of all branches
31.398466725 seconds time elapsed
0.006966000 seconds user
17.910332000 seconds sys
Summary of events:
...
dd (4620), 12156 events, 12.0%
syscall calls total min avg max stddev
(msec) (msec) (msec) (msec) (%)
--------------- -------- --------- --------- --------- --------- ------
read 3007 17624.985 0.002 5.861 12.345 0.21%
write 3003 13722.837 0.004 4.570 179.928 2.63%
openat 12 0.371 0.002 0.031 0.267 70.36%
...
iowait
के wa
कॉलम से मैंने आंकड़ा पढ़ा vmstat
। आप यह बता सकते हैं कि परीक्षण कब io
कॉलम ( bo
= 1K ब्लॉक आउटपुट) को देखकर चल रहा है ।
$ vmstat 5
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r b swpd free buff cache si so bi bo in cs us sy id wa st
0 0 0 5126892 176512 1486060 0 0 1788 4072 321 414 4 4 83 9 0
1 0 0 5126632 176520 1485988 0 0 0 7 212 405 0 1 99 0 0
0 0 0 5126884 176520 1485988 0 0 0 0 130 283 0 0 99 0 0
0 0 0 5126948 176520 1485908 0 0 0 1 157 325 0 0 99 0 0
0 0 0 5126412 176520 1486412 0 0 115 0 141 284 0 0 99 0 0
0 2 0 5115724 176548 1487056 0 0 0 6019 18737 10733 3 6 89 2 0
1 0 0 5115708 176580 1487104 0 0 3 91840 1276 990 0 13 77 9 0
1 0 0 5115204 176600 1487128 0 0 2 91382 1382 1014 0 14 81 4 0
1 0 0 5115268 176636 1487084 0 0 4 88281 1257 901 0 14 83 3 0
0 1 0 5113504 177028 1487764 0 0 77 92596 1374 1111 0 15 83 2 0
1 0 0 5114008 177036 1487768 0 0 0 113282 1460 1060 0 16 81 2 0
1 0 0 5113472 177044 1487792 0 0 0 110821 1489 1118 0 16 74 10 0
0 0 0 5123852 177068 1487896 0 0 0 20537 631 714 1 3 94 2 0
0 0 0 5123852 177076 1487856 0 0 0 10 324 529 2 1 98 0 0
2 0 0 5123852 177084 1487872 0 0 0 70 150 299 0 0 99 0 0
परीक्षा परिणाम जहां यह पकड़ (एक वीएम के अंदर)
मैंने 1 सीपीयू के साथ एक वीएम के अंदर एक ही परीक्षण की कोशिश की, जो कर्नेल चला रहा था 5.0.9-301.fc30.x86_64
और mq-deadline
(और इसलिए ब्लेक-एमके)। इस परीक्षण में, यह काम करता है कि मैंने उससे कैसे उम्मीद की।
$ sudo perf trace -s \
perf stat \
dd if=/dev/urandom of=test.out bs=1M oflag=direct count=3000
[sudo] password for alan-sysop:
3000+0 records in
3000+0 records out
3145728000 bytes (3.1 GB, 2.9 GiB) copied, 46.8071 s, 67.2 MB/s
Performance counter stats for 'dd if=/dev/urandom of=test.out bs=1M oflag=direct count=3000':
18,734.89 msec task-clock # 0.400 CPUs utilized
16,690 context-switches # 0.891 K/sec
0 cpu-migrations # 0.000 K/sec
328 page-faults # 0.018 K/sec
<not supported> cycles
<not supported> instructions
<not supported> branches
<not supported> branch-misses
46.820355993 seconds time elapsed
0.011840000 seconds user
18.531449000 seconds sys
Summary of events:
...
dd (1492), 12156 events, 38.4%
syscall calls total min avg max stddev
(msec) (msec) (msec) (msec) (%)
--------------- -------- --------- --------- --------- --------- ------
write 3003 28269.070 0.019 9.414 5764.657 22.39%
read 3007 18371.469 0.013 6.110 14.848 0.53%
execve 6 10.399 0.012 1.733 10.328 99.18%
...
का आउटपुट vmstat 5
:
$ vmstat 5
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r b swpd free buff cache si so bi bo in cs us sy id wa st
0 0 0 726176 52128 498508 0 0 2040 231 236 731 7 5 77 11 0
0 0 0 726176 52136 498508 0 0 0 10 25 46 0 0 99 1 0
0 0 0 726208 52136 498508 0 0 0 0 29 56 0 0 100 0 0
0 1 0 702280 55944 511780 0 0 2260 13109 4399 9049 3 17 55 25 0
0 1 0 701776 56040 511960 0 0 18 129582 1406 1458 0 73 0 27 0
0 2 0 701524 56156 512168 0 0 22 87060 960 991 0 50 0 50 0
3 1 0 701524 56228 512328 0 0 14 118170 1301 1322 0 68 0 32 0
1 1 0 701272 56260 512392 0 0 6 86426 994 982 0 53 0 46 0
0 2 0 701020 56292 512456 0 0 6 56115 683 660 0 37 0 63 0
3 2 0 700540 56316 512504 0 0 5 33450 446 457 0 26 0 74 0
0 2 0 700860 56332 512536 0 0 3 16998 311 240 0 19 0 81 0
1 2 0 700668 56368 512616 0 0 7 32563 443 428 0 24 0 76 0
1 0 0 700668 56392 512648 0 0 3 20338 245 272 0 12 0 88 0
0 1 0 707096 56408 512920 0 0 54 20913 312 530 0 12 79 8 0
0 0 0 707064 56432 512920 0 0 0 49 39 64 0 0 45 55 0
0 0 0 707064 56432 512920 0 0 0 0 24 46 0 0 100 0 0
0 0 0 707064 56432 512920 0 0 0 80 28 47 0 0 100 0 0
मैंने वीएम को सीपीयू को फिर से जोड़ने और फिर से परीक्षण करने की कोशिश की। परिणाम परिवर्तनशील थे: कभी-कभी यह निष्क्रिय कॉलम में लगभग 0% दिखाता था, और कभी-कभी यह लगभग 50% निष्क्रिय (यानी दो सीपीयू में से एक) दिखाता था। 0% "निष्क्रिय" के मामले में, "आयोवाइट" बहुत अधिक था अर्थात एक से अधिक सीपीयू। यानी मेरी उम्मीद बिंदु 2 सही नहीं थी। मैं बहु-सीपीयू सिस्टम पर "इवोहित" के इस स्पष्ट सीमा को स्वीकार कर सकता हूं । (हालांकि मैं इसे काफी नहीं समझता हूं। अगर कोई इसे वास्तव में समझाना चाहता है, तो यह बहुत अच्छा होगा)। हालांकि, "निष्क्रिय" या तो मामले में 50% से ऊपर नहीं था, इसलिए ये परीक्षण अभी भी "इवाइट" के बारे में मेरी पहली धारणा के अनुरूप थे।
मैंने VM को बंद करने की कोशिश की और इसे 4 सीपीयू के साथ शुरू किया। इसी तरह, अक्सर मेरे पास 75% बेकार था, और कभी-कभी मेरे पास 50% बेकार था, लेकिन मैंने 75% से अधिक निष्क्रिय नहीं देखा (यानी चार सीपीयू में से तीन से अधिक)।
जबकि 4 सीपीयू के साथ शारीरिक प्रणाली पर, मैं अभी भी ऊपर दिखाए गए अनुसार 80% से अधिक निष्क्रिय के परिणाम को पुन: उत्पन्न कर सकता हूं।
this_rq()->nr_iowait
है कि उन कार्यों की संख्या है जो io_schedule()
केवल वर्तमान सीपीयू पर उपयोग करने की प्रतीक्षा कर रहे हैं । क्या मै गलत हु?
iowait
सामान्य रूप से I / O के इंतजार में बिताए समय को मापने की कोशिश करता है। यह एक विशिष्ट सीपीयू द्वारा ट्रैक नहीं किया जाता है, और न ही यह हो सकता है" । मुझे तनाव होने दो, मुझे इस पर कुछ भी आश्चर्य नहीं है, बस आश्चर्य व्यक्त करना है।
atop
, या atopsar -c 5
, आप प्रति-सीपीयू उपयोग के आंकड़े देखेंगे। उनमें आयोवाइट शामिल है, और प्रति-सीपीयू आयविट आंकड़े अलग, गैर-शून्य मान दिखा सकते हैं :-)। या sar -P ALL 1
, यदि आप उपयोग नहीं करते हैं atop
। यह वह तरीका है जो iowait
मल्टी-सीपीयू सिस्टम के लिए मॉडल को बढ़ाया गया है ... मैं इस पर अस्पष्ट हूं कि क्या यह मॉडल वास्तव में प्रयोग करने योग्य है, या क्या यह एक ऐसा तरीका है, जो केवल एक सीपीयू होने पर आयोवाट कोड काम करना जारी रखता है ऑनलाइन, लेकिन यह अन्यथा भरोसेमंद नहीं है।