लिनक्स पर ZFS पर arc_max सेटिंग को सम्मानित क्यों नहीं किया गया है?

Question

मैं अपने PPA से Ubuntu 12.04 पर ZoL 0.6.2 चला रहा हूं । यह 16GB मेमोरी वाला एक होस्ट है जिसका उद्देश्य KVM / Libvirt का उपयोग करके कुछ VMs चलाना है। कुछ समय बाद ZoL स्मृति की एक पागल राशि का उपयोग कर रहा है, कुछ VMs के साथ 98% RAM का उपयोग कर रहा है। यह "स्मृति को आवंटित करने में असमर्थ" शुरू करने से इनकार करने वाली नई प्रक्रियाओं का परिणाम है। मैं अपने सभी वीएम को अब शुरू नहीं कर सकता जो ZFS उपयोग करने से पहले लगभग 40-50% RAM का उपयोग कर रहे थे।

जहां तक ​​मैं समझता हूं, बिना ट्विक किए, ZoL को मेमोरी को रिलीज करना चाहिए जैसे ही सिस्टम मेमोरी पर छोटा होता है। खैर, यह नहीं है। इसलिए मैंने arc_maxसेटिंग को 1GB करने का फैसला किया ।

# echo 1073741824 >> /sys/module/zfs/parameters/zfs_arc_max

फिर भी, यह किसी भी मेमोरी को रिलीज़ नहीं करता है।

जैसा कि आप नीचे दिए गए ARC आँकड़ों से देख सकते हैं, यह कॉन्फ़िगर की तुलना में अधिक मेमोरी का उपयोग कर रहा है (तुलना c= 7572030912साथ c_max= 1073741824)।

मुझसे यहां क्या गलत हो रहा है?

# cat /proc/spl/kstat/zfs/arcstats
4 1 0x01 84 4032 43757119584 392054268420115
name                            type data
hits                            4    28057644
misses                          4    13975282
demand_data_hits                4    19632274
demand_data_misses              4    571809
demand_metadata_hits            4    6333604
demand_metadata_misses          4    289110
prefetch_data_hits              4    1903379
prefetch_data_misses            4    12884520
prefetch_metadata_hits          4    188387
prefetch_metadata_misses        4    229843
mru_hits                        4    15390332
mru_ghost_hits                  4    1088944
mfu_hits                        4    10586761
mfu_ghost_hits                  4    169152
deleted                         4    35432344
recycle_miss                    4    701686
mutex_miss                      4    35304
evict_skip                      4    60416647
evict_l2_cached                 4    0
evict_l2_eligible               4    3022396862976
evict_l2_ineligible             4    1602907651584
hash_elements                   4    212777
hash_elements_max               4    256438
hash_collisions                 4    17163377
hash_chains                     4    51485
hash_chain_max                  4    10
p                               4    1527347963
c                               4    7572030912
c_min                           4    1038188800
c_max                           4    1073741824
size                            4    7572198224
hdr_size                        4    66873056
data_size                       4    7496095744
other_size                      4    9229424
anon_size                       4    169150464
anon_evict_data                 4    0
anon_evict_metadata             4    0
mru_size                        4    1358216192
mru_evict_data                  4    1352400896
mru_evict_metadata              4    508928
mru_ghost_size                  4    6305992192
mru_ghost_evict_data            4    4919159808
mru_ghost_evict_metadata        4    1386832384
mfu_size                        4    5968729088
mfu_evict_data                  4    5627991552
mfu_evict_metadata              4    336846336
mfu_ghost_size                  4    1330455552
mfu_ghost_evict_data            4    1287782400
mfu_ghost_evict_metadata        4    42673152
l2_hits                         4    0
l2_misses                       4    0
l2_feeds                        4    0
l2_rw_clash                     4    0
l2_read_bytes                   4    0
l2_write_bytes                  4    0
l2_writes_sent                  4    0
l2_writes_done                  4    0
l2_writes_error                 4    0
l2_writes_hdr_miss              4    0
l2_evict_lock_retry             4    0
l2_evict_reading                4    0
l2_free_on_write                4    0
l2_abort_lowmem                 4    0
l2_cksum_bad                    4    0
l2_io_error                     4    0
l2_size                         4    0
l2_asize                        4    0
l2_hdr_size                     4    0
l2_compress_successes           4    0
l2_compress_zeros               4    0
l2_compress_failures            4    0
memory_throttle_count           4    0
duplicate_buffers               4    0
duplicate_buffers_size          4    0
duplicate_reads                 4    0
memory_direct_count             4    66583
memory_indirect_count           4    7657293
arc_no_grow                     4    0
arc_tempreserve                 4    0
arc_loaned_bytes                4    0
arc_prune                       4    0
arc_meta_used                   4    427048272
arc_meta_limit                  4    2076377600
arc_meta_max                    4    498721632

# free -m
             total       used       free     shared    buffers     cached
Mem:         15841      15385        456          0         75         74
-/+ buffers/cache:      15235        606
Swap:            0          0          0

Answer 1

IMHO / sys / मॉड्यूल / zfs / पैरामीटर में पैरामीटर केवल 0/ 1- disabled/ enabled" पर सेट किए जा सकते हैं । सुधार: पैरामीटर पर निर्भर करता है

मैं उसी नाव में हूं जो zfs की मेमोरी के उपयोग को सीमित करना चाहती है और ऐसा लगता है कि किसी को /etc/modprobe.d/zfs.conf फ़ाइल बनानी होगी और वहाँ पैरामीटर और वांछित मान दर्ज करना होगा। यह परिवर्तन रिबूट पर प्रभावी होगा।

echo "options zfs zfs_arc_max=34359738368" >> /etc/modprobe.d/zfs.conf

चल रहे मॉड्यूल को प्रभावित करने के लिए एक zfs_arc_max पैरामीटर बदल सकते हैं।

echo "34359738368" > /sys/module/zfs/parameters/zfs_arc_max

कृपया >फ़ाइल की सामग्री को फ़ाइल के साथ जोड़ने के विपरीत बदलने के उपयोग पर ध्यान दें >>।

स्रोत: /programming//a/18808311

Comments

ZFS चाप तुरंत सिकुड़ता नहीं है। हालाँकि (ZFSonLinux) इसे पुनः प्राप्त किया जाता है जबकि अनुप्रयोग उस मेमोरी को आवंटित करते हैं - हमेशा की तरह। यदि आपको याददाश्त पर कुछ करने की जरूरत है, तो शायद github.com/hilbix/killmem (केवल 8K के बाद make static; strip -s killmem) पर एक नज़र डालें

— Tino

Ubuntu 16.04 पर मुझे update-initramfs -u -k allइस सेटिंग्स को /etc/modprobe.d/zfs.confप्रचारित करने के लिए रिबूट से पहले चलाने की आवश्यकता थी ।

— लेचप

@lechup: Ubuntu 16.04 पर, मैंने options zfs zfs_vdev_scheduler=cfqअपने /etc/modprobe.d/zfs.conf में जोड़ा । मैंने रिबूट किया और यह काम किया; शेड्यूलर अब नोफ़ के बजाय cfq था । क्या आप बता सकते हैं कि क्यों जरूरी है? update-initramfs -u -k all

— मार्टिन वेलेज़

@MartinVelez मुझे पता है कि यह अजीब है, लेकिन इसके बिना मेरी मशीन में परिवर्तन रिबूट के बाद प्रचारित नहीं किया गया था ... मैं अलग विकल्प को पॉप करने की कोशिश कर रहा था zfs_arc_maxशायद यह कुंजी किसी तरह से इनट्रैमफैस में कैश्ड है?

— लेचअप

Answer 2

http://fibrevillage.com/storage/169-zfs-arc-on-linux-how-to-set-and-monitor-on-linux

यह लेख बहुत अच्छा है

संस्करण ZoL 0.6.2 शुरू करने से आप रन-वे पर c_max सेट कर सकते हैं, हालांकि ARC का आकार स्वचालित रूप से जारी नहीं किया जाएगा। रैम को जारी करने के लिए मजबूर करने के लिए इसे ज़ूल को निर्यात करना आवश्यक है।

Answer 3

एक बार जब आप अपने आर्क आकार को संशोधित करते हैं, तो आपको अपने कैश को गिराने की आवश्यकता होती है।

echo 3 > /proc/sys/vm/drop_caches

और प्रतीक्षा करें (आपका संकेत तुरंत वापस नहीं आएगा, लेकिन अन्य प्रक्रियाएं चलती रहेंगी)। यह धीरे-धीरे कैश को अनलोड करेगा (छापे की 2 जोड़ी पर मेरे 24 जीबी कैश के लिए 2.5 मिनट 1 एल 2 बीबी डब्ल्यूडी ब्लैक पर एक बॉक्स डब्ल्यू / 64 जीबी पर 2 जीएचजी 4 साल का सीपीयू) - सावधान रहें, आप अचानक कोई कैश नहीं करेंगे, और कोई भी डेटा पढ़ने की प्रक्रियाएं कच्ची डिस्क से दूर हो जाएंगी ताकि आप देखेंगे कि IO वेट जंप करने के लिए थोड़ी देर के लिए तिल कैश को फिर से खोल दिया जाएगा।

Comments

आह कूल! क्या आप बता सकते हैं कि '3' को उस घोषणा में लिखने के मूल्य के रूप में क्यों?

— gertvdijk

केवल पृष्ठकेच साफ़ करें: डेन्चर # sync; echo 1 > /proc/sys/vm/drop_caches और # sync; echo 2 > /proc/sys/vm/drop_caches इनोड्स साफ़ करें : पृष्ठकेचे, डेन्ट्रीज़ और इनोड्स साफ़ करें:# sync; echo 3 > /proc/sys/vm/drop_caches

— गणित

Answer 4

वर्चुअल मशीन फ़ाइलों (वर्चुअल डिस्क) को कैच करने वाली ZFS की एक समस्या है। इस बात से बचने के लिए कि मैं हमेशा वर्चुअल डिस्क वाले फाइलसिस्टम पर "मेटाडेटा" के लिए प्राइमरी कैश प्रॉपर्टी सेट करता हूं।

तर्क यह है कि अतिथि ओएस ने अपने डिस्क को कैश करने के लिए किन क्षेत्रों पर बेहतर संकेत दिया है।

Answer 5

निम्न स्थितियों में से एक AFAIK पैरामीटर को अनुकूलित करने के लिए मिलना चाहिए।

1. एक रनिंग सिस्टम पर: सभी ज़ुल्फ़ों को निर्यात करें, ज़फ़्स मॉड्यूल को हटा दें, ज़फ़्स मॉड्यूल को फिर से सक्षम करें (प्रति परिभाषा अगर ऐसा नहीं किया जा सकता है तो / ज़फ़्स पर है)।
2. पैरामीटर को बदलते समय initramfs छवि को पुनर्जन्म करें ताकि रिबूट के बाद यह काम करेगा। यह आवश्यक है क्योंकि बूट प्रक्रिया में उस समय zfs.conf फ़ाइल स्थान अभी तक माउंट नहीं किया गया है।

Answer 6

आपके पास एक अतिरिक्त " >" बहुत अधिक है।

आज्ञा होनी चाहिए

echo 1073741824 > /sys/module/zfs/parameters/zfs_arc_max

" >>" नहीं

>> का अर्थ है "जोड़ने के लिए" (मौजूदा सूची)।
>का अर्थ है "अधिलेखित" (मूल्य)।

यही कारण है कि आपके प्रश्न में कमांड कोड काम नहीं करेगा।

Comments

यह पहले से मौजूद स्वीकृत उत्तर का हिस्सा था। serverfault.com/a/602457/135437

— gertvdijk

यह पोस्ट एक जटिल गड़बड़ है, श्री डाउनवोट्स। लेखक चीजों की एक पूरी रैक कहता है, केवल गड़बड़ के अंत के पास से गुजरने में सही उत्तर को छूते हुए, बिना यह कहते हुए कि "यह कारण है" या समकक्ष। इतना दृढ़, कि मुझे उस पोस्ट से अपना जवाब नहीं मिला। मैंने प्रश्न से कारण देखा। मेरी पोस्ट को एक कारण के लिए upvott किया गया था ।

— Hypocritus