हम एक कार्यक्रम विकसित कर रहे हैं जो उन संदेशों का अस्थायी इतिहास रखते हुए "संदेश" प्राप्त करता है और आगे बढ़ाता है, ताकि अनुरोध किए जाने पर यह आपको संदेश इतिहास बता सके। संदेशों को संख्यात्मक रूप से पहचाना जाता है, आमतौर पर आकार में लगभग 1 किलोबाइट होते हैं, और हमें इन सैकड़ों संदेशों को रखने की आवश्यकता होती है।
हम इस कार्यक्रम को विलंबता के लिए अनुकूलित करना चाहते हैं: संदेश भेजने और प्राप्त करने के बीच का समय 10 मिलीसेकंड से कम होना चाहिए।
कार्यक्रम हास्केल में लिखा गया है और जीएचसी के साथ संकलित किया गया है। हालांकि, हमने पाया है कि कचरा संग्रह ठहराव हमारी विलंबता आवश्यकताओं के लिए बहुत लंबा है: हमारे वास्तविक दुनिया के कार्यक्रम में 100 मिलीसेकंड से अधिक।
निम्नलिखित कार्यक्रम हमारे आवेदन का एक सरलीकृत संस्करण है। यह Data.Map.Strict
संदेशों को संग्रहीत करने के लिए एक का उपयोग करता है । संदेशों की ByteString
पहचान ए द्वारा की जाती है Int
। 1,000,000 संदेश बढ़ते हुए संख्यात्मक क्रम में डाले जाते हैं, और इतिहास को अधिकतम 200,000 संदेशों पर रखने के लिए सबसे पुराने संदेशों को लगातार हटा दिया जाता है।
module Main (main) where
import qualified Control.Exception as Exception
import qualified Control.Monad as Monad
import qualified Data.ByteString as ByteString
import qualified Data.Map.Strict as Map
data Msg = Msg !Int !ByteString.ByteString
type Chan = Map.Map Int ByteString.ByteString
message :: Int -> Msg
message n = Msg n (ByteString.replicate 1024 (fromIntegral n))
pushMsg :: Chan -> Msg -> IO Chan
pushMsg chan (Msg msgId msgContent) =
Exception.evaluate $
let
inserted = Map.insert msgId msgContent chan
in
if 200000 < Map.size inserted
then Map.deleteMin inserted
else inserted
main :: IO ()
main = Monad.foldM_ pushMsg Map.empty (map message [1..1000000])
हमने इस कार्यक्रम को संकलित किया और इसका उपयोग किया:
$ ghc --version
The Glorious Glasgow Haskell Compilation System, version 7.10.3
$ ghc -O2 -optc-O3 Main.hs
$ ./Main +RTS -s
3,116,460,096 bytes allocated in the heap
385,101,600 bytes copied during GC
235,234,800 bytes maximum residency (14 sample(s))
124,137,808 bytes maximum slop
600 MB total memory in use (0 MB lost due to fragmentation)
Tot time (elapsed) Avg pause Max pause
Gen 0 6558 colls, 0 par 0.238s 0.280s 0.0000s 0.0012s
Gen 1 14 colls, 0 par 0.179s 0.250s 0.0179s 0.0515s
INIT time 0.000s ( 0.000s elapsed)
MUT time 0.652s ( 0.745s elapsed)
GC time 0.417s ( 0.530s elapsed)
EXIT time 0.010s ( 0.052s elapsed)
Total time 1.079s ( 1.326s elapsed)
%GC time 38.6% (40.0% elapsed)
Alloc rate 4,780,213,353 bytes per MUT second
Productivity 61.4% of total user, 49.9% of total elapsed
यहां महत्वपूर्ण मीट्रिक 0.0515 या 51 मिलीसेकंड का "अधिकतम ठहराव" है। हम इसे कम से कम परिमाण के क्रम से कम करना चाहते हैं।
प्रयोग से पता चलता है कि जीसी ठहराव की लंबाई इतिहास में संदेशों की संख्या से निर्धारित होती है। संबंध मोटे तौर पर रैखिक, या शायद सुपर-रैखिक है। निम्न तालिका इस रिश्ते को दिखाती है। ( आप हमारे बेंचमार्किंग टेस्ट यहाँ और कुछ चार्ट यहाँ देख सकते हैं ।)
msgs history length max GC pause (ms)
=================== =================
12500 3
25000 6
50000 13
100000 30
200000 56
400000 104
800000 199
1600000 487
3200000 1957
6400000 5378
हमने कई अन्य चरों के साथ प्रयोग किया है ताकि पता लगाया जा सके कि क्या वे इस विलंबता को कम कर सकते हैं, जिनमें से कोई भी एक बड़ा अंतर नहीं है। इन महत्वहीन चर में से हैं: अनुकूलन ( -O
, -O2
); आरटीएस जीसी विकल्प ( -G
, -H
, -A
, -c
), कोर (की संख्या -N
), विभिन्न डेटा संरचनाओं ( Data.Sequence
), संदेशों के आकार, और उत्पन्न अल्पकालिक कचरा की राशि। भारी निर्धारण कारक इतिहास में संदेशों की संख्या है।
हमारा कार्य सिद्धांत यह है कि संदेशों की संख्या में ठहराव रैखिक होते हैं क्योंकि प्रत्येक जीसी चक्र को सभी काम करने योग्य सुलभ मेमोरी पर चलना पड़ता है और इसे कॉपी करना पड़ता है, जो स्पष्ट रूप से रैखिक संचालन हैं।
प्रशन:
- क्या यह रैखिक-समय सिद्धांत सही है? क्या जीसी ठहराव की लंबाई इस सरल तरीके से व्यक्त की जा सकती है, या वास्तविकता अधिक जटिल है?
- यदि जीसी पॉज वर्किंग मेमोरी में रैखिक है, तो क्या इसमें शामिल कारकों को कम करने का कोई तरीका है?
- वृद्धिशील जीसी के लिए कोई विकल्प हैं, या ऐसा कुछ भी है? हम केवल शोध पत्र देख सकते हैं। हम कम विलंबता के लिए थ्रूपुट का व्यापार करने के लिए बहुत इच्छुक हैं।
- क्या कई प्रक्रियाओं में विभाजित होने के अलावा, छोटे, जीसी चक्रों के लिए मेमोरी "विभाजन" करने के कोई तरीके हैं?
COntrol.Concurrent.Chan
उदाहरण के लिए उपयोग नहीं कर रहे हैं ? मेरा सुझाव है कि आप यह सुनिश्चित करके शुरू करें कि आप जो कचरा पैदा कर रहे हैं और जितना संभव हो उतना कम बना रहे हैं (उदाहरण के लिए सुनिश्चित करें कि फ्यूजन होता है, कोशिश करें -funbox-strict
)। शायद एक स्ट्रीमिंग लिब (iostreams, पाइप, नाली, स्ट्रीमिंग) का उपयोग करके और performGC
अधिक लगातार अंतराल पर सीधे कॉल करने का प्रयास करें।
MutableByteArray
; जीसी उस मामले में बिल्कुल भी शामिल नहीं होगा)