यह हास्केल कोड -ओ के साथ धीमा क्यों चलता है?


87

हास्केल कोड का यह टुकड़ा बहुत धीमी गति से चलता है-O , लेकिन गैर-खतरनाक-O होना चाहिए । क्या कोई मुझे बता सकता है कि क्या हुआ? यदि यह मायने रखता है, तो यह इस समस्या को हल करने का एक प्रयास है , और यह द्विआधारी खोज और लगातार खंड वृक्ष का उपयोग करता है:

import Control.Monad
import Data.Array

data Node =
      Leaf   Int           -- value
    | Branch Int Node Node -- sum, left child, right child
type NodeArray = Array Int Node

-- create an empty node with range [l, r)
create :: Int -> Int -> Node
create l r
    | l + 1 == r = Leaf 0
    | otherwise  = Branch 0 (create l m) (create m r)
    where m = (l + r) `div` 2

-- Get the sum in range [0, r). The range of the node is [nl, nr)
sumof :: Node -> Int -> Int -> Int -> Int
sumof (Leaf val) r nl nr
    | nr <= r   = val
    | otherwise = 0
sumof (Branch sum lc rc) r nl nr
    | nr <= r   = sum
    | r  > nl   = (sumof lc r nl m) + (sumof rc r m nr)
    | otherwise = 0
    where m = (nl + nr) `div` 2

-- Increase the value at x by 1. The range of the node is [nl, nr)
increase :: Node -> Int -> Int -> Int -> Node
increase (Leaf val) x nl nr = Leaf (val + 1)
increase (Branch sum lc rc) x nl nr
    | x < m     = Branch (sum + 1) (increase lc x nl m) rc
    | otherwise = Branch (sum + 1) lc (increase rc x m nr)
    where m = (nl + nr) `div` 2

-- signature said it all
tonodes :: Int -> [Int] -> [Node]
tonodes n = reverse . tonodes' . reverse
    where
        tonodes' :: [Int] -> [Node]
        tonodes' (h:t) = increase h' h 0 n : s' where s'@(h':_) = tonodes' t
        tonodes' _ = [create 0 n]

-- find the minimum m in [l, r] such that (predicate m) is True
binarysearch :: (Int -> Bool) -> Int -> Int -> Int
binarysearch predicate l r
    | l == r      = r
    | predicate m = binarysearch predicate l m
    | otherwise   = binarysearch predicate (m+1) r
    where m = (l + r) `div` 2

-- main, literally
main :: IO ()
main = do
    [n, m] <- fmap (map read . words) getLine
    nodes <- fmap (listArray (0, n) . tonodes n . map (subtract 1) . map read . words) getLine
    replicateM_ m $ query n nodes
    where
        query :: Int -> NodeArray -> IO ()
        query n nodes = do
            [p, k] <- fmap (map read . words) getLine
            print $ binarysearch (ok nodes n p k) 0 n
            where
                ok :: NodeArray -> Int -> Int -> Int -> Int -> Bool
                ok nodes n p k s = (sumof (nodes ! min (p + s + 1) n) s 0 n) - (sumof (nodes ! max (p - s) 0) s 0 n) >= k

(यह कोड समीक्षा के साथ बिल्कुल समान कोड है लेकिन यह प्रश्न एक अन्य समस्या को संबोधित करता है।)

यह C ++ में मेरा इनपुट जनरेटर है:

#include <cstdio>
#include <cstdlib>
using namespace std;
int main (int argc, char * argv[]) {
    srand(1827);
    int n = 100000;
    if(argc > 1)
        sscanf(argv[1], "%d", &n);
    printf("%d %d\n", n, n);
    for(int i = 0; i < n; i++)
        printf("%d%c", rand() % n + 1, i == n - 1 ? '\n' : ' ');
    for(int i = 0; i < n; i++) {
        int p = rand() % n;
        int k = rand() % n + 1;
        printf("%d %d\n", p, k);
    }
}

यदि आपके पास C ++ कंपाइलर उपलब्ध नहीं है, तो इसका परिणाम है./gen.exe 1000

यह मेरे कंप्यूटर पर निष्पादन परिणाम है:

$ ghc --version
The Glorious Glasgow Haskell Compilation System, version 7.8.3
$ ghc -fforce-recomp 1827.hs
[1 of 1] Compiling Main             ( 1827.hs, 1827.o )
Linking 1827.exe ...
$ time ./gen.exe 1000 | ./1827.exe > /dev/null
real    0m0.088s
user    0m0.015s
sys     0m0.015s
$ ghc -fforce-recomp -O 1827.hs
[1 of 1] Compiling Main             ( 1827.hs, 1827.o )
Linking 1827.exe ...
$ time ./gen.exe 1000 | ./1827.exe > /dev/null
real    0m2.969s
user    0m0.000s
sys     0m0.045s

और यह ढेर प्रोफाइल सारांश है:

$ ghc -fforce-recomp -rtsopts ./1827.hs
[1 of 1] Compiling Main             ( 1827.hs, 1827.o )
Linking 1827.exe ...
$ ./gen.exe 1000 | ./1827.exe +RTS -s > /dev/null
      70,207,096 bytes allocated in the heap
       2,112,416 bytes copied during GC
         613,368 bytes maximum residency (3 sample(s))
          28,816 bytes maximum slop
               3 MB total memory in use (0 MB lost due to fragmentation)
                                    Tot time (elapsed)  Avg pause  Max pause
  Gen  0       132 colls,     0 par    0.00s    0.00s     0.0000s    0.0004s
  Gen  1         3 colls,     0 par    0.00s    0.00s     0.0006s    0.0010s
  INIT    time    0.00s  (  0.00s elapsed)
  MUT     time    0.03s  (  0.03s elapsed)
  GC      time    0.00s  (  0.01s elapsed)
  EXIT    time    0.00s  (  0.00s elapsed)
  Total   time    0.03s  (  0.04s elapsed)
  %GC     time       0.0%  (14.7% elapsed)
  Alloc rate    2,250,213,011 bytes per MUT second
  Productivity 100.0% of total user, 83.1% of total elapsed
$ ghc -fforce-recomp -O -rtsopts ./1827.hs
[1 of 1] Compiling Main             ( 1827.hs, 1827.o )
Linking 1827.exe ...
$ ./gen.exe 1000 | ./1827.exe +RTS -s > /dev/null
   6,009,233,608 bytes allocated in the heap
     622,682,200 bytes copied during GC
         443,240 bytes maximum residency (505 sample(s))
          48,256 bytes maximum slop
               3 MB total memory in use (0 MB lost due to fragmentation)
                                    Tot time (elapsed)  Avg pause  Max pause
  Gen  0     10945 colls,     0 par    0.72s    0.63s     0.0001s    0.0004s
  Gen  1       505 colls,     0 par    0.16s    0.13s     0.0003s    0.0005s
  INIT    time    0.00s  (  0.00s elapsed)
  MUT     time    2.00s  (  2.13s elapsed)
  GC      time    0.87s  (  0.76s elapsed)
  EXIT    time    0.00s  (  0.00s elapsed)
  Total   time    2.89s  (  2.90s elapsed)
  %GC     time      30.3%  (26.4% elapsed)
  Alloc rate    3,009,412,603 bytes per MUT second
  Productivity  69.7% of total user, 69.4% of total elapsed

1
GHC संस्करण शामिल करने के लिए धन्यवाद!
dfeuer

2
@dfeuer परिणाम अब मेरे प्रश्न में अंतर्निहित है।
johnchen902

13
कोशिश करने के लिए एक और विकल्प -fno-state-hack:। फिर मुझे वास्तव में विवरण देखने की कोशिश करनी होगी।
dfeuer

17
मुझे बहुत सारे विवरण नहीं पता हैं, लेकिन मूल रूप से यह अनुमान लगाने के लिए एक अनुमान है कि कुछ कार्य जो आपके प्रोग्राम को बनाते हैं (अर्थात् IOया STप्रकार में छिपे हुए ) केवल एक बार मिलते हैं। यह आमतौर पर एक अच्छा अनुमान है, लेकिन जब यह एक बुरा अनुमान है, तो जीएचसी बहुत खराब कोड का उत्पादन कर सकता है। डेवलपर्स लंबे समय से बुरे के बिना अच्छा पाने के लिए एक रास्ता खोजने की कोशिश कर रहे हैं। मुझे लगता है कि जोकिम ब्रेइटनर इन दिनों इस पर काम कर रहे हैं।

2
यह ghc.haskell.org/trac/ghc/ticket/10102 बहुत पसंद है । ध्यान दें कि दोनों प्रोग्राम उपयोग करते हैं replicateM_, और वहां जीएचसी गलत तरीके से गणना को बाहर replicateM_से अंदर तक ले जाएगा , इसलिए इसे दोहरा रहा है।
जोचिम ब्रीटनर

जवाबों:


42

मुझे लगता है कि यह समय है जब इस सवाल का उचित जवाब मिलता है।

आपके कोड के साथ क्या हुआ -O

मुझे अपने मुख्य कार्य में ज़ूम करने दें, और इसे थोड़ा फिर से लिखें:

main :: IO ()
main = do
    [n, m] <- fmap (map read . words) getLine
    line <- getLine
    let nodes = listArray (0, n) . tonodes n . map (subtract 1) . map read . words $ line
    replicateM_ m $ query n nodes

स्पष्ट रूप से, यहाँ अभिप्राय यह है कि NodeArrayएक बार बनाया गया है, और फिर इसके प्रत्येक mआह्वान में उपयोग किया जाता है query

दुर्भाग्यवश, GHC इस कोड को प्रभावी रूप से बदल देता है,

main = do
    [n, m] <- fmap (map read . words) getLine
    line <- getLine
    replicateM_ m $ do
        let nodes = listArray (0, n) . tonodes n . map (subtract 1) . map read . words $ line
        query n nodes

और आप तुरंत यहाँ समस्या देख सकते हैं।

राज्य हैक क्या है, और यह मेरे कार्यक्रमों के प्रदर्शन को क्यों नष्ट करता है

कारण राज्य हैक है, जो कहता है (मोटे तौर पर): "जब कुछ प्रकार का होता है IO a, तो मान लें कि इसे केवल एक बार कहा जाता है"। आधिकारिक दस्तावेज अधिक विस्तृत नहीं है:

-fno-state-hack

"स्टेट हैक" को बंद कर दें, जिसके तहत किसी स्टेट लैम्ब के साथ किसी भी लैम्बडा को तर्क के रूप में सिंगल-एंट्री माना जाता है, इसलिए इसे उसके अंदर इनलाइन चीजों को ओके माना जाता है। यह IO और ST मोनड कोड के प्रदर्शन में सुधार कर सकता है, लेकिन यह साझाकरण को कम करने का जोखिम चलाता है।

मोटे तौर पर, विचार इस प्रकार है: यदि आप एक फ़ंक्शन को एक IOप्रकार और जहां एक खंड, उदाहरण के साथ परिभाषित करते हैं

foo x = do
    putStrLn y
    putStrLn y
  where y = ...x...

कुछ प्रकार IO aको कुछ प्रकार के रूप में देखा जा सकता है RealWord -> (a, RealWorld)। उस दृश्य में, ऊपर (लगभग) बन जाता है

foo x = 
   let y = ...x... in 
   \world1 ->
     let (world2, ()) = putStrLn y world1
     let (world3, ()) = putStrLn y world2
     in  (world3, ())

foo(आमतौर पर) इस तरह से कॉल किया जा सकता है foo argument world। लेकिन fooकेवल एक की परिभाषा एक तर्क लेती है, और दूसरी केवल एक स्थानीय लंबोदर अभिव्यक्ति द्वारा बाद में भस्म हो जाती है! यह एक बहुत ही धीमी कॉल है foo। यदि कोड इस तरह दिखाई देगा तो यह बहुत तेज़ होगा:

foo x world1 = 
   let y = ...x... in 
   let (world2, ()) = putStrLn y world1
   let (world3, ()) = putStrLn y world2
   in  (world3, ())

इसे एटा-विस्तार कहा जाता है और विभिन्न आधारों पर किया जाता है (जैसे कि फ़ंक्शन की परिभाषा का विश्लेषण करके , यह कैसे बुलाया जा रहा है , और - इस मामले में - प्रकार निर्देशित आंकड़े)।

दुर्भाग्य से, यह प्रदर्शन खराब कर देता है अगर कॉल fooवास्तव में फॉर्म का है let fooArgument = foo argument, यानी एक तर्क के साथ, लेकिन कोई worldपारित नहीं हुआ (अभी तक)। मूल कोड में, यदि fooArgumentफिर कई बार उपयोग किया जाता है, तब yभी गणना केवल एक बार की जाएगी, और साझा की जाएगी। संशोधित कोड में, yहर बार फिर से गणना की जाएगी - ठीक है कि आपके साथ क्या हुआ है nodes

चीजें तय हो सकती हैं?

संभवतः। ऐसा करने के प्रयास के लिए # 9388 देखें । इसे ठीक करने में समस्या यह है कि यह बहुत सारे मामलों में प्रदर्शन पर खर्च करेगा जहां रूपांतरण ठीक होता है, भले ही संकलक को संभवतः यह पता नहीं हो। और शायद ऐसे मामले हैं जहां यह तकनीकी रूप से ठीक नहीं है, अर्थात साझाकरण खो गया है, लेकिन यह अभी भी फायदेमंद है क्योंकि तेजी से कॉल करने वाले स्पीडअप ने पुनर्गणना की अतिरिक्त लागत को पार कर लिया है। इसलिए यह स्पष्ट नहीं है कि यहां से कहां जाना है।


4
बहुत ही रोचक! लेकिन मुझे यह अच्छी तरह से समझ में नहीं आया कि क्यों: "दूसरे को केवल एक स्थानीय मेमने की अभिव्यक्ति द्वारा बाद में भस्म कर दिया जाता है! यह बहुत धीमा कॉल होने वाला है foo"?
इम्ज़ - इवान ज़खरीशेव

क्या किसी विशेष स्थानीय मामले के लिए कोई समाधान है? -f-no-state-hackजब संकलन बहुत भारी लगता है। {-# NOINLINE #-}स्पष्ट बात की तरह लगता है, लेकिन मैं यह नहीं सोच सकता कि इसे यहां कैसे लागू किया जाए। शायद यह सिर्फ nodesएक IO कार्रवाई करने और अनुक्रमण के आधार पर भरोसा करने के लिए पर्याप्त होगा >>=?
बेंड वेंटर

मैंने यह भी देखा कि मदद से प्रतिस्थापित replicateM_ n fooकरना forM_ (\_ -> foo) [1..n]
जोचिम ब्रेटनर
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.