जूलिया निष्पादन योग्य (MWE के साथ) में जेआईटी ओवरहेड को कैसे खत्म किया जाए


9

मैं एक निष्पादन योग्य बनाने के लिए PackageCompiler का उपयोग कर रहा हूं जो ओवर-टाइम संकलन ओवरहेड को समाप्त करता है।

दस्तावेज़ीकरण बताता है कि मुझे julia_mainअपने कार्यक्रम के तर्क को कॉल करने के लिए एक फ़ंक्शन को परिभाषित करना चाहिए , और "स्नूप फ़ाइल" लिखना चाहिए, एक स्क्रिप्ट जो फ़ंक्शन को कॉल करती है जिसे मैं precompile करना चाहता हूं। मेरा julia_mainएकल तर्क है, एक फ़ाइल का स्थान जिसमें इनपुट डेटा का विश्लेषण किया जाना है। तो चीजों को सरल रखने के लिए मेरा स्नूप फ़ाइल julia_mainकिसी विशेष इनपुट फ़ाइल के साथ एक कॉल करता है। तो मुझे उम्मीद है कि जब एक ही इनपुट फ़ाइल के खिलाफ निष्पादित किया जाता है तो उत्पन्न निष्पादन योग्य रन अच्छा और तेज़ (कोई संकलन ओवरहेड) नहीं दिखाई देगा।

लेकिन अफसोस, यह वह नहीं है जो मैं देख रहा हूं। एक ताजा जूलिया उदाहरण julia_mainमें पहले निष्पादन के लिए लगभग 74 सेकंड और बाद के निष्पादन के लिए लगभग 4.5 सेकंड लगते हैं। निष्पादन योग्य फ़ाइल को प्रत्येक कॉल के लिए लगभग 50 सेकंड लगते हैं।

build_executableफ़ंक्शन का मेरा उपयोग इस तरह दिखता है:

julia> using PackageCompiler

julia> build_executable("d:/philip/source/script/julia/jsource/SCRiPTMain.jl",
                        "testexecutable",
                        builddir = "d:/temp/builddir4",
                        snoopfile = "d:/philip/source/script/julia/jsource/snoop.jl",
                        compile = "all",
                        verbose = true)

प्रशन:

  1. क्या उपरोक्त तर्क किसी जेआईटी ओवरहेड के साथ निष्पादन योग्य के मेरे उद्देश्य को प्राप्त करने के लिए सही हैं?
  2. मेरे लिए कोई और सलाह?

यहाँ उस कॉल के जवाब में क्या होता है build_executable। से लाइनों Start of snoop file execution!के लिए End of snoop file execution!मेरी कोड द्वारा उत्सर्जित कर रहे हैं।

Julia program file:
  "d:\philip\source\script\julia\jsource\SCRiPTMain.jl"
C program file:
  "C:\Users\Philip\.julia\packages\PackageCompiler\CJQcs\examples\program.c"
Build directory:
  "d:\temp\builddir4"
Executing snoopfile: "d:\philip\source\script\julia\jsource\snoop.jl"
Start of snoop file execution!
 Warning: The 'control file' contains the key 'InterpolateCovariance' with value 'true' but that is not supported. Pass a value of 'false' or omit the key altogether.
 @ ValidateInputs d:\Philip\Source\script\Julia\JSource\ValidateInputs.jl:685
Time to build model 20.058000087738037
Saving c:/temp/SCRiPT/SCRiPTModel.jls
Results written to c:/temp/SCRiPT/SCRiPTResultsJulia.json
Time to write file: 3620 milliseconds
Time in method runscript: 76899 milliseconds
End of snoop file execution!
[ Info: used 1313 out of 1320 precompile statements
Build static library "testexecutable.a":
  atexit_hook_copy = copy(Base.atexit_hooks) # make backup
# clean state so that any package we use can carelessly call atexit
empty!(Base.atexit_hooks)
Base.__init__()
Sys.__init__() #fix https://github.com/JuliaLang/julia/issues/30479
using REPL
Base.REPL_MODULE_REF[] = REPL
Mod = @eval module $(gensym("anon_module")) end
# Include into anonymous module to not polute namespace
Mod.include("d:\\\\temp\\\\builddir4\\\\julia_main.jl")
Base._atexit() # run all exit hooks we registered during precompile
empty!(Base.atexit_hooks) # don't serialize the exit hooks we run + added
# atexit_hook_copy should be empty, but who knows what base will do in the future
append!(Base.atexit_hooks, atexit_hook_copy)

Build shared library "testexecutable.dll":
  `'C:\Users\Philip\.julia\packages\WinRPM\Y9QdZ\deps\usr\x86_64-w64-mingw32\sys-root\mingw\bin\gcc.exe' --sysroot 'C:\Users\Philip\.julia\packages\WinRPM\Y9QdZ\deps\usr\x86_64-w64-mingw32\sys-root' -shared '-DJULIAC_PROGRAM_LIBNAME="testexecutable.dll"' -o testexecutable.dll -Wl,--whole-archive testexecutable.a -Wl,--no-whole-archive -std=gnu99 '-IC:\Users\philip\AppData\Local\Julia-1.2.0\include\julia' -DJULIA_ENABLE_THREADING=1 '-LC:\Users\philip\AppData\Local\Julia-1.2.0\bin' -Wl,--stack,8388608 -ljulia -lopenlibm -m64 -Wl,--export-all-symbols`
Build executable "testexecutable.exe":
  `'C:\Users\Philip\.julia\packages\WinRPM\Y9QdZ\deps\usr\x86_64-w64-mingw32\sys-root\mingw\bin\gcc.exe' --sysroot 'C:\Users\Philip\.julia\packages\WinRPM\Y9QdZ\deps\usr\x86_64-w64-mingw32\sys-root' '-DJULIAC_PROGRAM_LIBNAME="testexecutable.dll"' -o testexecutable.exe 'C:\Users\Philip\.julia\packages\PackageCompiler\CJQcs\examples\program.c' testexecutable.dll -std=gnu99 '-IC:\Users\philip\AppData\Local\Julia-1.2.0\include\julia' -DJULIA_ENABLE_THREADING=1 '-LC:\Users\philip\AppData\Local\Julia-1.2.0\bin' -Wl,--stack,8388608 -ljulia -lopenlibm -m64`
Copy Julia libraries to build directory:
  7z.dll
  BugpointPasses.dll
  libamd.2.4.6.dll
  libamd.2.dll
  libamd.dll
  libatomic-1.dll
  libbtf.1.2.6.dll
  libbtf.1.dll
  libbtf.dll
  libcamd.2.4.6.dll
  libcamd.2.dll
  libcamd.dll
  libccalltest.dll
  libccolamd.2.9.6.dll
  libccolamd.2.dll
  libccolamd.dll
  libcholmod.3.0.13.dll
  libcholmod.3.dll
  libcholmod.dll
  libclang.dll
  libcolamd.2.9.6.dll
  libcolamd.2.dll
  libcolamd.dll
  libdSFMT.dll
  libexpat-1.dll
  libgcc_s_seh-1.dll
  libgfortran-4.dll
  libgit2.dll
  libgmp.dll
  libjulia.dll
  libklu.1.3.8.dll
  libklu.1.dll
  libklu.dll
  libldl.2.2.6.dll
  libldl.2.dll
  libldl.dll
  libllvmcalltest.dll
  libmbedcrypto.dll
  libmbedtls.dll
  libmbedx509.dll
  libmpfr.dll
  libopenblas64_.dll
  libopenlibm.dll
  libpcre2-8-0.dll
  libpcre2-8.dll
  libpcre2-posix-2.dll
  libquadmath-0.dll
  librbio.2.2.6.dll
  librbio.2.dll
  librbio.dll
  libspqr.2.0.9.dll
  libspqr.2.dll
  libspqr.dll
  libssh2.dll
  libssp-0.dll
  libstdc++-6.dll
  libsuitesparseconfig.5.4.0.dll
  libsuitesparseconfig.5.dll
  libsuitesparseconfig.dll
  libsuitesparse_wrapper.dll
  libumfpack.5.7.8.dll
  libumfpack.5.dll
  libumfpack.dll
  libuv-2.dll
  libwinpthread-1.dll
  LLVM.dll
  LLVMHello.dll
  zlib1.dll
All done

julia> 

संपादित करें

मुझे डर था कि एक न्यूनतम काम करने का उदाहरण बनाना कठिन होगा, लेकिन यह सीधा था:

TestBuildExecutable.jl शामिल हैं:

module TestBuildExecutable

Base.@ccallable function julia_main(ARGS::Vector{String}=[""])::Cint
    @show sum(myarray())
    return 0
end

#Function which takes approx 8 seconds to compile. Returns a 500 x 20 array of 1s
function myarray()
    [1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1;
     1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1;

# PLEASE EDIT TO INSERT THE MISSING 496 LINES, EACH IDENTICAL TO THE LINE ABOVE!

     1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1;
     1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1  1]
end

end #module

SnoopFile.jl शामिल हैं:

module SnoopFile

currentpath = dirname(@__FILE__)
push!(LOAD_PATH, currentpath)
unique!(LOAD_PATH)

using TestBuildExecutable

println("Start of snoop file execution!")
TestBuildExecutable.julia_main()
println("End of snoop file execution!")

end # module

एक ताजा जूलिया उदाहरण में, julia_mainपहले निष्पादन के लिए 8.3 सेकंड और दूसरे निष्पादन के लिए आधा मिलीसेकंड लेता है:

julia> @time TestBuildExecutable.julia_main()
sum(myarray()) = 10000
  8.355108 seconds (425.36 k allocations: 25.831 MiB, 0.06% gc time)
0

julia> @time TestBuildExecutable.julia_main()
sum(myarray()) = 10000
  0.000537 seconds (25 allocations: 82.906 KiB)
0

तो अगले मैं फोन build_executable:

julia> using PackageCompiler

julia> build_executable("d:/philip/source/script/julia/jsource/TestBuildExecutable.jl",
                       "testexecutable",
                       builddir = "d:/temp/builddir15",
                       snoopfile = "d:/philip/source/script/julia/jsource/SnoopFile.jl",
                       verbose = false)
Julia program file:
  "d:\philip\source\script\julia\jsource\TestBuildExecutable.jl"
C program file:
  "C:\Users\Philip\.julia\packages\PackageCompiler\CJQcs\examples\program.c"
Build directory:
  "d:\temp\builddir15"
Start of snoop file execution!
sum(myarray()) = 10000
End of snoop file execution!
[ Info: used 79 out of 79 precompile statements
All done

अंत में, एक विंडोज कमांड प्रॉम्प्ट में:

D:\temp\builddir15>testexecutable
sum(myarray()) = 1000

D:\temp\builddir15>

जिसे चलाने के लिए (मेरी स्टॉपवॉच द्वारा) 8 सेकंड का समय लगा, और इसे पहली बार नहीं, बल्कि हर बार निष्पादित होने में 8 सेकंड लगते हैं। यह निष्पादन योग्य JIT संकलन को हर बार चलाने के साथ संगत है, लेकिन स्नूप फ़ाइल को इससे बचने के लिए डिज़ाइन किया गया है!

संस्करण जानकारी:

julia> versioninfo()
Julia Version 1.2.0
Commit c6da87ff4b (2019-08-20 00:03 UTC)
Platform Info:
  OS: Windows (x86_64-w64-mingw32)
  CPU: Intel(R) Core(TM) i7-6700 CPU @ 3.40GHz
  WORD_SIZE: 64
  LIBM: libopenlibm
  LLVM: libLLVM-6.0.1 (ORCJIT, skylake)
Environment:
  JULIA_NUM_THREADS = 8
  JULIA_EDITOR = "C:\Users\Philip\AppData\Local\Programs\Microsoft VS Code\Code.exe"

जवाबों:


1

लगता है कि आप विंडोज का उपयोग कर रहे हैं।

कुछ बिंदु पर PackageCompiler.jl विंडोज के लिए परिपक्व होगा जिस पर आप इसे आज़मा सकते हैं।


यह बात बताने के लिए धन्यवाद। मैं PackageCompilerX के बारे में जानता था, और यह ध्यान देने के लिए उत्साहजनक है कि यह आज (11 दिसंबर 19) एक रिलीज के साथ सक्रिय विकास के तहत है। मैं इसके साथ प्रयोग करूंगा, लेकिन मुझे धैर्य रखना होगा!
फिलिप स्वैनेल

1

समाधान वास्तव में प्रगति का इंतजार करने के लिए था PackageCompilerX, जैसा कि @xiaodai ने सुझाव दिया था।

10 फरवरी 2020 को पूर्व PackageCompilerXमें एक नया (संस्करण 1.0) बन गया था PackageCompiler, जिसमें काफी बदले हुए एपीआई और अधिक गहन प्रलेखन था।

विशेष रूप से, उपरोक्त MWE ( नए API के लिए उत्परिवर्तितPackageCompiler ) अब बिना किसी JIT ओवरहेड के सही ढंग से काम करता है।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.