कर्ल का उपयोग करके एक फ़ाइल में सूचीबद्ध यूआरएल डाउनलोड करें? [बन्द है]

Question

मेरे पास एक फ़ाइल है जिसमें सभी यूआरएल हैं जिनसे मुझे डाउनलोड करने की आवश्यकता है। हालाँकि मुझे एक बार में एक डाउनलोड को सीमित करने की आवश्यकता है। यानी अगला डाउनलोड पिछले एक के समाप्त होने के बाद ही शुरू होना चाहिए। क्या यह कर्ल का उपयोग करना संभव है? या मुझे कुछ और उपयोग करना चाहिए।

Comments

नमस्कार और सर्वरफ़ॉल्ट में आपका स्वागत है। इस साइट पर प्रश्न पूछते समय, कृपया हमेशा याद रखें कि हम आपकी जगह पर नहीं हैं और यह अनुमान नहीं लगा सकते हैं कि आप किस वातावरण का उपयोग कर रहे हैं। इस स्थिति में, आपने निर्दिष्ट नहीं किया है कि आप किस OS पर चल रहे हैं, जो आपको ठीक से कठिन उत्तर देगा।

— स्टीफन

Answer 1

xargs -n 1 curl -O < your_files.txt

Comments

यह सबसे अच्छा जवाब है। यद्यपि पूछने वाला निर्दिष्ट नहीं करता था, लेकिन यह संभव है कि सभी URL के लिए प्रतिक्रियाओं को व्यक्तिगत फ़ाइलों के लिए लिखा जाना चाहिए। -Oऐसा करने के लिए cURL के साथ विकल्प का उपयोग करें । xargs -n 1 curl -O < your_file.txt

— रास

मैं सहमत हूँ। इसलिए संपादित किया।

— ग्रुमड्रिग

यह वास्तव में मैं क्या जरूरत है।

— वू ने

Answer 2

wget(1) डिफ़ॉल्ट रूप से क्रमिक रूप से काम करता है, और इसमें इस विकल्प को बनाया गया है:

   -i file
   --input-file=file
       Read URLs from a local or external file.  If - is specified as file, URLs are read from the standard input.  (Use ./- to read from a file literally named -.)

       If this function is used, no URLs need be present on the command line.  If there are URLs both on the command line and in an input file, those on the command lines will be the first ones to be retrieved.  If
       --force-html is not specified, then file should consist of a series of URLs, one per line.

       However, if you specify --force-html, the document will be regarded as html.  In that case you may have problems with relative links, which you can solve either by adding "<base href="url">" to the documents
       or by specifying --base=url on the command line.

       If the file is an external one, the document will be automatically treated as html if the Content-Type matches text/html.  Furthermore, the file's location will be implicitly used as base href if none was
       specified.

Comments

चूँकि पूछने वाला यह जानना चाहता था कि cURL का उपयोग करके यह कैसे करना है, तो आपको कम से कम एक समाधान शामिल करना चाहिए जो इसका उपयोग करने का प्रयास करता है।

— एलएस

Answer 3

यह शेल स्क्रिप्ट के भीतर कर्ल का उपयोग करना संभव है, कुछ इस तरह से लेकिन आपको अपने लिए कर्ल आदि के लिए उपयुक्त विकल्पों पर शोध करने की आवश्यकता होगी

while read URL
    curl some options $URL
    if required check exit status 
          take appropriate action
done <fileontainingurls

Comments

मैं समझता हूं कि यह आधा छद्म कोड है लेकिन मुझे लगता है कि जबकि लूप में "डू" होना चाहिए।

— nwk

@nwk यह पूरी तरह से स्यूडोकोड है और मैं इससे असहमत हूं।

— 14:95 पर user9517

यदि किसी URL में ampersands हो तो क्या होगा? क्या वे बच जाएंगे? शेल से बचने के बिना सोचेंगे कि कमांड को पृष्ठभूमि में चलाया जाना चाहिए।

— जर्जर

Answer 4

@ आईन के उत्तर के आधार पर, लेकिन उचित शेल स्क्रिप्टिंग का उपयोग करना -

while read url; do
  echo "== $url =="
  curl -sL -O "$url"
done < list_of_urls.txt

एम्परसेंड, आदि जैसे अजीब चरित्रों के साथ भी काम करेंगे ...

-Oइसके बजाय किसी फ़ाइल में रीडायरेक्ट के साथ या जो भी उपयुक्त हो, बदल सकता है।