एक साइट से पीडीएफ फाइलों को डाउनलोड करने के लिए wget का उपयोग करना, जिसमें कुकीज़ सेट करने की आवश्यकता होती है

मैं एक समाचार पत्र की साइट का उपयोग करना चाहता हूं और फिर उनकी पीडीएफ प्रतियां (पीडीएफ में) डाउनलोड कर सकता हूं। साइट को मुझे अपने ईमेल पते और पासवर्ड का उपयोग करने के लिए लॉग इन करना होगा और फिर यह मुझे उन पीडीएफ यूआरएल तक पहुंचने की अनुमति देता है।

मुझे Wget में 'अपना सत्र सेट करने' में परेशानी हो रही है । जब मैं अपने ब्राउज़र से साइट में लॉगिन करता हूं, तो यह दो कुकी मान सेट करता है:

UserID=abc@gmail.com
Password=12345

मैंने कोशिश की:

wget --post-data "UserID=abc@gmail.com&Password=12345" http://epaper.abc.com/login.aspx

हालाँकि, यह सिर्फ लॉगिन पेज को डाउनलोड करता है और इसे स्थानीय स्तर पर सहेजता है।

लॉगिन पृष्ठ पर FORM के दो क्षेत्र हैं:

txtUserID
txtPassword

और इस तरह से रेडियोबॉटन:

<input id="rbtnManchester" type="radio" checked="checked" name="txtpub" value="44">

एक और बटन:

<input id="rbtnLondon" type="radio" name="txtpub" value="64">

अगर मैं इसे login.aspx पेज पर पोस्ट करता हूं, तो मुझे वही आउटपुट मिलता है

wget --post-data "txtUserID=abc@gmail.com&txtPassword=12345&txtpub=44" http://epaper.abc.com/login.aspx

यदि मैं करता हूँ:

-save- कुकीज़ abc_cookies.txt

यह डिफ़ॉल्ट सामग्री के अलावा कुछ भी नहीं लगता है।

आखिरी के लिए, अगर मैं भी ऐसा --debugकरता हूं, तो यह कहता है:

...
Set-Cookie: ASP.NET_SessionId=05kphcn4hjmblq45qgnjoe41; path=/; HttpOnly
...
Stored cookie epaper.abc.com -1 (ANY) / <session> <insecure> [expiry none] ASP.NET_SessionId 05kphcn4hjmblq45qgnjoe41
Length: 107253 (105K) [text/html]
Saving to: `login.aspx'
...
Saving cookies to abc_cookies.txt.

हालाँकि, abc_cookies.txt केवल निम्नलिखित दिखाता है:

# HTTP cookie file.
# Generated by Wget on 2011-08-16 08:03:05.
# Edit at your own risk.

(मुझे यकीन नहीं है कि मुझे स्टैक ओवरफ्लो पर कोई प्रतिक्रिया क्यों नहीं मिल रही है - शायद सुपर उपयोगकर्ता एक बेहतर साइट है - एक साइट से पीडीएफ फाइलों को डाउनलोड करने के लिए Wget का उपयोग करना जो कुकीज़ सेट करने की आवश्यकता है ।)

EDIT 1

C:\Temp>wget --cookies=on --keep-session-cookies --save-cookies abc_cookies.txt --post-data "txtUserID=abc%40gmail.com&txtPassword=password&txtpub=44&chkbox=checkbox&submit.x=48&submit.y=7" http://epaper.abc.com/login.aspx --debug
SYSTEM_WGETRC = c:/progra~1/wget/etc/wgetrc
syswgetrc = C:\Program Files (x86)\GnuWin32/etc/wgetrc
DEBUG output created by Wget 1.11.4 on Windows-MinGW.

--2011-08-18 08:15:59--  http://epaper.abc.com/login.aspx
Resolving epaper.abc.com... seconds 0.00, 999.999.99.99
Caching epaper.abc.com => 999.999.99.99
Connecting to epaper.abc.com|999.999.99.99|:80... seconds 0.00, connected.
Created socket 300.
Releasing 0x00a2ae80 (new refcount 1).

---request begin---
POST /login.aspx HTTP/1.0
User-Agent: Wget/1.11.4
Accept: */*
Host: epaper.abc.com
Connection: Keep-Alive
Content-Type: application/x-www-form-urlencoded
Content-Length: 100

---request end---
[POST data: txtUserID=abc%40gmail.com&txtPassword=password&txtpub=44&chkbox=checkbox&submit.x=48&submit.y=7]
HTTP request sent, awaiting response...
---response begin---
HTTP/1.1 200 OK
Connection: keep-alive
Date: Thu, 18 Aug 2011 02:46:17 GMT
Server: Microsoft-IIS/6.0
X-Powered-By: ASP.NET
X-AspNet-Version: 2.0.50727
Set-Cookie: ASP.NET_SessionId=owcrje55yl45kgmhn43gq145; path=/; HttpOnly
Cache-Control: private
Content-Type: text/html; charset=utf-8
Content-Length: 107253

---response end---
200 OK
Registered socket 300 for persistent reuse.

Stored cookie epaper.abc.com -1 (ANY) / <session> <insecure> [expiry none] ASP.NET_SessionId owcrje55yl45kgmhn43gq145
Length: 107253 (105K) [text/html]
Saving to: `login.aspx.1'

100%[======================================================================================================================>] 107,253     24.9K/s   in 4.2s

2011-08-18 08:16:05 (24.9 KB/s) - `login.aspx.1' saved [107253/107253]

Saving cookies to abc_cookies.txt.
Done saving cookies.

C:\Temp>wget --referer=http://epaper.abc.com/login.aspx --cookies=on --load-cookies abc_cookies.txt --keep-session-cookies --save-cookies abc_cookies.txt http://epaper.abc.com/PagePrint/16_08_2011_001.pdf --debug
SYSTEM_WGETRC = c:/progra~1/wget/etc/wgetrc
syswgetrc = C:\Program Files (x86)\GnuWin32/etc/wgetrc
DEBUG output created by Wget 1.11.4 on Windows-MinGW.


Stored cookie epaper.abc.com -1 (ANY) / <session> <insecure> [expiry none] ASP.NET_SessionId owcrje55yl45kgmhn43gq145
--2011-08-18 08:16:12--  http://epaper.abc.com/PagePrint/16_08_2011_001.pdf
Resolving epaper.abc.com... seconds 0.00, 999.999.99.99
Caching epaper.abc.com => 999.999.99.99
Connecting to epaper.abc.com|999.999.99.99|:80... seconds 0.00, connected.
Created socket 300.
Releasing 0x00598290 (new refcount 1).

---request begin---
GET /PagePrint/16_08_2011_001.pdf HTTP/1.0
Referer: http://epaper.abc.com/login.aspx
User-Agent: Wget/1.11.4
Accept: */*
Host: epaper.abc.com
Connection: Keep-Alive
Cookie: ASP.NET_SessionId=owcrje55yl45kgmhn43gq145

---request end---
HTTP request sent, awaiting response...
---response begin---
HTTP/1.1 200 OK
Connection: keep-alive
Date: Thu, 18 Aug 2011 02:46:30 GMT
Server: Microsoft-IIS/6.0
X-Powered-By: ASP.NET
X-AspNet-Version: 2.0.50727
content-disposition: attachement; filename=Default_logo.gif
Cache-Control: private
Content-Type: image/GIF
Content-Length: 4568

---response end---
200 OK
Registered socket 300 for persistent reuse.
Length: 4568 (4.5K) [image/GIF]
Saving to: `16_08_2011_001.pdf'

100%[======================================================================================================================>] 4,568       7.74K/s   in 0.6s

2011-08-18 08:16:14 (7.74 KB/s) - `16_08_2011_001.pdf' saved [4568/4568]

Saving cookies to abc_cookies.txt.
Done saving cookies.

Abc_cookies.txt की सामग्री

epaper.abc.com       FALSE   /       FALSE   0       ASP.NET_SessionId       owcrje55yl45kgmhn43gq145

pdf wget

— siliconpi
स्रोत

मुझे संदेह है कि आपको कोई प्रतिक्रिया नहीं मिल रही है क्योंकि wget के अधिक उन्नत उपयोग पर कुछ विशेषज्ञ हैं। :(

— jcrawfordor

@Frank - प्रारंभिक लॉगिन wget में -keep-session-कुकी का उपयोग करने का प्रयास करें, नीचे मेरा उत्तर देखें।

— EightBitTony

क्या login.aspx लॉगिन पृष्ठ का URL है, या वह URL जो लॉगिन पृष्ठ को प्रस्तुत करता है?

— एडवर्ड स्टर्न

जवाबों:

मुझे लगता है कि आपको --keep-session-cookiesसत्र कुकीज़ को संरक्षित करने के लिए उपयोग करने की आवश्यकता है , बजाय सिर्फ --save-cookies(आपको दोनों की आवश्यकता है)।

मूल रूप से, आप

wget --keep-session-cookies --save-cookies ..... url

लॉगिन करने के लिए और अपना सत्र कुकी प्राप्त करें।

फिर

wget --load-cookie ...... url

पीडीएफ डाउनलोड करने के लिए।

— EightBitTony
स्रोत

:( काम नहीं किया ... कोई पासा नहीं ...

— 16

@ फ्रेंक - तो प्रत्येक चरण में क्या हुआ, क्या आपको उम्मीद के मुताबिक डिस्क पर कुकीज़ मिलीं, यदि आप हेडर शामिल करते हैं कि आपको क्या प्रतिक्रियाएं मिल रही हैं, आदि। क्या आप इस सवाल को अपडेट कर सकते हैं कि आपने अब क्या कोशिश की है और क्या मिला।

— EightBitTony

हाय टोनी - मदद करने के प्रयास के लिए धन्यवाद - मैं इस पूरी बात से हैरान हूँ!

— सिलिकॉनपी

हाय टोनी - क्या आपको विस्तृत Edit1 को देखने का मौका मिला?

— सिलिकॉनपी

हां, कुछ भी छलांग नहीं लगाता। जब आप पहली बार से वापस आते हैं तो मेरा एकमात्र प्रश्न login.aspx में क्या होता है? क्या यह इंगित करता है कि आपने सफलतापूर्वक लॉग इन किया है?

— EightBitTony

शायद इससे मदद मिलेगी। जिस साइट को मैं लॉगिन करने की कोशिश कर रहा था उसमें कुछ छिपे हुए क्षेत्र थे जिनकी मुझे सफलतापूर्वक लॉगिन करने से पहले आवश्यकता थी। तो पहले wget को अतिरिक्त फ़ील्ड खोजने के लिए लॉगिन पेज मिलता है, दूसरी wget साइट में लॉग इन करता है और कुकीज़ को बचाता है, तीसरा फिर उन कुकीज़ का उपयोग करता है ताकि आप उस पृष्ठ को प्राप्त कर सकें।

#!/bin/bash

# get the login page to get the hidden field data
wget -a log.txt -O loginpage.html http://foobar/default.aspx
hiddendata=`cat loginpage.html | grep value | grep foobarhidden | tr '=' ' ' | awk '{print $9}' | sed s/\"//g`
rm loginpage.html

# login into the page and save the cookies
postData=user=fakeuser'&'pw=password'&'foobarhidden=${hiddendata}
wget -a log.txt -O /dev/null --post-data ${postData} --keep-session-cookies --save-cookies cookies.txt http://foobar/default.aspx

# get the page you're after
wget -a log.txt -O results.html --load-cookies cookies.txt http://foobar/lister.aspx?id=42
rm cookies.txt

इस अन्य एसओ पोस्ट पर कुछ उपयोगी जानकारी है :

— tpow
स्रोत

कृपया अपना उत्तर निजीकृत करने का प्रयास करें ("I" को हटा दें)। इसके अलावा, आप पहले उत्तर के लिए, अपने शानदार काम कर रहे हैं।

— wizlog