अजगर में एक स्ट्रिंग से सब कुछ लेकिन अल्फ़ान्यूमेरिक वर्ण स्ट्रिपिंग


337

पायथन का उपयोग करके, एक स्ट्रिंग से सभी गैर अल्फ़ान्यूमेरिक वर्णों को छीनने का सबसे अच्छा तरीका क्या है?

इस सवाल के PHP संस्करण में प्रस्तुत समाधान शायद कुछ मामूली समायोजन के साथ काम करेंगे, लेकिन मुझे बहुत 'पायथोनिक' नहीं लगते हैं।

रिकॉर्ड के लिए, मैं न केवल अवधि और अल्पविराम (और अन्य विराम चिह्न) को छीनना चाहता हूं, बल्कि उद्धरण, कोष्ठक आदि भी।


7
क्या आप youøå ’, ح مرحبا’, 'alp ’, สวัสดี ん ん に ち' जैसे अंतर्राष्ट्रीय अल्फ़ान्यूमेरिक वर्णों की परवाह करते हैं?
प्रिमिन कोन्सटेंटिन केफालकोस

4
@PiminKonstantinKefaloukos हाँ मैं अंतरराष्ट्रीय वर्णों के बारे में परवाह करता हूं, इसलिए re.UNICODE का उपयोग करने के लिए स्वीकृत उत्तर पर मेरी टिप्पणी।
मार्क वैन लेंट

जवाबों:


336

मैंने जिज्ञासा से कुछ कार्यों को समयबद्ध किया। इन परीक्षणों में मैं स्ट्रिंग से गैर-अल्फ़ान्यूमेरिक वर्णों को हटा रहा हूं string.printable(अंतर्निहित stringमॉड्यूल का हिस्सा )। संकलित का उपयोग किया गया था '[\W_]+'और pattern.sub('', str)सबसे तेज़ पाया गया था।

$ python -m timeit -s \
     "import string" \
     "''.join(ch for ch in string.printable if ch.isalnum())" 
10000 loops, best of 3: 57.6 usec per loop

$ python -m timeit -s \
    "import string" \
    "filter(str.isalnum, string.printable)"                 
10000 loops, best of 3: 37.9 usec per loop

$ python -m timeit -s \
    "import re, string" \
    "re.sub('[\W_]', '', string.printable)"
10000 loops, best of 3: 27.5 usec per loop

$ python -m timeit -s \
    "import re, string" \
    "re.sub('[\W_]+', '', string.printable)"                
100000 loops, best of 3: 15 usec per loop

$ python -m timeit -s \
    "import re, string; pattern = re.compile('[\W_]+')" \
    "pattern.sub('', string.printable)" 
100000 loops, best of 3: 11.2 usec per loop

2
बहुत ही रोचक परिणाम: मुझे उम्मीद है कि नियमित अभिव्यक्ति धीमी होगी। दिलचस्प बात यह है कि मैंने एक दूसरे विकल्प के साथ यह कोशिश की ( valid_characters = string.ascii_letters + string.digitsइसके बाद join(ch for ch in string.printable if ch in valid_characters)यह isalnum()विकल्प से 6 माइक्रोसेकंड तेज था । फिर भी
रेगेक्स

+1, समय को मापना अच्छा है! (लेकिन pattern.sub('', string.printable)प्रायद्वीप में , इसके बजाय - मूर्खतापूर्वक कॉल करें। जब आपके पास एक आरई वस्तु हो! -)।
एलेक्स मार्टेली

46
रिकॉर्ड के लिए: re.compile('[\W_]+', re.UNICODE)इसे यूनिकोड सुरक्षित बनाने के लिए उपयोग करें।
मार्क वैन लेंट

3
सफेद स्थान को हटाए बिना आप इसे कैसे करते हैं?
मौदूलस

6
सफेद स्थान को हटाए बिना इसे करें: re.sub ('[[\ _ _] +', '', वाक्य, झंडे = re.UNICODE)
PALEN

268

बचाव के लिए नियमित अभिव्यक्ति:

import re
re.sub(r'\W+', '', your_string)

पायथन परिभाषा के द्वारा '\W== [^a-zA-Z0-9_], जो सभी को छोड़कर numbers, lettersऔर_


2
प्लस साइन regexp में क्या करता है? (मुझे पता है कि इसका क्या मतलब है, सिर्फ इस बात के लिए उत्सुक है कि इसे re.sub के लिए क्यों आवश्यक है।)
मार्क वैन लेंट

7
@ मर्क: मुझे लगता है कि यह प्रतिस्थापन में तेजी लाएगा क्योंकि एक ब्लॉक में सभी गैर-शब्द वर्णों को एक-एक करके हटाने के बजाय उन्हें एक-एक करके हटा दिया जाएगा।
DrAl

2
हाँ, मैंने कुछ समय पहले कुछ प्रदर्शन क्रिटिकल कोड ट्यूनिंग करते हुए कहा था। यदि स्पीडअप को बदलने के लिए वर्णों के महत्वपूर्ण विस्तार हैं तो बहुत बड़ा है।
चींटियों का प्लाज्मा

20
यह इस मामले में प्रासंगिक नहीं हो सकता है, लेकिन \Wसाथ ही अंडरस्कोर रखेगा।
ब्लिक्स

12
@Blixt टिप के बाद, यदि आप केवल अक्षर और संख्या चाहते हैं, तो आप re.sub (r '[r ^ [a-zA-Z0-9]', '', your_string)
Nigini

68

Str.translate () विधि का उपयोग करें ।

यह मानते हुए कि आप अक्सर ऐसा कर रहे हैं:

(१) एक बार, एक स्ट्रिंग बनाएं जिसमें वे सभी वर्ण हों जिन्हें आप हटाना चाहते हैं:

delchars = ''.join(c for c in map(chr, range(256)) if not c.isalnum())

(2) जब भी आप एक स्ट्रिंग को स्क्रैच करना चाहते हैं:

scrunched = s.translate(None, delchars)

सेटअप लागत संभवतः re.compile के साथ अनुकूल रूप से तुलना करती है; सीमांत लागत रास्ता कम है:

C:\junk>\python26\python -mtimeit -s"import string;d=''.join(c for c in map(chr,range(256)) if not c.isalnum());s=string.printable" "s.translate(None,d)"
100000 loops, best of 3: 2.04 usec per loop

C:\junk>\python26\python -mtimeit -s"import re,string;s=string.printable;r=re.compile(r'[\W_]+')" "r.sub('',s)"
100000 loops, best of 3: 7.34 usec per loop

नोट: string.printable का उपयोग बेंचमार्क डेटा के रूप में पैटर्न '[\ W _] +' एक अनुचित लाभ देता है ; सभी गैर-अल्फ़ान्यूमेरिक वर्ण एक गुच्छा में हैं ... विशिष्ट डेटा में एक से अधिक प्रतिस्थापन करने के लिए होगा:

C:\junk>\python26\python -c "import string; s = string.printable; print len(s),repr(s)"
100 '0123456789abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ!"#$%&\'()*+,-./:;=>?@[\\]^_`{|}~ \t\n\r\x0b\x0c'

यदि आप कुछ और काम करने के लिए re.sub देते हैं तो यहां क्या होता है:

C:\junk>\python26\python -mtimeit -s"d=''.join(c for c in map(chr,range(256)) if not c.isalnum());s='foo-'*25" "s.translate(None,d)"
1000000 loops, best of 3: 1.97 usec per loop

C:\junk>\python26\python -mtimeit -s"import re;s='foo-'*25;r=re.compile(r'[\W_]+')" "r.sub('',s)"
10000 loops, best of 3: 26.4 usec per loop

1
अनुवाद का उपयोग करना वास्तव में काफी तेज है। यहां तक ​​कि प्रतिस्थापन / अनुवाद (सेटअप लागत कम करने के लिए) करने से ठीक पहले लूप के लिए जोड़ने पर भी मेरी मशीन पर रेगेक्सपी की तुलना में अनुवाद लगभग 17 गुना तेजी से होता है। जानकार अच्छा लगा।
मार्क वैन लेंट

3
यह निश्चित रूप से सबसे अधिक पायथोनिक समाधान है।
codygman

1
यह लगभग मुझे आश्वस्त करता है, लेकिन मैं string.punctuationइसके बजाय''.join(c for c in map(chr, range(256)) if not c.isalnum())
ArnauOrriols

1
ध्यान दें कि यह strवस्तुओं के लिए काम करता है, लेकिन वस्तुओं के लिए नहीं unicode
यवर

@ जॉन माचिन क्या अनिवार्य रूप से एक सूची की समझ है जिसे एक तर्क के रूप में पारित किया जा रहा है .join()?
AdjunctProfurerFalcon

41

तुम कोशिश कर सकते हो:

print ''.join(ch for ch in some_string if ch.isalnum())

15
>>> import re
>>> string = "Kl13@£$%[};'\""
>>> pattern = re.compile('\W')
>>> string = re.sub(pattern, '', string)
>>> print string
Kl13

मुझे आपका उत्तर पसंद आया लेकिन यह अरबी
छंदों

13

कैसा रहेगा:

def ExtractAlphanumeric(InputString):
    from string import ascii_letters, digits
    return "".join([ch for ch in InputString if ch in (ascii_letters + digits)])

InputStringयदि वे संयुक्त ascii_lettersऔर digitsस्ट्रिंग्स में मौजूद हैं तो वर्णों की सूची बनाने के लिए सूची समझ का उपयोग करके यह काम करता है । यह तब एक स्ट्रिंग में एक साथ सूची में शामिल हो जाता है।


ऐसा लगता है कि string.ascii_letters में केवल अक्षर (duh) हैं और संख्याएँ नहीं हैं। मुझे भी नंबरों की आवश्यकता है ...
मार्क वैन ने

String.digits जोड़ना वास्तव में मेरे द्वारा बताई गई समस्या को हल करेगा। :)
मार्क वैन ने

हां, मुझे एहसास हुआ कि जब मैं आपके प्रश्न को पढ़ने के लिए वापस गया था। स्वयं पर ध्यान दें: पढ़ना सीखें!
DrAl

4

यहाँ कुछ अन्य उत्तरों से एक स्पिन के रूप में, मैं उन पात्रों के एक सेट को परिभाषित करने के लिए एक बहुत ही सरल और लचीला तरीका प्रदान करता हूं जिन्हें आप एक स्ट्रिंग की सामग्री को सीमित करना चाहते हैं। इस मामले में, मैं अल्फ़ान्यूमेरिक्स प्लस डैश और अंडरस्कोर की अनुमति दे रहा हूं। बस PERMITTED_CHARSअपने उपयोग के मामले के अनुसार मेरे से वर्ण जोड़ें या निकालें ।

PERMITTED_CHARS = "0123456789abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ_-" 
someString = "".join(c for c in someString if c in PERMITTED_CHARS)

2
अनुमत वर्णों को हार्डकोड करने के बजाय, जो सूक्ष्म त्रुटियों के लिए प्रवण है, का उपयोग करें string.digits + string.ascii_letters + '_-'
२३

आपका सुझाव गलत नहीं है, लेकिन यह "टाइपिंग" के कई पात्रों को भी नहीं बचाता है यदि यह आपका लक्ष्य है। यदि आप मेरी पोस्ट कॉपी करते हैं, तो आपके पास टाइपो भी नहीं होगा! हालाँकि, वास्तविक उत्तर, मेरे उत्तर की अनुमति देता है एक स्पष्ट, खुले-अंत और सरल साधनों को परिभाषित करने के लिए कि आप किन पात्रों की अनुमति देना चाहते हैं।
BuvinJ

एक मध्य मैदान के रूप में, आप इन सुझावों को जोड़ सकते हैं SPECIAL_CHARS = '_-'और फिर उपयोग कर सकते हैंstring.digits + string.ascii_letters + SPECIAL_CHARS
बुविज

यह उचित है कि जब तक हम कोड गोल्फ नहीं कर रहे हैं, तब तक यह एक सुझाव था। 52 वर्णमाला अक्षरों को टाइप करने के लिए कीबोर्ड के चारों ओर "चलना" किसी वस्तु या दो का उपयोग करने के लिए पैकेज को आयात करने की तुलना में काफी लंबा होता है। और इसमें डबल चेक करने का समय शामिल नहीं है जिसे आपने सही तरीके से टाइप किया है। यह अच्छी प्रथाओं के बारे में है, बस।
२०

मैं तुम्हें सुनता हूं! यहां मेरा वास्तविक बिंदु चरम लचीलापन है, यदि आप अपने चरित्र सेट के साथ अधिक विशिष्ट प्राप्त करना चाहते हैं।
बुविवि

4
sent = "".join(e for e in sent if e.isalpha())

मैं समझाने की कोशिश करूँगा: यह सभी स्ट्रिंग वर्णों के माध्यम से जाता है e for e in sentऔर if e.isalpha()बयान के माध्यम से जाँच करता है यदि वर्तमान वर्ण अल्फ़ाबेटिक प्रतीक है, यदि हां - तो इसके sentमाध्यम से चर में शामिल होता है sent = "".join()और सभी गैर-वर्णनात्मक प्रतीकों को ""(खाली स्ट्रिंग) से बदल दिया जाएगा क्योंकि का joinकार्य करते हैं।
साइसनिन

चूँकि यह C regex पर निर्भर होने के बजाय प्रति वर्ण लूप कर रहा है, क्या यह बहुत धीमा नहीं है?
dcsan 10


2

ASCII प्रिंटबल के यादृच्छिक तारों के साथ समय:

from inspect import getsource
from random import sample
import re
from string import printable
from timeit import timeit

pattern_single = re.compile(r'[\W]')
pattern_repeat = re.compile(r'[\W]+')
translation_tb = str.maketrans('', '', ''.join(c for c in map(chr, range(256)) if not c.isalnum()))


def generate_test_string(length):
    return ''.join(sample(printable, length))


def main():
    for i in range(0, 60, 10):
        for test in [
            lambda: ''.join(c for c in generate_test_string(i) if c.isalnum()),
            lambda: ''.join(filter(str.isalnum, generate_test_string(i))),
            lambda: re.sub(r'[\W]', '', generate_test_string(i)),
            lambda: re.sub(r'[\W]+', '', generate_test_string(i)),
            lambda: pattern_single.sub('', generate_test_string(i)),
            lambda: pattern_repeat.sub('', generate_test_string(i)),
            lambda: generate_test_string(i).translate(translation_tb),

        ]:
            print(timeit(test), i, getsource(test).lstrip('            lambda: ').rstrip(',\n'), sep='\t')


if __name__ == '__main__':
    main()

परिणाम (पायथन 3.7):

       Time       Length                           Code                           
6.3716264850008880  00  ''.join(c for c in generate_test_string(i) if c.isalnum())
5.7285426190064750  00  ''.join(filter(str.isalnum, generate_test_string(i)))
8.1875841680011940  00  re.sub(r'[\W]', '', generate_test_string(i))
8.0002205439959650  00  re.sub(r'[\W]+', '', generate_test_string(i))
5.5290945199958510  00  pattern_single.sub('', generate_test_string(i))
5.4417179649972240  00  pattern_repeat.sub('', generate_test_string(i))
4.6772285089973590  00  generate_test_string(i).translate(translation_tb)
23.574712151996210  10  ''.join(c for c in generate_test_string(i) if c.isalnum())
22.829975890002970  10  ''.join(filter(str.isalnum, generate_test_string(i)))
27.210196289997840  10  re.sub(r'[\W]', '', generate_test_string(i))
27.203713296003116  10  re.sub(r'[\W]+', '', generate_test_string(i))
24.008979928999906  10  pattern_single.sub('', generate_test_string(i))
23.945240008994006  10  pattern_repeat.sub('', generate_test_string(i))
21.830899796994345  10  generate_test_string(i).translate(translation_tb)
38.731336012999236  20  ''.join(c for c in generate_test_string(i) if c.isalnum())
37.942474347000825  20  ''.join(filter(str.isalnum, generate_test_string(i)))
42.169366310001350  20  re.sub(r'[\W]', '', generate_test_string(i))
41.933375883003464  20  re.sub(r'[\W]+', '', generate_test_string(i))
38.899814646996674  20  pattern_single.sub('', generate_test_string(i))
38.636144253003295  20  pattern_repeat.sub('', generate_test_string(i))
36.201238164998360  20  generate_test_string(i).translate(translation_tb)
49.377356811004574  30  ''.join(c for c in generate_test_string(i) if c.isalnum())
48.408927293996385  30  ''.join(filter(str.isalnum, generate_test_string(i)))
53.901889764994850  30  re.sub(r'[\W]', '', generate_test_string(i))
52.130339455994545  30  re.sub(r'[\W]+', '', generate_test_string(i))
50.061149017004940  30  pattern_single.sub('', generate_test_string(i))
49.366573111998150  30  pattern_repeat.sub('', generate_test_string(i))
46.649754120997386  30  generate_test_string(i).translate(translation_tb)
63.107938601999194  40  ''.join(c for c in generate_test_string(i) if c.isalnum())
65.116287978999030  40  ''.join(filter(str.isalnum, generate_test_string(i)))
71.477421126997800  40  re.sub(r'[\W]', '', generate_test_string(i))
66.027950693998720  40  re.sub(r'[\W]+', '', generate_test_string(i))
63.315361931003280  40  pattern_single.sub('', generate_test_string(i))
62.342320287003530  40  pattern_repeat.sub('', generate_test_string(i))
58.249303059004890  40  generate_test_string(i).translate(translation_tb)
73.810345625002810  50  ''.join(c for c in generate_test_string(i) if c.isalnum())
72.593953348005020  50  ''.join(filter(str.isalnum, generate_test_string(i)))
76.048324580995540  50  re.sub(r'[\W]', '', generate_test_string(i))
75.106637657001560  50  re.sub(r'[\W]+', '', generate_test_string(i))
74.681338128997600  50  pattern_single.sub('', generate_test_string(i))
72.430461594005460  50  pattern_repeat.sub('', generate_test_string(i))
69.394243567003290  50  generate_test_string(i).translate(translation_tb)

str.maketrans& str.translateसबसे तेज़ है, लेकिन इसमें सभी गैर-ASCII वर्ण शामिल हैं। re.compile& pattern.subधीमी है, लेकिन किसी भी तरह से तेज है ''.join& filter


-1

अगर मुझे सही तरीके से समझ में आया है कि सबसे आसान तरीका नियमित अभिव्यक्ति का उपयोग करना है क्योंकि यह आपको बहुत सारे लचीलेपन प्रदान करता है लेकिन दूसरी सरल विधि लूप के लिए उपयोग करना है, उदाहरण के साथ कोड है मैंने शब्द की घटना भी गिना और शब्दकोश में संग्रहीत किया।

s = """An... essay is, generally, a piece of writing that gives the author's own 
argument — but the definition is vague, 
overlapping with those of a paper, an article, a pamphlet, and a short story. Essays 
have traditionally been 
sub-classified as formal and informal. Formal essays are characterized by "serious 
purpose, dignity, logical 
organization, length," whereas the informal essay is characterized by "the personal 
element (self-revelation, 
individual tastes and experiences, confidential manner), humor, graceful style, 
rambling structure, unconventionality 
or novelty of theme," etc.[1]"""

d = {}      # creating empty dic      
words = s.split() # spliting string and stroing in list
for word in words:
    new_word = ''
    for c in word:
        if c.isalnum(): # checking if indiviual chr is alphanumeric or not
            new_word = new_word + c
    print(new_word, end=' ')
    # if new_word not in d:
    #     d[new_word] = 1
    # else:
    #     d[new_word] = d[new_word] +1
print(d)

कृपया इसे रेट करें यदि यह उत्तर उपयोगी है!

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.