जैसे एक वाक्य दिया:
Complimentary gym access for two for the length of stay ($12 value per person per day)
जिम या जिम एक्सेस शब्द की पहचान के लिए मैं क्या सामान्य दृष्टिकोण अपना सकता हूं?
जवाबों:
Shallow N atural L anguage P rocessing तकनीक का उपयोग वाक्य से अवधारणाओं को निकालने के लिए किया जा सकता है।
-------------------------------------------
उथला एनएलपी तकनीक कदम:
1) वाक्य को लोअरकेस में बदलें
2) स्टॉप पासवर्ड निकालें (ये एक भाषा में पाए जाने वाले सामान्य शब्द हैं। शब्द, जैसे, बहुत, और, के लिए, आदि हैं, स्टॉप शब्द हैं)
3) एन-ग्राम निकालें, पाठ के दिए गए अनुक्रम से n आइटम का एक सन्निहित अनुक्रम (बस एन बढ़ रहा है, मॉडल को अधिक संदर्भ संग्रहीत करने के लिए उपयोग किया जा सकता है)
4) एक सिंटैक्टिक लेबल असाइन करें (संज्ञा, क्रिया आदि)
5) शब्दार्थ / वाक्य विश्लेषण विश्लेषण के माध्यम से पाठ से ज्ञान निष्कर्षण यानी, ऐसे शब्दों को बनाए रखने की कोशिश करें जो एक वाक्य में अधिक वजन रखते हैं जैसे Nb / /b
-------------------------------------------
अपने दिए गए वाक्य में उपरोक्त चरणों को लागू करने के परिणामों की जांच करें Complimentary gym access for two for the length of stay ($12 value per person per day)।
1-ग्राम परिणाम: जिम, पहुंच, लंबाई, रहने, मूल्य, व्यक्ति, दिन
Summary of step 1 through 4 of shallow NLP:
1-gram PoS_Tag Stopword (Yes/No)? PoS Tag Description
-------------------------------------------------------------------
Complimentary NNP Proper noun, singular
gym NN Noun, singular or mass
access NN Noun, singular or mass
for IN Yes Preposition or subordinating conjunction
two CD Cardinal number
for IN Yes Preposition or subordinating conjunction
the DT Yes Determiner
length NN Noun, singular or mass
of IN Yes Preposition or subordinating conjunction
stay NN Noun, singular or mass
($12 CD Cardinal number
value NN Noun, singular or mass
per IN Preposition or subordinating conjunction
person NN Noun, singular or mass
per IN Preposition or subordinating conjunction
day) NN Noun, singular or mass
Step 4: Retaining only the Noun/Verbs we end up with gym, access, length, stay, value, person, day
अधिक संदर्भ संग्रहीत करने और स्टॉपवॉच को निकालने के लिए n बढ़ाएँ।
2-ग्राम परिणाम: मानार्थ जिम, जिम पहुंच, लंबाई में रहना, मूल्य का रहना
Summary of step 1 through 4 of shallow NLP:
2-gram Pos Tag
---------------------------
access two NN CD
complimentary gym NNP NN
gym access NN NN
length stay NN NN
per day IN NN
per person IN NN
person per NN IN
stay value NN NN
two length CD NN
value per NN IN
Step 5: Retaining only the Noun/Verb combination we end up with complimentary gym, gym access, length stay, stay value
3-ग्राम परिणाम: मानार्थ जिम पहुंच, लंबाई रहने का मूल्य, प्रति व्यक्ति प्रति दिन
Summary of step 1 through 4 of shallow NLP:
3-gram Pos Tag
-------------------------------------
access two length NN CD NN
complimentary gym access NNP NN NN
gym access two NN NN CD
length stay value NN NN NN
per person per IN NN IN
person per day NN IN NN
stay value per NN NN IN
two length stay CD NN NN
value per person NN IN NN
Step 5: Retaining only the Noun/Verb combination we end up with complimentary gym access, length stay value, person per day
याद रखने वाली चीज़ें:
उपकरण:
आप स्पीच टैगिंग के भाग के लिए ओपनएनएलपी / स्टैनफोर्डएनएलपी का उपयोग करने पर विचार कर सकते हैं। अधिकांश प्रोग्रामिंग भाषा में ओपनएनएलपी / स्टैनफोर्डएनएलपी के लिए सहायक पुस्तकालय है। आप अपनी सहूलियत के आधार पर भाषा चुन सकते हैं। नीचे नमूना R कोड है जो मैंने PoS टैगिंग के लिए उपयोग किया है।
नमूना आर कोड:
Sys.setenv(JAVA_HOME='C:\\Program Files\\Java\\jre7') # for 32-bit version
library(rJava)
require("openNLP")
require("NLP")
s <- paste("Complimentary gym access for two for the length of stay $12 value per person per day")
tagPOS <- function(x, ...) {
s <- as.String(x)
word_token_annotator <- Maxent_Word_Token_Annotator()
a2 <- Annotation(1L, "sentence", 1L, nchar(s))
a2 <- annotate(s, word_token_annotator, a2)
a3 <- annotate(s, Maxent_POS_Tag_Annotator(), a2)
a3w <- a3[a3$type == "word"]
POStags <- unlist(lapply(a3w$features, `[[`, "POS"))
POStagged <- paste(sprintf("%s/%s", s[a3w], POStags), collapse = " ")
list(POStagged = POStagged, POStags = POStags)
}
tagged_str <- tagPOS(s)
tagged_str
#$POStagged
#[1] "Complimentary/NNP gym/NN access/NN for/IN two/CD for/IN the/DT length/NN of/IN stay/NN $/$ 12/CD value/NN per/IN person/NN per/IN day/NN"
#
#$POStags
#[1] "NNP" "NN" "NN" "IN" "CD" "IN" "DT" "NN" "IN" "NN" "$" "CD"
#[13] "NN" "IN" "NN" "IN" "NN"
शैलो और डीप एनएलपी पर अतिरिक्त रीडिंग:
ऑल्टोलॉजी सीखने के लिए उथला और गहरा एनएलपी प्रसंस्करण: एक त्वरित अवलोकन यहां क्लिक करें
सूचना निष्कर्षण के लिए उथले और गहरे एनएलपी का घालमेल यहाँ क्लिक करें
आपको वाक्य संरचना का विश्लेषण करने और ब्याज की संबंधित वाक्य-रचना श्रेणियां निकालने की आवश्यकता है (इस मामले में, मुझे लगता है कि यह संज्ञा वाक्यांश होगा , जो एक वाक्यांश श्रेणी है )। विवरण के लिए, एनएलटीके पुस्तक के संबंधित विकिपीडिया लेख और "विश्लेषण वाक्य संरचना" अध्याय देखें।
उपर्युक्त दृष्टिकोण को लागू करने और उससे आगे के लिए उपलब्ध सॉफ्टवेयर टूल्स के संबंध में , मैं या तो एनएलटीके (यदि आप पाइथन पसंद करते हैं), या स्टैनफोर्डएनएलपी सॉफ्टवेयर (यदि आप जावा पसंद करते हैं) पर विचार करने का सुझाव देंगे । कई अन्य एनएलपी फ्रेमवर्क, पुस्तकालयों और प्रोग्रामिंग के लिए विभिन्न भाषाओं का समर्थन करते हैं, इस उत्कृष्ट क्यूरेट सूची में संबंधित (एनएलपी) अनुभाग देखें ।
यदि आप एक आर उपयोगकर्ता हैं, तो http://www.rdatamining.com पर बहुत अच्छी व्यावहारिक जानकारी है । उनके टेक्स्ट माइनिंग उदाहरण देखें।
इसके अलावा, tm पैकेज पर एक नज़र डालें।
यह भी एक अच्छा एकत्रीकरण साइट है- http://www.tapor.ca/