150 टीबी और बढ़ रहा है, लेकिन कैसे बढ़ें?

Question

मेरे समूह में वर्तमान में दो लार्जिश स्टोरेज सर्वर हैं, दोनों NAS रनिंग डेबियन लाइनक्स हैं। पहला एक ऑल-इन-वन 24-डिस्क (एसएटीए) सर्वर है जो कई साल पुराना है। हमारे पास उन पर LVM के साथ दो हार्डवेयर RAIDS हैं। दूसरा सर्वर 64 डिस्क है जो 4 बाड़ों में विभाजित है, प्रत्येक हार्डवेयर RAID 6, बाहरी एसएएस के माध्यम से जुड़ा हुआ है। हम LVM के साथ XFS का उपयोग 100TB उपयोग करने योग्य संग्रहण बनाने के लिए करते हैं। यह सब बहुत अच्छी तरह से काम करता है, लेकिन हम इन प्रणालियों को आगे बढ़ा रहे हैं। दो ऐसे सर्वरों का निर्माण और अभी भी बढ़ रहा है, हम कुछ ऐसा निर्माण करना चाहते हैं जो हमें भविष्य के विकास, बैकअप विकल्पों के संदर्भ में अधिक लचीलापन देता है, जो डिस्क विफलता के तहत बेहतर व्यवहार करता है (बड़े फाइल सिस्टम को एक या अधिक दिन लग सकते हैं), और खड़े हो सकते हैं एक भारी समवर्ती वातावरण में (छोटे कंप्यूटर क्लस्टर पर विचार करें)। हमारे पास सिस्टम प्रशासन का समर्थन नहीं है,

इसलिए, जो हम चाहते हैं, वह अपेक्षाकृत कम लागत वाला, स्वीकार्य प्रदर्शन भंडारण समाधान है जो भविष्य के विकास और लचीले विन्यास की अनुमति देगा (सोचें कि विभिन्न पूलों में ZFS अलग-अलग ऑपरेटिंग विशेषताओं वाले हैं)। हम शायद एक एकल NAS के दायरे से बाहर हैं। हम ZFS (ओपनइंडियाना पर, उदाहरण के लिए) के संयोजन के बारे में सोच रहे हैं या प्रति सर्वर के साथ btrfs अगर हम इसे स्वयं करते हैं तो शीर्ष पर चल रहा है। हम जिस चीज का वजन कर रहे हैं, वह केवल बुलेट को काट रही है और इसिलॉन या 3 पीर स्टोरेज सॉल्यूशंस में निवेश कर रही है।

किसी भी सुझाव या अनुभव की सराहना की है।

Answer 1

मुझे आशा है कि यह थोड़ी मदद करने वाला है। मैंने इसे पाठ की पूरी दीवार में बदलने की कोशिश नहीं की। :)

3PAR / Isilon

यदि आप किसी ऐसे व्यक्ति के लिए एक निश्चित मात्रा में मानव-घंटे समर्पित करेंगे, जो SAN व्यवस्थापक भूमिका लेता है और रात-काम के बजाय रात की नींद के साथ दर्द रहित जीवन का आनंद लेना चाहता है, तो यह वह तरीका है जो मैं जाऊंगा।

एक SAN आपको वह सभी सामान करने देता है जहाँ एक "स्टोरेज" आपको सीमित कर देगा (अर्थात एक purestorage फ़्लैश सरणी और एक ही सर्वर पर एक बड़ा 3par sata मॉन्स्टर कनेक्ट करें), लेकिन आपको इसके लिए भुगतान भी करना होगा और इसे अच्छी तरह से बनाए रखना होगा समय यदि आप लचीलेपन का उपयोग करना चाहते हैं।

वैकल्पिक

Amplidata

पेशेवरों: सस्ता, सस्ता, एक अच्छी अवधारणा के साथ डिज़ाइन किया गया और कैश लेयर्स / समर्पित रीड / राइट लिखा गया। यह वास्तव में आपके लिए सबसे अच्छी बात हो सकती है।

RisingTideOS

उनके टारगेट सॉफ्टवेयर का उपयोग अब लगभग सभी linux storages में किया जाता है और यह सादे linux / gluster सामान की तुलना में थोड़ा बेहतर प्रबंधन की अनुमति देता है। (इम्हो) वाणिज्यिक संस्करण देखने लायक हो सकता है।

Gluster / btrfs

प्रो: बाहर तराजू और "ईंटें" आपको एक अमूर्त परत देता है जो प्रबंधन के लिए बहुत अच्छा है।

CON: पहला मेरे लिए कुल PITA रहा है। यह मजबूत नहीं था, और विफलताएं या तो एक ईंट के लिए स्थानीय हो सकती हैं या सब कुछ निकाल सकती हैं। अब RedHat के नियंत्रण में, यह वास्तव में कुछ काम करने में बदल सकता है और मैंने ऐसे लोगों से भी मुलाकात की है जो इसे वश में कर सकते हैं ताकि यह वर्षों तक काम करे। और दूसरा अभी भी आधा-प्रयोगात्मक है। आम तौर पर एफएस को "सिद्ध" होने के 3-4 साल बाद तक की जरूरत होती है जब तक कि यह साबित और मजबूत न हो जाए। यदि आप डेटा की परवाह करते हैं, तो आप कभी इस पर विचार क्यों करेंगे? प्रायोगिक की बात करें तो सिफ व्यावसायिक समर्थन अब लगभग समाप्त हो चुका है, लेकिन आपको "आरबीडी" परत से चिपके रहने की आवश्यकता होगी, एफएस अभी पर्याप्त रूप से परीक्षण नहीं किया गया है। मैं यह स्पष्ट करना चाहता हूं कि लंबे समय में सेफ बहुत अधिक आकर्षक है। :)

ZFS

प्रो: विशेषताएं जो निश्चित रूप से अन्य सामान के ताबूत में एक कील डालती हैं। उन सुविधाओं को अच्छी तरह से डिजाइन किया गया है (L2ARC लगता है) और संपीड़न / कटौती मजेदार है। अधिक "संग्रहण क्लस्टर" का अर्थ है कि एक बड़े समेकित उछाल के बजाय केवल छोटी विफलताएं

Con: वास्तविक संग्रहण के बजाय कई छोटे सॉफ़्टवेयर बॉक्स बनाए रखना। एक मजबूत सेटअप होने के लिए उन्हें एकीकृत करने और $ $ $ खर्च करने की आवश्यकता है।

Comments

+1। मुझे आशा है कि आपको कोई आपत्ति नहीं है कि मैंने इसे थोड़ा कम दीवार-वाई बनाया है।

— काइल स्मिथ

@ फ़्लोरियन-हीगल हमारे पास कुछ लिंक हो सकते हैं क्योंकि मैं आपके द्वारा बताए गए कुछ समाधानों को नहीं पा रहा हूं (उदाहरण 3Par, Isilon, RisingTideOS)। TIA।

— ossandcad

Answer 2

XFS + LVM मार्ग वास्तव में पिछले कुछ वर्षों में शुद्ध-लिनक्स भंडारण समाधान को कम करने के सबसे अच्छे विकल्पों में से एक है। मैं प्रोत्साहित करता हूं कि आप पहले से ही वहां हैं। अब जब आपको और बढ़ने की जरूरत है, तो आपके पास कुछ और विकल्प उपलब्ध हैं।

जैसा कि आप जानते हैं, बड़े हार्डवेयर विक्रेताओं के पास उनके भंडारण के लिए NAS-हेड होते हैं। यह वास्तव में आपको एक विक्रेता को यह सब करने के लिए काम करने के लिए देगा, और यह बहुत अच्छा काम करेगा। वे (DIY की तुलना में) प्राप्त करने के लिए आसान समाधान हैं, और उनकी स्थिरता कम है। लेकिन, इनकी कीमत काफी ज्यादा होती है। एक ओर आपके पास बुनियादी सुविधाओं की समस्याओं के बजाय आपकी मुख्य समस्याओं को हल करने के लिए अधिक इंजीनियरिंग संसाधन होंगे; दूसरी ओर, यदि आप अधिकांश विश्वविद्यालय विभागों की तरह हैं, तो मुझे पता है कि मैन-पॉवर वास्तव में चीजों के लिए नकद भुगतान के सापेक्ष सस्ता है।

DIY मार्ग पर जाने से आपके पास पहले से ही उपलब्ध DIY विकल्पों की अच्छी सराहना होती है। ZFS / BTRFS स्केल आउट स्टोरेज के लिए XFS + LVM से स्पष्ट अपग्रेड पथ हैं। मैं बीटीआरएफएस को तब तक साफ करूंगा जब तक कि यह लिनक्स मेनलाइन कर्नेल में 'स्थिर' घोषित नहीं हो जाता, जो अब जल्द ही होना चाहिए कि कई प्रमुख मुफ्त डिस्ट्रोस इसे डिफ़ॉल्ट फाइल सिस्टम के रूप में उपयोग कर रहे हैं। ZFS के लिए, मैं OpenIndiana के बजाय एक BSD आधार का उपयोग करने की सलाह दूंगा, क्योंकि यह लंबे समय तक रहा है और किंक (अधिक) ने काम किया है।

ग्लस्टर का उपयोग आपके द्वारा यहां वर्णित उपयोग-केस के लिए किया गया था। यह प्रतिकृति के साथ-साथ बहुत सारे स्टोरेज के साथ सिंगल वर्चुअल सर्वर भी प्रस्तुत कर सकता है। उनके वितरित वॉल्यूम बिल्कुल वही दिखते हैं जो आप देख रहे हैं, क्योंकि वे घोषित वॉल्यूम पर सभी स्टोरेज-सर्वर पर फाइलें फैलाते हैं। दृश्यमान मात्रा का विस्तार करने के लिए आप असतत संग्रहण सर्वरों को जोड़ना जारी रख सकते हैं। एकल नाम-स्थान!

ग्लस्टर के साथ गेटा यह है कि यह सबसे अच्छा काम करता है जब आपके ग्राहक सीआईएसएस या एनएफएस विकल्पों के बजाय सिस्टम का उपयोग करने के लिए ग्लस्टर क्लाइंट का उपयोग कर सकते हैं। चूंकि आप एक छोटा क्लस्टर-कंप्यूट क्लस्टर चला रहे हैं, इसलिए आप केवल GlusterFS क्लाइंट का उपयोग करने में सक्षम हो सकते हैं।

आप यहाँ सही रास्ते पर हैं।

Comments

ए डू इट सॉल्यूशन का मतलब यह होगा कि यदि आप इसे स्वयं तोड़ते हैं, तो आपको इसे स्वयं ठीक करना होगा। यह महंगा हो जाता है क्योंकि आप सर्वर के एक जोड़े की सीमा से आगे बढ़ते हैं। यदि इस स्टोरेज को अत्यधिक उपलब्ध कराने के लिए किसी भी तरह का व्यावसायिक दबाव है, तो आप अपने आप को फिर से आविष्कार करने की तुलना में एक पहिया खरीदने में कम पैसा खर्च करेंगे। सर्वर पर चल रहे स्टोरेज सॉफ़्टवेयर को कुछ भी करने के लिए बनाया जा सकता है, जो वास्तविक स्टोरेज कर सकता है, लेकिन अधिक सस्ते में नहीं।

— तुलसी

Answer 3

जहां तक ​​मैं समझता हूं कि आप लिनक्स SCST + FibreChannel या infiniband पर आधारित एक SAN समाधान का उपयोग कर सकते हैं, जो अभी कुछ im निर्माण है। LUN के लिए एक आधार के रूप में आप LVM का उपयोग हार्डवेयर RAID के ऊपर कर सकते हैं और फ़ाइल सिस्टम स्तर के नीचे स्नैपशॉट / प्रतिकृति (उदाहरण के रूप में DRBD ले) का ध्यान रख सकते हैं। एक फाइलसिस्टम के रूप में मैं समवर्ती के लिए किसी भी अच्छे समाधान के बारे में नहीं जानता हूं क्योंकि मैं ईएक्सएक्सआई को नोड्स के ऊपर रख रहा हूं, इसलिए डेटास्टोर्स को ईएसएक्स समवर्ती एफएस द्वारा प्रबंधित किया जाता है। मुझे लगता है कि जीएफएस 2 उस वातावरण के साथ काम कर सकता है लेकिन 100% निश्चित नहीं है, क्योंकि आपको अपनी सटीक आवश्यकताओं की जांच करनी चाहिए। वैसे भी एक बार जब आपके पास एक मजबूत SAN आपके नोड्स के नीचे होता है, तो चीजों को प्राप्त करना बहुत आसान होता है।