PostgreSQL में GIN सूचकांक का उपयोग करते समय क्रमबद्ध करके ORDER को कैसे गति दें?

मेरे पास इस तरह की एक तालिका है:

CREATE TABLE products (
  id serial PRIMARY KEY, 
  category_ids integer[],
  published boolean NOT NULL,
  score integer NOT NULL,
  title varchar NOT NULL);

एक उत्पाद कई श्रेणियों से संबंधित हो सकता है। category_idsकॉलम में सभी उत्पाद श्रेणियों की आईडी की सूची होती है।

विशिष्ट क्वेरी इस तरह दिखती है (हमेशा एकल श्रेणी की खोज):

SELECT * FROM products WHERE published
  AND category_ids @> ARRAY[23465]
ORDER BY score DESC, title
LIMIT 20 OFFSET 8000;

इसे तेज करने के लिए मैं निम्नलिखित सूचकांक का उपयोग करता हूं:

CREATE INDEX idx_test1 ON products
  USING GIN (category_ids gin__int_ops) WHERE published;

यह तब तक बहुत मदद करता है जब तक कि एक श्रेणी में बहुत सारे उत्पाद न हों। यह उन उत्पादों को जल्दी से फ़िल्टर कर देता है जो उस श्रेणी से संबंधित हैं लेकिन फिर एक प्रकार का ऑपरेशन होता है जिसे कठिन तरीके से (बिना सूचकांक के) करना पड़ता है।

एक btree_ginएक्सटेंशन स्थापित किया गया है जो मुझे इस तरह मल्टी-कॉलम GIN इंडेक्स बनाने की अनुमति दे रहा है:

CREATE INDEX idx_test2 ON products USING GIN (
  category_ids gin__int_ops, score, title) WHERE published;

लेकिन Postgres छँटाई के लिए उपयोग नहीं करना चाहता है । यहां तक कि जब मैं DESCक्वेरी में निर्दिष्ट हटा देता हूं ।

कार्य को अनुकूलित करने के लिए कोई भी वैकल्पिक दृष्टिकोण बहुत स्वागत योग्य है।

अतिरिक्त जानकारी:

PostgreSQL 9.4, अंतर्कलह विस्तार के साथ
वर्तमान में कुल उत्पादों की संख्या 260k है, लेकिन महत्वपूर्ण रूप से बढ़ने की उम्मीद है (10M तक, यह बहु-किरायेदार ई-कॉमर्स प्लेटफॉर्म है)
उत्पाद प्रति श्रेणी 1..10000 (100k तक बढ़ सकते हैं), औसत 100 से नीचे है, लेकिन बड़ी संख्या में उत्पादों के साथ उन श्रेणियों को कई और अधिक अनुरोधों को आकर्षित करने की प्रवृत्ति है

निम्नलिखित परीक्षण योजना छोटे परीक्षण प्रणाली (चयनित श्रेणी में 4680 उत्पाद, तालिका में कुल 200k उत्पाद) से प्राप्त की गई थी:

Limit  (cost=948.99..948.99 rows=1 width=72) (actual time=82.330..82.341 rows=20 loops=1)
  ->  Sort  (cost=948.37..948.99 rows=245 width=72) (actual time=80.231..81.337 rows=4020 loops=1)
        Sort Key: score, title
        Sort Method: quicksort  Memory: 928kB
        ->  Bitmap Heap Scan on products  (cost=13.90..938.65 rows=245 width=72) (actual time=1.919..16.044 rows=4680 loops=1)
              Recheck Cond: ((category_ids @> '{292844}'::integer[]) AND published)
              Heap Blocks: exact=3441
              ->  Bitmap Index Scan on idx_test2  (cost=0.00..13.84 rows=245 width=0) (actual time=1.185..1.185 rows=4680 loops=1)
                    Index Cond: (category_ids @> '{292844}'::integer[])
Planning time: 0.202 ms
Execution time: 82.404 ms

नोट # 1 : 82 एमएस उस डरावने नहीं लग सकता है, लेकिन ऐसा इसलिए है क्योंकि तरह बफर स्मृति में फिट बैठता है। एक बार जब मैं उत्पादों की तालिका से सभी स्तंभों का चयन करता हूं ( SELECT * FROM ...और वास्तविक जीवन में लगभग 60 स्तंभ हैं) तो Sort Method: external merge Disk: 5696kBनिष्पादन समय दोगुना हो जाता है । और वह केवल 4680 उत्पादों के लिए है।

एक्शन पॉइंट # 1 (नोट # 1 से आता है): क्रमबद्ध संचालन के मेमोरी फुटप्रिंट को कम करने के लिए और इसलिए इसे थोड़ा गति दें, पहले उत्पाद आईडी को प्राप्त करना, सॉर्ट करना और सीमित करना बुद्धिमान होगा, फिर पूर्ण रिकॉर्ड प्राप्त करें:

SELECT * FROM products WHERE id IN (
  SELECT id FROM products WHERE published AND category_ids @> ARRAY[23465]
  ORDER BY score DESC, title LIMIT 20 OFFSET 8000
) ORDER BY score DESC, title;

यह हमें Sort Method: quicksort Memory: 903kB4680 उत्पादों के लिए और ~ 80 एमएस में वापस लाता है । अभी भी धीमा हो सकता है जब उत्पादों की संख्या 100k तक बढ़ जाती है।

postgresql index postgresql-performance

— यारोस्लाव स्टवानिच्य
स्रोत

इस पेज पर: hlinnaka.iki.fi./2014/2014/03/28/… टिप्पणी है कि btree_gin का उपयोग छँटाई के लिए नहीं किया जा सकता है।

— मैडलेन उज़ेलैक

ठीक है, मैंने अधिक विकल्पों की अनुमति देने के लिए शीर्षक को फिर से परिभाषित किया।

— यारोस्लाव स्टवानिचिन

क्या आप हमेशा एक ही श्रेणी के लिए खोज रहे हैं? और कृपया कुछ और बुनियादी जानकारी प्रदान करें: संस्करण, कार्डिनैलिटी, पंक्तियों को प्रति श्रेणी (मिनट / एवीजी / अधिकतम) पोस्ट करें। Postgresql-performance के लिए टैग जानकारी के निर्देशों पर विचार करें । और: scoreNULL हो सकता है, लेकिन आप अभी भी इसके अनुसार क्रमबद्ध हैं score DESC, नहीं score DESC NULLS LAST। एक या दूसरे को सही नहीं लगता ...

— एरविन ब्रैंडस्टेटर

मैंने अनुरोध के रूप में अतिरिक्त जानकारी जोड़ी है। मैं हमेशा सिंगल कैटेगरी खोज रहा हूं। और scoreवास्तव में NULL नहीं है - मैंने टेबल की परिभाषा को ठीक किया है।

— यारोस्लाव स्टवानिच

जवाबों:

मैंने बहुत सारे प्रयोग किए हैं और यहाँ मेरे निष्कर्ष हैं।

जिन और छँटाई

वर्तमान में GIN इंडेक्स (संस्करण 9.4 के अनुसार) ऑर्डर करने में सहायता नहीं कर सकता है ।

वर्तमान में PostgreSQL द्वारा समर्थित इंडेक्स प्रकारों में से, केवल बी-ट्री सॉर्ट किए गए आउटपुट का उत्पादन कर सकते हैं - अन्य सूचकांक प्रकार एक अनिर्दिष्ट, कार्यान्वयन-निर्भर क्रम में पंक्तियों से मेल खाते हैं।

work_mem

इस कॉन्फ़िगरेशन पैरामीटर को इंगित करने के लिए धन्यवाद क्रिस । यह 4MB तक डिफॉल्ट करता है, और अगर आपका रिकॉर्डसेट बड़ा है, तो work_memउचित मूल्य तक बढ़ सकता है (इससे पाया जा सकता है EXPLAIN ANALYSE) सॉर्ट ऑपरेशन को गति प्रदान कर सकता है।

ALTER SYSTEM SET work_mem TO '32MB';

परिवर्तन को प्रभावी करने के लिए सर्वर को पुनरारंभ करें, फिर डबल चेक करें:

SHOW work_mem;

मूल प्रश्न

मैंने अपने डेटाबेस को ६५०k उत्पादों के साथ आबाद किया है जिसमें कुछ श्रेणियां ४०k उत्पादों तक हैं। मैंने publishedक्‍लॉज को हटाकर क्वेरी को थोड़ा सरल बनाया है :

SELECT * FROM products WHERE category_ids @> ARRAY [248688]
ORDER BY score DESC, title LIMIT 10 OFFSET 30000;

Limit  (cost=2435.62..2435.62 rows=1 width=1390) (actual time=1141.254..1141.256 rows=10 loops=1)
  ->  Sort  (cost=2434.00..2435.62 rows=646 width=1390) (actual time=1115.706..1140.513 rows=30010 loops=1)
        Sort Key: score, title
        Sort Method: external merge  Disk: 29656kB
        ->  Bitmap Heap Scan on products  (cost=17.01..2403.85 rows=646 width=1390) (actual time=11.831..25.646 rows=41666 loops=1)
              Recheck Cond: (category_ids @> '{248688}'::integer[])
              Heap Blocks: exact=6471
              ->  Bitmap Index Scan on idx_products_category_ids_gin  (cost=0.00..16.85 rows=646 width=0) (actual time=10.140..10.140 rows=41666 loops=1)
                    Index Cond: (category_ids @> '{248688}'::integer[])
Planning time: 0.288 ms
Execution time: 1146.322 ms

जैसा कि हम देख सकते हैं work_memपर्याप्त नहीं था इसलिए हमारे पास Sort Method: external merge Disk: 29656kB(यहां संख्या अनुमानित है, इसे इन-मेमोरी एस्कॉर्ट के लिए 32 एमबी से थोड़ा अधिक की आवश्यकता है)।

स्मृति पदचिह्न कम करें

सॉर्ट करने के लिए पूर्ण रिकॉर्ड का चयन न करें, आईडी का उपयोग करें, सॉर्ट, ऑफ़सेट और सीमा लागू करें, फिर केवल 10 रिकॉर्ड लोड करें जो हमें चाहिए:

SELECT * FROM products WHERE id in (
  SELECT id FROM products WHERE category_ids @> ARRAY[248688]
  ORDER BY score DESC, title LIMIT 10 OFFSET 30000
) ORDER BY score DESC, title;

Sort  (cost=2444.10..2444.11 rows=1 width=1390) (actual time=707.861..707.862 rows=10 loops=1)
  Sort Key: products.score, products.title
  Sort Method: quicksort  Memory: 35kB
  ->  Nested Loop  (cost=2436.05..2444.09 rows=1 width=1390) (actual time=707.764..707.803 rows=10 loops=1)
        ->  HashAggregate  (cost=2435.63..2435.64 rows=1 width=4) (actual time=707.744..707.746 rows=10 loops=1)
              Group Key: products_1.id
              ->  Limit  (cost=2435.62..2435.62 rows=1 width=72) (actual time=707.732..707.734 rows=10 loops=1)
                    ->  Sort  (cost=2434.00..2435.62 rows=646 width=72) (actual time=704.163..706.955 rows=30010 loops=1)
                          Sort Key: products_1.score, products_1.title
                          Sort Method: quicksort  Memory: 7396kB
                          ->  Bitmap Heap Scan on products products_1  (cost=17.01..2403.85 rows=646 width=72) (actual time=11.587..35.076 rows=41666 loops=1)
                                Recheck Cond: (category_ids @> '{248688}'::integer[])
                                Heap Blocks: exact=6471
                                ->  Bitmap Index Scan on idx_products_category_ids_gin  (cost=0.00..16.85 rows=646 width=0) (actual time=9.883..9.883 rows=41666 loops=1)
                                      Index Cond: (category_ids @> '{248688}'::integer[])
        ->  Index Scan using products_pkey on products  (cost=0.42..8.45 rows=1 width=1390) (actual time=0.004..0.004 rows=1 loops=10)
              Index Cond: (id = products_1.id)
Planning time: 0.682 ms
Execution time: 707.973 ms

ध्यान दें Sort Method: quicksort Memory: 7396kB। रिजल्ट ज्यादा बेहतर है।

जोइन और अतिरिक्त बी-ट्री इंडेक्स

जैसा कि क्रिस ने सलाह दी है कि मैंने अतिरिक्त सूचकांक बनाया है:

CREATE INDEX idx_test7 ON products (score DESC, title);

पहले मैंने इस तरह जुड़ने की कोशिश की:

SELECT * FROM products NATURAL JOIN
  (SELECT id FROM products WHERE category_ids @> ARRAY[248688]
  ORDER BY score DESC, title LIMIT 10 OFFSET 30000) c
ORDER BY score DESC, title;

क्वेरी योजना थोड़ी अलग है, लेकिन परिणाम समान है:

Sort  (cost=2444.10..2444.11 rows=1 width=1390) (actual time=700.747..700.747 rows=10 loops=1)
  Sort Key: products.score, products.title
  Sort Method: quicksort  Memory: 35kB
  ->  Nested Loop  (cost=2436.05..2444.09 rows=1 width=1390) (actual time=700.651..700.690 rows=10 loops=1)
        ->  HashAggregate  (cost=2435.63..2435.64 rows=1 width=4) (actual time=700.630..700.630 rows=10 loops=1)
              Group Key: products_1.id
              ->  Limit  (cost=2435.62..2435.62 rows=1 width=72) (actual time=700.619..700.619 rows=10 loops=1)
                    ->  Sort  (cost=2434.00..2435.62 rows=646 width=72) (actual time=697.304..699.868 rows=30010 loops=1)
                          Sort Key: products_1.score, products_1.title
                          Sort Method: quicksort  Memory: 7396kB
                          ->  Bitmap Heap Scan on products products_1  (cost=17.01..2403.85 rows=646 width=72) (actual time=10.796..32.258 rows=41666 loops=1)
                                Recheck Cond: (category_ids @> '{248688}'::integer[])
                                Heap Blocks: exact=6471
                                ->  Bitmap Index Scan on idx_products_category_ids_gin  (cost=0.00..16.85 rows=646 width=0) (actual time=9.234..9.234 rows=41666 loops=1)
                                      Index Cond: (category_ids @> '{248688}'::integer[])
        ->  Index Scan using products_pkey on products  (cost=0.42..8.45 rows=1 width=1390) (actual time=0.004..0.004 rows=1 loops=10)
              Index Cond: (id = products_1.id)
Planning time: 1.015 ms
Execution time: 700.918 ms

विभिन्न ऑफसेट और उत्पाद की गिनती के साथ खेलना मैं PostgreSQL अतिरिक्त बी-ट्री इंडेक्स का उपयोग नहीं कर सका।

इसलिए मैंने शास्त्रीय तरीका अपनाया और जंक्शन टेबल बनाई :

CREATE TABLE prodcats AS SELECT id AS product_id, unnest(category_ids) AS category_id FROM products;
CREATE INDEX idx_prodcats_cat_prod_id ON prodcats (category_id, product_id);

SELECT p.* FROM products p JOIN prodcats c ON (p.id=c.product_id)
WHERE c.category_id=248688
ORDER BY p.score DESC, p.title LIMIT 10 OFFSET 30000;

Limit  (cost=122480.06..122480.09 rows=10 width=1390) (actual time=1290.360..1290.362 rows=10 loops=1)
  ->  Sort  (cost=122405.06..122509.00 rows=41574 width=1390) (actual time=1264.250..1289.575 rows=30010 loops=1)
        Sort Key: p.score, p.title
        Sort Method: external merge  Disk: 29656kB
        ->  Merge Join  (cost=50.46..94061.13 rows=41574 width=1390) (actual time=117.746..182.048 rows=41666 loops=1)
              Merge Cond: (p.id = c.product_id)
              ->  Index Scan using products_pkey on products p  (cost=0.42..90738.43 rows=646067 width=1390) (actual time=0.034..116.313 rows=210283 loops=1)
              ->  Index Only Scan using idx_prodcats_cat_prod_id on prodcats c  (cost=0.43..1187.98 rows=41574 width=4) (actual time=0.022..7.137 rows=41666 loops=1)
                    Index Cond: (category_id = 248688)
                    Heap Fetches: 0
Planning time: 0.873 ms
Execution time: 1294.826 ms

फिर भी बी-ट्री इंडेक्स का उपयोग नहीं करना, परिणामी फिट नहीं हुआ work_mem, इसलिए खराब परिणाम।

लेकिन कुछ परिस्थितियों में, बड़ी संख्या में उत्पाद और छोटे ऑफ़ग्रेग्रेसक्यूएल अब बी-ट्री इंडेक्स का उपयोग करने का निर्णय लेते हैं:

SELECT p.* FROM products p JOIN prodcats c ON (p.id=c.product_id)
WHERE c.category_id=248688
ORDER BY p.score DESC, p.title LIMIT 10 OFFSET 300;

Limit  (cost=3986.65..4119.51 rows=10 width=1390) (actual time=264.176..264.574 rows=10 loops=1)
  ->  Nested Loop  (cost=0.98..552334.77 rows=41574 width=1390) (actual time=250.378..264.558 rows=310 loops=1)
        ->  Index Scan using idx_test7 on products p  (cost=0.55..194665.62 rows=646067 width=1390) (actual time=0.030..83.026 rows=108037 loops=1)
        ->  Index Only Scan using idx_prodcats_cat_prod_id on prodcats c  (cost=0.43..0.54 rows=1 width=4) (actual time=0.001..0.001 rows=0 loops=108037)
              Index Cond: ((category_id = 248688) AND (product_id = p.id))
              Heap Fetches: 0
Planning time: 0.585 ms
Execution time: 264.664 ms

यह वास्तव में काफी तार्किक है क्योंकि बी-ट्री इंडेक्स प्रत्यक्ष परिणाम नहीं देता है, यह केवल अनुक्रमिक स्कैन के लिए एक गाइड के रूप में उपयोग किया जाता है।

GIN क्वेरी से तुलना करें:

SELECT * FROM products WHERE id in (
  SELECT id FROM products WHERE category_ids @> ARRAY[248688]
  ORDER BY score DESC, title LIMIT 10 OFFSET 300
) ORDER BY score DESC, title;

Sort  (cost=2519.53..2519.55 rows=10 width=1390) (actual time=143.809..143.809 rows=10 loops=1)
  Sort Key: products.score, products.title
  Sort Method: quicksort  Memory: 35kB
  ->  Nested Loop  (cost=2435.14..2519.36 rows=10 width=1390) (actual time=143.693..143.736 rows=10 loops=1)
        ->  HashAggregate  (cost=2434.71..2434.81 rows=10 width=4) (actual time=143.678..143.680 rows=10 loops=1)
              Group Key: products_1.id
              ->  Limit  (cost=2434.56..2434.59 rows=10 width=72) (actual time=143.668..143.670 rows=10 loops=1)
                    ->  Sort  (cost=2433.81..2435.43 rows=646 width=72) (actual time=143.642..143.653 rows=310 loops=1)
                          Sort Key: products_1.score, products_1.title
                          Sort Method: top-N heapsort  Memory: 68kB
                          ->  Bitmap Heap Scan on products products_1  (cost=17.01..2403.85 rows=646 width=72) (actual time=11.625..31.868 rows=41666 loops=1)
                                Recheck Cond: (category_ids @> '{248688}'::integer[])
                                Heap Blocks: exact=6471
                                ->  Bitmap Index Scan on idx_products_category_ids_gin  (cost=0.00..16.85 rows=646 width=0) (actual time=9.916..9.916 rows=41666 loops=1)
                                      Index Cond: (category_ids @> '{248688}'::integer[])
        ->  Index Scan using products_pkey on products  (cost=0.42..8.45 rows=1 width=1390) (actual time=0.004..0.004 rows=1 loops=10)
              Index Cond: (id = products_1.id)
Planning time: 0.630 ms
Execution time: 143.921 ms

GIN का परिणाम काफी बेहतर है। मैंने उत्पादों की संख्या और ऑफसेट के विभिन्न संयोजनों के साथ जाँच की, किसी भी परिस्थिति में जंक्शन टेबल दृष्टिकोण किसी भी बेहतर नहीं था ।

वास्तविक सूचकांक की शक्ति

PostgreSQL को छँटाई के लिए पूरी तरह से सूचकांक का उपयोग करने के लिए, सभी क्वेरी WHEREमापदंडों के साथ-साथ ORDER BYमापदंडों को एकल बी-ट्री इंडेक्स में रहना चाहिए। ऐसा करने के लिए मैंने उत्पाद से जंक्शन टेबल तक सॉर्ट फ़ील्ड की प्रतिलिपि बनाई है:

CREATE TABLE prodcats AS SELECT id AS product_id, unnest(category_ids) AS category_id, score, title FROM products;
CREATE INDEX idx_prodcats_1 ON prodcats (category_id, score DESC, title, product_id);

SELECT * FROM products WHERE id in (SELECT product_id FROM prodcats WHERE category_id=248688 ORDER BY score DESC, title LIMIT 10 OFFSET 30000) ORDER BY score DESC, title;

Sort  (cost=2149.65..2149.67 rows=10 width=1390) (actual time=7.011..7.011 rows=10 loops=1)
  Sort Key: products.score, products.title
  Sort Method: quicksort  Memory: 35kB
  ->  Nested Loop  (cost=2065.26..2149.48 rows=10 width=1390) (actual time=6.916..6.950 rows=10 loops=1)
        ->  HashAggregate  (cost=2064.83..2064.93 rows=10 width=4) (actual time=6.902..6.904 rows=10 loops=1)
              Group Key: prodcats.product_id
              ->  Limit  (cost=2064.02..2064.71 rows=10 width=74) (actual time=6.893..6.895 rows=10 loops=1)
                    ->  Index Only Scan using idx_prodcats_1 on prodcats  (cost=0.56..2860.10 rows=41574 width=74) (actual time=0.010..6.173 rows=30010 loops=1)
                          Index Cond: (category_id = 248688)
                          Heap Fetches: 0
        ->  Index Scan using products_pkey on products  (cost=0.42..8.45 rows=1 width=1390) (actual time=0.003..0.003 rows=1 loops=10)
              Index Cond: (id = prodcats.product_id)
Planning time: 0.318 ms
Execution time: 7.066 ms

और यह चयनित श्रेणी और बड़ी ऑफसेट में बड़ी संख्या में उत्पादों के साथ सबसे खराब परिदृश्य है। जब ऑफसेट = 300 निष्पादन समय सिर्फ 0.5 एमएस है।

दुर्भाग्य से इस तरह के जंक्शन टेबल को बनाए रखने के लिए अतिरिक्त प्रयास की आवश्यकता होती है। यह अनुक्रमित भौतिक विचारों के माध्यम से पूरा किया जा सकता है, लेकिन यह केवल तब उपयोगी होता है जब आपके डेटा को शायद ही कभी अपडेट किया जाता है, क्योंकि ऐसे भौतिक दृश्य को ताज़ा करना काफी भारी ऑपरेशन होता है।

इसलिए मैं अभी तक GIN सूचकांक के साथ रह रहा हूं, work_memस्मृति पदचिह्न क्वेरी को बढ़ाया और घटाया है।

— यारोस्लाव स्टवानिच्य
स्रोत

आपको postgresql.conf में सामान्य सेटिंग के परिवर्तन के लिए पुनरारंभ करने की आवश्यकता नहीं है । रीलोड काफी है। और मुझे एक बहु-उपयोगकर्ता वातावरण में बहुत अधिक विश्व स्तर पर स्थापित करने के खिलाफ चेतावनी दें (बहुत कम नहीं, या तो)। यदि आपको कुछ प्रश्नों की अधिक आवश्यकता है , तो इसे सत्र के लिए केवल - या केवल लेनदेन के साथ सेट करें । देखें: dba.stackexchange.com/a/48633/3684work_memwork_memwork_memSETSET LOCAL

— Erwin Brandstetter

क्या शानदार जवाब है। मुझे बहुत मदद मिली, विशेष रूप से डिस्क के साथ -> इन-मेमोरी सॉर्ट ऑपरेशन, एक शानदार जीत के लिए त्वरित परिवर्तन, धन्यवाद!

— रिकार्डो विलमिल

यहां कुछ त्वरित युक्तियां दी गई हैं जो आपके प्रदर्शन को बेहतर बनाने में मदद कर सकती हैं। मैं सबसे आसान टिप से शुरू करता हूं, जो आपके हिस्से में लगभग सरल है, और पहले के बाद अधिक कठिन टिप पर आगे बढ़ें।

1। `work_mem`

इसलिए, मैं राइट-ऑफ-हैंड देखता हूं कि आपकी व्याख्या योजना में बताया गया एक प्रकार Sort Method: external merge Disk: 5696kB6 एमबी से कम खपत कर रहा है, लेकिन डिस्क पर स्पिलिंग है। आपको work_memअपनी postgresql.confफ़ाइल में अपनी सेटिंग को बढ़ाने की आवश्यकता है कि यह काफी हद तक याद में फिट हो सके।

संपादित करें: इसके अलावा, आगे के निरीक्षण पर, मैं देखता हूं कि सूचकांक का उपयोग करने के बाद, catgory_idsजिसके लिए आपके मानदंड फिट हैं, बिटमैप इंडेक्स स्कैन को "हानिपूर्ण" बनने के लिए मजबूर किया जाता है और प्रासंगिक हीप पृष्ठों के भीतर से पंक्तियों को पढ़ते समय स्थिति को फिर से जांचना पड़ता है। । मेरे द्वारा दिए गए स्पष्टीकरण से बेहतर postgresql.org पर इस पोस्ट का संदर्भ लें । : पी मुख्य बिंदु यह है कि आपका work_memरास्ता बहुत कम है। यदि आपने अपने सर्वर पर डिफ़ॉल्ट सेटिंग्स को ट्यून नहीं किया है, तो यह अच्छा प्रदर्शन नहीं करेगा।

यह फिक्स आपको अनिवार्य रूप से करने का समय नहीं लेगा। एक परिवर्तन postgresql.conf, और आप बंद हैं! अधिक सुझावों के लिए इस प्रदर्शन ट्यूनिंग पृष्ठ का संदर्भ लें ।

2. स्कीमा परिवर्तन

तो, आपने अपने स्कीमा डिज़ाइन में निर्णय को category_idsपूर्णांक सरणी में निरूपित करने के लिए किया है, जो तब आपको तेजी से पहुँच प्राप्त करने के लिए GIN या GIST इंडेक्स का उपयोग करने के लिए मजबूर करता है। मेरे अनुभव में, GIN इंडेक्स के लिए आपकी पसंद GIST की तुलना में रीड्स के लिए तेज़ होगी, इसलिए उस स्थिति में आपने सही चुनाव किया। हालांकि, जीआईएन एक अनसुलझा सूचकांक है; अधिक मुख्य-मान, जहां समानता विधेय जाँच करने के लिए आसान है, लेकिन इस तरह के रूप संचालन के रूप में विचार WHERE >, WHERE <या ORDER BYसूचकांक द्वारा सुविधा नहीं हैं।

डेटाबेस में कई-से-कई संबंधों को निर्दिष्ट करने के लिए उपयोग की जाने वाली एक पुल तालिका / जंक्शन तालिका का उपयोग करके अपने डिजाइन को सामान्य करने के लिए एक सभ्य दृष्टिकोण होगा ।

इस स्थिति में, आपके पास कई श्रेणियां और संबंधित पूर्णांक category_ids का एक सेट है , और आपके पास कई उत्पाद और उनके संबंधित product_ids हैं। अपनी उत्पाद तालिका में एक स्तंभ के बजाय जो कि पूर्णांक सरणी है category_id, इस सरणी स्तंभ को अपने स्कीमा से हटा दें, और एक तालिका बनाएं

CREATE TABLE join_products_categories (product_id int, category_id int);

फिर, आप पुल तालिका के दो स्तंभों पर बी-ट्री इंडेक्स उत्पन्न कर सकते हैं,

CREATE INDEX idx_products_in_join_table ON join_products_categories (product_id);
CREATE INDEX idx_products_in_join_table ON join_products_categories (category_id);

बस मेरी विनम्र राय है, लेकिन ये बदलाव आपके लिए एक बड़ा बदलाव ला सकते हैं। कोशिश करें कि work_memसबसे पहली चीज, कम से कम बदल दें।

शुभकामनाएँ!

संपादित करें:

छँटाई की सहायता के लिए एक अतिरिक्त सूचकांक बनाएँ

इसलिए, यदि समय के साथ आपकी उत्पाद लाइन का विस्तार होता है, तो कुछ प्रश्न कई परिणाम (हजारों, दसियों, हजारों) लौटा सकते हैं, लेकिन जो अभी भी आपकी कुल उत्पाद लाइन का एक छोटा उपसमूह हो सकता है। इन मामलों में, यदि मेमोरी में किया जाता है, तो छंटनी काफी महंगी भी हो सकती है, लेकिन इस प्रकार की सहायता के लिए उचित रूप से डिज़ाइन किए गए इंडेक्स का उपयोग किया जा सकता है।

इंडेक्स और ORDER BY का वर्णन करने वाले आधिकारिक PostgreSQL दस्तावेज़ देखें ।

यदि आप अपने ORDER BYreqirements से मेल खाते एक इंडेक्स बनाते हैं

CREATE INDEX idx_product_sort ON products (score DESC, title);

तब पोस्टग्रैड्स ऑप्टिमाइज़ करेंगे और तय करेंगे कि क्या इंडेक्स का उपयोग करना या एक स्पष्ट प्रकार का प्रदर्शन करना अधिक लागत प्रभावी होगा। ध्यान रखें कि कोई गारंटी नहीं है कि पोस्टग्रैज इंडेक्स का उपयोग करेगा; यह प्रदर्शन का अनुकूलन करने और सूचकांक का उपयोग करने या स्पष्ट रूप से छांटने के बीच चयन करने की कोशिश करेगा। यदि आप यह इंडेक्स बनाते हैं, तो यह देखने के लिए निगरानी करें कि क्या इसका उपयोग इसके निर्माण को सही ठहराने के लिए किया जा रहा है, और इसे ड्रॉप करें यदि आपके अधिकांश प्रकार स्पष्ट रूप से किए जा रहे हैं।

फिर भी, इस बिंदु पर, आपका 'हिरन के लिए सबसे बड़ा धमाका' संभवतः अधिक उपयोग कर रहा होगा work_mem, लेकिन ऐसे मामले हैं जहां सूचकांक छँटाई का समर्थन कर सकता है।

— क्रिस
स्रोत

मैं GIN से बचने के लिए जंक्शन टेबल का उपयोग करने के बारे में भी सोच रहा था। लेकिन आपने यह नहीं बताया कि किस तरह से छँटाई में मदद मिलती है। मुझे लगता है कि यह मदद नहीं करेगा। मैंने GIN क्वेरी के माध्यम से एकत्र किए गए उत्पाद आईडी के एक सेट के साथ उत्पादों की तालिका में शामिल होने की कोशिश की, जो मुझे विश्वास है कि आप जो पेशकश कर रहे हैं, उससे काफी समान है, और यह ऑपरेशन स्कोर और शीर्षक पर बी-ट्री इंडेक्स का उपयोग नहीं कर सकता है। शायद मैंने गलत इंडेक्स बनाया है। क्या आप कृपया उस पर विस्तार से बता सकते हैं।

— यारोस्लाव स्टावनिचि

क्षमायाचना, शायद मैंने स्पष्ट रूप से पर्याप्त व्याख्या नहीं की। आपके work_memकॉन्फ़िगरेशन का परिवर्तन आपकी 'डिस्क पर छँटाई' समस्या के समाधान के साथ-साथ आपकी रीचेक स्थिति की समस्या के रूप में किया गया था। जैसे-जैसे उत्पादों की संख्या बढ़ती है, आपको सॉर्ट करने के लिए एक अतिरिक्त इंडेक्स की आवश्यकता हो सकती है। कृपया स्पष्टीकरण के लिए मेरे संपादन ऊपर देखें।

— क्रिस