मुझे आपकी समस्या यह लगती है कि आप प्रदर्शन मेट्रिक्स का परीक्षण करने की कोशिश कर रहे हैं जो अंतर्निहित डीबी में अच्छी तरह से समर्थित नहीं हैं। इससे सिस्टम पर प्रदर्शन की तुलना करना बहुत मुश्किल हो जाता है क्योंकि अंतर्निहित दृष्टिकोण बहुत अलग हैं। मुझे नहीं लगता कि सेब की तुलना सेबों से करना संभव है, जैसा कि मुझे नहीं लगता कि आप सेब के सेबों की तुलना आरडीबीएमएस प्रकार के तरीकों से ओआरडीबीएमएस प्रकार के दृष्टिकोणों से कर सकते हैं। प्रदर्शन की चिंताएं बहुत अलग हैं और यदि स्टोनब्रेकर सही है कि टीपीसी-सी परीक्षणों के लिए एक ORDBMS को अनुकूलित करना बिंदु से चूक जाता है, तो सिस्टम के लिए जो आगे भी अलग हैं यह असंभव होने जा रहा है। (मुझे लगता है कि वह वहीं है, हालांकि, केवल जहां ORDBMS कार्यक्षमता खेल में आती है।)
मुझे लगता है कि आपको ईमानदार होने की ज़रूरत है कि आप प्रत्येक सिस्टम का उपयोग कैसे करें और प्रत्येक के साथ ले जाने वाले दृष्टिकोण के आधार पर एक बेंचमार्क टूल बनाएंगे। फिर आप कम से कम उस वर्कफ़्लो के लिए कह सकते हैं कि बेंचमार्क कुछ विशिष्ट दिखाता है। मैं यह नहीं देखता कि आप कैसे सामान्य कर सकते हैं। विभिन्न इंजनों पर परीक्षण रन में समय कहाँ खर्च किया जा रहा है, इसके बारे में अतिरिक्त जानकारी प्राप्त करने के लिए आप इसे एक प्रोफाइलर में आगे चला सकते हैं।
हालाँकि, db बेंचमार्किंग को बेहतरीन परिस्थितियों में सार्थक बनाना बहुत मुश्किल है और जब आप डिसिमिलर सिस्टम की तुलना कर रहे हैं तो इसे सामान्य करना असंभव हो जाता है।