गाइड
AI मॉडल सौंपने से पहले की जांच
वेट, गणना ग्राफ़ और अनुमान परिवेश को अलग समझें। निर्भर फ़ाइलें और प्रतिनिधि इनपुट के परिणाम साथ दें; सफल रूपांतरण संगतता या गुणवत्ता सिद्ध नहीं करता।
कौन-सा फ़ॉर्मैट चुनें?
अपने कार्यप्रवाह में हर फ़ाइल की भूमिका के अनुसार चुनें।
- चलाने की शर्तें और स्रोत दर्ज करें
- जरूरी फ़ाइलें पूरी करें
- प्राप्तकर्ता के यहां अनुमान जांचें
चलाने की शर्तें और स्रोत दर्ज करें
स्रोत, रिविज़न, उपयोग शर्तें, आर्किटेक्चर, इनपुट-आउटपुट प्रकार व आकार और पूर्व व बाद की प्रोसेसिंग दर्ज करें। ONNX IR/opset और GGUF टेंसर प्रकार को लक्ष्य रनटाइम से मिलाएं।
जरूरी फ़ाइलें पूरी करें
ONNX के बाहरी वेट संदर्भ रखें। जरूरी Safetensors शार्ड, इंडेक्स, मॉडल परिभाषा और निर्भर फ़ाइलें दें। GGUF को भी विभाजित या सहायक फ़ाइलें चाहिए हो सकती हैं। tokenizer व सेटिंग अंदर हैं या अलग, यह जांचें।
प्राप्तकर्ता के यहां अनुमान जांचें
अपडेटेड संगत लोडर से संरचना और टेंसर नाम, प्रकार व आकार जांचें। एक जैसे इनपुट व पूर्व प्रोसेसिंग से आउटपुट स्रोत से मिलाएं और स्वीकार्य त्रुटि व मेमोरी दर्ज करें। रूपांतरण और क्वांटाइज़ेशन अलग परखें।
उपयुक्त फ़ॉर्मैट
ONNX
इसके लिए उपयुक्त: संगत रनटाइम में गणना ग्राफ़ साझा करना
इसके लिए कम उपयुक्त: सभी ऑपरेटर और opset समर्थन मान लेना
Safetensors
इसके लिए उपयुक्त: टेंसर वेट सहेजना और वितरित करना
इसके लिए कम उपयुक्त: वेट में मॉडल परिभाषा और चलने वाला कोड भी मान लेना
GGUF
इसके लिए उपयुक्त: संगत GGML कार्यान्वयन को अनुमान मॉडल देना
इसके लिए कम उपयुक्त: एक्सटेंशन से क्वांटाइज़ेशन या संगतता तय करना
निर्यात से पहले जाँचें
- फ़ॉर्मैट नाम या समान हैश स्रोत या सुरक्षा सिद्ध नहीं करते। अविश्वसनीय कोड या रूपांतरण स्रोत बिना सावधानी न चलाएं और निर्भर फ़ाइलों का स्रोत जांचें।
- मूल मॉडल, रूपांतरण सेटिंग और फ़ाइल सूची रखें। एक इनपुट का मेल सभी इनपुट या डिवाइस पर गुणवत्ता सुनिश्चित नहीं करता।