चरण · AI है क्या चीज़
06टोकन और कॉन्टेक्स्ट
तुम किस चीज़ के पैसे देते हो और वो कभी-कभी 'भूल' क्यों जाती है
दो शब्द जो जान लेने लायक़ हैं। इस पेज पर इससे ज़्यादा टर्म लगभग नहीं होंगे।
टोकन - टेक्स्ट का टुकड़ा। न अक्षर, न शब्द, कुछ बीच का: आमतौर पर शब्द का हिस्सा। मॉडल सब कुछ टोकन में गिनता है, और पैसे भी तुम टोकन के देते हो। लंबी फ़ाइल भेजी - बहुत ख़र्च हुए। लंबा जवाब मिला - वो भी ख़र्च हुए।
कॉन्टेक्स्ट - इस वक़्त वो दिमाग़ में कितना रखे हुए है। तुम्हारी पूरी बातचीत, सारी फ़ाइलें जो तुमने दिखाईं, उसके सारे जवाब - सब कॉन्टेक्स्ट में पड़ा है और जगह घेरता है। जगह अनंत नहीं है।
यहाँ से दो असर निकलते हैं जो तुम्हें पक्का दिखेंगे।
पहला: लंबा चैट सुस्त पड़ने लगता है। इसलिए नहीं कि AI थक गई, बल्कि इसलिए कि कॉन्टेक्स्ट भर गया और पुराना बाहर धकेला जाने लगा। इलाज सिंपल है - नया चैट शुरू करो और मतलब की बात छोटे में दोबारा बता दो। अक्सर ये 'उसने मुझे समझना बंद कर दिया' को जादुई ढंग से ठीक कर देता है।
दूसरा: 'शायद काम आए' सोचकर चैट में सब कुछ मत उँडेलो। फ़ालतू चीज़ मदद नहीं करती, रोकती है - ज़रूरी बात कचरे में डूब जाती है। वही दो जो काम से जुड़ा है।