New message:
Hi</code></pre>
<p>नए अनुरोध में वे पिछले 12,000 टोकन अब भी शामिल हो सकते हैं।</p>
<hr>
<h2>न्यूनतम टोकन उपयोग कैसे जाँचें</h2>
<p>यदि आप किसी सरल संदेश का टोकन उपयोग मापना चाहते हैं, तो कृपया यह करें:</p>
<ol>
<li><p>पूरी तरह नई बातचीत शुरू करें।</p></li>
<li><p>कस्टम स्किल्स बंद करें।</p></li>
<li><p>फ़ाइलें संलग्न न करें।</p></li>
<li><p>प्रोजेक्ट वर्कस्पेस न खोलें।</p></li>
<li><p>केवल यह भेजें:</p></li>
</ol>
<pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre>
<p>इससे लगभग न्यूनतम संदर्भ उपयोग दिखाई देगा।</p>
<hr>
<h2>Context Window बनाम Token Usage</h2>
<p>इन दोनों के बीच अंतर समझना महत्वपूर्ण है:</p>
<h3>Context Window</h3>
<p>जानकारी की वह अधिकतम मात्रा जिसे मॉडल एक अनुरोध में प्रोसेस कर सकता है।</p>
<p>उदाहरण:</p>
<pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token context window</code></pre>
<p>इसका अर्थ है कि मॉडल सैद्धांतिक रूप से 10 लाख टोकन तक संभाल सकता है।</p>
<h3>Token Usage</h3>
<p>किसी विशेष अनुरोध में वास्तव में शामिल टोकनों की मात्रा।</p>
<p>उदाहरण:</p>
<pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>User message:
Hi

Actual request:
System instructions + tools + history + "Hi"

Total:
15,000 tokens</code></pre>
<p>बड़ी context window का अर्थ यह नहीं है कि हर अनुरोध केवल आपके संदेश की लंबाई के बराबर ही टोकन खर्च करेगा।</p>
<hr>
<h2>निष्कर्ष</h2>
<p>छोटे संदेश से अधिक टोकन उपयोग होना जरूरी नहीं कि मॉडल या API में किसी समस्या का संकेत हो।</p>
<p>AI एजेंट वातावरण में, कुल संदर्भ में बुद्धिमान संचालन के लिए आवश्यक कई छिपे हुए घटक शामिल होते हैं। यदि सत्र में स्किल्स, टूल्स, प्रोजेक्ट जानकारी, या पिछला इतिहास मौजूद है, तो एक साधारण "Hi" भी हज़ारों टोकन प्रोसेस होने का कारण बन सकता है।</p>
<p>कच्चे टोकन उपयोग का परीक्षण करते समय हम अतिरिक्त संदर्भ के बिना एक साफ़ सत्र से शुरुआत करने की सलाह देते हैं।</p>
<p>आपकी समझ और निरंतर समर्थन के लिए धन्यवाद।</p>