ข้อความใหม่:
Hi</code></pre>
<p>คำขอใหม่ก็อาจยังคงมี 12,000 โทเคนก่อนหน้านั้นรวมอยู่ด้วย</p>
<hr>
<h2>วิธีทดสอบการใช้โทเคนขั้นต่ำ</h2>
<p>หากคุณต้องการวัดการใช้โทเคนของข้อความง่าย ๆ โปรดลองดังนี้:</p>
<ol>
<li><p>สร้างบทสนทนาใหม่ทั้งหมด</p></li>
<li><p>ปิดใช้งานทักษะแบบกำหนดเอง</p></li>
<li><p>อย่าแนบไฟล์</p></li>
<li><p>อย่าเปิดเวิร์กสเปซของโปรเจกต์</p></li>
<li><p>ส่งเพียง:</p></li>
</ol>
<pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre>
<p>วิธีนี้จะแสดงการใช้บริบทขั้นต่ำโดยประมาณ</p>
<hr>
<h2>Context Window เทียบกับ Token Usage</h2>
<p>สิ่งสำคัญคือต้องแยกความแตกต่างระหว่าง:</p>
<h3>Context Window</h3>
<p>ปริมาณข้อมูลสูงสุดที่โมเดลสามารถประมวลผลได้ในหนึ่งคำขอ</p>
<p>ตัวอย่าง:</p>
<pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>หน้าต่างบริบท 1M โทเคน</code></pre>
<p>หมายความว่าในทางทฤษฎี โมเดลสามารถรองรับได้สูงสุดถึง 1 ล้านโทเคน</p>
<h3>Token Usage</h3>
<p>จำนวนโทเคนจริงที่ถูกรวมอยู่ในคำขอหนึ่ง ๆ</p>
<p>ตัวอย่าง:</p>
<pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>ข้อความผู้ใช้:
Hi

คำขอจริง:
คำสั่งระบบ + เครื่องมือ + ประวัติ + "Hi"

รวมทั้งหมด:
15,000 โทเคน</code></pre>
<p>การมีหน้าต่างบริบทขนาดใหญ่ไม่ได้หมายความว่าทุกคำขอจะใช้โทเคนเท่ากับความยาวข้อความของคุณเท่านั้น</p>
<hr>
<h2>สรุป</h2>
<p>การใช้โทเคนสูงจากข้อความสั้น ๆ ไม่ได้หมายความว่าจะเป็นปัญหาของโมเดลหรือ API เสมอไป</p>
<p>ในสภาพแวดล้อมแบบ AI agent บริบทรวมประกอบด้วยองค์ประกอบที่ซ่อนอยู่หลายอย่างซึ่งจำเป็นต่อการทำงานอย่างชาญฉลาด ข้อความง่าย ๆ อย่าง "Hi" ก็ยังอาจทำให้มีการประมวลผลหลายพันโทเคนได้ หากเซสชันนั้นมีทักษะ เครื่องมือ ข้อมูลโปรเจกต์ หรือประวัติการสนทนาก่อนหน้าอยู่</p>
<p>เราขอแนะนำให้เริ่มเซสชันใหม่ที่สะอาดและไม่มีบริบทเพิ่มเติม เมื่อต้องการทดสอบการใช้โทเคนแบบดิบ</p>
<p>ขอบคุณสำหรับความเข้าใจและการสนับสนุนอย่างต่อเนื่อง</p>