NodeBB

Pengenalan Baru-baru ini, sesetengah pengguna menyedari satu keadaan yang luar biasa: “Saya hanya menghantar ‘Hi’, kenapa ia menggunakan 10,000+ token?” Pada pandangan pertama, ini mungkin kelihatan tidak dijangka. Mesej dua aksara sepatutnya hanya memerlukan beberapa token, bukan? Jawapannya ialah: model bukan sahaja memproses mesej yang anda nampak. Pembantu AI moden, terutamanya ejen pengekodan seperti Codex, Claude Code, dan alat AI berasaskan IDE yang lain, menghantar jauh lebih banyak maklumat bersama mesej anda untuk membantu model memahami tugasan dan memberikan respons yang lebih baik. Mesej Anda Hanyalah Sebahagian Kecil Daripada Konteks Apabila anda menghantar: Hi permintaan sebenar yang dihantar kepada model AI mungkin kelihatan lebih seperti ini: Arahan Sistem + Tetapan Pengguna + Kemahiran yang Dikonfigurasi + Alat yang Tersedia + Maklumat Projek + Konteks Fail + Sejarah Perbualan Sebelumnya + Mesej Anda: "Hi" Jumlah keseluruhan semua komponen ini ialah konteks sebenar yang diproses oleh model. Oleh itu, walaupun mesej yang sangat pendek boleh menggunakan sejumlah besar token. Apakah yang Boleh Meningkatkan Penggunaan Konteks? 1. Kemahiran yang Dikonfigurasi Jika anda telah mengaktifkan kemahiran tersuai atau keupayaan AI, arahannya perlu dimuatkan ke dalam konteks model. Contohnya: Arahan Kemahiran A: 2,000 token Arahan Kemahiran B: 3,000 token Arahan Kemahiran C: 1,500 token Walaupun sebelum anda menaip apa-apa, arahan ini mungkin sudah menggunakan beberapa ribu token. 2. Alat dan Keupayaan Ejen Pembantu AI pengekodan biasanya menyediakan alat seperti: Pembacaan fail Carian kod Pelaksanaan terminal Operasi Git Akses pelayar Integrasi luaran Takrifan dan arahan penggunaan alat-alat ini juga menggunakan ruang konteks. 3. Konteks Projek dan Fail Apabila bekerja di dalam IDE atau repositori kod, klien AI mungkin secara automatik memasukkan: Struktur projek Fail yang dibuka Petikan kod Dependensi Fail konfigurasi Ini membolehkan AI memahami projek anda, tetapi ia juga meningkatkan penggunaan konteks. 4. Sejarah Perbualan Sebelumnya Jika anda meneruskan perbualan sedia ada, mesej-mesej terdahulu biasanya dimasukkan semula supaya model memahami konteksnya. Contohnya: Perbincangan sebelumnya: 12,000 token Mesej baharu: Hi Permintaan baharu itu mungkin masih mengandungi 12,000 token sebelumnya. Cara Menguji Penggunaan Token Minimum Jika anda ingin mengukur penggunaan token bagi mesej ringkas, sila cuba langkah berikut: Cipta perbualan yang benar-benar baharu. Nyahaktifkan kemahiran tersuai. Jangan lampirkan fail. Jangan buka ruang kerja projek. Hantar hanya: Hi Ini akan menunjukkan anggaran penggunaan konteks minimum. Tetingkap Konteks vs Penggunaan Token Penting untuk membezakan antara: Tetingkap Konteks Jumlah maksimum maklumat yang boleh diproses oleh model dalam satu permintaan. Contoh: Tetingkap konteks 1M token bermakna model secara teori boleh mengendalikan sehingga 1 juta token. Penggunaan Token Jumlah sebenar token yang dimasukkan dalam permintaan tertentu. Contoh: Mesej pengguna: Hi Permintaan sebenar: Arahan sistem + alat + sejarah + "Hi" Jumlah: 15,000 token Tetingkap konteks yang besar tidak bermaksud setiap permintaan hanya akan menggunakan panjang mesej anda. Kesimpulan Penggunaan token yang tinggi daripada mesej ringkas tidak semestinya menunjukkan masalah pada model atau API. Dalam persekitaran ejen AI, jumlah konteks merangkumi banyak komponen tersembunyi yang diperlukan untuk operasi pintar. “Hi” yang ringkas masih boleh menyebabkan ribuan token diproses jika sesi tersebut mengandungi kemahiran, alat, maklumat projek, atau sejarah sebelumnya. Kami mengesyorkan agar anda memulakan sesi yang bersih tanpa konteks tambahan apabila menguji penggunaan token mentah. Terima kasih atas pemahaman dan sokongan berterusan anda.

<h2><strong>Pendahuluan</strong></h2> <p></p> <p>Baru-baru ini, beberapa pengguna melihat situasi yang tidak biasa:</p> <blockquote> <p>“Saya hanya mengirim ‘Hi’, mengapa itu menghabiskan 10.000+ token?”</p> <p></p> </blockquote> <p>Sekilas, ini mungkin tampak tidak terduga. Pesan dua karakter seharusnya hanya memerlukan beberapa token, bukan?</p> <p>Jawabannya adalah: <strong>model tidak hanya memproses pesan Anda yang terlihat.</strong></p> <p>Asisten AI modern, terutama agen pemrograman seperti Codex, Claude Code, dan alat AI berbasis IDE lainnya, mengirim jauh lebih banyak informasi bersama pesan Anda untuk membantu model memahami tugas dan memberikan respons yang lebih baik.</p> <p></p> <hr> <p></p> <h2>Pesan Anda Hanya Sebagian Kecil dari Konteks</h2> <p>Saat Anda mengirim:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p></p> <p>permintaan sebenarnya yang dikirim ke model AI mungkin lebih mirip seperti ini:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instruksi Sistem + Pengaturan Pengguna + Skill yang Dikonfigurasi + Alat yang Tersedia + Informasi Proyek + Konteks File + Riwayat Percakapan Sebelumnya + Pesan Anda: "Hi"</code></pre> <p></p> <p>Total ukuran dari semua komponen ini adalah konteks sebenarnya yang diproses oleh model.</p> <p>Karena itu, bahkan pesan yang sangat singkat pun dapat menghabiskan jumlah token yang signifikan.</p> <hr> <p></p> <h2><strong>Apa yang Dapat Meningkatkan Penggunaan Konteks?</strong></h2> <h3>1. Skill yang Dikonfigurasi</h3> <p></p> <p>Jika Anda mengaktifkan skill kustom atau kemampuan AI tertentu, instruksinya perlu dimuat ke dalam konteks model.</p> <p></p> <p>Contohnya:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instruksi Skill A: 2.000 token Instruksi Skill B: 3.000 token Instruksi Skill 1.500 token</code></pre> <p>Bahkan sebelum Anda mengetik apa pun, instruksi-instruksi ini mungkin sudah menempati beberapa ribu token.</p> <hr> <p></p> <h3>2. Alat dan Kemampuan Agen</h3> <p></p> <p>Asisten AI untuk pemrograman biasanya menyediakan alat seperti:</p> <ul> <li><p>Membaca file</p></li> <li><p>Pencarian kode</p></li> <li><p>Eksekusi terminal</p></li> <li><p>Operasi Git</p></li> <li><p>Akses browser</p></li> <li><p>Integrasi eksternal</p></li> </ul> <p>Definisi dan instruksi penggunaan alat-alat ini juga menghabiskan ruang konteks.</p> <hr> <p></p> <h3>3. Konteks Proyek dan File</h3> <p></p> <p>Saat bekerja di dalam IDE atau repositori kode, klien AI dapat secara otomatis menyertakan:</p> <ul> <li><p>Struktur proyek</p></li> <li><p>File yang terbuka</p></li> <li><p>Cuplikan kode</p></li> <li><p>Dependensi</p></li> <li><p>File konfigurasi</p></li> </ul> <p>Ini memungkinkan AI memahami proyek Anda, tetapi juga meningkatkan penggunaan konteks.</p> <hr> <p></p> <h3>4. Riwayat Percakapan Sebelumnya</h3> <p></p> <p>Jika Anda melanjutkan percakapan yang sudah ada, pesan-pesan sebelumnya biasanya disertakan kembali agar model memahami konteksnya.</p> <p>Contohnya:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Diskusi sebelumnya: 12.000 token Pesan baru: Hi</code></pre> <p>Permintaan baru mungkin tetap memuat 12.000 token sebelumnya.</p> <hr> <h2>Cara Menguji Penggunaan Token Minimum</h2> <p>Jika Anda ingin mengukur penggunaan token dari pesan sederhana, silakan coba langkah-langkah berikut:</p> <ol> <li><p>Buat percakapan yang benar-benar baru.</p></li> <li><p>Nonaktifkan skill kustom.</p></li> <li><p>Jangan lampirkan file.</p></li> <li><p>Jangan buka workspace proyek.</p></li> <li><p>Kirim hanya:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>Ini akan menunjukkan perkiraan penggunaan konteks minimum.</p> <hr> <h2>Context Window vs Penggunaan Token</h2> <p>Penting untuk membedakan antara:</p> <h3>Context Window</h3> <p>Jumlah maksimum informasi yang dapat diproses model dalam satu permintaan.</p> <p>Contoh:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Context window 1 juta token</code></pre> <p>artinya model secara teoretis dapat menangani hingga 1 juta token.</p> <h3>Penggunaan Token</h3> <p>Jumlah token sebenarnya yang disertakan dalam permintaan tertentu.</p> <p>Contoh:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Pesan pengguna: Hi Permintaan sebenarnya: Instruksi sistem + alat + riwayat + "Hi" Total: 15.000 token</code></pre> <p>Context window yang besar tidak berarti setiap permintaan hanya akan menghabiskan token sepanjang pesan Anda.</p> <p></p> <hr> <p></p> <h2><strong>Kesimpulan</strong></h2> <p></p> <p>Penggunaan token yang tinggi dari pesan singkat tidak selalu menunjukkan adanya masalah pada model atau API.</p> <p></p> <p>Dalam lingkungan agen AI, total konteks mencakup banyak komponen tersembunyi yang diperlukan agar sistem dapat bekerja dengan cerdas. Pesan sederhana seperti “Hi” tetap dapat menghasilkan ribuan token yang diproses jika sesi tersebut memuat skill, alat, informasi proyek, atau riwayat sebelumnya.</p> <p></p> <p>Kami merekomendasikan untuk memulai sesi yang bersih tanpa konteks tambahan saat menguji penggunaan token mentah.</p> <p></p> <p>Terima kasih atas pengertian dan dukungan Anda yang berkelanjutan.</p>