Uvod Nedavno so nekateri uporabniki opazili nenavadno situacijo: »Poslal sem samo ‘Hi’, zakaj je porabilo več kot 10.000 žetonov?« Na prvi pogled se to morda zdi nepričakovano. Sporočilo z dvema znakoma bi moralo zahtevati le nekaj žetonov, kajne? Odgovor je: model ne obdeluje samo vašega vidnega sporočila. Sodobni pomočniki z umetno inteligenco, zlasti agenti za programiranje, kot so Codex, Claude Code in druga orodja UI, ki temeljijo na IDE-jih, skupaj z vašim sporočilom pošljejo veliko več informacij, da modelu pomagajo razumeti nalogo in podati boljše odgovore. Vaše sporočilo je le majhen del konteksta Ko pošljete: Hi je dejanska zahteva, poslana modelu UI, lahko videti bolj takole: Sistemska navodila + Uporabniške nastavitve + Nastavljene veščine + Razpoložljiva orodja + Informacije o projektu + Kontekst datotek + Prejšnja zgodovina pogovora + Vaše sporočilo: "Hi" Skupna velikost vseh teh komponent je dejanski kontekst, ki ga model obdela. Zato lahko tudi zelo kratko sporočilo porabi precejšnje število žetonov. Kaj lahko poveča porabo konteksta? 1. Nastavljene veščine Če ste omogočili prilagojene veščine ali zmogljivosti UI, je treba njihova navodila naložiti v kontekst modela. Na primer: Navodila za veščino A: 2.000 žetonov Navodila za veščino B: 3.000 žetonov Navodila za veščino C: 1.500 žetonov Še preden karkoli vtipkate, lahko ta navodila že zasedejo več tisoč žetonov. 2. Orodja in zmožnosti agentov Pomočniki UI za programiranje običajno ponujajo orodja, kot so: Branje datotek Iskanje kode Izvajanje ukazov v terminalu Operacije Git Dostop do brskalnika Zunanje integracije Definicije in navodila za uporabo teh orodij prav tako porabljajo prostor v kontekstu. 3. Projektni kontekst in kontekst datotek Pri delu znotraj IDE-ja ali repozitorija kode lahko odjemalec UI samodejno vključi: Strukturo projekta Odprte datoteke Izseke kode Odvisnosti Konfiguracijske datoteke To UI omogoča razumevanje vašega projekta, vendar tudi poveča porabo konteksta. 4. Prejšnja zgodovina pogovora Če nadaljujete obstoječ pogovor, so prejšnja sporočila običajno znova vključena, da model razume kontekst. Na primer: Prejšnja razprava: 12.000 žetonov Novo sporočilo: Hi Nova zahteva lahko še vedno vsebuje prejšnjih 12.000 žetonov. Kako preizkusiti najmanjšo porabo žetonov Če želite izmeriti porabo žetonov pri preprostem sporočilu, poskusite naslednje: Ustvarite popolnoma nov pogovor. Onemogočite prilagojene veščine. Ne pripenjajte datotek. Ne odpirajte projektnega delovnega prostora. Pošljite samo: Hi To bo pokazalo približno najmanjšo porabo konteksta. Kontekstno okno v primerjavi s porabo žetonov Pomembno je razlikovati med: Kontekstno okno Največja količina informacij, ki jih model lahko obdela v eni zahtevi. Primer: Kontekstno okno 1M žetonov pomeni, da lahko model teoretično obdela do 1 milijona žetonov. Poraba žetonov Dejanska količina žetonov, vključenih v določeno zahtevo. Primer: Uporabniško sporočilo: Hi Dejanska zahteva: Sistemska navodila + orodja + zgodovina + "Hi" Skupaj: 15.000 žetonov Veliko kontekstno okno ne pomeni, da bo vsaka zahteva porabila samo dolžino vašega sporočila. Zaključek Visoka poraba žetonov zaradi kratkega sporočila ne pomeni nujno težave z modelom ali API-jem. V okoljih z agenti UI skupni kontekst vključuje številne skrite komponente, potrebne za inteligentno delovanje. Preprost »Hi« lahko še vedno povzroči obdelavo na tisoče žetonov, če seja vsebuje veščine, orodja, informacije o projektu ali prejšnjo zgodovino. Pri preizkušanju surove porabe žetonov priporočamo, da začnete čisto sejo brez dodatnega konteksta. Hvala za vaše razumevanje in nadaljnjo podporo.

<h2><strong>Introduktion</strong></h2> <p></p> <p>For nylig bemærkede nogle brugere en usædvanlig situation:</p> <blockquote> <p>"Jeg sendte kun ‘Hej’, hvorfor brugte det 10.000+ tokens?"</p> </blockquote> <p>Ved første øjekast kan dette virke uventet. En besked på tre tegn burde kun kræve få tokens, ikke?</p> <p>Svaret er: <strong>modellen behandler ikke kun din synlige besked.</strong></p> <p>Moderne AI-assistenter, især kodningsagenter som Codex, Claude Code og andre IDE-baserede AI-værktøjer, sender meget mere information sammen med din besked for at hjælpe modellen med at forstå opgaven og give bedre svar.</p> <hr> <p></p> <h2>Din besked er kun en lille del af konteksten</h2> <p>Når du sender:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hej</code></pre> <p>kan den faktiske anmodning, der sendes til AI-modellen, se mere sådan ud:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Systeminstruktioner + Brugerindstillinger + Konfigurerede færdigheder + Tilgængelige værktøjer + Projektinformation + Filkontekst + Tidligere samtalehistorik + Din besked: "Hej"</code></pre> <p>Den samlede størrelse af alle disse komponenter er den faktiske kontekst, som modellen behandler.</p> <p>Derfor kan selv en meget kort besked bruge et betydeligt antal tokens.</p> <hr> <h2>Hvad kan øge kontekstforbruget?</h2> <h3>1. Konfigurerede færdigheder</h3> <p>Hvis du har aktiveret brugerdefinerede færdigheder eller AI-funktioner, skal deres instruktioner indlæses i modellens kontekst.</p> <p>For eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instruktioner for færdighed A: 2.000 tokens Instruktioner for færdighed B: 3.000 tokens Instruktioner for færdighed 1.500 tokens</code></pre> <p>Selv før du skriver noget, kan disse instruktioner allerede optage flere tusinde tokens.</p> <hr> <h3>2. Værktøjer og agentfunktioner</h3> <p>AI-kodningsassistenter tilbyder normalt værktøjer som:</p> <ul> <li><p>Fillæsning</p></li> <li><p>Kodesøgning</p></li> <li><p>Terminalkørsel</p></li> <li><p>Git-operationer</p></li> <li><p>Browseradgang</p></li> <li><p>Eksterne integrationer</p></li> </ul> <p>Definitionerne og brugsinstruktionerne for disse værktøjer bruger også kontekstplads.</p> <hr> <h3>3. Projekt- og filkontekst</h3> <p>Når du arbejder i en IDE eller et kode-repository, kan AI-klienten automatisk inkludere:</p> <ul> <li><p>Projektstruktur</p></li> <li><p>Åbne filer</p></li> <li><p>Kodestykker</p></li> <li><p>Afhængigheder</p></li> <li><p>Konfigurationsfiler</p></li> </ul> <p>Dette gør det muligt for AI'en at forstå dit projekt, men det øger også kontekstforbruget.</p> <hr> <h3>4. Tidligere samtalehistorik</h3> <p>Hvis du fortsætter en eksisterende samtale, bliver de tidligere beskeder normalt inkluderet igen, så modellen forstår konteksten.</p> <p>For eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Tidligere diskussion: 12.000 tokens Ny besked: Hej</code></pre> <p>Den nye anmodning kan stadig indeholde de foregående 12.000 tokens.</p> <hr> <h2>Sådan tester du minimalt tokenforbrug</h2> <p>Hvis du vil måle tokenforbruget for en simpel besked, kan du prøve følgende:</p> <ol> <li><p>Opret en helt ny samtale.</p></li> <li><p>Deaktivér brugerdefinerede færdigheder.</p></li> <li><p>Vedhæft ingen filer.</p></li> <li><p>Åbn ikke et projektarbejdsområde.</p></li> <li><p>Send kun:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hej</code></pre> <p>Dette vil vise det omtrentlige minimale kontekstforbrug.</p> <hr> <h2>Kontekstvindue vs. tokenforbrug</h2> <p>Det er vigtigt at skelne mellem:</p> <h3>Kontekstvindue</h3> <p>Den maksimale mængde information, en model kan behandle i én anmodning.</p> <p>Eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token kontekstvindue</code></pre> <p>betyder, at modellen teoretisk kan håndtere op til 1 million tokens.</p> <h3>Tokenforbrug</h3> <p>Det faktiske antal tokens, der indgår i en specifik anmodning.</p> <p>Eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Brugerbesked: Hej Faktisk anmodning: Systeminstruktioner + værktøjer + historik + "Hej" I alt: 15.000 tokens</code></pre> <p>Et stort kontekstvindue betyder ikke, at hver anmodning kun vil bruge længden af din besked.</p> <hr> <h2>Konklusion</h2> <p>Højt tokenforbrug fra en kort besked betyder ikke nødvendigvis, at der er et problem med modellen eller API'et.</p> <p>I AI-agentmiljøer indeholder den samlede kontekst mange skjulte komponenter, som er nødvendige for intelligent drift. Et simpelt "Hej" kan stadig resultere i, at tusindvis af tokens behandles, hvis sessionen indeholder færdigheder, værktøjer, projektinformation eller tidligere historik.</p> <p>Vi anbefaler at starte en ren session uden yderligere kontekst, når du tester råt tokenforbrug.</p> <p>Tak for din forståelse og fortsatte støtte.</p>

소개 최근 일부 사용자들은 다음과 같은 다소 이례적인 상황을 발견했습니다: ‘Hi’만 보냈는데 왜 10,000개 이상의 토큰이 소모됐나요? 언뜻 보면 예상 밖의 일처럼 보일 수 있습니다. 두 글자짜리 메시지라면 몇 개의 토큰만 필요할 것 같지 않나요? 답은 다음과 같습니다: 모델은 사용자가 눈에 보이는 메시지만 처리하는 것이 아닙니다. 현대의 AI 어시스턴트, 특히 Codex, Claude Code, 그리고 기타 IDE 기반 AI 도구 같은 코딩 에이전트는 모델이 작업을 이해하고 더 나은 응답을 제공할 수 있도록 사용자의 메시지와 함께 훨씬 더 많은 정보를 전송합니다. 사용자의 메시지는 전체 컨텍스트의 작은 일부일 뿐입니다 사용자가 다음과 같이 보내면: Hi 실제로 AI 모델에 전송되는 요청은 오히려 다음과 더 비슷할 수 있습니다: 시스템 지침 + 사용자 설정 + 구성된 스킬 + 사용 가능한 도구 + 프로젝트 정보 + 파일 컨텍스트 + 이전 대화 기록 + 사용자 메시지: "Hi" 이 모든 구성 요소의 총합이 모델이 실제로 처리하는 컨텍스트입니다. 따라서 아주 짧은 메시지라도 상당한 수의 토큰을 소모할 수 있습니다. 무엇이 컨텍스트 사용량을 증가시킬 수 있을까요? 1. 구성된 스킬 사용자가 커스텀 스킬이나 AI 기능을 활성화해 두었다면, 해당 지침들이 모델 컨텍스트에 로드되어야 합니다. 예를 들면: 스킬 A 지침: 2,000 토큰 스킬 B 지침: 3,000 토큰 스킬 C 지침: 1,500 토큰 무언가를 입력하기도 전에 이러한 지침만으로 이미 수천 개의 토큰을 차지할 수 있습니다. 2. 도구와 에이전트 기능 AI 코딩 어시스턴트는 보통 다음과 같은 도구를 제공합니다: 파일 읽기 코드 검색 터미널 실행 Git 작업 브라우저 접근 외부 연동 이러한 도구의 정의와 사용 지침 역시 컨텍스트 공간을 소비합니다. 3. 프로젝트 및 파일 컨텍스트 IDE나 코드 저장소 내부에서 작업할 때 AI 클라이언트는 다음 정보를 자동으로 포함할 수 있습니다: 프로젝트 구조 열려 있는 파일 코드 조각 의존성 설정 파일 이 덕분에 AI가 프로젝트를 더 잘 이해할 수 있지만, 그만큼 컨텍스트 사용량도 증가합니다. 4. 이전 대화 기록 기존 대화를 이어서 진행하는 경우, 모델이 문맥을 이해할 수 있도록 이전 메시지들이 보통 다시 함께 포함됩니다. 예를 들면: 이전 논의: 12,000 토큰 새 메시지: Hi 이 경우 새 요청에도 이전의 12,000 토큰이 그대로 포함될 수 있습니다. 최소 토큰 사용량을 테스트하는 방법 단순한 메시지의 토큰 사용량을 측정하고 싶다면 다음을 시도해 보세요: 완전히 새로운 대화를 시작합니다. 커스텀 스킬을 비활성화합니다. 파일을 첨부하지 않습니다. 프로젝트 워크스페이스를 열지 않습니다. 다음만 전송합니다: Hi 이렇게 하면 대략적인 최소 컨텍스트 사용량을 확인할 수 있습니다. 컨텍스트 윈도우와 토큰 사용량의 차이 다음 두 개념을 구분하는 것이 중요합니다: 컨텍스트 윈도우 모델이 한 번의 요청에서 처리할 수 있는 정보의 최대량입니다. 예시: 1M 토큰 컨텍스트 윈도우 이는 모델이 이론적으로 최대 100만 토큰까지 처리할 수 있음을 의미합니다. 토큰 사용량 특정 요청에 실제로 포함된 토큰의 양입니다. 예시: 사용자 메시지: Hi 실제 요청: 시스템 지침 + 도구 + 기록 + "Hi" 총합: 15,000 토큰 컨텍스트 윈도우가 크다고 해서 모든 요청이 사용자가 입력한 메시지 길이만큼만 소모된다는 뜻은 아닙니다. 결론 짧은 메시지에서 높은 토큰 사용량이 발생했다고 해서 반드시 모델이나 API에 문제가 있다는 뜻은 아닙니다. AI 에이전트 환경에서는 전체 컨텍스트에 지능적인 동작을 위해 필요한 많은 숨겨진 구성 요소가 포함됩니다. 세션에 스킬, 도구, 프로젝트 정보 또는 이전 기록이 들어 있다면, 단순한 ‘Hi’조차도 수천 개의 토큰이 처리되는 결과로 이어질 수 있습니다. 순수한 토큰 사용량을 테스트할 때는 추가 컨텍스트가 없는 깨끗한 세션에서 시작하는 것을 권장합니다. 이해와 지속적인 지원에 감사드립니다.

<h2><strong>Inleiding</strong></h2> <p></p> <p>Onlangs merkten sommige gebruikers een ongebruikelijke situatie op:</p> <blockquote> <p>‘Ik stuurde alleen “Hi”, waarom verbruikte dat meer dan 10.000 tokens?’</p> </blockquote> <p>Op het eerste gezicht lijkt dat misschien onverwacht. Een bericht van twee tekens zou toch maar een paar tokens moeten vereisen?</p> <p>Het antwoord is: <strong>het model verwerkt niet alleen je zichtbare bericht.</strong></p> <p>Moderne AI-assistenten, vooral codeeragents zoals Codex, Claude Code en andere IDE-gebaseerde AI-tools, sturen samen met je bericht veel meer informatie mee om het model te helpen de taak te begrijpen en betere antwoorden te geven.</p> <hr> <p></p> <h2>Je bericht is maar een klein deel van de context</h2> <p>Wanneer je stuurt:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>kan het daadwerkelijke verzoek dat naar het AI-model wordt gestuurd er eerder zo uitzien:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Systeeminstructies + Gebruikersinstellingen + Geconfigureerde vaardigheden + Beschikbare tools + Projectinformatie + Bestandscontext + Eerdere gespreksgeschiedenis + Jouw bericht: "Hi"</code></pre> <p>De totale omvang van al deze onderdelen is de werkelijke context die door het model wordt verwerkt.</p> <p>Daarom kan zelfs een heel kort bericht een aanzienlijk aantal tokens verbruiken.</p> <hr> <h2>Wat kan het contextverbruik verhogen?</h2> <h3>1. Geconfigureerde vaardigheden</h3> <p>Als je aangepaste vaardigheden of AI-mogelijkheden hebt ingeschakeld, moeten de instructies daarvan in de modelcontext worden geladen.</p> <p>Bijvoorbeeld:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instructies voor vaardigheid A: 2.000 tokens Instructies voor vaardigheid B: 3.000 tokens Instructies voor vaardigheid 1.500 tokens</code></pre> <p>Zelfs voordat je iets typt, kunnen deze instructies al enkele duizenden tokens innemen.</p> <hr> <h3>2. Tools en agentmogelijkheden</h3> <p>AI-codeerassistenten bieden meestal tools zoals:</p> <ul> <li><p>Bestanden lezen</p></li> <li><p>Code doorzoeken</p></li> <li><p>Terminaluitvoering</p></li> <li><p>Git-bewerkingen</p></li> <li><p>Browsertoegang</p></li> <li><p>Externe integraties</p></li> </ul> <p>De definities en gebruiksinstructies van deze tools verbruiken ook contextruimte.</p> <hr> <h3>3. Project- en bestandscontext</h3> <p>Wanneer je binnen een IDE of coderepository werkt, kan de AI-client automatisch het volgende opnemen:</p> <ul> <li><p>Projectstructuur</p></li> <li><p>Geopende bestanden</p></li> <li><p>Codefragmenten</p></li> <li><p>Afhankelijkheden</p></li> <li><p>Configuratiebestanden</p></li> </ul> <p>Hierdoor kan de AI je project begrijpen, maar het verhoogt ook het contextverbruik.</p> <hr> <h3>4. Eerdere gespreksgeschiedenis</h3> <p>Als je een bestaand gesprek voortzet, worden eerdere berichten meestal opnieuw meegestuurd zodat het model de context begrijpt.</p> <p>Bijvoorbeeld:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Eerdere discussie: 12.000 tokens Nieuw bericht: Hi</code></pre> <p>Het nieuwe verzoek kan dus nog steeds die eerdere 12.000 tokens bevatten.</p> <hr> <h2>Hoe je minimaal tokenverbruik kunt testen</h2> <p>Als je het tokenverbruik van een eenvoudig bericht wilt meten, probeer dan het volgende:</p> <ol> <li><p>Start een volledig nieuw gesprek.</p></li> <li><p>Schakel aangepaste vaardigheden uit.</p></li> <li><p>Voeg geen bestanden toe.</p></li> <li><p>Open geen projectwerkruimte.</p></li> <li><p>Stuur alleen:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>Dit laat het benaderende minimale contextverbruik zien.</p> <hr> <h2>Contextvenster vs tokenverbruik</h2> <p>Het is belangrijk om onderscheid te maken tussen:</p> <h3>Contextvenster</h3> <p>De maximale hoeveelheid informatie die een model in één verzoek kan verwerken.</p> <p>Voorbeeld:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Contextvenster van 1M tokens</code></pre> <p>betekent dat het model theoretisch tot 1 miljoen tokens aankan.</p> <h3>Tokenverbruik</h3> <p>De werkelijke hoeveelheid tokens die in een specifiek verzoek is opgenomen.</p> <p>Voorbeeld:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Gebruikersbericht: Hi Daadwerkelijk verzoek: Systeeminstructies + tools + geschiedenis + "Hi" Totaal: 15.000 tokens</code></pre> <p>Een groot contextvenster betekent niet dat elk verzoek alleen de lengte van je bericht verbruikt.</p> <hr> <h2>Conclusie</h2> <p>Hoog tokenverbruik door een kort bericht duidt niet noodzakelijk op een probleem met het model of de API.</p> <p>In AI-agentomgevingen omvat de totale context veel verborgen onderdelen die nodig zijn voor intelligente werking. Een eenvoudig ‘Hi’ kan nog steeds resulteren in het verwerken van duizenden tokens als de sessie vaardigheden, tools, projectinformatie of eerdere geschiedenis bevat.</p> <p>We raden aan een schone sessie zonder extra context te starten wanneer je het ruwe tokenverbruik wilt testen.</p> <p>Dank je voor je begrip en voortdurende steun.</p>

<h2><strong>Introducción</strong></h2> <p></p> <p>Recientemente, algunos usuarios notaron una situación inusual:</p> <blockquote> <p>“Solo envié ‘Hi’, ¿por qué consumió más de 10.000 tokens?”</p> </blockquote> <p>A primera vista, esto puede parecer inesperado. Un mensaje de dos caracteres debería requerir solo unos pocos tokens, ¿verdad?</p> <p>La respuesta es: <strong>el modelo no procesa únicamente tu mensaje visible.</strong></p> <p>Los asistentes de IA modernos, especialmente los agentes de programación como Codex, Claude Code y otras herramientas de IA integradas en IDE, envían mucha más información junto con tu mensaje para ayudar al modelo a comprender la tarea y ofrecer mejores respuestas.</p> <hr> <p></p> <h2>Tu mensaje es solo una pequeña parte del contexto</h2> <p>Cuando envías:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>la solicitud real enviada al modelo de IA puede verse más o menos así:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instrucciones del sistema + Configuración del usuario + Habilidades configuradas + Herramientas disponibles + Información del proyecto + Contexto de archivos + Historial previo de la conversación + Tu mensaje: "Hi"</code></pre> <p>El tamaño total de todos estos componentes es el contexto real que procesa el modelo.</p> <p>Por lo tanto, incluso un mensaje muy corto puede consumir una cantidad significativa de tokens.</p> <hr> <h2>¿Qué puede aumentar el uso de contexto?</h2> <h3>1. Habilidades configuradas</h3> <p>Si has habilitado habilidades personalizadas o capacidades de IA, sus instrucciones deben cargarse en el contexto del modelo.</p> <p>Por ejemplo:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instrucciones de la habilidad A: 2.000 tokens Instrucciones de la habilidad B: 3.000 tokens Instrucciones de la habilidad 1.500 tokens</code></pre> <p>Incluso antes de que escribas algo, estas instrucciones pueden ocupar ya varios miles de tokens.</p> <hr> <h3>2. Herramientas y capacidades del agente</h3> <p>Los asistentes de IA para programación suelen proporcionar herramientas como:</p> <ul> <li><p>Lectura de archivos</p></li> <li><p>Búsqueda de código</p></li> <li><p>Ejecución en terminal</p></li> <li><p>Operaciones con Git</p></li> <li><p>Acceso al navegador</p></li> <li><p>Integraciones externas</p></li> </ul> <p>Las definiciones y las instrucciones de uso de estas herramientas también consumen espacio de contexto.</p> <hr> <h3>3. Contexto del proyecto y de los archivos</h3> <p>Al trabajar dentro de un IDE o repositorio de código, el cliente de IA puede incluir automáticamente:</p> <ul> <li><p>Estructura del proyecto</p></li> <li><p>Archivos abiertos</p></li> <li><p>Fragmentos de código</p></li> <li><p>Dependencias</p></li> <li><p>Archivos de configuración</p></li> </ul> <p>Esto permite que la IA comprenda tu proyecto, pero también aumenta el uso de contexto.</p> <hr> <h3>4. Historial previo de la conversación</h3> <p>Si continúas una conversación existente, normalmente se vuelven a incluir los mensajes anteriores para que el modelo entienda el contexto.</p> <p>Por ejemplo:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Discusión previa: 12.000 tokens Nuevo mensaje: Hi</code></pre> <p>La nueva solicitud puede seguir conteniendo esos 12.000 tokens anteriores.</p> <hr> <h2>Cómo probar el uso mínimo de tokens</h2> <p>Si quieres medir el uso de tokens de un mensaje simple, prueba lo siguiente:</p> <ol> <li><p>Crea una conversación completamente nueva.</p></li> <li><p>Desactiva las habilidades personalizadas.</p></li> <li><p>No adjuntes archivos.</p></li> <li><p>No abras un espacio de trabajo del proyecto.</p></li> <li><p>Envía solo:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>Esto mostrará el uso mínimo aproximado de contexto.</p> <hr> <h2>Ventana de contexto vs. uso de tokens</h2> <p>Es importante distinguir entre:</p> <h3>Ventana de contexto</h3> <p>La cantidad máxima de información que un modelo puede procesar en una sola solicitud.</p> <p>Ejemplo:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Ventana de contexto de 1M tokens</code></pre> <p>significa que el modelo puede manejar teóricamente hasta 1 millón de tokens.</p> <h3>Uso de tokens</h3> <p>La cantidad real de tokens incluidos en una solicitud específica.</p> <p>Ejemplo:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Mensaje del usuario: Hi Solicitud real: Instrucciones del sistema + herramientas + historial + "Hi" Total: 15.000 tokens</code></pre> <p>Una gran ventana de contexto no significa que cada solicitud vaya a consumir solo la longitud de tu mensaje.</p> <hr> <h2>Conclusión</h2> <p>Un alto uso de tokens a partir de un mensaje corto no indica necesariamente un problema con el modelo o la API.</p> <p>En entornos de agentes de IA, el contexto total incluye muchos componentes ocultos necesarios para un funcionamiento inteligente. Un simple “Hi” aún puede hacer que se procesen miles de tokens si la sesión contiene habilidades, herramientas, información del proyecto o historial previo.</p> <p>Recomendamos iniciar una sesión limpia sin contexto adicional al probar el uso real de tokens.</p> <p>Gracias por tu comprensión y apoyo continuo.</p>

<h2><strong>Introduction</strong></h2><p></p><p>Recently, some users noticed an unusual situation:</p><blockquote><p>“I only sent ‘Hi’, why did it consume 10,000+ tokens?”</p></blockquote><p>At first glance, this may seem unexpected. A two-character message should only require a few tokens, right?</p><p>The answer is: <strong>the model does not only process your visible message.</strong></p><p>Modern AI assistants, especially coding agents such as Codex, Claude Code, and other IDE-based AI tools, send much more information together with your message to help the model understand the task and provide better responses.</p><hr><p></p><h2>Your Message Is Only a Small Part of the Context</h2><p>When you send:</p><pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre><p>the actual request sent to the AI model may look more like this:</p><pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>System Instructions + User Settings + Configured Skills + Available Tools + Project Information + File Context + Previous Conversation History + Your Message: "Hi"</code></pre><p>The total size of all these components is the actual context processed by the model.</p><p>Therefore, even a very short message can consume a significant number of tokens.</p><hr><h2>What Can Increase Context Usage?</h2><h3>1. Configured Skills</h3><p>If you have enabled custom skills or AI capabilities, their instructions need to be loaded into the model context.</p><p>For example:</p><pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Skill A instructions: 2,000 tokens Skill B instructions: 3,000 tokens Skill C instructions: 1,500 tokens</code></pre><p>Even before you type anything, these instructions may already occupy several thousand tokens.</p><hr><h3>2. Tools and Agent Capabilities</h3><p>AI coding assistants usually provide tools such as:</p><ul><li><p>File reading</p></li><li><p>Code search</p></li><li><p>Terminal execution</p></li><li><p>Git operations</p></li><li><p>Browser access</p></li><li><p>External integrations</p></li></ul><p>The definitions and usage instructions of these tools also consume context space.</p><hr><h3>3. Project and File Context</h3><p>When working inside an IDE or code repository, the AI client may automatically include:</p><ul><li><p>Project structure</p></li><li><p>Open files</p></li><li><p>Code snippets</p></li><li><p>Dependencies</p></li><li><p>Configuration files</p></li></ul><p>This allows the AI to understand your project, but it also increases context usage.</p><hr><h3>4. Previous Conversation History</h3><p>If you continue an existing conversation, the previous messages are usually included again so the model understands the context.</p><p>For example:</p><pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Previous discussion: 12,000 tokens New message: Hi</code></pre><p>The new request may still contain the previous 12,000 tokens.</p><hr><h2>How to Test Minimum Token Usage</h2><p>If you want to measure the token usage of a simple message, please try the following:</p><ol><li><p>Create a completely new conversation.</p></li><li><p>Disable custom skills.</p></li><li><p>Do not attach files.</p></li><li><p>Do not open a project workspace.</p></li><li><p>Send only:</p></li></ol><pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre><p>This will show the approximate minimum context usage.</p><hr><h2>Context Window vs Token Usage</h2><p>It is important to distinguish between:</p><h3>Context Window</h3><p>The maximum amount of information a model can process in one request.</p><p>Example:</p><pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token context window</code></pre><p>means the model can theoretically handle up to 1 million tokens.</p><h3>Token Usage</h3><p>The actual amount of tokens included in a specific request.</p><p>Example:</p><pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>User message: Hi Actual request: System instructions + tools + history + "Hi" Total: 15,000 tokens</code></pre><p>A large context window does not mean every request will only consume the length of your message.</p><hr><h2>Conclusion</h2><p>High token usage from a short message does not necessarily indicate a problem with the model or API.</p><p>In AI agent environments, the total context includes many hidden components required for intelligent operation. A simple “Hi” can still result in thousands of tokens being processed if the session contains skills, tools, project information, or previous history.</p><p>We recommend starting a clean session without additional context when testing raw token usage.</p><p>Thank you for your understanding and continued support.</p>

引言 最近，一些用户注意到了一个不寻常的情况： “我只是发送了‘Hi’，为什么却消耗了 10,000+ 个 token？” 乍一看，这似乎有些出人意料。两个字符的消息，按理说应该只需要很少的 token，对吧？ 答案是：模型处理的不仅仅是你看到的那条消息。 现代 AI 助手，尤其是像 Codex、Claude Code 以及其他基于 IDE 的 AI 编码代理，通常会在你的消息之外，一并发送更多信息，以帮助模型理解任务并提供更好的回答。 你的消息只是上下文中的一小部分 当你发送： Hi 实际发送给 AI 模型的请求，更可能像这样： System Instructions + User Settings + Configured Skills + Available Tools + Project Information + File Context + Previous Conversation History + Your Message: "Hi" 所有这些组成部分的总大小，才是模型实际处理的上下文。 因此，即使是一条非常短的消息，也可能消耗大量 token。 什么会增加上下文使用量？ 1. 已配置的技能 如果你启用了自定义技能或 AI 能力，那么这些技能的指令也需要被加载进模型上下文。 例如： Skill A instructions: 2,000 tokens Skill B instructions: 3,000 tokens Skill C instructions: 1,500 tokens 甚至在你还没有输入任何内容之前，这些指令可能就已经占用了数千个 token。 2. 工具与代理能力 AI 编码助手通常会提供如下工具： 文件读取 代码搜索 终端执行 Git 操作 浏览器访问 外部集成 这些工具的定义和使用说明，同样会占用上下文空间。 3. 项目与文件上下文 当你在 IDE 或代码仓库中工作时，AI 客户端可能会自动附带： 项目结构 已打开的文件 代码片段 依赖项 配置文件 这能帮助 AI 理解你的项目，但也会增加上下文使用量。 4. 之前的对话历史 如果你是在继续一个已有对话，先前的消息通常会再次被一并发送，以便模型理解上下文。 例如： Previous discussion: 12,000 tokens New message: Hi 那么新的请求中，仍然可能包含前面的 12,000 个 token。 如何测试最小 Token 使用量 如果你想测量一条简单消息的 token 用量，请尝试以下方法： 创建一个全新的对话。 关闭自定义技能。 不附加文件。 不打开项目工作区。 只发送： Hi 这样可以更接近地观察最小上下文使用量。 上下文窗口 vs Token 使用量 有必要区分以下两个概念： Context Window 模型在一次请求中最多能够处理的信息量。 例如： 1M token context window 这表示模型理论上最多可处理 100 万个 token。 Token Usage 某一次具体请求中，实际包含的 token 数量。 例如： User message: Hi Actual request: System instructions + tools + history + "Hi" Total: 15,000 tokens 较大的上下文窗口，并不意味着每次请求只会消耗与你消息长度相当的 token。 结论 短消息带来的高 token 消耗，并不一定意味着模型或 API 出现了问题。 在 AI 代理环境中，总上下文通常包含许多为了实现智能操作而必须附带的隐藏组成部分。只发送一句简单的“Hi”，如果当前会话中还包含技能、工具、项目信息或历史记录，依然可能导致模型处理数千个 token。 如果你想测试最原始的 token 用量，我们建议在没有额外上下文的干净会话中进行测试。 感谢你的理解与持续支持。

<h2><strong>መግቢያ</strong></h2> <p></p> <p>በቅርቡ አንዳንድ ተጠቃሚዎች ያልተለመደ ሁኔታ አስተውለዋል፦</p> <blockquote> <p>‘Hi’ ብቻ ልኬ ነበር፣ ለምን 10,000+ ቶከኖች ወሰደ?</p> </blockquote> <p>መጀመሪያ ሲታይ ይህ ያልተጠበቀ ሊመስል ይችላል። ሁለት ፊደላት ያሉት መልእክት ጥቂት ቶከኖች ብቻ ሊያስፈልገው አይገባም እንዴ?</p> <p>መልሱ ይህ ነው፦ <strong>ሞዴሉ የሚያስኬደው የሚታየውን መልእክትዎን ብቻ አይደለም።</strong></p> <p>ዘመናዊ የAI ረዳቶች፣ በተለይም እንደ Codex፣ Claude Code እና ሌሎች በIDE ላይ የተመሰረቱ የAI መሣሪያዎች ያሉ ኮዲንግ ኤጀንቶች፣ ሞዴሉ ተግባሩን እንዲረዳ እና የተሻለ ምላሽ እንዲሰጥ ከመልእክትዎ ጋር በአንድነት እጅግ ብዙ ተጨማሪ መረጃ ይልካሉ።</p> <hr> <p></p> <h2>መልእክትዎ ከአጠቃላይ ኮንቴክስት ትንሽ ክፍል ብቻ ነው</h2> <p>ሲልኩ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>ወደ AI ሞዴሉ የሚላከው እውነተኛ ጥያቄ ከዚህ የበለጠ እንዲህ ሊመስል ይችላል፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>የስርዓት መመሪያዎች + የተጠቃሚ ቅንብሮች + የተዋቀሩ ክህሎቶች + ያሉ መሣሪያዎች + የፕሮጀክት መረጃ + የፋይል ኮንቴክስት + ያለፈ የውይይት ታሪክ + የእርስዎ መልእክት፦ "Hi"</code></pre> <p>እነዚህ ሁሉ ክፍሎች በአጠቃላይ ያላቸው መጠን ሞዴሉ በእውነት የሚያስኬደው ኮንቴክስት ነው።</p> <p>ስለዚህ፣ እጅግ አጭር መልእክት እንኳ ከፍተኛ የቶከን ብዛት ሊወስድ ይችላል።</p> <hr> <h2>የኮንቴክስት አጠቃቀምን ምን ሊጨምር ይችላል?</h2> <h3>1. የተዋቀሩ ክህሎቶች</h3> <p>ብጁ ክህሎቶችን ወይም የAI ችሎታዎችን ካነቁ መመሪያዎቻቸው ወደ ሞዴሉ ኮንቴክስት መጫን ያስፈልጋል።</p> <p>ለምሳሌ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>የክህሎት A መመሪያዎች፦ 2,000 ቶከኖች የክህሎት B መመሪያዎች፦ 3,000 ቶከኖች የክህሎት C መመሪያዎች፦ 1,500 ቶከኖች</code></pre> <p>ምንም ሳይጻፉ እንኳ እነዚህ መመሪያዎች ቀድሞውኑ ብዙ ሺ ቶከኖችን ይይዛሉ።</p> <hr> <h3>2. መሣሪያዎች እና የኤጀንት ችሎታዎች</h3> <p>የAI ኮዲንግ ረዳቶች ብዙውን ጊዜ እንደሚከተሉት ያሉ መሣሪያዎችን ያቀርባሉ፦</p> <ul> <li><p>ፋይል ማንበብ</p></li> <li><p>ኮድ መፈለግ</p></li> <li><p>ተርሚናል ላይ ትዕዛዝ ማስኬድ</p></li> <li><p>የGit ክዋኔዎች</p></li> <li><p>የአሳሽ መዳረሻ</p></li> <li><p>ውጫዊ ውህደቶች</p></li> </ul> <p>የእነዚህ መሣሪያዎች ትርጉሞች እና የአጠቃቀም መመሪያዎች እንዲሁም የኮንቴክስት ቦታ ይወስዳሉ።</p> <hr> <h3>3. የፕሮጀክት እና የፋይል ኮንቴክስት</h3> <p>በIDE ወይም በኮድ ማከማቻ ውስጥ ሲሰሩ፣ የAI ደንበኛው በራስ-ሰር የሚከተሉትን ሊያካትት ይችላል፦</p> <ul> <li><p>የፕሮጀክት አወቃቀር</p></li> <li><p>ክፍት ፋይሎች</p></li> <li><p>የኮድ ቁርጥራጮች</p></li> <li><p>ጥገኞች</p></li> <li><p>የቅንብር ፋይሎች</p></li> </ul> <p>ይህ AI ፕሮጀክትዎን እንዲረዳ ያግዛል፣ ነገር ግን የኮንቴክስት አጠቃቀምን ይጨምራል።</p> <hr> <h3>4. ያለፈ የውይይት ታሪክ</h3> <p>አስቀድሞ የተጀመረ ውይይት ከቀጠሉ፣ ሞዴሉ አውዱን እንዲረዳ ያለፉት መልእክቶች እንደገና በአብዛኛው ይካተታሉ።</p> <p>ለምሳሌ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>ያለፈ ውይይት፦ 12,000 ቶከኖች አዲስ መልእክት፦ Hi</code></pre> <p>አዲሱ ጥያቄ አሁንም ያለፉትን 12,000 ቶከኖች ሊይዝ ይችላል።</p> <hr> <h2>አነስተኛውን የቶከን አጠቃቀም እንዴት መሞከር ይቻላል?</h2> <p>የቀላል መልእክት የቶከን አጠቃቀም ለመለካት ከፈለጉ፣ እባክዎ የሚከተሉትን ይሞክሩ፦</p> <ol> <li><p>ሙሉ በሙሉ አዲስ ውይይት ይፍጠሩ።</p></li> <li><p>ብጁ ክህሎቶችን ያሰናክሉ።</p></li> <li><p>ፋይሎችን አያያዙ።</p></li> <li><p>የፕሮጀክት የስራ ቦታ አትክፈቱ።</p></li> <li><p>ይህን ብቻ ይላኩ፦</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>ይህ ግምታዊ አነስተኛውን የኮንቴክስት አጠቃቀም ያሳያል።</p> <hr> <h2>የContext Window እና የToken Usage ልዩነት</h2> <p>ከሚከተሉት መካከል ልዩነት ማድረግ አስፈላጊ ነው፦</p> <h3>Context Window</h3> <p>ሞዴል በአንድ ጥያቄ ውስጥ ሊያስኬደው የሚችለው ከፍተኛው የመረጃ መጠን።</p> <p>ምሳሌ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token context window</code></pre> <p>ይህ ማለት ሞዴሉ በንድፈ ሀሳብ እስከ 1 ሚሊዮን ቶከኖች ድረስ ማስኬድ እንደሚችል ነው።</p> <h3>Token Usage</h3> <p>በተወሰነ ጥያቄ ውስጥ በእውነት የተካተቱት የቶከኖች መጠን።</p> <p>ምሳሌ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>የተጠቃሚ መልእክት፦ Hi እውነተኛ ጥያቄ፦ የስርዓት መመሪያዎች + መሣሪያዎች + ታሪክ + "Hi" ጠቅላላ፦ 15,000 ቶከኖች</code></pre> <p>ትልቅ context window መኖሩ ማለት እያንዳንዱ ጥያቄ የሚወስደው የመልእክትዎ ርዝመት ብቻ ነው ማለት አይደለም።</p> <hr> <h2>መደምደሚያ</h2> <p>አጭር መልእክት ከፍተኛ የቶከን አጠቃቀም ማሳየቱ በግድ በሞዴሉ ወይም በAPI ችግኝ እንዳለ አያመለክትም።</p> <p>በAI ኤጀንት አካባቢዎች ውስጥ፣ አጠቃላይ ኮንቴክስት ብልህ አሰራር እንዲኖር የሚያስፈልጉ ብዙ የተደበቁ ክፍሎችን ያካትታል። ቀላል ‘Hi’ ብቻ እንኳ ክህሎቶች፣ መሣሪያዎች፣ የፕሮጀክት መረጃ ወይም ያለፈ ታሪክ ካለ በሺዎች የሚቆጠሩ ቶከኖች እንዲሰሩ ሊያደርግ ይችላል።</p> <p>ንጹህ የቶከን አጠቃቀምን ለመፈተሽ ተጨማሪ ኮንቴክስት የሌለውን ንጹህ ክፍለ-ጊዜ እንዲጀምሩ እንመክራለን።</p> <p>ለመረዳታችሁ እና ለቀጣይ ድጋፋችሁ እናመሰግናለን።</p>

<h2><strong>परिचय</strong></h2> <p></p> <p>अलीकडे, काही वापरकर्त्यांनी एक असामान्य परिस्थिती लक्षात घेतली:</p> <blockquote> <p>“मी फक्त ‘Hi’ पाठवला, मग 10,000+ टोकन्स कसे खर्च झाले?”</p> </blockquote> <p>पहिल्या नजरेत हे अनपेक्षित वाटू शकते. दोन अक्षरांचा संदेश फक्त काही टोकन्सच घेईल, बरोबर?</p> <p>उत्तर असे आहे: <strong>मॉडेल फक्त तुमचा दिसणारा संदेशच प्रक्रिया करत नाही.</strong></p> <p>आधुनिक AI सहाय्यक, विशेषतः Codex, Claude Code आणि इतर IDE-आधारित AI साधनांसारखे कोडिंग एजंट्स, मॉडेलला काम अधिक चांगल्या प्रकारे समजावे आणि अधिक उपयुक्त प्रतिसाद द्यावा यासाठी तुमच्या संदेशासोबत बरीच अधिक माहिती पाठवतात.</p> <hr> <p></p> <h2>तुमचा संदेश हा एकूण संदर्भाचा फक्त लहान भाग असतो</h2> <p>जेव्हा तुम्ही पाठवता:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>तेव्हा AI मॉडेलकडे पाठवली जाणारी प्रत्यक्ष विनंती साधारणपणे अशी दिसू शकते:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>System Instructions + User Settings + Configured Skills + Available Tools + Project Information + File Context + Previous Conversation History + Your Message: "Hi"</code></pre> <p>या सर्व घटकांचा एकत्रित आकार म्हणजे मॉडेलने प्रक्रिया केलेला प्रत्यक्ष संदर्भ.</p> <p>म्हणूनच, अगदी छोटा संदेशही लक्षणीय संख्येने टोकन्स वापरू शकतो.</p> <hr> <h2>संदर्भ वापर कोणत्या गोष्टींमुळे वाढू शकतो?</h2> <h3>1. कॉन्फिगर केलेली कौशल्ये</h3> <p>जर तुम्ही कस्टम स्किल्स किंवा AI क्षमता सक्षम केल्या असतील, तर त्यांच्या सूचना मॉडेलच्या संदर्भात लोड कराव्या लागतात.</p> <p>उदाहरणार्थ:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Skill A instructions: 2,000 tokens Skill B instructions: 3,000 tokens Skill C instructions: 1,500 tokens</code></pre> <p>तुम्ही काहीही टाइप करण्यापूर्वीच, या सूचना आधीपासूनच अनेक हजार टोकन्स व्यापून बसलेल्या असू शकतात.</p> <hr> <h3>2. साधने आणि एजंट क्षमता</h3> <p>AI कोडिंग सहाय्यक सहसा पुढीलप्रमाणे साधने देतात:</p> <ul> <li><p>फाइल वाचन</p></li> <li><p>कोड शोध</p></li> <li><p>टर्मिनल एक्झिक्युशन</p></li> <li><p>Git ऑपरेशन्स</p></li> <li><p>ब्राउझर प्रवेश</p></li> <li><p>बाह्य एकत्रीकरणे</p></li> </ul> <p>या साधनांच्या व्याख्या आणि वापराच्या सूचनाही संदर्भातील जागा वापरतात.</p> <hr> <h3>3. प्रकल्प आणि फाइल संदर्भ</h3> <p>जेव्हा तुम्ही IDE किंवा कोड रिपॉझिटरीमध्ये काम करत असता, तेव्हा AI क्लायंट आपोआप पुढील गोष्टी समाविष्ट करू शकतो:</p> <ul> <li><p>प्रकल्प रचना</p></li> <li><p>उघड्या फाइल्स</p></li> <li><p>कोड स्निपेट्स</p></li> <li><p>डिपेंडन्सीज</p></li> <li><p>कॉन्फिगरेशन फाइल्स</p></li> </ul> <p>यामुळे AI ला तुमचा प्रकल्प समजण्यास मदत होते, पण त्याचबरोबर संदर्भ वापरही वाढतो.</p> <hr> <h3>4. मागील संभाषणाचा इतिहास</h3> <p>जर तुम्ही आधीचेच संभाषण पुढे चालू ठेवत असाल, तर संदर्भ समजण्यासाठी मागील संदेश सहसा पुन्हा समाविष्ट केले जातात.</p> <p>उदाहरणार्थ:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Previous discussion: 12,000 tokens New message: Hi</code></pre> <p>नवीन विनंतीमध्ये तरीही आधीचे 12,000 टोकन्स समाविष्ट असू शकतात.</p> <hr> <h2>किमान टोकन वापर कसा तपासावा</h2> <p>जर तुम्हाला साध्या संदेशाचा टोकन वापर मोजायचा असेल, तर कृपया पुढील गोष्टी करून पाहा:</p> <ol> <li><p>पूर्णपणे नवीन संभाषण तयार करा.</p></li> <li><p>कस्टम स्किल्स निष्क्रिय करा.</p></li> <li><p>फाइल्स जोडू नका.</p></li> <li><p>प्रकल्प वर्कस्पेस उघडू नका.</p></li> <li><p>फक्त हेच पाठवा:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>यामुळे अंदाजे किमान संदर्भ वापर दिसेल.</p> <hr> <h2>कॉन्टेक्स्ट विंडो विरुद्ध टोकन वापर</h2> <p>पुढील दोन गोष्टींमधील फरक समजून घेणे महत्त्वाचे आहे:</p> <h3>कॉन्टेक्स्ट विंडो</h3> <p>एका विनंतीत मॉडेल किती जास्तीत जास्त माहिती प्रक्रिया करू शकते.</p> <p>उदाहरण:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token context window</code></pre> <p>याचा अर्थ मॉडेल सिद्धांततः 1 दशलक्ष टोकन्सपर्यंत हाताळू शकते.</p> <h3>टोकन वापर</h3> <p>विशिष्ट विनंतीमध्ये प्रत्यक्षात समाविष्ट असलेल्या टोकन्सचे प्रमाण.</p> <p>उदाहरण:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>User message: Hi Actual request: System instructions + tools + history + "Hi" Total: 15,000 tokens</code></pre> <p>मोठी कॉन्टेक्स्ट विंडो असणे म्हणजे प्रत्येक विनंतीत फक्त तुमच्या संदेशाइतकेच टोकन्स खर्च होतील असे नाही.</p> <hr> <h2>निष्कर्ष</h2> <p>लहान संदेशामुळे जास्त टोकन वापर होणे म्हणजे मॉडेल किंवा API मध्ये समस्या आहे असे आवश्यक नाही.</p> <p>AI एजंट वातावरणात, एकूण संदर्भात बुद्धिमान कार्यासाठी आवश्यक असलेले अनेक लपलेले घटक समाविष्ट असतात. सत्रात स्किल्स, साधने, प्रकल्प माहिती किंवा मागील इतिहास असल्यास, साधा “Hi” देखील हजारो टोकन्स प्रक्रिया होण्यास कारणीभूत ठरू शकतो.</p> <p>मूळ टोकन वापर तपासायचा असल्यास, अतिरिक्त संदर्भांशिवाय स्वच्छ सत्र सुरू करण्याची आम्ही शिफारस करतो.</p> <p>तुमच्या समजुतीबद्दल आणि सातत्यपूर्ण समर्थनाबद्दल धन्यवाद.</p>

<h2><strong>அறிமுகம்</strong></h2> <p></p> <p>சமீபத்தில், சில பயனர்கள் ஒரு விசித்திரமான நிலையை கவனித்தனர்:</p> <blockquote> <p>"நான் ‘ஹை’ மட்டும் அனுப்பினேன்; அது ஏன் 10,000+ டோக்கன்களை பயன்படுத்தியது?"</p> </blockquote> <p>முதல் பார்வைக்கு, இது எதிர்பாராததாக தோன்றலாம். இரண்டு எழுத்துகளைக் கொண்ட ஒரு செய்திக்கு சில டோக்கன்கள் மட்டுமே போதுமானதாக இருக்க வேண்டும், இல்லையா?</p> <p>பதில் இதுதான்: <strong>மாதிரி உங்கள் திரையில் தெரியும் செய்தியை மட்டும் செயலாக்குவதில்லை.</strong></p> <p>Codex, Claude Code மற்றும் பிற IDE-அடிப்படையிலான AI கருவிகள் போன்ற நவீன AI உதவியாளர்கள், பணியை நன்றாகப் புரிந்துகொண்டு சிறந்த பதில்களை வழங்குவதற்காக, உங்கள் செய்தியுடன் சேர்த்து இன்னும் பல தகவல்களையும் மாதிரிக்கு அனுப்புகின்றனர்.</p> <hr> <p></p> <h2>உங்கள் செய்தி, மொத்த சூழலின் ஒரு சிறிய பகுதி மட்டுமே</h2> <p>நீங்கள் இதை அனுப்பும் போது:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>AI மாதிரிக்கு அனுப்பப்படும் உண்மையான கோரிக்கை இதுபோல இருக்கக்கூடும்:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>System Instructions + User Settings + Configured Skills + Available Tools + Project Information + File Context + Previous Conversation History + Your Message: "Hi"</code></pre> <p>இந்த அனைத்து பகுதிகளின் மொத்த அளவுதான் மாதிரி செயலாக்கும் உண்மையான சூழல் ஆகும்.</p> <p>அதனால், மிகவும் குறுகிய செய்தி கூட கணிசமான அளவிலான டோக்கன்களை பயன்படுத்தக்கூடும்.</p> <hr> <h2>சூழல் பயன்பாட்டை அதிகரிக்கக்கூடியவை என்ன?</h2> <h3>1. அமைக்கப்பட்ட திறன்கள்</h3> <p>நீங்கள் தனிப்பயன் திறன்கள் அல்லது AI திறன்களை இயக்கியிருந்தால், அவற்றின் வழிமுறைகள் மாதிரியின் சூழலில் ஏற்றப்பட வேண்டும்.</p> <p>எடுத்துக்காட்டாக:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Skill A instructions: 2,000 tokens Skill B instructions: 3,000 tokens Skill C instructions: 1,500 tokens</code></pre> <p>நீங்கள் எதையும் தட்டச்சு செய்வதற்குமுன்பே, இந்த வழிமுறைகள் பல ஆயிரம் டோக்கன்களை ஏற்கனவே எடுத்துக்கொண்டிருக்கலாம்.</p> <hr> <h3>2. கருவிகள் மற்றும் ஏஜென்ட் திறன்கள்</h3> <p>AI குறியீட்டு உதவியாளர்கள் பொதுவாக பின்வருபவை போன்ற கருவிகளை வழங்குகின்றனர்:</p> <ul> <li><p>கோப்புகளை வாசித்தல்</p></li> <li><p>குறியீடு தேடல்</p></li> <li><p>டெர்மினல் செயல்படுத்தல்</p></li> <li><p>Git செயல்பாடுகள்</p></li> <li><p>உலாவி அணுகல்</p></li> <li><p>வெளிப்புற ஒருங்கிணைப்புகள்</p></li> </ul> <p>இந்த கருவிகளின் வரையறைகளும் பயன்பாட்டு வழிமுறைகளும் கூட சூழல் இடத்தை பயன்படுத்துகின்றன.</p> <hr> <h3>3. திட்டம் மற்றும் கோப்பு சூழல்</h3> <p>நீங்கள் IDE அல்லது குறியீட்டு சேமிப்பகத்தின் உள்ளே வேலை செய்யும் போது, AI கிளையண்ட் தானாகவே பின்வருபவற்றைச் சேர்க்கக்கூடும்:</p> <ul> <li><p>திட்ட அமைப்பு</p></li> <li><p>திறந்த கோப்புகள்</p></li> <li><p>குறியீட்டு துண்டுகள்</p></li> <li><p>இணைப்புகள்</p></li> <li><p>கட்டமைப்பு கோப்புகள்</p></li> </ul> <p>இது உங்கள் திட்டத்தை AI புரிந்துகொள்ள உதவுகிறது; ஆனால் இது சூழல் பயன்பாட்டையும் அதிகரிக்கிறது.</p> <hr> <h3>4. முந்தைய உரையாடல் வரலாறு</h3> <p>நீங்கள் ஏற்கனவே உள்ள உரையாடலைத் தொடர்ந்து செயல்பட்டால், மாதிரி சூழலைப் புரிந்துகொள்ள முந்தைய செய்திகள் பொதுவாக மீண்டும் சேர்க்கப்படும்.</p> <p>எடுத்துக்காட்டாக:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Previous discussion: 12,000 tokens New message: Hi</code></pre> <p>புதிய கோரிக்கையிலும் முந்தைய 12,000 டோக்கன்கள் இன்னும் இருக்கக்கூடும்.</p> <hr> <h2>குறைந்தபட்ச டோக்கன் பயன்பாட்டை எப்படி சோதிப்பது</h2> <p>ஒரு எளிய செய்தியின் டோக்கன் பயன்பாட்டை அளவிட விரும்பினால், பின்வருவனவற்றை முயற்சிக்கவும்:</p> <ol> <li><p>முழுமையாக புதிய உரையாடலை உருவாக்கவும்.</p></li> <li><p>தனிப்பயன் திறன்களை முடக்கவும்.</p></li> <li><p>கோப்புகளை இணைக்க வேண்டாம்.</p></li> <li><p>திட்ட பணிப்பரப்பைத் திறக்க வேண்டாம்.</p></li> <li><p>இதை மட்டும் அனுப்பவும்:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>இது சுமார் குறைந்தபட்ச சூழல் பயன்பாட்டைக் காட்டும்.</p> <hr> <h2>சூழல் சாளரம் vs டோக்கன் பயன்பாடு</h2> <p>பின்வருவனவற்றுக்கிடையேயான வேறுபாட்டை புரிந்துகொள்வது முக்கியம்:</p> <h3>சூழல் சாளரம்</h3> <p>ஒரே கோரிக்கையில் ஒரு மாதிரி செயலாக்கக்கூடிய அதிகபட்ச தகவல் அளவு.</p> <p>எடுத்துக்காட்டு:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token context window</code></pre> <p>அதாவது, கோட்பாட்டில் மாதிரி 1 மில்லியன் டோக்கன்கள் வரை கையாள முடியும்.</p> <h3>டோக்கன் பயன்பாடு</h3> <p>ஒரு குறிப்பிட்ட கோரிக்கையில் உண்மையில் சேர்க்கப்பட்டுள்ள டோக்கன்களின் அளவு.</p> <p>எடுத்துக்காட்டு:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>User message: Hi Actual request: System instructions + tools + history + "Hi" Total: 15,000 tokens</code></pre> <p>ஒரு பெரிய சூழல் சாளரம் இருப்பதால், ஒவ்வொரு கோரிக்கையும் உங்கள் செய்தியின் நீளத்தை மட்டுமே பயன்படுத்தும் என்பதல்ல.</p> <hr> <h2>முடிவு</h2> <p>குறுகிய செய்தியால் அதிக டோக்கன் பயன்பாடு ஏற்பட்டது என்பதால், மாதிரி அல்லது API-யில் பிரச்சினை உள்ளது என்று அவசியமாக அர்த்தமில்லை.</p> <p>AI ஏஜென்ட் சூழல்களில், மொத்த சூழல் என்பது புத்திசாலித்தனமான செயல்பாட்டிற்குத் தேவையான பல மறைவு கூறுகளை உள்ளடக்குகிறது. ஒரு எளிய "ஹை" கூட, அமர்வில் திறன்கள், கருவிகள், திட்டத் தகவல் அல்லது முந்தைய வரலாறு இருந்தால், ஆயிரக்கணக்கான டோக்கன்கள் செயலாக்கப்படுவதற்குக் காரணமாக இருக்கலாம்.</p> <p>அசல் டோக்கன் பயன்பாட்டைச் சோதிக்கும் போது, கூடுதல் சூழல் இல்லாத சுத்தமான அமர்வில் தொடங்குவது சிறந்தது என்று நாங்கள் பரிந்துரைக்கிறோம்.</p> <p>உங்கள் புரிதலுக்கும் தொடர்ந்த ஆதரவுக்கும் நன்றி.</p>

ভূমিকা <p></p> সম্প্রতি, কিছু ব্যবহারকারী একটি অস্বাভাবিক পরিস্থিতি লক্ষ্য করেছেন: “আমি শুধু ‘Hi’ পাঠিয়েছি, তাহলে 10,000+ টোকেন কেন খরচ হলো?” প্রথম নজরে এটি অপ্রত্যাশিত মনে হতে পারে। মাত্র দুই অক্ষরের একটি বার্তায় তো খুব অল্প কয়েকটি টোকেন লাগার কথা, তাই না? উত্তর হলো: মডেল শুধু আপনার দৃশ্যমান বার্তাটিই প্রক্রিয়া করে না। আধুনিক AI সহকারী—বিশেষ করে Codex, Claude Code এবং অন্যান্য IDE-ভিত্তিক AI টুলের মতো কোডিং এজেন্টগুলো—মডেলকে কাজটি বুঝতে এবং আরও ভালো উত্তর দিতে সাহায্য করার জন্য আপনার বার্তার সঙ্গে আরও অনেক তথ্য পাঠায়। <p></p> Your Message Is Only a Small Part of the Context যখন আপনি পাঠান: Hi AI মডেলের কাছে পাঠানো প্রকৃত অনুরোধটি আসলে এরকম দেখতে হতে পারে: System Instructions + User Settings + Configured Skills + Available Tools + Project Information + File Context + Previous Conversation History + Your Message: "Hi" এই সব উপাদানের মোট আকারই হলো মডেলের প্রক্রিয়াকৃত প্রকৃত context। তাই, খুব ছোট একটি বার্তাও উল্লেখযোগ্য সংখ্যক টোকেন খরচ করতে পারে। What Can Increase Context Usage? 1. Configured Skills আপনি যদি কাস্টম skill বা AI capability চালু করে থাকেন, তবে সেগুলোর নির্দেশনাও মডেলের context-এ লোড করতে হয়। উদাহরণস্বরূপ: Skill A instructions: 2,000 tokens Skill B instructions: 3,000 tokens Skill C instructions: 1,500 tokens আপনি কিছু টাইপ করার আগেই, এই নির্দেশনাগুলো কয়েক হাজার টোকেন জায়গা নিয়ে ফেলতে পারে। 2. Tools and Agent Capabilities AI coding assistant-গুলো সাধারণত নিচের মতো টুল সরবরাহ করে: File reading Code search Terminal execution Git operations Browser access External integrations এই টুলগুলোর সংজ্ঞা এবং ব্যবহার নির্দেশনাও context space খরচ করে। 3. Project and File Context আপনি যখন কোনো IDE বা code repository-এর মধ্যে কাজ করেন, AI client স্বয়ংক্রিয়ভাবে নিচের তথ্যগুলো অন্তর্ভুক্ত করতে পারে: Project structure Open files Code snippets Dependencies Configuration files এতে AI আপনার project বুঝতে পারে, তবে এর ফলে context usage-ও বেড়ে যায়। 4. Previous Conversation History আপনি যদি আগের কোনো কথোপকথন চালিয়ে যান, তাহলে সাধারণত আগের বার্তাগুলো আবারও যুক্ত করা হয়, যাতে মডেল context বুঝতে পারে। উদাহরণস্বরূপ: Previous discussion: 12,000 tokens New message: Hi নতুন অনুরোধেও আগের 12,000 টোকেন থাকতে পারে। How to Test Minimum Token Usage আপনি যদি একটি সাধারণ বার্তার token usage মাপতে চান, তাহলে নিচের ধাপগুলো অনুসরণ করুন: সম্পূর্ণ নতুন একটি conversation তৈরি করুন। custom skills বন্ধ করুন। কোনো file attach করবেন না। কোনো project workspace খুলবেন না। শুধু এটি পাঠান: Hi এতে আনুমানিক সর্বনিম্ন context usage দেখা যাবে। Context Window vs Token Usage নিচের দুটি বিষয়ের পার্থক্য বোঝা গুরুত্বপূর্ণ: Context Window একটি মডেল একবারে সর্বোচ্চ কত পরিমাণ তথ্য প্রক্রিয়া করতে পারে। উদাহরণ: 1M token context window এর অর্থ, মডেল তাত্ত্বিকভাবে সর্বোচ্চ 1 million token পর্যন্ত সামলাতে পারে। Token Usage নির্দিষ্ট একটি অনুরোধে বাস্তবে যত টোকেন অন্তর্ভুক্ত হয়। উদাহরণ: User message: Hi Actual request: System instructions + tools + history + "Hi" Total: 15,000 tokens বড় context window থাকার অর্থ এই নয় যে প্রতিটি অনুরোধে শুধু আপনার বার্তার দৈর্ঘ্য অনুযায়ী টোকেন খরচ হবে। উপসংহার ছোট একটি বার্তা থেকে বেশি token usage হওয়া মানেই মডেল বা API-তে সমস্যা আছে—এমন নয়। AI agent পরিবেশে মোট context-এর মধ্যে বুদ্ধিমানভাবে কাজ করার জন্য প্রয়োজনীয় অনেক অদৃশ্য উপাদান থাকে। session-এ skills, tools, project information বা previous history থাকলে একটি সাধারণ “Hi” থেকেও হাজার হাজার টোকেন প্রক্রিয়াকৃত হতে পারে। raw token usage পরীক্ষা করতে চাইলে, অতিরিক্ত context ছাড়া একটি clean session থেকে শুরু করার পরামর্শ দিই। আপনার বোঝাপড়া এবং অব্যাহত সমর্থনের জন্য ধন্যবাদ।

<h2><strong>تعارف</strong></h2> <p></p> <p>حال ہی میں، کچھ صارفین نے ایک غیر معمولی صورتِ حال دیکھی:</p> <blockquote> <p>"میں نے صرف ‘Hi’ بھیجا، پھر 10,000+ ٹوکنز کیوں خرچ ہوئے؟"</p> </blockquote> <p>پہلی نظر میں یہ غیر متوقع لگ سکتا ہے۔ دو حروف پر مشتمل ایک پیغام کو تو صرف چند ٹوکنز درکار ہونے چاہییں، ہے نا؟</p> <p>جواب یہ ہے: <strong>ماڈل صرف آپ کا نظر آنے والا پیغام ہی پروسیس نہیں کرتا۔</strong></p> <p>جدید AI اسسٹنٹس، خصوصاً کوڈنگ ایجنٹس جیسے Codex، Claude Code، اور دیگر IDE پر مبنی AI ٹولز، ماڈل کو کام سمجھنے اور بہتر جواب دینے میں مدد دینے کے لیے آپ کے پیغام کے ساتھ بہت سی اضافی معلومات بھی بھیجتے ہیں۔</p> <hr> <p></p> <h2>آپ کا پیغام سیاق و سباق کا صرف ایک چھوٹا حصہ ہوتا ہے</h2> <p>جب آپ یہ بھیجتے ہیں:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>تو AI ماڈل کو بھیجی گئی اصل درخواست کچھ اس طرح ہو سکتی ہے:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>System Instructions + User Settings + Configured Skills + Available Tools + Project Information + File Context + Previous Conversation History + Your Message: "Hi"</code></pre> <p>ان تمام اجزاء کا مجموعی حجم ہی وہ اصل سیاق و سباق ہے جسے ماڈل پروسیس کرتا ہے۔</p> <p>لہٰذا، بہت مختصر پیغام بھی کافی زیادہ ٹوکنز استعمال کر سکتا ہے۔</p> <hr> <h2>کون سی چیزیں سیاق و سباق کے استعمال میں اضافہ کر سکتی ہیں؟</h2> <h3>1. ترتیب دی گئی مہارتیں</h3> <p>اگر آپ نے اپنی مرضی کی مہارتیں یا AI صلاحیتیں فعال کر رکھی ہیں، تو ان کی ہدایات ماڈل کے سیاق و سباق میں لوڈ کرنا پڑتی ہیں۔</p> <p>مثال کے طور پر:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Skill A instructions: 2,000 tokens Skill B instructions: 3,000 tokens Skill C instructions: 1,500 tokens</code></pre> <p>آپ کے کچھ بھی ٹائپ کرنے سے پہلے ہی، یہ ہدایات کئی ہزار ٹوکنز گھیر سکتی ہیں۔</p> <hr> <h3>2. ٹولز اور ایجنٹ کی صلاحیتیں</h3> <p>AI کوڈنگ اسسٹنٹس عموماً ایسے ٹولز فراہم کرتے ہیں جیسے:</p> <ul> <li><p>فائل پڑھنا</p></li> <li><p>کوڈ تلاش کرنا</p></li> <li><p>ٹرمینل چلانا</p></li> <li><p>Git آپریشنز</p></li> <li><p>براؤزر تک رسائی</p></li> <li><p>بیرونی انضمامات</p></li> </ul> <p>ان ٹولز کی تعریفیں اور استعمال کی ہدایات بھی سیاق و سباق کی جگہ استعمال کرتی ہیں۔</p> <hr> <h3>3. پروجیکٹ اور فائل کا سیاق و سباق</h3> <p>جب آپ کسی IDE یا کوڈ ریپوزٹری کے اندر کام کر رہے ہوتے ہیں، تو AI کلائنٹ خودکار طور پر یہ چیزیں شامل کر سکتا ہے:</p> <ul> <li><p>پروجیکٹ کی ساخت</p></li> <li><p>کھلی ہوئی فائلیں</p></li> <li><p>کوڈ کے ٹکڑے</p></li> <li><p>انحصارات</p></li> <li><p>ترتیبی فائلیں</p></li> </ul> <p>اس سے AI آپ کے پروجیکٹ کو بہتر طور پر سمجھ پاتا ہے، لیکن اس سے سیاق و سباق کا استعمال بھی بڑھ جاتا ہے۔</p> <hr> <h3>4. سابقہ گفتگو کی تاریخ</h3> <p>اگر آپ پہلے سے موجود گفتگو کو جاری رکھتے ہیں، تو عام طور پر پہلے کے پیغامات دوبارہ شامل کیے جاتے ہیں تاکہ ماڈل سیاق و سباق کو سمجھ سکے۔</p> <p>مثال کے طور پر:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Previous discussion: 12,000 tokens New message: Hi</code></pre> <p>نئی درخواست میں پھر بھی پچھلے 12,000 ٹوکنز شامل ہو سکتے ہیں۔</p> <hr> <h2>کم سے کم ٹوکن استعمال کو کیسے جانچا جائے</h2> <p>اگر آپ کسی سادہ پیغام کے ٹوکن استعمال کی پیمائش کرنا چاہتے ہیں، تو براہِ کرم یہ طریقہ آزمائیں:</p> <ol> <li><p>بالکل نئی گفتگو شروع کریں۔</p></li> <li><p>اپنی مرضی کی مہارتیں غیر فعال کریں۔</p></li> <li><p>فائلیں منسلک نہ کریں۔</p></li> <li><p>پروجیکٹ ورک اسپیس نہ کھولیں۔</p></li> <li><p>صرف یہ بھیجیں:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>اس سے کم از کم ممکنہ سیاق و سباق کے استعمال کا اندازہ ہو جائے گا۔</p> <hr> <h2>Context Window بمقابلہ Token Usage</h2> <p>یہ فرق سمجھنا اہم ہے:</p> <h3>Context Window</h3> <p>وہ زیادہ سے زیادہ معلومات جسے ماڈل ایک درخواست میں پروسیس کر سکتا ہے۔</p> <p>مثال:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token context window</code></pre> <p>یعنی ماڈل نظری طور پر 10 لاکھ ٹوکنز تک سنبھال سکتا ہے۔</p> <h3>Token Usage</h3> <p>ٹوکنز کی وہ حقیقی مقدار جو کسی مخصوص درخواست میں شامل ہوتی ہے۔</p> <p>مثال:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>User message: Hi Actual request: System instructions + tools + history + "Hi" Total: 15,000 tokens</code></pre> <p>بڑا context window ہونے کا یہ مطلب نہیں کہ ہر درخواست میں صرف آپ کے پیغام کی لمبائی جتنے ہی ٹوکنز خرچ ہوں گے۔</p> <hr> <h2>نتیجہ</h2> <p>مختصر پیغام پر زیادہ ٹوکن خرچ ہونا لازماً ماڈل یا API میں کسی مسئلے کی نشاندہی نہیں کرتا۔</p> <p>AI ایجنٹ ماحول میں، مجموعی سیاق و سباق میں بہت سے پوشیدہ اجزاء شامل ہوتے ہیں جو ذہین انداز میں کام کرنے کے لیے ضروری ہیں۔ ایک سادہ “Hi” بھی ہزاروں ٹوکنز پروسیس ہونے کا سبب بن سکتا ہے اگر سیشن میں مہارتیں، ٹولز، پروجیکٹ کی معلومات، یا سابقہ تاریخ شامل ہو۔</p> <p>ہم مشورہ دیتے ہیں کہ خام ٹوکن استعمال کو جانچتے وقت اضافی سیاق و سباق کے بغیر ایک صاف سیشن شروع کریں۔</p> <p>آپ کی سمجھ بوجھ اور مسلسل تعاون کا شکریہ۔</p>

<h2><strong>บทนำ</strong></h2> <p></p> <p>เมื่อไม่นานมานี้ ผู้ใช้บางรายสังเกตเห็นสถานการณ์ที่ดูผิดปกติ:</p> <blockquote> <p>"ฉันส่งแค่ ‘Hi’ เอง ทำไมถึงใช้ไปมากกว่า 10,000 โทเคน?"</p> </blockquote> <p>เมื่อมองผิวเผิน เรื่องนี้อาจดูน่าประหลาดใจ ข้อความยาวเพียงสองตัวอักษรน่าจะใช้แค่ไม่กี่โทเคนเท่านั้น ใช่ไหม?</p> <p>คำตอบคือ: <strong>โมเดลไม่ได้ประมวลผลเฉพาะข้อความที่คุณมองเห็นว่าเป็นข้อความของคุณเท่านั้น</strong></p> <p>ผู้ช่วย AI สมัยใหม่ โดยเฉพาะเอเจนต์ด้านการเขียนโค้ด เช่น Codex, Claude Code และเครื่องมือ AI บน IDE อื่น ๆ จะส่งข้อมูลเพิ่มเติมจำนวนมากไปพร้อมกับข้อความของคุณ เพื่อช่วยให้โมเดลเข้าใจงานและตอบกลับได้ดีขึ้น</p> <hr> <p></p> <h2>ข้อความของคุณเป็นเพียงส่วนเล็ก ๆ ของบริบททั้งหมด</h2> <p>เมื่อคุณส่ง:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>คำขอจริงที่ถูกส่งไปยังโมเดล AI อาจมีหน้าตาประมาณนี้มากกว่า:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>คำสั่งระบบ + การตั้งค่าผู้ใช้ + ทักษะที่ตั้งค่าไว้ + เครื่องมือที่ใช้งานได้ + ข้อมูลโปรเจกต์ + บริบทของไฟล์ + ประวัติการสนทนาก่อนหน้า + ข้อความของคุณ: "Hi"</code></pre> <p>ขนาดรวมขององค์ประกอบทั้งหมดเหล่านี้คือบริบทจริงที่โมเดลต้องประมวลผล</p> <p>ดังนั้น แม้จะเป็นข้อความสั้นมาก ก็ยังอาจใช้โทเคนจำนวนมากได้</p> <hr> <h2>อะไรบ้างที่ทำให้การใช้บริบทเพิ่มขึ้น?</h2> <h3>1. ทักษะที่ตั้งค่าไว้</h3> <p>หากคุณเปิดใช้ทักษะแบบกำหนดเองหรือความสามารถ AI เพิ่มเติม คำสั่งของสิ่งเหล่านั้นก็ต้องถูกโหลดเข้าไปในบริบทของโมเดลด้วย</p> <p>ตัวอย่างเช่น:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>คำสั่งของ Skill A: 2,000 โทเคน คำสั่งของ Skill B: 3,000 โทเคน คำสั่งของ Skill 1,500 โทเคน</code></pre> <p>ดังนั้น แม้ก่อนที่คุณจะพิมพ์อะไรเลย คำสั่งเหล่านี้ก็อาจใช้พื้นที่ไปแล้วหลายพันโทเคน</p> <hr> <h3>2. เครื่องมือและความสามารถของเอเจนต์</h3> <p>ผู้ช่วย AI สำหรับเขียนโค้ดมักมีเครื่องมือ เช่น:</p> <ul> <li><p>การอ่านไฟล์</p></li> <li><p>การค้นหาโค้ด</p></li> <li><p>การรันคำสั่งในเทอร์มินัล</p></li> <li><p>การทำงานกับ Git</p></li> <li><p>การเข้าถึงเบราว์เซอร์</p></li> <li><p>การเชื่อมต่อภายนอก</p></li> </ul> <p>คำจำกัดความและคำแนะนำการใช้งานของเครื่องมือเหล่านี้ก็ใช้พื้นที่บริบทเช่นกัน</p> <hr> <h3>3. บริบทของโปรเจกต์และไฟล์</h3> <p>เมื่อทำงานอยู่ใน IDE หรือรีโพซิทอรีโค้ด ไคลเอนต์ AI อาจแนบข้อมูลต่อไปนี้ให้อัตโนมัติ:</p> <ul> <li><p>โครงสร้างโปรเจกต์</p></li> <li><p>ไฟล์ที่เปิดอยู่</p></li> <li><p>ส่วนของโค้ด</p></li> <li><p>ดีเพนเดนซี</p></li> <li><p>ไฟล์คอนฟิก</p></li> </ul> <p>สิ่งนี้ช่วยให้ AI เข้าใจโปรเจกต์ของคุณ แต่ก็ทำให้การใช้บริบทเพิ่มขึ้นด้วย</p> <hr> <h3>4. ประวัติการสนทนาก่อนหน้า</h3> <p>หากคุณสนทนาต่อจากเซสชันเดิม ข้อความก่อนหน้ามักจะถูกแนบกลับไปอีกครั้ง เพื่อให้โมเดลเข้าใจบริบท</p> <p>ตัวอย่างเช่น:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>การสนทนาก่อนหน้า: 12,000 โทเคน ข้อความใหม่: Hi</code></pre> <p>คำขอใหม่ก็อาจยังคงมี 12,000 โทเคนก่อนหน้านั้นรวมอยู่ด้วย</p> <hr> <h2>วิธีทดสอบการใช้โทเคนขั้นต่ำ</h2> <p>หากคุณต้องการวัดการใช้โทเคนของข้อความง่าย ๆ โปรดลองดังนี้:</p> <ol> <li><p>สร้างบทสนทนาใหม่ทั้งหมด</p></li> <li><p>ปิดใช้งานทักษะแบบกำหนดเอง</p></li> <li><p>อย่าแนบไฟล์</p></li> <li><p>อย่าเปิดเวิร์กสเปซของโปรเจกต์</p></li> <li><p>ส่งเพียง:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>วิธีนี้จะแสดงการใช้บริบทขั้นต่ำโดยประมาณ</p> <hr> <h2>Context Window เทียบกับ Token Usage</h2> <p>สิ่งสำคัญคือต้องแยกความแตกต่างระหว่าง:</p> <h3>Context Window</h3> <p>ปริมาณข้อมูลสูงสุดที่โมเดลสามารถประมวลผลได้ในหนึ่งคำขอ</p> <p>ตัวอย่าง:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>หน้าต่างบริบท 1M โทเคน</code></pre> <p>หมายความว่าในทางทฤษฎี โมเดลสามารถรองรับได้สูงสุดถึง 1 ล้านโทเคน</p> <h3>Token Usage</h3> <p>จำนวนโทเคนจริงที่ถูกรวมอยู่ในคำขอหนึ่ง ๆ</p> <p>ตัวอย่าง:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>ข้อความผู้ใช้: Hi คำขอจริง: คำสั่งระบบ + เครื่องมือ + ประวัติ + "Hi" รวมทั้งหมด: 15,000 โทเคน</code></pre> <p>การมีหน้าต่างบริบทขนาดใหญ่ไม่ได้หมายความว่าทุกคำขอจะใช้โทเคนเท่ากับความยาวข้อความของคุณเท่านั้น</p> <hr> <h2>สรุป</h2> <p>การใช้โทเคนสูงจากข้อความสั้น ๆ ไม่ได้หมายความว่าจะเป็นปัญหาของโมเดลหรือ API เสมอไป</p> <p>ในสภาพแวดล้อมแบบ AI agent บริบทรวมประกอบด้วยองค์ประกอบที่ซ่อนอยู่หลายอย่างซึ่งจำเป็นต่อการทำงานอย่างชาญฉลาด ข้อความง่าย ๆ อย่าง "Hi" ก็ยังอาจทำให้มีการประมวลผลหลายพันโทเคนได้ หากเซสชันนั้นมีทักษะ เครื่องมือ ข้อมูลโปรเจกต์ หรือประวัติการสนทนาก่อนหน้าอยู่</p> <p>เราขอแนะนำให้เริ่มเซสชันใหม่ที่สะอาดและไม่มีบริบทเพิ่มเติม เมื่อต้องการทดสอบการใช้โทเคนแบบดิบ</p> <p>ขอบคุณสำหรับความเข้าใจและการสนับสนุนอย่างต่อเนื่อง</p>

<h2><strong>परिचय</strong></h2> <p></p> <p>हाल ही में, कुछ उपयोगकर्ताओं ने एक असामान्य स्थिति देखी:</p> <blockquote> <p>"मैंने सिर्फ ‘Hi’ भेजा, फिर 10,000+ टोकन कैसे खर्च हो गए?"</p> </blockquote> <p>पहली नज़र में, यह अप्रत्याशित लग सकता है। दो अक्षरों का संदेश तो केवल कुछ ही टोकन लेने चाहिए, सही है न?</p> <p>उत्तर है: <strong>मॉडल केवल आपके दिखाई देने वाले संदेश को ही प्रोसेस नहीं करता।</strong></p> <p>आधुनिक AI सहायक, विशेषकर कोडिंग एजेंट जैसे Codex, Claude Code, और अन्य IDE-आधारित AI टूल, मॉडल को कार्य समझने और बेहतर उत्तर देने में मदद करने के लिए आपके संदेश के साथ बहुत अधिक अतिरिक्त जानकारी भी भेजते हैं।</p> <hr> <p></p> <h2>आपका संदेश संदर्भ का केवल एक छोटा हिस्सा होता है</h2> <p>जब आप भेजते हैं:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>तो AI मॉडल को भेजा गया वास्तविक अनुरोध कुछ इस तरह अधिक दिख सकता है:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>System Instructions + User Settings + Configured Skills + Available Tools + Project Information + File Context + Previous Conversation History + Your Message: "Hi"</code></pre> <p>इन सभी घटकों का कुल आकार ही वह वास्तविक संदर्भ है जिसे मॉडल प्रोसेस करता है।</p> <p>इसीलिए, बहुत छोटा संदेश भी उल्लेखनीय संख्या में टोकन खर्च कर सकता है।</p> <hr> <h2>कौन-सी चीज़ें संदर्भ उपयोग बढ़ा सकती हैं?</h2> <h3>1. कॉन्फ़िगर की गई स्किल्स</h3> <p>यदि आपने कस्टम स्किल्स या AI क्षमताएँ सक्षम की हैं, तो उनके निर्देश मॉडल संदर्भ में लोड करने पड़ते हैं।</p> <p>उदाहरण के लिए:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Skill A instructions: 2,000 tokens Skill B instructions: 3,000 tokens Skill C instructions: 1,500 tokens</code></pre> <p>आपके कुछ भी टाइप करने से पहले ही, ये निर्देश कई हज़ार टोकन घेर सकते हैं।</p> <hr> <h3>2. टूल्स और एजेंट क्षमताएँ</h3> <p>AI कोडिंग सहायक आम तौर पर ऐसे टूल प्रदान करते हैं:</p> <ul> <li><p>फ़ाइल पढ़ना</p></li> <li><p>कोड खोज</p></li> <li><p>टर्मिनल चलाना</p></li> <li><p>Git ऑपरेशन्स</p></li> <li><p>ब्राउज़र एक्सेस</p></li> <li><p>बाहरी इंटीग्रेशन्स</p></li> </ul> <p>इन टूल्स की परिभाषाएँ और उपयोग निर्देश भी संदर्भ स्थान का उपभोग करते हैं।</p> <hr> <h3>3. प्रोजेक्ट और फ़ाइल संदर्भ</h3> <p>जब आप IDE या कोड रिपॉज़िटरी के भीतर काम कर रहे होते हैं, तो AI क्लाइंट स्वचालित रूप से यह भी शामिल कर सकता है:</p> <ul> <li><p>प्रोजेक्ट संरचना</p></li> <li><p>खुली हुई फ़ाइलें</p></li> <li><p>कोड स्निपेट्स</p></li> <li><p>डिपेंडेंसीज़</p></li> <li><p>कॉन्फ़िगरेशन फ़ाइलें</p></li> </ul> <p>इससे AI आपके प्रोजेक्ट को बेहतर समझ पाता है, लेकिन इससे संदर्भ उपयोग भी बढ़ता है।</p> <hr> <h3>4. पिछला वार्तालाप इतिहास</h3> <p>यदि आप किसी मौजूदा बातचीत को जारी रखते हैं, तो आमतौर पर पिछले संदेश फिर से शामिल किए जाते हैं ताकि मॉडल संदर्भ समझ सके।</p> <p>उदाहरण के लिए:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Previous discussion: 12,000 tokens New message: Hi</code></pre> <p>नए अनुरोध में वे पिछले 12,000 टोकन अब भी शामिल हो सकते हैं।</p> <hr> <h2>न्यूनतम टोकन उपयोग कैसे जाँचें</h2> <p>यदि आप किसी सरल संदेश का टोकन उपयोग मापना चाहते हैं, तो कृपया यह करें:</p> <ol> <li><p>पूरी तरह नई बातचीत शुरू करें।</p></li> <li><p>कस्टम स्किल्स बंद करें।</p></li> <li><p>फ़ाइलें संलग्न न करें।</p></li> <li><p>प्रोजेक्ट वर्कस्पेस न खोलें।</p></li> <li><p>केवल यह भेजें:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>इससे लगभग न्यूनतम संदर्भ उपयोग दिखाई देगा।</p> <hr> <h2>Context Window बनाम Token Usage</h2> <p>इन दोनों के बीच अंतर समझना महत्वपूर्ण है:</p> <h3>Context Window</h3> <p>जानकारी की वह अधिकतम मात्रा जिसे मॉडल एक अनुरोध में प्रोसेस कर सकता है।</p> <p>उदाहरण:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token context window</code></pre> <p>इसका अर्थ है कि मॉडल सैद्धांतिक रूप से 10 लाख टोकन तक संभाल सकता है।</p> <h3>Token Usage</h3> <p>किसी विशेष अनुरोध में वास्तव में शामिल टोकनों की मात्रा।</p> <p>उदाहरण:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>User message: Hi Actual request: System instructions + tools + history + "Hi" Total: 15,000 tokens</code></pre> <p>बड़ी context window का अर्थ यह नहीं है कि हर अनुरोध केवल आपके संदेश की लंबाई के बराबर ही टोकन खर्च करेगा।</p> <hr> <h2>निष्कर्ष</h2> <p>छोटे संदेश से अधिक टोकन उपयोग होना जरूरी नहीं कि मॉडल या API में किसी समस्या का संकेत हो।</p> <p>AI एजेंट वातावरण में, कुल संदर्भ में बुद्धिमान संचालन के लिए आवश्यक कई छिपे हुए घटक शामिल होते हैं। यदि सत्र में स्किल्स, टूल्स, प्रोजेक्ट जानकारी, या पिछला इतिहास मौजूद है, तो एक साधारण "Hi" भी हज़ारों टोकन प्रोसेस होने का कारण बन सकता है।</p> <p>कच्चे टोकन उपयोग का परीक्षण करते समय हम अतिरिक्त संदर्भ के बिना एक साफ़ सत्र से शुरुआत करने की सलाह देते हैं।</p> <p>आपकी समझ और निरंतर समर्थन के लिए धन्यवाद।</p>

<h2><strong>Introduzzjoni</strong></h2> <p></p> <p>Dan l-aħħar, xi utenti nnutaw sitwazzjoni mhux tas-soltu:</p> <blockquote> <p>"Jien bgħatt biss ‘Hi’, għaliex ikkonsma aktar minn 10,000 token?"</p> </blockquote> <p>Mal-ewwel daqqa t’għajn, dan jista’ jidher mhux mistenni. Messaġġ b’żewġ karattri suppost jeħtieġ biss ftit tokens, hux hekk?</p> <p>It-tweġiba hija: <strong>il-mudell ma jipproċessax biss il-messaġġ viżibbli tiegħek.</strong></p> <p>Assistenti moderni tal-IA, speċjalment aġenti tal-kodifikazzjoni bħal Codex, Claude Code, u għodod oħra tal-IA bbażati fuq IDE, jibagħtu ħafna aktar informazzjoni flimkien mal-messaġġ tiegħek biex jgħinu lill-mudell jifhem ix-xogħol u jipprovdi tweġibiet aħjar.</p> <hr> <p></p> <h2>Il-Messaġġ Tiegħek Huwa Biss Parti Żgħira mill-Kuntest</h2> <p>Meta tibgħat:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>it-talba reali mibgħuta lill-mudell tal-IA tista’ tidher aktar hekk:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Istruzzjonijiet tas-Sistema + Settings tal-Utent + Ħiliet Ikkonfigurati + Għodod Disponibbli + Informazzjoni tal-Proġett + Kuntest tal-Fajls + Storja tal-Konversazzjoni Preċedenti + Il-Messaġġ Tiegħek: "Hi"</code></pre> <p>Id-daqs totali ta’ dawn il-komponenti kollha huwa l-kuntest reali li jiġi pproċessat mill-mudell.</p> <p>Għalhekk, anke messaġġ qasir ħafna jista’ jikkonsma numru sinifikanti ta’ tokens.</p> <hr> <h2>X’Jista’ Jżid l-Użu tal-Kuntest?</h2> <h3>1. Ħiliet Ikkonfigurati</h3> <p>Jekk attivajt ħiliet personalizzati jew kapaċitajiet tal-IA, l-istruzzjonijiet tagħhom iridu jitgħabbew fil-kuntest tal-mudell.</p> <p>Pereżempju:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Istruzzjonijiet tal-Ħila A: 2,000 token Istruzzjonijiet tal-Ħila B: 3,000 token Istruzzjonijiet tal-Ħila 1,500 token</code></pre> <p>Anke qabel ma tikteb xi ħaġa, dawn l-istruzzjonijiet jistgħu diġà jokkupaw diversi eluf ta’ tokens.</p> <hr> <h3>2. Għodod u Kapaċitajiet tal-Aġent</h3> <p>Assistenti tal-IA għall-kodifikazzjoni normalment jipprovdu għodod bħal:</p> <ul> <li><p>Qari tal-fajls</p></li> <li><p>Tiftix fil-kodiċi</p></li> <li><p>Eżekuzzjoni tat-terminal</p></li> <li><p>Operazzjonijiet Git</p></li> <li><p>Aċċess għall-browser</p></li> <li><p>Integrazzjonijiet esterni</p></li> </ul> <p>Id-definizzjonijiet u l-istruzzjonijiet ta’ użu ta’ dawn l-għodod ukoll jikkunsmaw spazju fil-kuntest.</p> <hr> <h3>3. Kuntest tal-Proġett u tal-Fajls</h3> <p>Meta taħdem ġewwa IDE jew repożitorju tal-kodiċi, il-klijent tal-IA jista’ awtomatikament jinkludi:</p> <ul> <li><p>Struttura tal-proġett</p></li> <li><p>Fajls miftuħa</p></li> <li><p>Siltiet ta’ kodiċi</p></li> <li><p>Dipendenzi</p></li> <li><p>Fajls ta’ konfigurazzjoni</p></li> </ul> <p>Dan jippermetti lill-IA tifhem il-proġett tiegħek, iżda wkoll iżid l-użu tal-kuntest.</p> <hr> <h3>4. Storja tal-Konversazzjoni Preċedenti</h3> <p>Jekk tkompli konversazzjoni eżistenti, il-messaġġi preċedenti normalment jerġgħu jiġu inklużi sabiex il-mudell jifhem il-kuntest.</p> <p>Pereżempju:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Diskussjoni preċedenti: 12,000 token Messaġġ ġdid: Hi</code></pre> <p>It-talba l-ġdida xorta tista’ tinkludi t-12,000 token ta’ qabel.</p> <hr> <h2>Kif Tittestja l-Użu Minimu tat-Tokens</h2> <p>Jekk trid tkejjel l-użu tat-tokens ta’ messaġġ sempliċi, jekk jogħġbok ipprova dan li ġej:</p> <ol> <li><p>Oħloq konversazzjoni kompletament ġdida.</p></li> <li><p>Iddiżattiva l-ħiliet personalizzati.</p></li> <li><p>Tehmeżx fajls.</p></li> <li><p>Tiftaħx workspace ta’ proġett.</p></li> <li><p>Ibgħat biss:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>Dan jurik l-użu minimu approssimattiv tal-kuntest.</p> <hr> <h2>Tieqa tal-Kuntest vs Użu tat-Tokens</h2> <p>Huwa importanti li ssir distinzjoni bejn:</p> <h3>Tieqa tal-Kuntest</h3> <p>L-ammont massimu ta’ informazzjoni li mudell jista’ jipproċessa f’talba waħda.</p> <p>Eżempju:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Tieqa tal-kuntest ta’ 1M token</code></pre> <p>tfisser li l-mudell teoretikament jista’ jimmaniġġja sa 1 miljun token.</p> <h3>Użu tat-Tokens</h3> <p>L-ammont reali ta’ tokens inklużi f’talba speċifika.</p> <p>Eżempju:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Messaġġ tal-utent: Hi Talba reali: Istruzzjonijiet tas-sistema + għodod + storja + "Hi" Total: 15,000 token</code></pre> <p>Tieqa tal-kuntest kbira ma tfissirx li kull talba se tikkonsma biss it-tul tal-messaġġ tiegħek.</p> <hr> <h2>Konklużjoni</h2> <p>Użu għoli ta’ tokens minn messaġġ qasir mhux bilfors jindika problema bil-mudell jew bl-API.</p> <p>F’ambjenti ta’ aġenti tal-IA, il-kuntest totali jinkludi ħafna komponenti moħbija meħtieġa għal tħaddim intelliġenti. "Hi" sempliċi xorta jista’ jirriżulta f’eluf ta’ tokens li jiġu pproċessati jekk is-sessjoni tinkludi ħiliet, għodod, informazzjoni tal-proġett, jew storja preċedenti.</p> <p>Nirrakkomandaw li tibda sessjoni nadifa mingħajr kuntest addizzjonali meta tkun qed tittestja l-użu mhux ipproċessat tat-tokens.</p> <p>Grazzi tal-fehim u l-appoġġ kontinwu tiegħek.</p>

<h2><strong>Въведение</strong></h2> <p></p> <p>Наскоро някои потребители забелязаха необичайна ситуация:</p> <blockquote> <p>„Изпратих само ‘Hi’, защо това изразходва над 10 000 токена?“</p> </blockquote> <p>На пръв поглед това може да изглежда неочаквано. Съобщение от два символа би трябвало да изисква само няколко токена, нали?</p> <p>Отговорът е: <strong>моделът не обработва само вашето видимо съобщение.</strong></p> <p>Съвременните AI асистенти, особено агенти за програмиране като Codex, Claude Code и други AI инструменти, базирани в IDE, изпращат много повече информация заедно с вашето съобщение, за да помогнат на модела да разбере задачата и да предостави по-добри отговори.</p> <hr> <p></p> <h2>Вашето съобщение е само малка част от контекста</h2> <p>Когато изпратите:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>действителната заявка, изпратена към AI модела, може да изглежда по-скоро така:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Системни инструкции + Потребителски настройки + Конфигурирани умения + Налични инструменти + Информация за проекта + Контекст на файловете + История на предишния разговор + Вашето съобщение: "Hi"</code></pre> <p>Общият размер на всички тези компоненти е реалният контекст, който моделът обработва.</p> <p>Следователно дори много кратко съобщение може да изразходва значителен брой токени.</p> <hr> <h2>Какво може да увеличи използването на контекст?</h2> <h3>1. Конфигурирани умения</h3> <p>Ако сте активирали персонализирани умения или AI възможности, техните инструкции трябва да бъдат заредени в контекста на модела.</p> <p>Например:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Инструкции за умение A: 2 000 токена Инструкции за умение B: 3 000 токена Инструкции за умение 1 500 токена</code></pre> <p>Още преди да напишете каквото и да било, тези инструкции може вече да заемат няколко хиляди токена.</p> <hr> <h3>2. Инструменти и възможности на агента</h3> <p>AI асистентите за програмиране обикновено предоставят инструменти като:</p> <ul> <li><p>Четене на файлове</p></li> <li><p>Търсене в код</p></li> <li><p>Изпълнение в терминал</p></li> <li><p>Git операции</p></li> <li><p>Достъп до браузър</p></li> <li><p>Външни интеграции</p></li> </ul> <p>Дефинициите и инструкциите за използване на тези инструменти също изразходват място в контекста.</p> <hr> <h3>3. Контекст на проекта и файловете</h3> <p>Когато работите в IDE или в хранилище с код, AI клиентът може автоматично да включи:</p> <ul> <li><p>Структура на проекта</p></li> <li><p>Отворени файлове</p></li> <li><p>Откъси от код</p></li> <li><p>Зависимости</p></li> <li><p>Конфигурационни файлове</p></li> </ul> <p>Това позволява на AI да разбере вашия проект, но също така увеличава използването на контекста.</p> <hr> <h3>4. История на предишния разговор</h3> <p>Ако продължите съществуващ разговор, предишните съобщения обикновено се включват отново, за да може моделът да разбере контекста.</p> <p>Например:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Предишна дискусия: 12 000 токена Ново съобщение: Hi</code></pre> <p>Новата заявка може все още да съдържа предишните 12 000 токена.</p> <hr> <h2>Как да тествате минималното използване на токени</h2> <p>Ако искате да измерите използването на токени при просто съобщение, опитайте следното:</p> <ol> <li><p>Създайте напълно нов разговор.</p></li> <li><p>Деактивирайте персонализираните умения.</p></li> <li><p>Не прикачвайте файлове.</p></li> <li><p>Не отваряйте проектно работно пространство.</p></li> <li><p>Изпратете само:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>Това ще покаже приблизителното минимално използване на контекста.</p> <hr> <h2>Прозорец на контекста спрямо използване на токени</h2> <p>Важно е да се прави разлика между:</p> <h3>Прозорец на контекста</h3> <p>Максималното количество информация, което моделът може да обработи в една заявка.</p> <p>Пример:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Контекстен прозорец от 1M токена</code></pre> <p>означава, че моделът теоретично може да обработи до 1 милион токена.</p> <h3>Използване на токени</h3> <p>Реалното количество токени, включени в конкретна заявка.</p> <p>Пример:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Потребителско съобщение: Hi Действителна заявка: Системни инструкции + инструменти + история + "Hi" Общо: 15 000 токена</code></pre> <p>Големият контекстен прозорец не означава, че всяка заявка ще изразходва само дължината на вашето съобщение.</p> <hr> <h2>Заключение</h2> <p>Високото използване на токени при кратко съобщение не означава непременно проблем с модела или API.</p> <p>В среди с AI агенти общият контекст включва много скрити компоненти, необходими за интелигентна работа. Едно просто „Hi“ все пак може да доведе до обработка на хиляди токени, ако сесията съдържа умения, инструменти, информация за проекта или предишна история.</p> <p>Препоръчваме да започнете чиста сесия без допълнителен контекст, когато тествате суровото използване на токени.</p> <p>Благодарим ви за разбирането и постоянната подкрепа.</p>

<h2><strong>Bevezetés</strong></h2> <p></p> <p>Nemrég néhány felhasználó egy szokatlan jelenségre figyelt fel:</p> <blockquote> <p>„Csak annyit írtam, hogy ‘Szia’, miért fogyasztott el több mint 10 000 tokent?”</p> </blockquote> <p>Első pillantásra ez meglepőnek tűnhet. Egy kétbetűs üzenetnek csak néhány tokenbe kellene kerülnie, igaz?</p> <p>A válasz: <strong>a modell nem csak a látható üzenetedet dolgozza fel.</strong></p> <p>A modern MI-asszisztensek, különösen a kódolási ügynökök, mint például a Codex, a Claude Code és más IDE-alapú MI-eszközök, sokkal több információt küldenek az üzeneteddel együtt, hogy segítsék a modellt a feladat megértésében és a jobb válaszadásban.</p> <hr> <p></p> <h2>Az üzeneted csak kis része a kontextusnak</h2> <p>Amikor ezt küldöd:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Szia</code></pre> <p>a tényleges, MI-modellnek küldött kérés inkább így nézhet ki:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Rendszerutasítások + Felhasználói beállítások + Beállított készségek + Elérhető eszközök + Projektinformációk + Fájlkörnyezet + Korábbi beszélgetési előzmények + Az üzeneted: "Szia"</code></pre> <p>Az összes ilyen összetevő együttes mérete adja a modell által ténylegesen feldolgozott kontextust.</p> <p>Ezért még egy nagyon rövid üzenet is jelentős számú tokent fogyaszthat.</p> <hr> <h2>Mi növelheti a kontextushasználatot?</h2> <h3>1. Beállított készségek</h3> <p>Ha egyéni készségeket vagy MI-képességeket engedélyeztél, azok utasításait is be kell tölteni a modell kontextusába.</p> <p>Például:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>A készség utasításai: 2 000 token B készség utasításai: 3 000 token C készség utasításai: 1 500 token</code></pre> <p>Már azelőtt, hogy bármit beírnál, ezek az utasítások több ezer tokent foglalhatnak el.</p> <hr> <h3>2. Eszközök és ügynökképességek</h3> <p>Az MI-alapú kódolási asszisztensek általában olyan eszközöket biztosítanak, mint például:</p> <ul> <li><p>Fájlolvasás</p></li> <li><p>Kódkersés</p></li> <li><p>Terminálparancsok futtatása</p></li> <li><p>Git-műveletek</p></li> <li><p>Böngészőhozzáférés</p></li> <li><p>Külső integrációk</p></li> </ul> <p>Ezeknek az eszközöknek a definíciói és használati utasításai szintén kontextushelyet fogyasztanak.</p> <hr> <h3>3. Projekt- és fájlkörnyezet</h3> <p>Amikor egy IDE-ben vagy kódtárban dolgozol, az MI-kliens automatikusan mellékelheti a következőket:</p> <ul> <li><p>Projektstruktúra</p></li> <li><p>Megnyitott fájlok</p></li> <li><p>Kódrészletek</p></li> <li><p>Függőségek</p></li> <li><p>Konfigurációs fájlok</p></li> </ul> <p>Ez segíti az MI-t a projekted megértésében, de egyben növeli a kontextushasználatot is.</p> <hr> <h3>4. Korábbi beszélgetési előzmények</h3> <p>Ha egy meglévő beszélgetést folytatsz, a korábbi üzeneteket általában újra csatolják, hogy a modell értse a kontextust.</p> <p>Például:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Korábbi beszélgetés: 12 000 token Új üzenet: Szia</code></pre> <p>Az új kérés továbbra is tartalmazhatja az előző 12 000 tokent.</p> <hr> <h2>Hogyan tesztelhető a minimális tokenhasználat?</h2> <p>Ha egy egyszerű üzenet tokenhasználatát szeretnéd mérni, próbáld ki a következőket:</p> <ol> <li><p>Hozz létre egy teljesen új beszélgetést.</p></li> <li><p>Kapcsold ki az egyéni készségeket.</p></li> <li><p>Ne csatolj fájlokat.</p></li> <li><p>Ne nyiss meg projektmunkaterületet.</p></li> <li><p>Csak ezt küldd el:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Szia</code></pre> <p>Ez megmutatja a hozzávetőleges minimális kontextushasználatot.</p> <hr> <h2>Kontextusablak vs. tokenhasználat</h2> <p>Fontos különbséget tenni a következők között:</p> <h3>Kontextusablak</h3> <p>Az az információmennyiség, amelyet a modell egyetlen kérésben maximálisan fel tud dolgozni.</p> <p>Példa:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1 millió tokenes kontextusablak</code></pre> <p>azt jelenti, hogy a modell elméletben akár 1 millió tokent is képes kezelni.</p> <h3>Tokenhasználat</h3> <p>Az adott kérésben ténylegesen szereplő tokenek száma.</p> <p>Példa:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Felhasználói üzenet: Szia Tényleges kérés: Rendszerutasítások + eszközök + előzmények + "Szia" Összesen: 15 000 token</code></pre> <p>A nagy kontextusablak nem azt jelenti, hogy minden kérés csak az üzeneted hosszát fogyasztja.</p> <hr> <h2>Következtetés</h2> <p>A rövid üzenetből adódó magas tokenhasználat nem feltétlenül jelent problémát a modellel vagy az API-val.</p> <p>Az MI-ügynökös környezetekben a teljes kontextus sok rejtett összetevőt tartalmaz, amelyek az intelligens működéshez szükségesek. Egy egyszerű „Szia” is több ezer token feldolgozását eredményezheti, ha a munkamenet készségeket, eszközöket, projektinformációkat vagy korábbi előzményeket tartalmaz.</p> <p>A nyers tokenhasználat teszteléséhez azt javasoljuk, hogy tiszta munkamenetet indíts további kontextus nélkül.</p> <p>Köszönjük megértésedet és folyamatos támogatásodat.</p>

소개 최근 일부 사용자는 다음과 같은 의아한 상황을 발견했습니다: ‘Hi’만 보냈는데 왜 10,000개 이상의 토큰이 소모되나요? 처음 보면 다소 예상 밖으로 느껴질 수 있습니다. 두 글자짜리 메시지라면 몇 개의 토큰만 필요할 것 같지 않나요? 정답은 다음과 같습니다: 모델은 사용자가 눈에 보이는 메시지만 처리하는 것이 아닙니다. Codex, Claude Code, 그리고 기타 IDE 기반 AI 도구와 같은 최신 AI 어시스턴트, 특히 코딩 에이전트는 모델이 작업을 이해하고 더 나은 응답을 제공할 수 있도록 사용자의 메시지와 함께 훨씬 더 많은 정보를 전송합니다. 사용자의 메시지는 전체 컨텍스트의 일부분일 뿐입니다 사용자가 다음과 같이 보내면: <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> AI 모델에 실제로 전송되는 요청은 다음과 더 비슷할 수 있습니다: <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>시스템 지침 + 사용자 설정 + 구성된 스킬 + 사용 가능한 도구 + 프로젝트 정보 + 파일 컨텍스트 + 이전 대화 기록 + 사용자 메시지: "Hi"</code></pre> 이 모든 구성 요소의 총합이 모델이 실제로 처리하는 컨텍스트입니다. 따라서 아주 짧은 메시지라도 상당한 수의 토큰을 소모할 수 있습니다. 무엇이 컨텍스트 사용량을 증가시킬 수 있을까요? 1. 구성된 스킬 사용자가 커스텀 스킬이나 AI 기능을 활성화했다면, 그 지침도 모델 컨텍스트에 로드되어야 합니다. 예를 들어: <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>스킬 A 지침: 2,000 토큰 스킬 B 지침: 3,000 토큰 스킬 C 지침: 1,500 토큰</code></pre> 사용자가 아무것도 입력하기 전부터 이러한 지침만으로도 이미 수천 개의 토큰을 차지할 수 있습니다. 2. 도구와 에이전트 기능 AI 코딩 어시스턴트는 보통 다음과 같은 도구를 제공합니다: 파일 읽기 코드 검색 터미널 실행 Git 작업 브라우저 접근 외부 연동 이러한 도구의 정의와 사용 지침 역시 컨텍스트 공간을 소모합니다. 3. 프로젝트 및 파일 컨텍스트 IDE나 코드 저장소 내부에서 작업할 때, AI 클라이언트는 자동으로 다음을 포함할 수 있습니다: 프로젝트 구조 열려 있는 파일 코드 조각 의존성 구성 파일 이 덕분에 AI가 프로젝트를 더 잘 이해할 수 있지만, 동시에 컨텍스트 사용량도 증가합니다. 4. 이전 대화 기록 기존 대화를 이어갈 경우, 모델이 문맥을 이해할 수 있도록 이전 메시지들이 다시 함께 포함되는 경우가 많습니다. 예를 들어: <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>이전 대화: 12,000 토큰 새 메시지: Hi</code></pre> 새 요청에도 여전히 이전의 12,000토큰이 포함될 수 있습니다. 최소 토큰 사용량을 테스트하는 방법 단순한 메시지의 토큰 사용량을 측정하고 싶다면, 다음과 같이 해보세요: 완전히 새로운 대화를 시작합니다. 커스텀 스킬을 비활성화합니다. 파일을 첨부하지 않습니다. 프로젝트 워크스페이스를 열지 않습니다. 다음만 전송합니다: <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> 이렇게 하면 대략적인 최소 컨텍스트 사용량을 확인할 수 있습니다. 컨텍스트 윈도우와 토큰 사용량의 차이 다음 두 개념은 구분해서 이해하는 것이 중요합니다: 컨텍스트 윈도우 모델이 한 번의 요청에서 처리할 수 있는 정보의 최대량입니다. 예시: <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>100만 토큰 컨텍스트 윈도우</code></pre> 이는 모델이 이론상 최대 100만 토큰까지 처리할 수 있음을 의미합니다. 토큰 사용량 특정 요청에 실제로 포함된 토큰의 양입니다. 예시: <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>사용자 메시지: Hi 실제 요청: 시스템 지침 + 도구 + 기록 + "Hi" 총합: 15,000 토큰</code></pre> 컨텍스트 윈도우가 크다고 해서 모든 요청이 사용자의 메시지 길이만큼만 소모된다는 뜻은 아닙니다. 결론 짧은 메시지에서 높은 토큰 사용량이 발생한다고 해서 반드시 모델이나 API에 문제가 있다는 뜻은 아닙니다. AI 에이전트 환경에서는 전체 컨텍스트에 지능적인 동작을 위해 필요한 여러 숨겨진 구성 요소가 포함됩니다. 세션에 스킬, 도구, 프로젝트 정보, 이전 기록이 있다면 단순한 ‘Hi’도 수천 개의 토큰 처리를 유발할 수 있습니다. 순수한 토큰 사용량을 테스트할 때는 추가 컨텍스트 없이 깨끗한 세션에서 시작하는 것을 권장합니다. 이해와 지속적인 지원에 감사드립니다.

<h2><strong>Introducción</strong></h2> <p></p> <p>Recientemente, algunos usuarios notaron una situación inusual:</p> <blockquote> <p>"Solo envié ‘Hola’, ¿por qué consumió más de 10.000 tokens?"</p> </blockquote> <p>A primera vista, esto puede parecer inesperado. Un mensaje de dos caracteres debería requerir solo unos pocos tokens, ¿verdad?</p> <p>La respuesta es: <strong>el modelo no solo procesa tu mensaje visible.</strong></p> <p>Los asistentes modernos de IA, especialmente los agentes de programación como Codex, Claude Code y otras herramientas de IA basadas en IDE, envían mucha más información junto con tu mensaje para ayudar al modelo a comprender la tarea y proporcionar mejores respuestas.</p> <hr> <p></p> <h2>Tu mensaje es solo una pequeña parte del contexto</h2> <p>Cuando envías:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hola</code></pre> <p>la solicitud real enviada al modelo de IA puede verse más así:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instrucciones del sistema + Configuración del usuario + Habilidades configuradas + Herramientas disponibles + Información del proyecto + Contexto de archivos + Historial de conversación previo + Tu mensaje: "Hola"</code></pre> <p>El tamaño total de todos estos componentes es el contexto real procesado por el modelo.</p> <p>Por lo tanto, incluso un mensaje muy corto puede consumir una cantidad significativa de tokens.</p> <hr> <h2>¿Qué puede aumentar el uso de contexto?</h2> <h3>1. Habilidades configuradas</h3> <p>Si has habilitado habilidades personalizadas o capacidades de IA, sus instrucciones deben cargarse en el contexto del modelo.</p> <p>Por ejemplo:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instrucciones de la Habilidad A: 2.000 tokens Instrucciones de la Habilidad B: 3.000 tokens Instrucciones de la Habilidad 1.500 tokens</code></pre> <p>Incluso antes de que escribas algo, estas instrucciones pueden ocupar ya varios miles de tokens.</p> <hr> <h3>2. Herramientas y capacidades del agente</h3> <p>Los asistentes de IA para programación normalmente ofrecen herramientas como:</p> <ul> <li><p>Lectura de archivos</p></li> <li><p>Búsqueda de código</p></li> <li><p>Ejecución en terminal</p></li> <li><p>Operaciones con Git</p></li> <li><p>Acceso al navegador</p></li> <li><p>Integraciones externas</p></li> </ul> <p>Las definiciones y las instrucciones de uso de estas herramientas también consumen espacio de contexto.</p> <hr> <h3>3. Contexto del proyecto y de archivos</h3> <p>Al trabajar dentro de un IDE o repositorio de código, el cliente de IA puede incluir automáticamente:</p> <ul> <li><p>Estructura del proyecto</p></li> <li><p>Archivos abiertos</p></li> <li><p>Fragmentos de código</p></li> <li><p>Dependencias</p></li> <li><p>Archivos de configuración</p></li> </ul> <p>Esto permite que la IA comprenda tu proyecto, pero también incrementa el uso de contexto.</p> <hr> <h3>4. Historial de conversación previo</h3> <p>Si continúas una conversación existente, los mensajes anteriores normalmente se incluyen de nuevo para que el modelo entienda el contexto.</p> <p>Por ejemplo:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Discusión previa: 12.000 tokens Nuevo mensaje: Hola</code></pre> <p>La nueva solicitud aún puede contener los 12.000 tokens anteriores.</p> <hr> <h2>Cómo probar el uso mínimo de tokens</h2> <p>Si quieres medir el uso de tokens de un mensaje simple, prueba lo siguiente:</p> <ol> <li><p>Crea una conversación completamente nueva.</p></li> <li><p>Desactiva las habilidades personalizadas.</p></li> <li><p>No adjuntes archivos.</p></li> <li><p>No abras un espacio de trabajo del proyecto.</p></li> <li><p>Envía solo:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hola</code></pre> <p>Esto mostrará el uso mínimo aproximado de contexto.</p> <hr> <h2>Ventana de contexto vs. uso de tokens</h2> <p>Es importante distinguir entre:</p> <h3>Ventana de contexto</h3> <p>La cantidad máxima de información que un modelo puede procesar en una sola solicitud.</p> <p>Ejemplo:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Ventana de contexto de 1M tokens</code></pre> <p>significa que el modelo puede, en teoría, manejar hasta 1 millón de tokens.</p> <h3>Uso de tokens</h3> <p>La cantidad real de tokens incluidos en una solicitud específica.</p> <p>Ejemplo:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Mensaje del usuario: Hola Solicitud real: Instrucciones del sistema + herramientas + historial + "Hola" Total: 15.000 tokens</code></pre> <p>Una ventana de contexto grande no significa que cada solicitud solo consumirá la longitud de tu mensaje.</p> <hr> <h2>Conclusión</h2> <p>Un alto uso de tokens a partir de un mensaje corto no indica necesariamente un problema con el modelo o la API.</p> <p>En entornos de agentes de IA, el contexto total incluye muchos componentes ocultos necesarios para un funcionamiento inteligente. Un simple "Hola" aún puede dar como resultado miles de tokens procesados si la sesión contiene habilidades, herramientas, información del proyecto o historial previo.</p> <p>Recomendamos iniciar una sesión limpia sin contexto adicional al probar el uso bruto de tokens.</p> <p>Gracias por su comprensión y apoyo continuo.</p>

المقدمة لاحظ بعض المستخدمين مؤخرًا موقفًا غير معتاد: "لقد أرسلت فقط ‘Hi’، فلماذا استهلكت أكثر من 10,000 رمز مميز؟" للوهلة الأولى، قد يبدو هذا غير متوقع. فرسالة من حرفين فقط يفترض أن تحتاج إلى عدد قليل من الرموز المميزة، أليس كذلك؟ الإجابة هي: النموذج لا يعالج رسالتك الظاهرة فقط. ترسل مساعدات الذكاء الاصطناعي الحديثة، وخاصة وكلاء البرمجة مثل Codex وClaude Code وغيرها من أدوات الذكاء الاصطناعي المدمجة في بيئات التطوير، معلومات أكثر بكثير مع رسالتك لمساعدة النموذج على فهم المهمة وتقديم ردود أفضل. رسالتك ليست سوى جزء صغير من السياق عندما ترسل: Hi فإن الطلب الفعلي المرسل إلى نموذج الذكاء الاصطناعي قد يبدو أقرب إلى هذا: تعليمات النظام + إعدادات المستخدم + المهارات المُعدّة + الأدوات المتاحة + معلومات المشروع + سياق الملفات + سجل المحادثة السابق + رسالتك: "Hi" الحجم الإجمالي لكل هذه المكونات هو السياق الفعلي الذي يعالجه النموذج. لذلك، حتى الرسالة القصيرة جدًا قد تستهلك عددًا كبيرًا من الرموز المميزة. ما الذي يمكن أن يزيد من استهلاك السياق؟ 1. المهارات المُعدّة إذا كنت قد فعّلت مهارات مخصصة أو قدرات ذكاء اصطناعي إضافية، فيجب تحميل تعليماتها داخل سياق النموذج. على سبيل المثال: تعليمات المهارة A: 2,000 رمز مميز تعليمات المهارة B: 3,000 رمز مميز تعليمات المهارة C: 1,500 رمز مميز حتى قبل أن تكتب أي شيء، قد تكون هذه التعليمات قد شغلت بالفعل عدة آلاف من الرموز المميزة. 2. الأدوات وقدرات الوكيل توفّر مساعدات البرمجة بالذكاء الاصطناعي عادةً أدوات مثل: قراءة الملفات البحث في الشيفرة تنفيذ الأوامر في الطرفية عمليات Git الوصول إلى المتصفح التكاملات الخارجية كما أن تعريفات هذه الأدوات وتعليمات استخدامها تستهلك أيضًا مساحة من السياق. 3. سياق المشروع والملفات عند العمل داخل بيئة تطوير أو مستودع شيفرة، قد يقوم عميل الذكاء الاصطناعي تلقائيًا بإدراج ما يلي: بنية المشروع الملفات المفتوحة مقتطفات الشيفرة التبعيات ملفات الإعداد يسمح ذلك للذكاء الاصطناعي بفهم مشروعك، لكنه يزيد أيضًا من استهلاك السياق. 4. سجل المحادثة السابق إذا واصلت محادثة موجودة، فعادةً ما تُضمَّن الرسائل السابقة مرة أخرى حتى يفهم النموذج السياق. على سبيل المثال: المناقشة السابقة: 12,000 رمز مميز الرسالة الجديدة: Hi قد يظل الطلب الجديد يحتوي على 12,000 رمز مميز السابقة. كيفية اختبار الحد الأدنى لاستهلاك الرموز المميزة إذا كنت تريد قياس استهلاك الرموز المميزة لرسالة بسيطة، فيرجى تجربة ما يلي: أنشئ محادثة جديدة تمامًا. عطّل المهارات المخصصة. لا تُرفق ملفات. لا تفتح مساحة عمل مشروع. أرسل فقط: Hi سيُظهر لك هذا الحد الأدنى التقريبي لاستهلاك السياق. نافذة السياق مقابل استهلاك الرموز المميزة من المهم التمييز بين: نافذة السياق هي الحد الأقصى لكمية المعلومات التي يمكن للنموذج معالجتها في طلب واحد. مثال: نافذة سياق بسعة 1M رمز مميز وهذا يعني أن النموذج يمكنه نظريًا التعامل مع ما يصل إلى مليون رمز مميز. استهلاك الرموز المميزة هو العدد الفعلي للرموز المميزة المضمّنة في طلب محدد. مثال: رسالة المستخدم: Hi الطلب الفعلي: تعليمات النظام + الأدوات + السجل + "Hi" الإجمالي: 15,000 رمز مميز امتلاك نافذة سياق كبيرة لا يعني أن كل طلب سيستهلك فقط طول رسالتك. الخلاصة الاستهلاك المرتفع للرموز المميزة الناتج عن رسالة قصيرة لا يعني بالضرورة وجود مشكلة في النموذج أو واجهة API. في بيئات وكلاء الذكاء الاصطناعي، يتضمن السياق الإجمالي العديد من المكونات المخفية المطلوبة للتشغيل الذكي. لذلك، قد تؤدي رسالة بسيطة مثل "Hi" إلى معالجة آلاف الرموز المميزة إذا كانت الجلسة تحتوي على مهارات أو أدوات أو معلومات مشروع أو سجل سابق. نوصي ببدء جلسة نظيفة دون سياق إضافي عند اختبار استهلاك الرموز المميزة الخام. شكرًا لتفهمكم ودعمكم المستمر.