Skip to content
  • 0 Votes
    1 Posts
    4 Views
    A
    <h2><strong>Introduktion</strong></h2> <p></p> <p>For nylig bemærkede nogle brugere en usædvanlig situation:</p> <blockquote> <p>"Jeg sendte kun ‘Hej’, hvorfor brugte det 10.000+ tokens?"</p> </blockquote> <p>Ved første øjekast kan dette virke uventet. En besked på tre tegn burde kun kræve få tokens, ikke?</p> <p>Svaret er: <strong>modellen behandler ikke kun din synlige besked.</strong></p> <p>Moderne AI-assistenter, især kodningsagenter som Codex, Claude Code og andre IDE-baserede AI-værktøjer, sender meget mere information sammen med din besked for at hjælpe modellen med at forstå opgaven og give bedre svar.</p> <hr> <p></p> <h2>Din besked er kun en lille del af konteksten</h2> <p>Når du sender:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hej</code></pre> <p>kan den faktiske anmodning, der sendes til AI-modellen, se mere sådan ud:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Systeminstruktioner + Brugerindstillinger + Konfigurerede færdigheder + Tilgængelige værktøjer + Projektinformation + Filkontekst + Tidligere samtalehistorik + Din besked: "Hej"</code></pre> <p>Den samlede størrelse af alle disse komponenter er den faktiske kontekst, som modellen behandler.</p> <p>Derfor kan selv en meget kort besked bruge et betydeligt antal tokens.</p> <hr> <h2>Hvad kan øge kontekstforbruget?</h2> <h3>1. Konfigurerede færdigheder</h3> <p>Hvis du har aktiveret brugerdefinerede færdigheder eller AI-funktioner, skal deres instruktioner indlæses i modellens kontekst.</p> <p>For eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instruktioner for færdighed A: 2.000 tokens Instruktioner for færdighed B: 3.000 tokens Instruktioner for færdighed 1.500 tokens</code></pre> <p>Selv før du skriver noget, kan disse instruktioner allerede optage flere tusinde tokens.</p> <hr> <h3>2. Værktøjer og agentfunktioner</h3> <p>AI-kodningsassistenter tilbyder normalt værktøjer som:</p> <ul> <li><p>Fillæsning</p></li> <li><p>Kodesøgning</p></li> <li><p>Terminalkørsel</p></li> <li><p>Git-operationer</p></li> <li><p>Browseradgang</p></li> <li><p>Eksterne integrationer</p></li> </ul> <p>Definitionerne og brugsinstruktionerne for disse værktøjer bruger også kontekstplads.</p> <hr> <h3>3. Projekt- og filkontekst</h3> <p>Når du arbejder i en IDE eller et kode-repository, kan AI-klienten automatisk inkludere:</p> <ul> <li><p>Projektstruktur</p></li> <li><p>Åbne filer</p></li> <li><p>Kodestykker</p></li> <li><p>Afhængigheder</p></li> <li><p>Konfigurationsfiler</p></li> </ul> <p>Dette gør det muligt for AI'en at forstå dit projekt, men det øger også kontekstforbruget.</p> <hr> <h3>4. Tidligere samtalehistorik</h3> <p>Hvis du fortsætter en eksisterende samtale, bliver de tidligere beskeder normalt inkluderet igen, så modellen forstår konteksten.</p> <p>For eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Tidligere diskussion: 12.000 tokens Ny besked: Hej</code></pre> <p>Den nye anmodning kan stadig indeholde de foregående 12.000 tokens.</p> <hr> <h2>Sådan tester du minimalt tokenforbrug</h2> <p>Hvis du vil måle tokenforbruget for en simpel besked, kan du prøve følgende:</p> <ol> <li><p>Opret en helt ny samtale.</p></li> <li><p>Deaktivér brugerdefinerede færdigheder.</p></li> <li><p>Vedhæft ingen filer.</p></li> <li><p>Åbn ikke et projektarbejdsområde.</p></li> <li><p>Send kun:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hej</code></pre> <p>Dette vil vise det omtrentlige minimale kontekstforbrug.</p> <hr> <h2>Kontekstvindue vs. tokenforbrug</h2> <p>Det er vigtigt at skelne mellem:</p> <h3>Kontekstvindue</h3> <p>Den maksimale mængde information, en model kan behandle i én anmodning.</p> <p>Eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token kontekstvindue</code></pre> <p>betyder, at modellen teoretisk kan håndtere op til 1 million tokens.</p> <h3>Tokenforbrug</h3> <p>Det faktiske antal tokens, der indgår i en specifik anmodning.</p> <p>Eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Brugerbesked: Hej Faktisk anmodning: Systeminstruktioner + værktøjer + historik + "Hej" I alt: 15.000 tokens</code></pre> <p>Et stort kontekstvindue betyder ikke, at hver anmodning kun vil bruge længden af din besked.</p> <hr> <h2>Konklusion</h2> <p>Højt tokenforbrug fra en kort besked betyder ikke nødvendigvis, at der er et problem med modellen eller API'et.</p> <p>I AI-agentmiljøer indeholder den samlede kontekst mange skjulte komponenter, som er nødvendige for intelligent drift. Et simpelt "Hej" kan stadig resultere i, at tusindvis af tokens behandles, hvis sessionen indeholder færdigheder, værktøjer, projektinformation eller tidligere historik.</p> <p>Vi anbefaler at starte en ren session uden yderligere kontekst, når du tester råt tokenforbrug.</p> <p>Tak for din forståelse og fortsatte støtte.</p>
  • 0 Votes
    1 Posts
    5 Views
    A
    <h2><strong>Inleiding</strong></h2> <p></p> <p>Onlangs merkten sommige gebruikers een ongebruikelijke situatie op:</p> <blockquote> <p>‘Ik stuurde alleen “Hi”, waarom verbruikte dat meer dan 10.000 tokens?’</p> </blockquote> <p>Op het eerste gezicht lijkt dat misschien onverwacht. Een bericht van twee tekens zou toch maar een paar tokens moeten vereisen?</p> <p>Het antwoord is: <strong>het model verwerkt niet alleen je zichtbare bericht.</strong></p> <p>Moderne AI-assistenten, vooral codeeragents zoals Codex, Claude Code en andere IDE-gebaseerde AI-tools, sturen samen met je bericht veel meer informatie mee om het model te helpen de taak te begrijpen en betere antwoorden te geven.</p> <hr> <p></p> <h2>Je bericht is maar een klein deel van de context</h2> <p>Wanneer je stuurt:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>kan het daadwerkelijke verzoek dat naar het AI-model wordt gestuurd er eerder zo uitzien:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Systeeminstructies + Gebruikersinstellingen + Geconfigureerde vaardigheden + Beschikbare tools + Projectinformatie + Bestandscontext + Eerdere gespreksgeschiedenis + Jouw bericht: "Hi"</code></pre> <p>De totale omvang van al deze onderdelen is de werkelijke context die door het model wordt verwerkt.</p> <p>Daarom kan zelfs een heel kort bericht een aanzienlijk aantal tokens verbruiken.</p> <hr> <h2>Wat kan het contextverbruik verhogen?</h2> <h3>1. Geconfigureerde vaardigheden</h3> <p>Als je aangepaste vaardigheden of AI-mogelijkheden hebt ingeschakeld, moeten de instructies daarvan in de modelcontext worden geladen.</p> <p>Bijvoorbeeld:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instructies voor vaardigheid A: 2.000 tokens Instructies voor vaardigheid B: 3.000 tokens Instructies voor vaardigheid 1.500 tokens</code></pre> <p>Zelfs voordat je iets typt, kunnen deze instructies al enkele duizenden tokens innemen.</p> <hr> <h3>2. Tools en agentmogelijkheden</h3> <p>AI-codeerassistenten bieden meestal tools zoals:</p> <ul> <li><p>Bestanden lezen</p></li> <li><p>Code doorzoeken</p></li> <li><p>Terminaluitvoering</p></li> <li><p>Git-bewerkingen</p></li> <li><p>Browsertoegang</p></li> <li><p>Externe integraties</p></li> </ul> <p>De definities en gebruiksinstructies van deze tools verbruiken ook contextruimte.</p> <hr> <h3>3. Project- en bestandscontext</h3> <p>Wanneer je binnen een IDE of coderepository werkt, kan de AI-client automatisch het volgende opnemen:</p> <ul> <li><p>Projectstructuur</p></li> <li><p>Geopende bestanden</p></li> <li><p>Codefragmenten</p></li> <li><p>Afhankelijkheden</p></li> <li><p>Configuratiebestanden</p></li> </ul> <p>Hierdoor kan de AI je project begrijpen, maar het verhoogt ook het contextverbruik.</p> <hr> <h3>4. Eerdere gespreksgeschiedenis</h3> <p>Als je een bestaand gesprek voortzet, worden eerdere berichten meestal opnieuw meegestuurd zodat het model de context begrijpt.</p> <p>Bijvoorbeeld:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Eerdere discussie: 12.000 tokens Nieuw bericht: Hi</code></pre> <p>Het nieuwe verzoek kan dus nog steeds die eerdere 12.000 tokens bevatten.</p> <hr> <h2>Hoe je minimaal tokenverbruik kunt testen</h2> <p>Als je het tokenverbruik van een eenvoudig bericht wilt meten, probeer dan het volgende:</p> <ol> <li><p>Start een volledig nieuw gesprek.</p></li> <li><p>Schakel aangepaste vaardigheden uit.</p></li> <li><p>Voeg geen bestanden toe.</p></li> <li><p>Open geen projectwerkruimte.</p></li> <li><p>Stuur alleen:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>Dit laat het benaderende minimale contextverbruik zien.</p> <hr> <h2>Contextvenster vs tokenverbruik</h2> <p>Het is belangrijk om onderscheid te maken tussen:</p> <h3>Contextvenster</h3> <p>De maximale hoeveelheid informatie die een model in één verzoek kan verwerken.</p> <p>Voorbeeld:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Contextvenster van 1M tokens</code></pre> <p>betekent dat het model theoretisch tot 1 miljoen tokens aankan.</p> <h3>Tokenverbruik</h3> <p>De werkelijke hoeveelheid tokens die in een specifiek verzoek is opgenomen.</p> <p>Voorbeeld:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Gebruikersbericht: Hi Daadwerkelijk verzoek: Systeeminstructies + tools + geschiedenis + "Hi" Totaal: 15.000 tokens</code></pre> <p>Een groot contextvenster betekent niet dat elk verzoek alleen de lengte van je bericht verbruikt.</p> <hr> <h2>Conclusie</h2> <p>Hoog tokenverbruik door een kort bericht duidt niet noodzakelijk op een probleem met het model of de API.</p> <p>In AI-agentomgevingen omvat de totale context veel verborgen onderdelen die nodig zijn voor intelligente werking. Een eenvoudig ‘Hi’ kan nog steeds resulteren in het verwerken van duizenden tokens als de sessie vaardigheden, tools, projectinformatie of eerdere geschiedenis bevat.</p> <p>We raden aan een schone sessie zonder extra context te starten wanneer je het ruwe tokenverbruik wilt testen.</p> <p>Dank je voor je begrip en voortdurende steun.</p>
  • 0 Votes
    1 Posts
    8 Views
    A
    引言 最近,一些用户注意到了一个不寻常的情况: “我只是发送了‘Hi’,为什么却消耗了 10,000+ 个 token?” 乍一看,这似乎有些出人意料。两个字符的消息,按理说应该只需要很少的 token,对吧? 答案是:模型处理的不仅仅是你看到的那条消息。 现代 AI 助手,尤其是像 Codex、Claude Code 以及其他基于 IDE 的 AI 编码代理,通常会在你的消息之外,一并发送更多信息,以帮助模型理解任务并提供更好的回答。 你的消息只是上下文中的一小部分 当你发送: Hi 实际发送给 AI 模型的请求,更可能像这样: System Instructions + User Settings + Configured Skills + Available Tools + Project Information + File Context + Previous Conversation History + Your Message: "Hi" 所有这些组成部分的总大小,才是模型实际处理的上下文。 因此,即使是一条非常短的消息,也可能消耗大量 token。 什么会增加上下文使用量? 1. 已配置的技能 如果你启用了自定义技能或 AI 能力,那么这些技能的指令也需要被加载进模型上下文。 例如: Skill A instructions: 2,000 tokens Skill B instructions: 3,000 tokens Skill C instructions: 1,500 tokens 甚至在你还没有输入任何内容之前,这些指令可能就已经占用了数千个 token。 2. 工具与代理能力 AI 编码助手通常会提供如下工具: 文件读取 代码搜索 终端执行 Git 操作 浏览器访问 外部集成 这些工具的定义和使用说明,同样会占用上下文空间。 3. 项目与文件上下文 当你在 IDE 或代码仓库中工作时,AI 客户端可能会自动附带: 项目结构 已打开的文件 代码片段 依赖项 配置文件 这能帮助 AI 理解你的项目,但也会增加上下文使用量。 4. 之前的对话历史 如果你是在继续一个已有对话,先前的消息通常会再次被一并发送,以便模型理解上下文。 例如: Previous discussion: 12,000 tokens New message: Hi 那么新的请求中,仍然可能包含前面的 12,000 个 token。 如何测试最小 Token 使用量 如果你想测量一条简单消息的 token 用量,请尝试以下方法: 创建一个全新的对话。 关闭自定义技能。 不附加文件。 不打开项目工作区。 只发送: Hi 这样可以更接近地观察最小上下文使用量。 上下文窗口 vs Token 使用量 有必要区分以下两个概念: Context Window 模型在一次请求中最多能够处理的信息量。 例如: 1M token context window 这表示模型理论上最多可处理 100 万个 token。 Token Usage 某一次具体请求中,实际包含的 token 数量。 例如: User message: Hi Actual request: System instructions + tools + history + "Hi" Total: 15,000 tokens 较大的上下文窗口,并不意味着每次请求只会消耗与你消息长度相当的 token。 结论 短消息带来的高 token 消耗,并不一定意味着模型或 API 出现了问题。 在 AI 代理环境中,总上下文通常包含许多为了实现智能操作而必须附带的隐藏组成部分。只发送一句简单的“Hi”,如果当前会话中还包含技能、工具、项目信息或历史记录,依然可能导致模型处理数千个 token。 如果你想测试最原始的 token 用量,我们建议在没有额外上下文的干净会话中进行测试。 感谢你的理解与持续支持。
  • 0 Votes
    1 Posts
    5 Views
    A
    <h2><strong>መግቢያ</strong></h2> <p></p> <p>በቅርቡ አንዳንድ ተጠቃሚዎች ያልተለመደ ሁኔታ አስተውለዋል፦</p> <blockquote> <p>‘Hi’ ብቻ ልኬ ነበር፣ ለምን 10,000+ ቶከኖች ወሰደ?</p> </blockquote> <p>መጀመሪያ ሲታይ ይህ ያልተጠበቀ ሊመስል ይችላል። ሁለት ፊደላት ያሉት መልእክት ጥቂት ቶከኖች ብቻ ሊያስፈልገው አይገባም እንዴ?</p> <p>መልሱ ይህ ነው፦ <strong>ሞዴሉ የሚያስኬደው የሚታየውን መልእክትዎን ብቻ አይደለም።</strong></p> <p>ዘመናዊ የAI ረዳቶች፣ በተለይም እንደ Codex፣ Claude Code እና ሌሎች በIDE ላይ የተመሰረቱ የAI መሣሪያዎች ያሉ ኮዲንግ ኤጀንቶች፣ ሞዴሉ ተግባሩን እንዲረዳ እና የተሻለ ምላሽ እንዲሰጥ ከመልእክትዎ ጋር በአንድነት እጅግ ብዙ ተጨማሪ መረጃ ይልካሉ።</p> <hr> <p></p> <h2>መልእክትዎ ከአጠቃላይ ኮንቴክስት ትንሽ ክፍል ብቻ ነው</h2> <p>ሲልኩ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>ወደ AI ሞዴሉ የሚላከው እውነተኛ ጥያቄ ከዚህ የበለጠ እንዲህ ሊመስል ይችላል፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>የስርዓት መመሪያዎች + የተጠቃሚ ቅንብሮች + የተዋቀሩ ክህሎቶች + ያሉ መሣሪያዎች + የፕሮጀክት መረጃ + የፋይል ኮንቴክስት + ያለፈ የውይይት ታሪክ + የእርስዎ መልእክት፦ "Hi"</code></pre> <p>እነዚህ ሁሉ ክፍሎች በአጠቃላይ ያላቸው መጠን ሞዴሉ በእውነት የሚያስኬደው ኮንቴክስት ነው።</p> <p>ስለዚህ፣ እጅግ አጭር መልእክት እንኳ ከፍተኛ የቶከን ብዛት ሊወስድ ይችላል።</p> <hr> <h2>የኮንቴክስት አጠቃቀምን ምን ሊጨምር ይችላል?</h2> <h3>1. የተዋቀሩ ክህሎቶች</h3> <p>ብጁ ክህሎቶችን ወይም የAI ችሎታዎችን ካነቁ መመሪያዎቻቸው ወደ ሞዴሉ ኮንቴክስት መጫን ያስፈልጋል።</p> <p>ለምሳሌ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>የክህሎት A መመሪያዎች፦ 2,000 ቶከኖች የክህሎት B መመሪያዎች፦ 3,000 ቶከኖች የክህሎት C መመሪያዎች፦ 1,500 ቶከኖች</code></pre> <p>ምንም ሳይጻፉ እንኳ እነዚህ መመሪያዎች ቀድሞውኑ ብዙ ሺ ቶከኖችን ይይዛሉ።</p> <hr> <h3>2. መሣሪያዎች እና የኤጀንት ችሎታዎች</h3> <p>የAI ኮዲንግ ረዳቶች ብዙውን ጊዜ እንደሚከተሉት ያሉ መሣሪያዎችን ያቀርባሉ፦</p> <ul> <li><p>ፋይል ማንበብ</p></li> <li><p>ኮድ መፈለግ</p></li> <li><p>ተርሚናል ላይ ትዕዛዝ ማስኬድ</p></li> <li><p>የGit ክዋኔዎች</p></li> <li><p>የአሳሽ መዳረሻ</p></li> <li><p>ውጫዊ ውህደቶች</p></li> </ul> <p>የእነዚህ መሣሪያዎች ትርጉሞች እና የአጠቃቀም መመሪያዎች እንዲሁም የኮንቴክስት ቦታ ይወስዳሉ።</p> <hr> <h3>3. የፕሮጀክት እና የፋይል ኮንቴክስት</h3> <p>በIDE ወይም በኮድ ማከማቻ ውስጥ ሲሰሩ፣ የAI ደንበኛው በራስ-ሰር የሚከተሉትን ሊያካትት ይችላል፦</p> <ul> <li><p>የፕሮጀክት አወቃቀር</p></li> <li><p>ክፍት ፋይሎች</p></li> <li><p>የኮድ ቁርጥራጮች</p></li> <li><p>ጥገኞች</p></li> <li><p>የቅንብር ፋይሎች</p></li> </ul> <p>ይህ AI ፕሮጀክትዎን እንዲረዳ ያግዛል፣ ነገር ግን የኮንቴክስት አጠቃቀምን ይጨምራል።</p> <hr> <h3>4. ያለፈ የውይይት ታሪክ</h3> <p>አስቀድሞ የተጀመረ ውይይት ከቀጠሉ፣ ሞዴሉ አውዱን እንዲረዳ ያለፉት መልእክቶች እንደገና በአብዛኛው ይካተታሉ።</p> <p>ለምሳሌ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>ያለፈ ውይይት፦ 12,000 ቶከኖች አዲስ መልእክት፦ Hi</code></pre> <p>አዲሱ ጥያቄ አሁንም ያለፉትን 12,000 ቶከኖች ሊይዝ ይችላል።</p> <hr> <h2>አነስተኛውን የቶከን አጠቃቀም እንዴት መሞከር ይቻላል?</h2> <p>የቀላል መልእክት የቶከን አጠቃቀም ለመለካት ከፈለጉ፣ እባክዎ የሚከተሉትን ይሞክሩ፦</p> <ol> <li><p>ሙሉ በሙሉ አዲስ ውይይት ይፍጠሩ።</p></li> <li><p>ብጁ ክህሎቶችን ያሰናክሉ።</p></li> <li><p>ፋይሎችን አያያዙ።</p></li> <li><p>የፕሮጀክት የስራ ቦታ አትክፈቱ።</p></li> <li><p>ይህን ብቻ ይላኩ፦</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>ይህ ግምታዊ አነስተኛውን የኮንቴክስት አጠቃቀም ያሳያል።</p> <hr> <h2>የContext Window እና የToken Usage ልዩነት</h2> <p>ከሚከተሉት መካከል ልዩነት ማድረግ አስፈላጊ ነው፦</p> <h3>Context Window</h3> <p>ሞዴል በአንድ ጥያቄ ውስጥ ሊያስኬደው የሚችለው ከፍተኛው የመረጃ መጠን።</p> <p>ምሳሌ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token context window</code></pre> <p>ይህ ማለት ሞዴሉ በንድፈ ሀሳብ እስከ 1 ሚሊዮን ቶከኖች ድረስ ማስኬድ እንደሚችል ነው።</p> <h3>Token Usage</h3> <p>በተወሰነ ጥያቄ ውስጥ በእውነት የተካተቱት የቶከኖች መጠን።</p> <p>ምሳሌ፦</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>የተጠቃሚ መልእክት፦ Hi እውነተኛ ጥያቄ፦ የስርዓት መመሪያዎች + መሣሪያዎች + ታሪክ + "Hi" ጠቅላላ፦ 15,000 ቶከኖች</code></pre> <p>ትልቅ context window መኖሩ ማለት እያንዳንዱ ጥያቄ የሚወስደው የመልእክትዎ ርዝመት ብቻ ነው ማለት አይደለም።</p> <hr> <h2>መደምደሚያ</h2> <p>አጭር መልእክት ከፍተኛ የቶከን አጠቃቀም ማሳየቱ በግድ በሞዴሉ ወይም በAPI ችግኝ እንዳለ አያመለክትም።</p> <p>በAI ኤጀንት አካባቢዎች ውስጥ፣ አጠቃላይ ኮንቴክስት ብልህ አሰራር እንዲኖር የሚያስፈልጉ ብዙ የተደበቁ ክፍሎችን ያካትታል። ቀላል ‘Hi’ ብቻ እንኳ ክህሎቶች፣ መሣሪያዎች፣ የፕሮጀክት መረጃ ወይም ያለፈ ታሪክ ካለ በሺዎች የሚቆጠሩ ቶከኖች እንዲሰሩ ሊያደርግ ይችላል።</p> <p>ንጹህ የቶከን አጠቃቀምን ለመፈተሽ ተጨማሪ ኮንቴክስት የሌለውን ንጹህ ክፍለ-ጊዜ እንዲጀምሩ እንመክራለን።</p> <p>ለመረዳታችሁ እና ለቀጣይ ድጋፋችሁ እናመሰግናለን።</p>
  • 0 Votes
    1 Posts
    5 Views
    A
    <h2><strong>บทนำ</strong></h2> <p></p> <p>เมื่อไม่นานมานี้ ผู้ใช้บางรายสังเกตเห็นสถานการณ์ที่ดูผิดปกติ:</p> <blockquote> <p>"ฉันส่งแค่ ‘Hi’ เอง ทำไมถึงใช้ไปมากกว่า 10,000 โทเคน?"</p> </blockquote> <p>เมื่อมองผิวเผิน เรื่องนี้อาจดูน่าประหลาดใจ ข้อความยาวเพียงสองตัวอักษรน่าจะใช้แค่ไม่กี่โทเคนเท่านั้น ใช่ไหม?</p> <p>คำตอบคือ: <strong>โมเดลไม่ได้ประมวลผลเฉพาะข้อความที่คุณมองเห็นว่าเป็นข้อความของคุณเท่านั้น</strong></p> <p>ผู้ช่วย AI สมัยใหม่ โดยเฉพาะเอเจนต์ด้านการเขียนโค้ด เช่น Codex, Claude Code และเครื่องมือ AI บน IDE อื่น ๆ จะส่งข้อมูลเพิ่มเติมจำนวนมากไปพร้อมกับข้อความของคุณ เพื่อช่วยให้โมเดลเข้าใจงานและตอบกลับได้ดีขึ้น</p> <hr> <p></p> <h2>ข้อความของคุณเป็นเพียงส่วนเล็ก ๆ ของบริบททั้งหมด</h2> <p>เมื่อคุณส่ง:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>คำขอจริงที่ถูกส่งไปยังโมเดล AI อาจมีหน้าตาประมาณนี้มากกว่า:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>คำสั่งระบบ + การตั้งค่าผู้ใช้ + ทักษะที่ตั้งค่าไว้ + เครื่องมือที่ใช้งานได้ + ข้อมูลโปรเจกต์ + บริบทของไฟล์ + ประวัติการสนทนาก่อนหน้า + ข้อความของคุณ: "Hi"</code></pre> <p>ขนาดรวมขององค์ประกอบทั้งหมดเหล่านี้คือบริบทจริงที่โมเดลต้องประมวลผล</p> <p>ดังนั้น แม้จะเป็นข้อความสั้นมาก ก็ยังอาจใช้โทเคนจำนวนมากได้</p> <hr> <h2>อะไรบ้างที่ทำให้การใช้บริบทเพิ่มขึ้น?</h2> <h3>1. ทักษะที่ตั้งค่าไว้</h3> <p>หากคุณเปิดใช้ทักษะแบบกำหนดเองหรือความสามารถ AI เพิ่มเติม คำสั่งของสิ่งเหล่านั้นก็ต้องถูกโหลดเข้าไปในบริบทของโมเดลด้วย</p> <p>ตัวอย่างเช่น:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>คำสั่งของ Skill A: 2,000 โทเคน คำสั่งของ Skill B: 3,000 โทเคน คำสั่งของ Skill 1,500 โทเคน</code></pre> <p>ดังนั้น แม้ก่อนที่คุณจะพิมพ์อะไรเลย คำสั่งเหล่านี้ก็อาจใช้พื้นที่ไปแล้วหลายพันโทเคน</p> <hr> <h3>2. เครื่องมือและความสามารถของเอเจนต์</h3> <p>ผู้ช่วย AI สำหรับเขียนโค้ดมักมีเครื่องมือ เช่น:</p> <ul> <li><p>การอ่านไฟล์</p></li> <li><p>การค้นหาโค้ด</p></li> <li><p>การรันคำสั่งในเทอร์มินัล</p></li> <li><p>การทำงานกับ Git</p></li> <li><p>การเข้าถึงเบราว์เซอร์</p></li> <li><p>การเชื่อมต่อภายนอก</p></li> </ul> <p>คำจำกัดความและคำแนะนำการใช้งานของเครื่องมือเหล่านี้ก็ใช้พื้นที่บริบทเช่นกัน</p> <hr> <h3>3. บริบทของโปรเจกต์และไฟล์</h3> <p>เมื่อทำงานอยู่ใน IDE หรือรีโพซิทอรีโค้ด ไคลเอนต์ AI อาจแนบข้อมูลต่อไปนี้ให้อัตโนมัติ:</p> <ul> <li><p>โครงสร้างโปรเจกต์</p></li> <li><p>ไฟล์ที่เปิดอยู่</p></li> <li><p>ส่วนของโค้ด</p></li> <li><p>ดีเพนเดนซี</p></li> <li><p>ไฟล์คอนฟิก</p></li> </ul> <p>สิ่งนี้ช่วยให้ AI เข้าใจโปรเจกต์ของคุณ แต่ก็ทำให้การใช้บริบทเพิ่มขึ้นด้วย</p> <hr> <h3>4. ประวัติการสนทนาก่อนหน้า</h3> <p>หากคุณสนทนาต่อจากเซสชันเดิม ข้อความก่อนหน้ามักจะถูกแนบกลับไปอีกครั้ง เพื่อให้โมเดลเข้าใจบริบท</p> <p>ตัวอย่างเช่น:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>การสนทนาก่อนหน้า: 12,000 โทเคน ข้อความใหม่: Hi</code></pre> <p>คำขอใหม่ก็อาจยังคงมี 12,000 โทเคนก่อนหน้านั้นรวมอยู่ด้วย</p> <hr> <h2>วิธีทดสอบการใช้โทเคนขั้นต่ำ</h2> <p>หากคุณต้องการวัดการใช้โทเคนของข้อความง่าย ๆ โปรดลองดังนี้:</p> <ol> <li><p>สร้างบทสนทนาใหม่ทั้งหมด</p></li> <li><p>ปิดใช้งานทักษะแบบกำหนดเอง</p></li> <li><p>อย่าแนบไฟล์</p></li> <li><p>อย่าเปิดเวิร์กสเปซของโปรเจกต์</p></li> <li><p>ส่งเพียง:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hi</code></pre> <p>วิธีนี้จะแสดงการใช้บริบทขั้นต่ำโดยประมาณ</p> <hr> <h2>Context Window เทียบกับ Token Usage</h2> <p>สิ่งสำคัญคือต้องแยกความแตกต่างระหว่าง:</p> <h3>Context Window</h3> <p>ปริมาณข้อมูลสูงสุดที่โมเดลสามารถประมวลผลได้ในหนึ่งคำขอ</p> <p>ตัวอย่าง:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>หน้าต่างบริบท 1M โทเคน</code></pre> <p>หมายความว่าในทางทฤษฎี โมเดลสามารถรองรับได้สูงสุดถึง 1 ล้านโทเคน</p> <h3>Token Usage</h3> <p>จำนวนโทเคนจริงที่ถูกรวมอยู่ในคำขอหนึ่ง ๆ</p> <p>ตัวอย่าง:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>ข้อความผู้ใช้: Hi คำขอจริง: คำสั่งระบบ + เครื่องมือ + ประวัติ + "Hi" รวมทั้งหมด: 15,000 โทเคน</code></pre> <p>การมีหน้าต่างบริบทขนาดใหญ่ไม่ได้หมายความว่าทุกคำขอจะใช้โทเคนเท่ากับความยาวข้อความของคุณเท่านั้น</p> <hr> <h2>สรุป</h2> <p>การใช้โทเคนสูงจากข้อความสั้น ๆ ไม่ได้หมายความว่าจะเป็นปัญหาของโมเดลหรือ API เสมอไป</p> <p>ในสภาพแวดล้อมแบบ AI agent บริบทรวมประกอบด้วยองค์ประกอบที่ซ่อนอยู่หลายอย่างซึ่งจำเป็นต่อการทำงานอย่างชาญฉลาด ข้อความง่าย ๆ อย่าง "Hi" ก็ยังอาจทำให้มีการประมวลผลหลายพันโทเคนได้ หากเซสชันนั้นมีทักษะ เครื่องมือ ข้อมูลโปรเจกต์ หรือประวัติการสนทนาก่อนหน้าอยู่</p> <p>เราขอแนะนำให้เริ่มเซสชันใหม่ที่สะอาดและไม่มีบริบทเพิ่มเติม เมื่อต้องการทดสอบการใช้โทเคนแบบดิบ</p> <p>ขอบคุณสำหรับความเข้าใจและการสนับสนุนอย่างต่อเนื่อง</p>
  • 0 Votes
    1 Posts
    4 Views
    A
    <h2><strong>Introduktion</strong></h2> <p></p> <p>For nylig bemærkede nogle brugere en usædvanlig situation:</p> <blockquote> <p>"Jeg sendte kun ‘Hej’, hvorfor forbrugte det 10.000+ tokens?"</p> <p></p> </blockquote> <p>Ved første øjekast kan det virke uventet. En besked på to tegn burde kun kræve få tokens, ikke?</p> <p>Svaret er: <strong>Modellen behandler ikke kun din synlige besked.</strong></p> <p>Moderne AI-assistenter, især kodningsagenter som Codex, Claude Code og andre IDE-baserede AI-værktøjer, sender meget mere information sammen med din besked for at hjælpe modellen med at forstå opgaven og give bedre svar.</p> <p></p> <hr> <p></p> <h2>Din besked er kun en lille del af konteksten</h2> <p>Når du sender:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hej</code></pre> <p></p> <p>kan den faktiske anmodning, der sendes til AI-modellen, se mere sådan ud:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Systeminstruktioner + Brugerindstillinger + Konfigurerede færdigheder + Tilgængelige værktøjer + Projektinformation + Filkontekst + Tidligere samtalehistorik + Din besked: "Hej"</code></pre> <p></p> <p>Den samlede størrelse af alle disse komponenter er den faktiske kontekst, som modellen behandler.</p> <p>Derfor kan selv en meget kort besked forbruge et betydeligt antal tokens.</p> <hr> <p></p> <h2><strong>Hvad kan øge kontekstforbruget?</strong></h2> <h3>1. Konfigurerede færdigheder</h3> <p></p> <p>Hvis du har aktiveret brugerdefinerede færdigheder eller AI-funktioner, skal deres instruktioner indlæses i modellens kontekst.</p> <p></p> <p>For eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Instruktioner til færdighed A: 2.000 tokens Instruktioner til færdighed B: 3.000 tokens Instruktioner til færdighed 1.500 tokens</code></pre> <p>Selv før du skriver noget, kan disse instruktioner allerede optage flere tusinde tokens.</p> <hr> <p></p> <h3>2. Værktøjer og agentfunktioner</h3> <p></p> <p>AI-kodningsassistenter tilbyder normalt værktøjer som:</p> <ul> <li><p>Fillæsning</p></li> <li><p>Kodesøgning</p></li> <li><p>Terminalkørsel</p></li> <li><p>Git-operationer</p></li> <li><p>Browseradgang</p></li> <li><p>Eksterne integrationer</p></li> </ul> <p>Definitionerne og brugsinstruktionerne for disse værktøjer forbruger også kontekstplads.</p> <hr> <p></p> <h3>3. Projekt- og filkontekst</h3> <p></p> <p>Når du arbejder i et IDE eller et kode-repositorium, kan AI-klienten automatisk inkludere:</p> <ul> <li><p>Projektstruktur</p></li> <li><p>Åbne filer</p></li> <li><p>Kodestykker</p></li> <li><p>Afhængigheder</p></li> <li><p>Konfigurationsfiler</p></li> </ul> <p>Dette gør det muligt for AI’en at forstå dit projekt, men det øger også kontekstforbruget.</p> <hr> <p></p> <h3>4. Tidligere samtalehistorik</h3> <p></p> <p>Hvis du fortsætter en eksisterende samtale, bliver de tidligere beskeder normalt inkluderet igen, så modellen forstår konteksten.</p> <p>For eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Tidligere diskussion: 12.000 tokens Ny besked: Hej</code></pre> <p>Den nye anmodning kan stadig indeholde de foregående 12.000 tokens.</p> <hr> <h2>Sådan tester du minimalt tokenforbrug</h2> <p>Hvis du vil måle tokenforbruget for en simpel besked, så prøv følgende:</p> <ol> <li><p>Opret en helt ny samtale.</p></li> <li><p>Deaktivér brugerdefinerede færdigheder.</p></li> <li><p>Vedhæft ikke filer.</p></li> <li><p>Åbn ikke et projektarbejdsområde.</p></li> <li><p>Send kun:</p></li> </ol> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Hej</code></pre> <p>Dette vil vise det omtrentlige minimale kontekstforbrug.</p> <hr> <h2>Kontekstvindue vs. tokenforbrug</h2> <p>Det er vigtigt at skelne mellem:</p> <h3>Kontekstvindue</h3> <p>Den maksimale mængde information, som en model kan behandle i én anmodning.</p> <p>Eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>1M token-kontekstvindue</code></pre> <p>betyder, at modellen teoretisk kan håndtere op til 1 million tokens.</p> <h3>Tokenforbrug</h3> <p>Den faktiske mængde tokens, der indgår i en specifik anmodning.</p> <p>Eksempel:</p> <pre class="rounded-lg bg-slate-950 px-4 py-3 text-slate-100"><code>Brugerbesked: Hej Faktisk anmodning: Systeminstruktioner + værktøjer + historik + "Hej" I alt: 15.000 tokens</code></pre> <p>Et stort kontekstvindue betyder ikke, at hver anmodning kun vil forbruge længden af din besked.</p> <p></p> <hr> <p></p> <h2><strong>Konklusion</strong></h2> <p></p> <p>Højt tokenforbrug fra en kort besked betyder ikke nødvendigvis, at der er et problem med modellen eller API’et.</p> <p></p> <p>I AI-agentmiljøer omfatter den samlede kontekst mange skjulte komponenter, som er nødvendige for intelligent drift. Et simpelt "Hej" kan stadig resultere i, at tusindvis af tokens bliver behandlet, hvis sessionen indeholder færdigheder, værktøjer, projektinformation eller tidligere historik.</p> <p></p> <p>Vi anbefaler at starte en ren session uden yderligere kontekst, når du tester råt tokenforbrug.</p> <p></p> <p>Tak for din forståelse og fortsatte støtte.</p>