🧠 LLM ทำงานยังไง — Tokens, Context Window และ Temperature

┌──────────────────────────────────────────┐
│           CONTEXT WINDOW                 │
│  (200,000 tokens สำหรับ Claude Sonnet 4.6) │
│                                          │
│  [System Prompt]          ~500 tokens    │
│  [ประวัติการสนทนา]         ~2,000 tokens  │
│  [เอกสารที่วาง]            ~10,000 tokens │
│  [คำถามของ user]           ~50 tokens     │
│  [คำตอบของ Claude]         ~500 tokens    │
└──────────────────────────────────────────┘

# ต้องส่งประวัติการสนทนามาเองทุกครั้ง
messages = [
    {"role": "user",      "content": "ชื่อฉันคือนิค"},
    {"role": "assistant", "content": "สวัสดีครับนิค!"},
    {"role": "user",      "content": "ฉันชื่ออะไร?"},  # ถ้าไม่มีสองบรรทัดบน Claude จะไม่รู้
]

import anthropic

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,       # จำนวน token สูงสุดที่ Claude ส่งคืน
    temperature=0,         # deterministic — เหมาะกับ agent และ structured output
    system="คุณคือผู้ช่วยตอบคำถามจากเอกสาร...",
    messages=[
        {"role": "user", "content": "คำถาม: ... เอกสาร: ..."}
        # ทุกอย่างที่นี่ถูกโหลดเข้า context window
    ]
)

ข้อความของคุณ
   ↓
Tokenizer แบ่งเป็น token
   ↓
token ทั้งหมดถูกโหลดเข้า context window
   ↓
โมเดลทำนาย token ถัดไป (วนซ้ำหลายรอบ)
   ↓
Temperature ควบคุมการสุ่มเลือก token
   ↓
token ถูกแปลงกลับเป็นข้อความ → คำตอบของคุณ