“การคำนวณย้อนกลับโควต้า” คืออะไร
หน้าเว็บทางการแทบไม่เคยเผยแพร่ขีดจำกัด token ที่ตายตัว เราเลยต้องอนุมานเอา: โควต้ารวม ≈ token ที่ใช้ไปแล้ว ÷ เปอร์เซ็นต์การใช้งานที่แสดงในแถบ ยกตัวอย่างเช่น 15 ล้าน token ที่ 37.3% ของแถบ 5 ชม. หมายความว่าหน้าต่างนั้นมีขนาดประมาณ ~40 ล้าน เราจะตรวจสอบข้ามแถบ 5 ชม., 7 วัน และรายเดือนเพื่อยืนยันความถูกต้อง
ทำไมทางการจึงไม่เผยแพร่ขีดจำกัดที่ตายตัว
ขีดจำกัดเป็นค่าพลวัต: จะเปลี่ยนไปตามเวอร์ชันโมเดล โหลดเซิร์ฟเวอร์ และกลยุทธ์ทางธุรกิจ การเผยแพร่ตัวเลขหนึ่ง ๆ ก็เท่ากับเป็นการให้คำมั่นสัญญา และยังเป็นเป้าหมายให้คนมาฉวยโอกาส ผู้ให้บริการเลยจงใจปล่อยให้ตัวเลขเลือนลาง ขอให้ถือว่าตัวเลขทุกตัวที่นี่เป็นเพียงภาพถ่ายในช่วงเวลาหนึ่ง ไม่ใช่สัญญาผูกมัด
อัตราการเข้าชนแคช (cache hit-rate) เปลี่ยนปริมาณการใช้งานจริงอย่างไร
ในเวิร์กโฟลว์เขียนโค้ด/agent มักจะมีการส่งบริบทเดิมซ้ำ ๆ ผู้ใช้คนหนึ่งบันทึกไว้ว่าอัตราการเข้าชนแคชอยู่ที่ 93.7% — หมายความว่ามีเพียง ~6% ของอินพุตเท่านั้นที่ถูกคิดราคาเต็ม โควต้าที่คุณ “รู้สึก” ว่าได้รับ จึงใหญ่กว่าจำนวน token ดิบที่ตัวเลขบอกมาก
สมัครสมาชิกรายเดือน vs API จ่ายตามการใช้งาน
การสมัครสมาชิกแลกความยืดหยุ่นกับราคาคงที่ภายในกรอบเวลาแบบกลิ้ง API จ่ายตามการใช้งานจะคิดเงินทุก token แต่ไม่มีการจำกัดอัตรา (rate-limit) หากการใช้งานของคุณคงที่และคาดเดาได้ สมัครสมาชิกจะได้เปรียบ แต่ถ้าการใช้งานพุ่งขึ้นลง หรือต้องทำงานหลายอย่างพร้อมกัน API จะได้เปรียบกว่า