สองโมเดลใหญ่จากจีนเปิดตัวไล่เลี่ยกันในสัปดาห์เดียว แต่สิ่งที่น่าสนใจกว่าความเร็วในการปล่อยคือ โครงสร้างภายในของมันกลับไปลงเอยในทิศทางคล้ายกันอย่างน่าประหลาดใจ Z.ai ออก GLM-5.3-Flash ขนาด 320B พารามิเตอร์ พร้อม active parameters 18B ส่วนฝั่ง Alibaba Qwen ส่ง Qwen3.8-Flash-Next ขนาด 125B พารามิเตอร์ โดยมี active parameters 6B จุดร่วมไม่ได้เกิดจากการคุยกันล่วงหน้า แต่เหมือนสองทีมวิจัยมองปัญหาเดียวกันแล้วเลือกคำตอบคล้ายกันเกินคาด
แกนของเรื่องนี้อยู่ที่การออกแบบให้ “ประหยัดแต่ยังฉลาด” ทั้งสองรุ่นใช้สัดส่วน 3:1 ระหว่างชั้น attention แบบเชิงเส้นกับแบบเต็ม, ใช้ตัวคัดกรองบริบทที่ถูกบีบก่อนคัดเลือก และขยาย residual stream ออกเป็น 4 ทางพร้อม gate คุมการไหลของข้อมูลเหมือนกันอีกต่างหาก ที่น่าสนใจคือทั้งคู่ยังใช้ตัวเพิ่มประสิทธิภาพอย่าง Muon และแยกเมทริกซ์ที่ fused กันออกมาก่อน orthogonalization เหมือนกันแทบทุกขั้นตอน
จุดที่เหมือนกันมากกว่าที่คิด
ใน GLM-5.3-Flash โครงสร้างที่ชัดที่สุดคือ 45 ชั้น โดยแบ่งเป็น 34 ชั้น linear-attention และ 11 ชั้น full-attention ฝั่ง Qwen3.8-Flash-Next ใช้ 48 ชั้น ในรูปแบบวนซ้ำ 3 ชั้น Gated DeltaNet แล้วตามด้วย 1 ชั้น Qwen Sparse Attention แม้ชื่อเรียกจะต่างกัน แต่สัดส่วนยังคงเป็น 3:1 เหมือนกัน
ภาพใหญ่ของแนวทางนี้คือการลดภาระ KV cache ที่โตตามความยาวข้อความ แทนที่จะปล่อยให้ทุก token ไปแบกประวัติทั้งหมด โมเดลจะบีบข้อมูลไว้ในสถานะ recurrent ขนาดคงที่ ผลคือการประมวลผลต่อ token ไม่ได้พุ่งตาม context length แบบเดิม นี่เป็นเหตุผลที่สาย architecture ชอบเรียกแนวนี้ว่า “ทำให้ยาวได้โดยไม่ต้องจ่ายแพงทุกครั้ง”
ช่วงที่ยังต้องคัดเลือกความจำ
แต่ชั้น full-attention ก็ไม่ได้เปิดให้มองทั้งบริบทแบบเสรี ทั้ง GLM และ Qwen เลือกใช้ indexer ขนาดเล็กเพื่อคัดว่าช่วงไหนของบริบทควรได้พื้นที่จริง โดยทั้งคู่บีบข้อมูลก่อนคัดเลือก และตั้งเพดานไว้ที่ 2048 tokens เท่ากัน ในมุมใช้งาน นี่หมายความว่าความฉลาดไม่ได้มาจากการยัด context ยาวแบบไม่จำกัดอย่างเดียว แต่จากการเลือกให้ถูกว่าควรจำอะไร
ฝั่ง GLM ใช้ Kimi Delta Attention (KDA) ที่ปรับ decay gate รายช่องสัญญาณ ส่วน Qwen ใช้ Gated DeltaNet (GDN) ที่ gate ระดับ head แทน รายละเอียดเชิงกลไกจึงไม่เหมือนกัน แต่โจทย์เหมือนกันคือ ทำให้ชั้นเชิงเส้นทำงานเหมือนหน่วยความจำความเร็วสูงที่ต้นทุนคงที่
จุดที่ไม่ตรงกันจริง ๆ
ความต่างที่ชัดที่สุดคือเรื่อง position encoding ฝั่ง GLM-5.3-Flash ปิด RoPE ในชั้น sparse MLA ไปเลย โดยตั้งค่า qk_rope_head_dim = 0 ทำให้ตำแหน่งไหลผ่าน recurrent layers แทน ส่วน Qwen3.8-Flash-Next ทดลองแนว NoPE เหมือนกัน แต่สุดท้ายยังคง RoPE ไว้ เพราะรายงานของทีมบอกว่า NoPE ไม่ช่วยให้ดีขึ้นตอน pre-training และหลัง post-training กลับมีปัญหาจนบางเวอร์ชันหยุดสร้างข้อความไม่ได้
ประเด็นนี้สำคัญกว่าที่เห็น เพราะมันสะท้อนว่า benchmark ระหว่าง pre-training กับพฤติกรรมจริงหลัง post-training อาจให้คำตอบคนละแบบ โมเดลที่ดูดีบนกราฟไม่จำเป็นต้องปลอดปัญหาในโลกใช้งานจริง โดยเฉพาะเมื่อมีการจูนต่อด้วย RLHF หรือขั้นตอนปรับพฤติกรรมอื่น ๆ
ไม่ใช่ทุกค่ายจะเชื่อสูตรเดียวกัน
บทความต้นฉบับยังชี้ว่าแนว 3:1 แบบนี้ไม่ได้เป็นฉันทามติทั้งหมด MiniMax เป็นตัวอย่างที่สวนทาง เพราะทีมทดสอบ linear และ sliding-window attention อย่างหนักแล้วพบว่ามันเริ่มเสียความสามารถด้าน multi-hop reasoning เมื่อ context ยาวขึ้น โดยเฉพาะหลัง 32K context ในขั้น SFT ผลคือ M2 ยังใช้ full softmax attention ทุกชั้น และ M3 ก็ใช้ MiniMax Sparse Attention (MSA) ที่ sparsify attention แทน แต่ไม่ใช้ linear-attention layer เลย
นี่ทำให้ข้อสรุปที่เหมาะสมที่สุดไม่ใช่ “สูตรนี้ชนะทุกกรณี” แต่คือ “อุตสาหกรรมกำลัง converge ไปบางจุดร่วม แต่ยังไม่ปิดคำถาม” และความต่างเล็ก ๆ ใน gating, indexing หรือ positional encoding อาจกลายเป็นตัวตัดสินคุณภาพเมื่อเอาไปใช้จริง
ความหมายต่อผู้ประกอบการ/ผู้ใช้งานไทย
สำหรับทีมไทยที่ต้องเลือกโมเดลมาใช้จริง ข่าวแบบนี้ไม่ควรถูกอ่านแค่ว่า “ค่ายไหนแรงกว่า” แต่ควรถามว่าโครงสร้างแบบไหนคุมต้นทุนได้ดีเมื่อเอาไปใช้กับภาษาไทยและงานบริบทเยอะ เช่น งานสรุปเอกสาร, งานบริการลูกค้า, หรือ agent ที่ต้องเรียกเครื่องมือหลายรอบ
ในมุมของสมาคมโดรนไทย ข้อสังเกตคือโมเดลที่มีบริบทไกลและต้นทุนคุมได้อาจช่วยงานเอกสาร, ซัพพอร์ต, และงานข้อมูลหลังบ้านของธุรกิจไทยมากขึ้น แต่ถ้าใช้กับข้อมูลไทยจริงยังต้องทดสอบเรื่องคุณภาพภาษา, ความสม่ำเสมอของการอ้างอิง, และพฤติกรรมหลังจูนต่อ ไม่ใช่เลือกจากตัวเลขสวยบนสไลด์อย่างเดียว
ข้อควรระวังคือ สถาปัตยกรรมที่ดู “ประหยัด” อาจไม่ประหยัดในทุกระบบเสมอไป ถ้าคุณต้องการความแม่นยำสูงในบริบทที่ยาวมาก การบีบความจำและการคัดเลือก context อาจกลายเป็นจุดที่ต้องจ่ายเพิ่มในงานตรวจสอบคุณภาพแทน
