เกิดอะไรขึ้น
ตลอดหลายปีที่ผ่านมา การแข่งขันด้านโครงสร้างพื้นฐาน AI มุ่งเน้นไปที่หน่วยความจำแบนด์วิดท์สูง (HBM) ในฐานะองค์ประกอบที่แทบขาดไม่ได้ของการประมวลผลแบบเร่งความเร็ว
เมื่อขนาดของโมเดล ขอบเขตบริบท (context window) และภาระงานด้านการอนุมาน (inference) ยังคงเติบโตขึ้นเรื่อยๆ จุดโฟกัสของอุตสาหกรรมกำลังเปลี่ยนจากการซ้อนหน่วยความจำให้มากขึ้นเพียงอย่างเดียว ไปสู่การเคลื่อนย้ายข้อมูลระหว่างหน่วยความจำกับหน่วยประมวลผลให้มีประสิทธิภาพมากขึ้น
การก้าวเข้าสู่ตลาด HBC ของ Qualcomm กำลังดึง Samsung และ SK hynix เข้าสู่การแข่งขันรูปแบบใหม่ที่ขยายไปไกลกว่าสนามรบ HBM ที่เคยครองพื้นที่มาก่อน
เหตุใดจึงสำคัญ
หากคอขวดที่แท้จริงคือการเคลื่อนย้ายข้อมูล ไม่ใช่ความหนาแน่นของหน่วยความจำ ความเป็นผู้นำด้านการแพ็กเกจ การเชื่อมต่อ (interconnect) และการผสานรวมหน่วยความจำเข้ากับหน่วยประมวลผล ก็อาจมีคุณค่ามากกว่าการเพิ่มจำนวนชั้นของหน่วยความจำที่ซ้อนกันให้มากที่สุด
การเข้าสู่ตลาดของ Qualcomm บ่งชี้ถึงการเปลี่ยนแปลงในลำดับความสำคัญด้านการออกแบบ ซึ่งอาจพลิกโฉมพลวัตการแข่งขันในหมู่ผู้ผลิตหน่วยความจำที่แข่งขันกันด้วยสเปกของ HBM เป็นหลักมาโดยตลอด
ข้อเท็จจริงสำคัญ
การแข่งขันด้านโครงสร้างพื้นฐาน AI มุ่งเน้นไปที่ HBM ในฐานะองค์ประกอบพื้นฐานที่ขาดไม่ได้ของการประมวลผลแบบเร่งความเร็ว
การขยายตัวของขนาดโมเดล ขอบเขตบริบท และภาระงานด้านการอนุมาน กำลังเปลี่ยนจุดที่เป็นคอขวด
คอขวดกำลังเปลี่ยนจากปริมาณหน่วยความจำที่ซ้อนกัน ไปเป็นประสิทธิภาพในการเคลื่อนย้ายข้อมูลระหว่างหน่วยความจำกับหน่วยประมวลผล
การเดินหมาก HBC ของ Qualcomm กำลังดึง Samsung และ SK hynix เข้าสู่การแข่งขันที่ไกลกว่า HBM
สิ่งที่ต้องจับตาต่อไป
จับตาดูว่าผู้ผลิตหน่วยความจำจะปรับแผนงาน (roadmap) ให้เน้นประสิทธิภาพการเคลื่อนย้ายข้อมูลเพื่อตอบสนองต่อโครงการ HBC ของ Qualcomm หรือไม่
ดูว่าผู้ผลิตชิปหรือผู้จำหน่ายหน่วยความจำรายอื่นจะประกาศความเคลื่อนไหวในลักษณะเดียวกันหรือไม่ ซึ่งจะบ่งชี้ถึงการเปลี่ยนแปลงในวงกว้างของอุตสาหกรรมที่ออกห่างจากแนวทางที่เน้น HBM เป็นศูนย์กลาง