เกิดอะไรขึ้น
ชิป Jalapeño ตัวใหม่ของ OpenAI ได้รับการทดสอบบนเบนช์มาร์ก InferenceX ของ SemiAnalysis ซึ่งแสดงให้เห็นว่าสามารถสร้างโทเคนต่อผู้ใช้ได้มากกว่า และมี throughput ต่อกิโลวัตต์สูงกว่าชิปที่ทันสมัยที่สุดในปัจจุบัน
ผลการทดสอบบ่งชี้ว่า Jalapeño ถูกออกแบบมาโดยเฉพาะเพื่อการทำ inference ที่รวดเร็วในระดับสเกลใหญ่ ซึ่งถือเป็นความก้าวหน้าที่สำคัญด้านฮาร์ดแวร์ AI
เหตุใดจึงสำคัญ
ความก้าวหน้าด้านประสิทธิภาพนี้บ่งชี้ว่า OpenAI กำลังทุ่มลงทุนอย่างหนักในชิปที่ออกแบบเอง เพื่อลดต้นทุนการทำ inference และปรับปรุงเวลาตอบสนอง ซึ่งอาจช่วยให้แอปพลิเคชัน AI เข้าถึงได้ง่ายขึ้นและมีประสิทธิภาพมากขึ้น
throughput ต่อกิโลวัตต์ที่สูงขึ้นยังชี้ให้เห็นถึงการเพิ่มประสิทธิภาพด้านพลังงาน ซึ่งมีความสำคัญอย่างยิ่งเมื่อภาระงาน AI ยังคงเติบโตต่อเนื่องและประเด็นด้านสิ่งแวดล้อมทวีความเข้มข้นขึ้น
ข้อเท็จจริงสำคัญ
Jalapeño ได้รับการทดสอบบนเบนช์มาร์ก InferenceX ของ SemiAnalysis
ชิปนี้ทำโทเคนต่อผู้ใช้ได้มากกว่าชิปที่ทันสมัยที่สุดในปัจจุบัน
นอกจากนี้ยังทำ throughput ต่อกิโลวัตต์ได้มากกว่าชิปที่ทันสมัยที่สุดในปัจจุบันด้วย
สิ่งที่ต้องจับตาต่อไป
จับตาดูรายละเอียดเพิ่มเติมเกี่ยวกับสถาปัตยกรรมของ Jalapeño และการเปรียบเทียบกับชิป AI เฉพาะทางอื่นๆ ในการใช้งานจริง
ติดตามว่า OpenAI จะเปิดให้นักพัฒนาภายนอกใช้งาน Jalapeño หรือจะเก็บไว้ใช้เฉพาะในโครงสร้างพื้นฐานของตนเองเท่านั้น