เกิดอะไรขึ้น
รายงานฉบับใหม่จาก Google Cloud ชี้ให้เห็นว่า AI agent ซึ่งสามารถอ่านอีเมล สืบค้นฐานข้อมูล และสั่งเรียกใช้ API ได้นั้น กำลังเปลี่ยนนิยามความเสี่ยงขององค์กรใหม่ เนื่องจากการทำงานที่เป็นอิสระของมัน
รายงานเผยว่า 79% ของผู้นำด้านเทคโนโลยีระบุว่าความปลอดภัย ธรรมาภิบาล หรือการดำเนินงาน เป็นความท้าทายสำคัญที่สุดในการขยายขนาดการทำ inference และ 35% ของผู้บริหารระดับสูงด้าน IT ระบุว่าความปลอดภัยที่ไม่เพียงพอสำหรับการเข้าถึงระบบหลายระบบเป็นปัญหาหลักที่ขัดขวางการนำ agentic AI ไปใช้งานจริง
เพื่อรับมือกับความท้าทายเหล่านี้ รายงานแนะนำให้นำกรอบการทำงานอย่าง Secure AI Framework (SAIF) มาใช้ รวมถึงใช้แพลตฟอร์มที่ออกแบบมาโดยเฉพาะอย่าง Gemini Enterprise Agent Platform เพื่อบริหารความเสี่ยงผ่านการออกแบบที่ปลอดภัยตั้งแต่ต้น (secure-by-default) การกำกับดูแล agent และการควบคุมแบบมีมนุษย์ร่วมตัดสินใจ (human-in-the-loop)
เหตุใดจึงสำคัญ
เมื่อ AI agent แพร่หลายมากขึ้น เครื่องมือด้านความปลอดภัยแบบดั้งเดิมจึงไม่เพียงพออีกต่อไป เพราะโมเดลภัยคุกคามได้เปลี่ยนไปแล้ว โดยนำมาซึ่งความเสี่ยงใหม่ ๆ เช่น tool poisoning และ indirect prompt injection
องค์กรต้องสร้างสมดุลระหว่างการให้สิทธิ์การเข้าถึงที่ agent ต้องการ กับการวางมาตรการป้องกัน โดยมองว่าธรรมาภิบาลเป็นตัวขับเคลื่อนนวัตกรรม มากกว่าจะเป็นอุปสรรค
ด้วยการฝังธรรมาภิบาลที่แข็งแกร่งไว้ในโครงสร้างพื้นฐานแบบรวมศูนย์ บริษัทต่าง ๆ จะสามารถนำ agent ไปใช้กับงานที่มีความอ่อนไหวได้อย่างมั่นใจ ทำให้สามารถสร้างนวัตกรรมได้อย่างปลอดภัยและขยายขนาดได้เร็วขึ้น
ข้อเท็จจริงสำคัญ
79% ของผู้นำด้านเทคโนโลยีระบุว่าความปลอดภัย ธรรมาภิบาล หรือการดำเนินงาน เป็นความท้าทายสำคัญที่สุดในการขยายขนาดการทำ inference
35% ของผู้บริหารระดับสูงด้าน IT ระบุว่าความปลอดภัยที่ไม่เพียงพอสำหรับการเข้าถึงระบบหลายระบบเป็นปัญหาหลักที่ขัดขวางการนำ agentic AI ไปใช้งานจริง
69% ของผู้บริหารที่ตอบแบบสำรวจให้คะแนนแพลตฟอร์มแบบ full-stack ว่าเป็นข้อกำหนดสำคัญ และ 80% ระบุว่าการปฏิบัติตามข้อกำหนดด้านข้อมูล (data compliance) เป็นปัจจัยหลักที่กำหนดการเลือกใช้นั้น
สิ่งที่ต้องจับตาต่อไป
การนำแพลตฟอร์มคลาวด์แบบ full-stack ที่บูรณาการเข้าด้วยกันมาใช้ เพื่อให้ได้การกำกับดูแลที่ครอบคลุมยิ่งขึ้นต่อการนำ agentic AI ไปใช้งาน
การนำหลักการออกแบบที่ปลอดภัยตั้งแต่ต้น (secure-by-default) มาใช้ เพื่อป้องกันเชิงรุกต่อภัยคุกคามอย่าง prompt injection
การพัฒนาระบบจัดการสิทธิ์และการยืนยันตัวตนที่ออกแบบมาเฉพาะสำหรับ agent เพื่อควบคุมการปฏิสัมพันธ์และจำกัดความเสี่ยง