เกิดอะไรขึ้น
หลิว ป๋อ ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี (CTO) ของ Anheng Information กล่าวว่าความเร็วในการพัฒนาของ AI ได้กลายเป็นความท้าทายด้านความปลอดภัยที่สำคัญที่สุดของอุตสาหกรรม โดยระบุว่า AI agent ส่วนใหญ่ในปัจจุบันยังคงถูกใช้งานเฉพาะในระดับส่วนบุคคลหรือการทดลองขนาดเล็กเท่านั้น ส่วนแอปพลิเคชันที่ทำงานจริงในระบบการผลิตนั้นเพิ่งจะเริ่มต้นขึ้น
หลิว ป๋อ ระบุความเสี่ยงด้านความปลอดภัยที่กำลังก่อตัวขึ้นสองด้าน ขณะที่ข้อมูลเคลื่อนผ่านการฝึกโมเดล การเรียกใช้งานการอนุมาน (inference) และการทำงานของ agent ด้านแรกคือความยากทางเทคนิคในการป้องกันการโจมตีจากภายนอกในสภาพแวดล้อมใหม่นี้ ส่วนอีกด้านเกี่ยวข้องกับประเด็นความเป็นส่วนตัวรอบโครงสร้างพื้นฐานข้อมูลและชุดข้อมูลคุณภาพสูง โดยเฉพาะภายใต้ข้อกำหนดอย่าง 'ใช้งานได้แต่มองไม่เห็น' (usable but invisible) และ 'ใช้งานได้แต่เข้าถึงไม่ได้' (usable but unavailable)
เพื่อรับมือกับสิ่งนี้ Anheng กำลังพัฒนาแนวทาง 'AI ผสานความปลอดภัยข้อมูลแบบไดนามิก' แทนที่จะพึ่งพากฎเกณฑ์แบบตายตัว บริษัทระบุว่าด้วยการผสมผสาน AI เข้ากับ UEBA จะสามารถติดป้ายกำกับและระบุข้อมูลได้โดยอัตโนมัติ ค้นหาตำแหน่งข้อมูลที่ละเอียดอ่อนหรือสำคัญ และตรวจสอบว่าใครเป็นผู้ใช้งานข้อมูลนั้น รวมถึงพฤติกรรมดังกล่าวเป็นไปตามข้อกำหนดหรือไม่
ทำไมเรื่องนี้จึงสำคัญ
ข้อกังวลหลักของหลิว ป๋อ คือ เทคโนโลยี AI กำลังพัฒนาเร็วกว่าที่ระบบความปลอดภัยจะตามทัน กรอบการทำงานของ agent ยังคงเปลี่ยนแปลงอยู่ตลอดเวลา และความเสี่ยงมีตั้งแต่การปฏิบัติการที่มีเจตนาร้ายและการวางยาข้อมูล (data poisoning) ไปจนถึงความผิดพลาดในการดำเนินงานทั่วไป งานที่ต้องใช้กระบวนการคิดแบบลูกโซ่ยาว (long chain-of-thought) อาจทำให้ agent ทำงานล้มเหลวหรือกระทำการผิดพลาด ในขณะที่ผู้โจมตีก็อาจเข้าควบคุม agent เพื่อจุดประสงค์ที่เป็นอันตรายได้เช่นกัน
เนื่องจากกรอบเทคนิคของ agent ยังไม่นิ่ง ผู้ให้บริการด้านความปลอดภัยจึงต้องตอบสนองอย่างรวดเร็วและนำเสนอโซลูชันใหม่สำหรับความเสี่ยงใหม่แต่ละอย่างที่เกิดขึ้น หลิว ป๋อ เน้นย้ำถึงความจำเป็นในการพัฒนาอย่างรวดเร็วก่อนที่ AI agent จะถูกนำไปใช้งานอย่างแพร่หลาย
ข้อเท็จจริงสำคัญ
หลิว ป๋อ ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Anheng Information ระบุว่าความเร็วในการพัฒนา AI คือความท้าทายด้านความปลอดภัยหลัก
AI agent ส่วนใหญ่ยังอยู่ในขั้นใช้งานส่วนบุคคลหรือทดลองขนาดเล็ก ขณะที่การนำไปใช้ในระบบการผลิตเพิ่งเริ่มต้น
Anheng เสนอระบบ 'AI + ความปลอดภัยข้อมูลแบบไดนามิก' โดยใช้ AI และ UEBA เพื่อทำให้การระบุข้อมูล การติดป้ายกำกับ และการตรวจสอบการปฏิบัติตามข้อกำหนดเป็นไปโดยอัตโนมัติ
หลิว ป๋อ คาดการณ์ว่าการนำ AI agent มาใช้ในวงกว้างจะเกิดขึ้นระหว่างปี 2027 ถึง 2029
สิ่งที่ต้องจับตาต่อไป
หลิว ป๋อ คาดว่า AI agent จะเข้าสู่การใช้งานในระดับที่ใหญ่ขึ้นราวปี 2027 ถึง 2029 ก่อนจะถึงเวลานั้น เขากล่าวว่าผู้ให้บริการด้านความปลอดภัยควรนำเสนอแผนความปลอดภัย AI แบบองค์รวมที่แก้ไขปัญหาสำคัญๆ ก่อนที่ลูกค้าจะเริ่มใช้งาน agent จากนั้นจึงปรับปรุงแผนดังกล่าวอย่างต่อเนื่องตามวิวัฒนาการของเทคโนโลยีและความเสี่ยงของ agent