Microsoft ยอมรับ! ฟีเจอร์ Agentic AI ใหม่ใน Windows 11 มีความเสี่ยง Prompt Injection สูง

Microsoft เพิ่งปล่อยฟีเจอร์ agentic AI ใหม่ให้กับ Windows 11 Insiders ซึ่งอนุญาตให้ผู้ใช้ใช้ประโยชน์จากปัญญาประดิษฐ์เพื่อดำเนินการต่างๆ เช่น การจัดระเบียบไฟล์และการส่งอีเมล อย่างไรก็ตาม บริษัทได้ยืนยันความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้นจากการให้ปัญญาประดิษฐ์เข้าถึงไฟล์ของคุณในเอกสารสนับสนุนใหม่ เพราะเหตุนี้ จึงได้สร้างฟีเจอร์ทดลองที่เรียกว่า agent workspace ซึ่งให้โปรไฟล์ที่จำกัดแก่ AI บน Windows PC ของคุณเอง

Agent workspace คล้ายกับโปรไฟล์ผู้ใช้แบบจำกัดบน Windows 11 ทำให้ AI agent สามารถใช้แอปและไฟล์ทั่วไปในระบบของคุณได้ แต่จะป้องกันไม่ให้ใช้ซอฟต์แวร์ที่ติดตั้งสำหรับผู้ใช้เฉพาะ และจากการเข้าถึงข้อมูลที่ล็อกอยู่หลังไดเรกทอรีโปรไฟล์ผู้ใช้ (C:\Users\) เว้นแต่จะได้รับสิทธิ์การเข้าถึงเฉพาะ Microsoft กล่าวว่า “การตั้งค่านี้มีประสิทธิภาพมากกว่า Virtual Machine แบบเต็ม เช่น Windows Sandbox ในขณะที่ยังคงให้การแยกความปลอดภัย (security isolation) สนับสนุนการทำงานแบบขนาน และรักษาผู้ใช้ให้อยู่ในการควบคุม” บริษัทยังมั่นใจว่า AI agent จะสร้างบันทึก (logs) ของทุกสิ่งที่ทำ จะต้องมีสิทธิ์ที่จำกัด และสามารถเข้าถึงได้โดยผู้สร้างดั้งเดิมเท่านั้น

ความเสี่ยงใหม่: Cross-Prompt Injection (XPIA)

แม้จะมีมาตรการเหล่านั้น บริษัทก็ตระหนักถึงความเสี่ยงโดยธรรมชาติจากการให้ AI agent เข้าถึงเครื่องของคุณอย่างไม่เคยมีมาก่อน:

“แอปพลิเคชัน Agentic AI นำเสนอความเสี่ยงด้านความปลอดภัยใหม่ๆ เช่น cross-prompt injection (XPIA) ซึ่งเนื้อหาที่เป็นอันตรายที่ฝังอยู่ในองค์ประกอบ UI หรือเอกสารสามารถแทนที่คำสั่งของ agent ซึ่งนำไปสู่การดำเนินการที่ไม่ตั้งใจ เช่น การส่งข้อมูลออก (data exfiltration) หรือการติดตั้งมัลแวร์”

โชคดีที่ Microsoft ไม่ได้บังคับใช้ฟีเจอร์นี้กับผู้ใช้ (ในตอนนี้) บริษัทกล่าวว่าฟีเจอร์นี้จะ ปิดอยู่โดยค่าเริ่มต้น และคุณต้องเปิดการตั้งค่านี้โดยเฉพาะใน System > AI Components > Experimental agentic features

นอกจากนี้ ยังเตือนว่าคุณควรทำความเข้าใจผลกระทบด้านความปลอดภัยของการใช้ระบบดังกล่าว ก่อนที่จะเปิดใช้งาน โดยเฉพาะอย่างยิ่งเนื่องจากการเปิดใช้งานจะเปิดใช้งานสำหรับผู้ใช้ทั้งหมดในระบบของคุณ

Microsoft ได้ผลักดันอย่างหนักให้มีการนำ AI มาใช้ โดยเฉพาะอย่างยิ่งกับการมาถึงของ Copilot+ PCs อย่างไรก็ตาม ดูเหมือนว่าผู้ซื้อส่วนใหญ่จะไม่สนใจความสามารถของมัน ฟีเจอร์พิเศษส่วนใหญ่ที่พบในอุปกรณ์ AI เหล่านี้ไม่มีประโยชน์สำหรับผู้บริโภคส่วนใหญ่ และแม้แต่ฟีเจอร์ที่มีศักยภาพอย่าง Microsoft Recall ก็ยังเป็นฝันร้ายด้านความปลอดภัย ในขณะที่ agentic AI นี้อาจมีประโยชน์สำหรับผู้ใช้ทั่วไปในทางปฏิบัติ แต่ก็มีข้อควรระวังหลายอย่าง แม้จะมีข้อจำกัดทั้งหมดที่บริษัทกำหนดไว้ก็ตาม

แหล่งข้อมูล https://www.tomshardware.com/software/windows/microsofts-new-agentic-ai-features-introduce-new-security-risks-introduced-by-ai-like-prompt-injection-firm-acknowledges-new-and-unexpected-risks-are-possible