Microsoft เตือนเอง! AI Agent ใน Windows 11 อาจ "หลอน" และเสี่ยงโดนหลอกให้ลงมัลแวร์

Microsoft ได้ออกมาเตือนผู้ใช้งานเกี่ยวกับฟีเจอร์ใหม่ “Experimental Agentic Features” (ฟีเจอร์ตัวแทน AI แบบทดลอง) ใน Windows 11 ที่กำลังจะเปลี่ยนระบบปฏิบัติการให้กลายเป็น “Agentic OS” ซึ่ง AI สามารถทำงานแทนผู้ใช้ได้ แต่บริษัทก็ยอมรับอย่างตรงไปตรงมาว่าระบบนี้มีความเสี่ยงสูง

ในเอกสารสนับสนุนล่าสุด Microsoft ระบุว่าแม้ฟีเจอร์นี้จะช่วยเพิ่มประสิทธิภาพการทำงาน แต่โมเดล AI ยังคงมี “ข้อจำกัดด้านการทำงาน” (Functional limitations) โดยพวกมันอาจเกิดอาการ “หลอน” (Hallucinate) หรือสร้างผลลัพธ์ที่ไม่คาดคิดออกมาได้

ความเสี่ยงด้านความปลอดภัย: Cross-Prompt Injection (XPIA)

ประเด็นที่น่ากังวลที่สุดที่ Microsoft ระบุไว้คือความเสี่ยงด้านความปลอดภัยรูปแบบใหม่ที่เรียกว่า Cross-Prompt Injection (XPIA)

มันคืออะไร: เป็นการโจมตีที่เนื้อหาอันตราย (Malicious content) ถูกฝังเนียนๆ อยู่ในเอกสารหรือองค์ประกอบบนหน้าจอ (UI Elements)
ผลกระทบ: สิ่งเหล่านี้สามารถ “เขียนทับ” คำสั่งเดิมของ AI Agent ได้ ทำให้ AI เผลอทำตามคำสั่งของผู้ไม่หวังดี เช่น การแอบส่งข้อมูลสำคัญออกไป (Data Exfiltration) หรือแม้แต่ การติดตั้งมัลแวร์ ลงในเครื่องโดยที่ผู้ใช้ไม่รู้ตัว

ด้วยเหตุนี้ Microsoft จึงตั้งค่าเริ่มต้นของฟีเจอร์นี้เป็น “ปิด” (Off) และเตือนว่าผู้ใช้ควรเปิดใช้งานก็ต่อเมื่อเข้าใจถึงความเสี่ยงด้านความปลอดภัยเหล่านี้แล้วเท่านั้น โดยระบบ AI Agent จะทำงานบนบัญชีผู้ใช้แยกต่างหากเพื่อพยายามจำกัดความเสียหาย แต่ความเสี่ยงก็ยังคงมีอยู่สูงสำหรับผู้ที่เปิดใช้งาน

แหล่งข้อมูล tweaktown