Microsoft กำลังพยายามจัดการกับ “ภัยคุกคามความปลอดภัยใหม่” ในตัวแทน AI ของ Windows 11

Posted on

Microsoft ได้เพิ่มคุณสมบัติ AI ให้กับ Windows 11 มาหลายปีแล้ว แต่เมื่อเร็ว ๆ นี้สิ่งต่าง ๆ ได้เข้าสู่ระยะใหม่ที่คุณสมบัติ AI ทั้งแบบกำเนิดและที่เรียกว่า “ตัวแทน” กำลังขุดลึกลงไปในรากฐานของระบบปฏิบัติการ Windows 11 เวอร์ชันใหม่ที่เปิดตัวใน Windows Insiders เมื่อวานนี้มีการสลับ “ฟีเจอร์ตัวแทนการทดลอง” ใหม่ในการตั้งค่าเพื่อเปิดใช้งานการสนับสนุนคุณสมบัติที่เรียกว่า Copilot Actions และ Microsoft ได้เผยแพร่บทความสนับสนุนโดยละเอียดซึ่งมีรายละเอียดว่า “ฟีเจอร์ตัวแทนการทดลอง” เหล่านี้ทำงานอย่างไร

หากคุณไม่คุ้นเคย “ตัวแทน” เป็นคำศัพท์ที่ Microsoft ใช้ซ้ำๆ เพื่ออธิบายความทะเยอทะยานในอนาคตสำหรับ Windows 11 กล่าวง่ายๆ ก็คือ เจ้าหน้าที่เหล่านี้ได้รับการออกแบบมาเพื่อทำงานที่ได้รับมอบหมายในเบื้องหลัง ทำให้ผู้ใช้สามารถมุ่งความสนใจไปที่อื่นได้ Microsoft กล่าวว่าต้องการให้ตัวแทนสามารถดำเนินการ “งานประจำวัน เช่น การจัดระเบียบไฟล์ จัดตารางการประชุม และการส่งอีเมล” และ Copilot Actions ควรจัดให้มี “ผู้ทำงานร่วมกันทางดิจิทัลที่กระตือรือร้นซึ่งสามารถทำงานที่ซับซ้อนสำหรับคุณเพื่อเพิ่มประสิทธิภาพและประสิทธิผล”

อย่างไรก็ตาม เช่นเดียวกับปัญญาประดิษฐ์ประเภทอื่นๆ เจ้าหน้าที่เหล่านี้มีแนวโน้มที่จะเกิดข้อผิดพลาดและการสับสน และมักทำราวกับว่าพวกเขารู้ว่ากำลังทำอะไรอยู่แม้ว่าจะไม่ได้ทำก็ตาม พวกเขายังนำเสนอสิ่งที่ Microsoft กล่าวว่าเป็น “ความเสี่ยงด้านความปลอดภัยใหม่” ซึ่งส่วนใหญ่เกี่ยวข้องกับสิ่งที่อาจเกิดขึ้นหากผู้โจมตีสามารถสั่งหนึ่งในตัวแทนเหล่านี้ได้ ผลที่ตามมาคือ การใช้งานของ Microsoft ดำเนินไปตามแนวทางระหว่างการให้เอเจนต์เหล่านี้เข้าถึงไฟล์และแยกไฟล์ออกจากส่วนที่เหลือของระบบ

อันตรายที่อาจเกิดขึ้นและการพยายามซ่อมแซม

ในตอนนี้ “ฟีเจอร์เอเจนต์ทดลอง” เหล่านี้เป็นทางเลือก มีเฉพาะใน Windows 11 เวอร์ชันทดสอบก่อนหน้าเท่านั้น และปิดใช้งานตามค่าเริ่มต้น


ที่มา: ไมโครซอฟต์

ตัวอย่างเช่น เจ้าหน้าที่ AI ที่ทำงานบนพีซีจะได้รับบัญชีผู้ใช้ของตนเอง แยกจากบัญชีส่วนตัวของคุณ ดังนั้นพวกเขาจึงไม่ได้รับอนุญาตให้เปลี่ยนแปลง ทั้งหมด ในระบบและมอบ “เดสก์ท็อป” ของตัวเองให้ทำงาน ซึ่งจะไม่รบกวนสิ่งที่คุณกำลังทำงานอยู่บนหน้าจอ ผู้ใช้จะต้องอนุมัติคำขอแบ่งปันข้อมูลของตน และ “การกระทำของตัวแทนทั้งหมดสามารถสังเกตและแยกแยะได้จากการกระทำของผู้ใช้” ไมโครซอฟต์ยังกล่าวอีกว่าตัวแทนจะต้องสามารถสร้างบันทึกกิจกรรมของตนได้ และ “ควรจัดเตรียมวิธีการในการดูแลกิจกรรมของพวกเขา” รวมถึงแสดงรายการการดำเนินการที่พวกเขาจะดำเนินการให้ผู้ใช้เห็นเพื่อทำงานหลายขั้นตอนให้เสร็จสิ้น

ดูแหล่งที่มา

Leave a Reply

Your email address will not be published. Required fields are marked *