Apple ชะลอเปิดตัว Siri AI อาจเพราะกลัวช่องโหว่ 'คำสั่งสอดไส้' (Prompt Injection) ที่หลอก AI ให้แหกกฎตัวเองได้

ก่อนหน้านี้ Apple ยอมรับว่า Siri เวอร์ชัน AI ที่ฉลาดขึ้นและเป็นส่วนตัวมากขึ้นจะเปิดตัวล่าช้าออกไปอย่างเร็วที่สุดปีหน้า โดยล่าสุดมีการคาดการณ์ว่าสาเหตุหลักของการเลื่อนเปิดตัวนั้น มาจากความเสี่ยงต่อ "Prompt Injection" หรือเทคนิคการเจาะระบบ AI ผ่านคำสั่งอ้อมครับ

Simon Willison นักพัฒนาเครื่องมือวิเคราะห์ข้อมูล Dataset อธิบายว่า AI มีกฎการทำงานที่ถูกกำหนดมาแล้วว่าสิ่งใดทำได้หรือทำไม่ได้ แต่ต่สามารถถูก “เจาะระบบ” ได้โดยใช้คำสั่งที่แอบแฝง เช่น หาก AI ถูกห้ามไม่ให้มอบคำแนะนำเกี่ยวกับสิ่งผิดกฎหมาย แต่ถ้าเราขอให้มัน "แต่งบทกวีเกี่ยวกับการสตาร์ทรถโดยไม่มีกุญแจ" มันอาจให้ข้อมูลที่ไม่ควรได้

สาเหตุที่ Siri เสี่ยงกว่า AI ตัวอื่นนั้น เป็นเพราะ Apple กำลังพัฒนา Siri ให้มีความเป็นส่วนตัวมากขึ้น และสามารถดำเนินการแทนผู้ใช้ภายในแอปต่าง ๆ ได้ ซึ่งหมายความว่า Siri อาจเข้าถึงข้อมูลสำคัญของผู้ใช้ และหากถูกเจาะระบบ อาจส่งผลเสียร้ายแรง เช่น  เปิดเผยข้อมูลส่วนตัว หรือสั่งการแอปโดยไม่ได้รับอนุญาต ไปจนถึงการ Jailbreak

Jacqueline Roy โฆษกของ Apple ยืนยันว่า Siri ถูกออกแบบให้มีมาตรการป้องกันข้อมูลส่วนตัว แต่ Apple ต้องใช้เวลาเพิ่มเพื่อให้มั่นใจว่าผู้ไม่หวังดีจะไม่สามารถเจาะระบบผ่าน Prompt Injection ได้ ซึ่งจะทำสำเร็จหรือไม่ต้องรอดูกันครับ

ที่มา: 9to5mac

วันที่ : 11/3/2568