ChatGPT เปิดใช้งานโหมด Lockdown รูปแบบใหม่ เพื่อลดผลกระทบจากการโจมตีประเภท Prompt Injection และการลักลอบนำข้อมูลออกจากระบบ

OpenAI ได้เปิดตัว 'ChatGPT Lockdown Mode' ซึ่งเป็นฟีเจอร์ความปลอดภัยรูปแบบใหม่ที่ถูกออกแบบมาเพื่อจำกัดการเข้าถึงเครือข่ายขาออก และลดความเสี่ยงจากการถูกลักลอบนำข้อมูลออกจากระบบที่เกิดมาจากการโจมตีประเภท Prompt-Injection โดยฟีเจอร์นี้เปิดให้ใช้งานแล้วสำหรับบัญชีส่วนบุคคลที่มีสิทธิ์, ผู้ใช้งาน ChatGPT Business แบบ self-serve รวมถึง enterprise workspaces

การโจมตีประเภท Prompt Injection ซึ่งเป็นกระบวนการฝังคำสั่งที่เป็นอันตรายลงในเนื้อหาที่โมเดล AI นำไปประมวลผล ยังคงเป็นความท้าทายขั้นสูงสุดในด้านความปลอดภัยไซเบอร์ยุคปัจจุบัน โดยโหมด Lockdown นี้ ถูกออกแบบมาโดยเฉพาะ เพื่อขัดขวางขั้นตอนสุดท้ายของการโจมตีแบบ Prompt Injection ซึ่งก็คือการลักลอบขโมยข้อมูลที่มีความสำคัญไปยังปลายทางที่อยู่ภายใต้การควบคุมของผู้โจมตี ผ่าน outbound network requests

สิ่งสำคัญที่ต้องตระหนักคือ โหมด Lockdown นี้ไม่ได้เข้าไปป้องกัน หรือขัดขวางไม่ให้ Prompt Injections หลุดเข้าสู่ระบบการประมวลผลของโมเดล AI แต่อย่างใด ซึ่งหมายความว่าข้อมูลอันตรายที่แอบแฝงมากับหน้าเว็บในแคช, ไฟล์ PDF ที่อัปโหลดขึ้นระบบ หรือเนื้อหาอื่น ๆ ที่ถูกป้อนเข้ามา ยังคงสามารถส่งผลกระทบต่อพฤติกรรม และการแสดงผลลัพธ์ที่ถูกต้องของโมเดลได้เช่นเดิม โดยฟีเจอร์นี้จะมุ่งเน้นไปที่การบล็อกช่องทางการลักลอบนำข้อมูลออกเท่านั้น ไม่ได้บล็อกที่ต้นตอของช่องโหว่การ Injection

ฟังก์ชัน และความสามารถที่ถูกจำกัดเมื่อเปิดใช้งานโหมด Lockdown

เมื่อโหมด Lockdown เปิดใช้งาน ฟังก์ชัน และความสามารถต่าง ๆ ของ ChatGPT ดังต่อไปนี้จะถูกจำกัดการใช้งาน:

• การเรียกดูเว็บแบบเรียลไทม์: ถูกจำกัดให้เข้าถึงได้เฉพาะเนื้อหาที่อยู่ในระบบแคชเท่านั้น ส่งผลให้ผลลัพธ์ที่ได้อาจเป็นข้อมูลเก่า (ไม่อัปเดต) หรือไม่สามารถใช้งานได้ในบางกรณี
• การดึงรูปภาพ: ChatGPT จะไม่สามารถดึงข้อมูล หรือแสดงผลรูปภาพที่มาจากอินเทอร์เน็ตในคำตอบได้
• การวิจัยเชิงลึก: ถูกปิดใช้งานโดยสิ้นเชิง
• โหมดเอเจนต์: ถูกปิดใช้งานโดยสิ้นเชิง
• การเชื่อมต่อเครือข่าย Canvas: ผู้ใช้จะไม่สามารถกดอนุมัติให้โค้ดที่สร้างขึ้นจากฟีเจอร์ Canvas ส่งคำขอเชื่อมต่อออกไปยังเครือข่ายภายนอกได้
• การดาวน์โหลดไฟล์: ChatGPT จะไม่สามารถดาวน์โหลดไฟล์จากภายนอกเพื่อนำมาวิเคราะห์ข้อมูลได้ อย่างไรก็ตาม ไฟล์ที่ผู้ใช้ทำการอัปโหลดขึ้นระบบด้วยตนเองยังคงสามารถเข้าถึง และใช้งานได้ตามปกติ

ทั้งนี้ การตั้งค่าในส่วนของระบบ Memory, การอัปโหลดไฟล์, การแชร์บทสนทนา รวมถึงการนำข้อมูลไปฝึกฝนโมเดล จะไม่ได้รับผลกระทบจากโหมด Lockdown และผู้ใช้งานยังคงสามารถเข้าไปปรับแต่งการตั้งค่าเหล่านี้ได้อย่างเป็นอิสระเช่นเดิม

การจัดหมวดหมู่ระดับความเสี่ยงของแอปพลิเคชัน และตัวเชื่อมต่อ

OpenAI ได้ทำการจัดหมวดหมู่การตั้งค่าของแอปพลิเคชัน และตัวเชื่อมต่อระบบออกเป็นระดับความเสี่ยงต่าง ๆ สำหรับการใช้งานภายใต้สภาพแวดล้อมของโหมด Lockdown Mode ดังนี้:

• ระดับความเสี่ยงสูง: การสั่งดำเนินการอ่าน หรือบันทึกข้อมูลสำหรับแอปพลิเคชันที่ไม่น่าเชื่อถือ รวมถึงการสั่งดำเนินการบันทึกข้อมูลสำหรับแอปพลิเคชันที่น่าเชื่อถือ แต่มีขอบเขตการเข้าถึงข้อมูลที่กว้างเกินไป หรือไม่ชัดเจน โดยการตั้งค่าทั้งสองรูปแบบนี้เป็นสิ่งที่ไม่แนะนำให้ใช้งานอย่างเด็ดขาด
• ระดับความเสี่ยงปานกลาง: ตัวเชื่อมต่อระบบสำหรับซิงค์ข้อมูล และการสั่งดำเนินการอ่านข้อมูลสำหรับแอปพลิเคชันที่น่าเชื่อถือ แม้ว่าการตั้งค่ากลุ่มนี้จะมีความเสี่ยงต่ำในแง่ของการตกเป็นช่องทางส่งข้อมูลออกไปยังภายนอก แต่ยังคงมีโอกาสที่จะทำให้ข้อมูลต้นทางที่สำคัญถูกเปิดเผยได้
• ระดับความเสี่ยงต่ำ: การสั่งดำเนินการบันทึกข้อมูลสำหรับแอปพลิเคชันที่น่าเชื่อถือ ซึ่งจะอนุญาตให้ดำเนินการได้ก็ต่อเมื่อได้รับการยืนยันแล้วว่า ผลกระทบสืบเนื่องทั้งหมดที่เกิดขึ้น จะถูกจำกัดให้มองเห็น และเข้าถึงได้เฉพาะในกลุ่มที่น่าเชื่อถือเท่านั้น

แนวทางสำหรับผู้ดูแลระบบระดับองค์กร

สำหรับการใช้งานใน Managed Workspaces โหมด Lockdown จะไม่ได้ทำการปิดใช้งานแอปพลิเคชันที่เชื่อมต่ออยู่ทั้งหมดโดยอัตโนมัติ ซึ่งผู้ดูแลระบบจำเป็นต้องเข้าไปตั้งค่าระบบควบคุมการเข้าถึงตามบทบาทหน้าที่ กำหนดรายชื่อแอปพลิเคชันที่น่าเชื่อถือ และตรวจสอบสิทธิ์การเข้าถึงของตัวเชื่อมต่อระบบด้วยตนเอง เพื่อทำให้การป้องกันมีประสิทธิภาพ

ผู้ดูแลระบบ Workspace ขององค์กร สามารถบังคับใช้โหมด Lockdown ได้ โดยการ Custom Role ซึ่งระบุให้เป็นบทบาท 'Lockdown Mode' จากนั้นจึงทำการกำหนดให้สมาชิก หรือกลุ่มผู้ใช้งานเข้าสู่ Role ดังกล่าว

แพลตฟอร์มบันทึกการใช้งานของ Compliance API ช่วยให้องค์กรสามารถตรวจสอบการใช้งานแอป ข้อมูลที่แชร์ และแหล่งข้อมูลที่เชื่อมต่อได้อย่างต่อเนื่อง โดยไม่ขึ้นอยู่กับสถานะการเปิด หรือปิดใช้งานของโหมด Lockdown Mode แต่อย่างใด

ข้อสังเกตที่สำคัญคือ โหมด Lockdown และโหมด Developer เป็นฟังก์ชันที่ไม่สามารถใช้งานร่วมกันได้ โดยการเปิดใช้งานโหมดใดโหมดหนึ่งจะส่งผลให้อีกโหมดหนึ่งถูกปิดใช้งานโดยอัตโนมัติ นอกจากนี้ โหมด Lockdown จะไม่มีผลกระทบใด ๆ ต่อการเข้าถึงเครือข่ายของ Codex

OpenAI ยอมรับว่าโหมด Lockdown ไม่สามารถรับประกันการปกป้องระบบได้อย่างสมบูรณ์แบบ 100% โดยยังคงมีความเสี่ยงที่หลงเหลืออยู่ ผ่านการเปิดใช้งานแอปพลิเคชัน Third-Party, การทำงานร่วมกันของฟังก์ชันต่าง ๆ ในรูปแบบที่คาดไม่ถึง รวมถึงเทคนิคการโจมตีรูปแบบใหม่ ๆ นอกจากนี้ Prompt Injections ที่ซ่อนมากับไฟล์ที่อัปโหลดขึ้นระบบ ยังคงสามารถทำให้ AI แสดงพฤติกรรม หรือตอบกลับข้อมูลที่ผิดพลาด และถูกบิดเบือนได้ แม้ว่าจะเปิดใช้งานโหมด Lockdown อยู่ก็ตาม

วิธีการเปิดใช้งาน

• สำหรับผู้ใช้งานบัญชีส่วนบุคคล และบัญชีธุรกิจแบบ self-serve ** : สามารถเปิดใช้งานฟีเจอร์นี้ได้ด้วยตนเองผ่านเมนู การตั้งค่า (Settings) → ความปลอดภัย (Security) → ความปลอดภัยขั้นสูง (Advanced Security) → โหมดล็อกดาวน์ (Lockdown Mode)
• ผู้ดูแลระบบระดับองค์กร (Enterprise Admins): ควรศึกษาเอกสารคู่มือระบบควบคุมการเข้าถึงตามบทบาทหน้าที่ (RBAC) และแนวทางปฏิบัติเกี่ยวกับ Compliance API ของ OpenAI เพิ่มเติม สำหรับการเปิดใช้งาน และวางระบบให้ครอบคลุมทั่วทั้งองค์กร

ที่มา : Cybersecuritynews