การโจมตี ‘Rules File Backdoor’ รูปแบบใหม่ ทำให้แฮ็กเกอร์สามารถ Inject Malicious Code ผ่าน AI Code Editors

นักวิจัยด้านความปลอดภัยทางไซเบอร์ เปิดเผยรายละเอียดของการโจมตีแบบ supply chain attack รูปแบบใหม่ที่เรียกว่า 'Rules File Backdoor' ซึ่งส่งผลกระทบต่อโปรแกรม AI Code Editors อย่าง GitHub Copilot และ Cursor ทำให้สามารถแทรกโค้ดที่เป็นอันตรายได้

Ziv Karliner Co-Founder และ CTO ของ Pillar Security ระบุไว้ในรายงานเชิงเทคนิคที่แชร์กับ The Hacker News ว่า "เทคนิคนี้ช่วยให้แฮ็กเกอร์สามารถโจมตีโค้ดที่สร้างโดย AI ได้โดยแอบแทรกโค้ดที่เป็นอันตรายลงในไฟล์ Configuration ที่ดูเหมือนไม่เป็นอันตราย ซึ่งถูกใช้โดย Cursor และ GitHub Copilot"

"การใช้ประโยชน์จากอักขระ Unicode ที่ซ่อนอยู่ และเทคนิคการหลบเลี่ยงการตรวจจับขั้นสูงในคำสั่งที่ถูกส่งไปยังโมเดล แฮ็กเกอร์สามารถควบคุม AI ให้แทรกโค้ดอันตรายที่สามารถหลุดรอดจากการตรวจสอบโค้ดแบบทั่วไปได้"

จุดเด่นของ "Rules File Backdoor" คือ ความสามารถในการแพร่กระจายโค้ดที่เป็นอันตรายไปยังโปรเจกต์อื่นได้อย่างเงียบ ๆ ซึ่งก่อให้เกิดความเสี่ยงในลักษณะ Supply Chain Attack

วิธีการหลักของการโจมตีนี้อยู่ที่ Rules Files ซึ่งใช้โดย AI Agents เพื่อกำหนดแนวทางที่ดีที่สุดในการเขียนโค้ด และโครงสร้างของโปรเจกต์

โดยเฉพาะอย่างยิ่ง การโจมตีนี้เกี่ยวข้องกับการฝังข้อความคำสั่งที่ถูกออกแบบมาอย่างแนบเนียนใน Rules Files ที่ดูเหมือนไม่เป็นอันตราย ทำให้เครื่องมือ AI สร้างโค้ดที่มีช่องโหว่ด้านความปลอดภัย หรือมี Backdoor กล่าวอีกนัยหนึ่งคือ Rules Files ที่ถูกฝังคำสั่ง จะชักนำ AI ให้สร้างโค้ดที่เป็นอันตราย

การโจมตีสามารถทำได้โดยใช้ Zero-width joiners, Bidirectional text markers และอักขระที่มองไม่เห็นอื่น ๆ เพื่อปกปิดคำสั่งที่เป็นอันตราย และใช้ประโยชน์จากความสามารถของ AI ในการแปลความ natural language เพื่อสร้างโค้ดที่เป็นอันตรายผ่าน semantic patterns ที่หลอกล่อโมเดลให้ละเลยข้อจำกัดด้าน ethical และความปลอดภัย

หลังจากการเปิดเผยข้อมูลในช่วงปลายเดือนกุมภาพันธ์ และมีนาคม 2024 ทั้ง Cursor และ GitHub ได้ระบุว่า ผู้ใช้งานเป็นผู้รับผิดชอบในการตรวจสอบ และยอมรับข้อเสนอแนะที่เครื่องมือสร้างขึ้น

โดย Karliner ระบุว่า "Rules File Backdoor" ถือเป็นความเสี่ยงที่สำคัญโดยการเปลี่ยน AI ให้กลายเป็นเครื่องมือในการโจมตี ซึ่งทำให้ผู้พัฒนาที่น่าเชื่อถือที่สุดกลายเป็นผู้สมรู้ร่วมคิดโดยไม่รู้ตัว และอาจส่งผลกระทบต่อผู้ใช้งานหลายล้านคนผ่านซอฟต์แวร์ที่ถูกโจมตี"

"เมื่อ Rules File ที่เป็นอันตราย ถูกนำเข้าไปใน project repository มันจะส่งผลต่อทุกการสร้างโค้ดในอนาคตโดยสมาชิกทีม นอกจากนี้ คำสั่งที่เป็นอันตรายยังมักจะยังคงอยู่แม้จะทำ forking project ซึ่งทำให้เกิดช่องทางสำหรับการโจมตีแบบ Supply Chain Attack ที่สามารถส่งผลกระทบต่อ dependencies และผู้ใช้งานได้"

ที่มา : thehackernews