ผู้โจมตีใช้ประโยชน์จาก Grok AI ของ X เพื่อแพร่กระจายลิงก์ที่เป็นอันตราย

ผู้โจมตีกำลังใช้ Grok ผู้ช่วย AI ที่ติดตั้งมาในแพลตฟอร์ม X เพื่อ bypass ข้อจำกัดในการโพสต์ลิงก์ที่ X นำมาใช้เพื่อลดการโฆษณาที่เป็นอันตราย

Nati Tal นักวิจัยของ Guardio Labs พบว่าบัญชี Mavertiser มักแสดงโฆษณาวิดีโอที่ล่อลวงด้วยเนื้อหาสำหรับผู้ใหญ่ และหลีกเลี่ยงการใส่ลิงก์ไปยังเนื้อหาหลักเพื่อป้องกันการถูกบล็อกโดย X

แทนที่จะทำเช่นนั้น พวกเขาซ่อนลิงก์ไว้ในช่อง metadata ขนาดเล็ก “From:” ที่อยู่ใต้ video card ซึ่งดูเหมือนว่าแพลตฟอร์มจะไม่ตรวจสอบหาลิงก์ที่เป็นอันตราย

ถัดมา ผู้โจมตี (ซึ่งน่าจะเป็นกลุ่มเดียวกัน) จะพิมพ์คำถามตอบกลับไปยังโฆษณานั้น เช่น “วิดีโอนี้มาจากไหน” หรือ “ลิงก์ของวิดีโอนี้คืออะไร”

Grok จะประมวลผลข้อมูลจากช่องที่ซ่อนอยู่ “From:” และตอบกลับด้วยลิงก์ที่เป็นอันตรายแบบเต็มรูปแบบที่สามารถคลิกได้ ทำให้ผู้ใช้สามารถกดเข้าไปยังเว็บไซต์อันตรายได้โดยตรง

เนื่องจาก Grok เป็น trusted system account บนแพลตฟอร์ม X การโพสต์ของ Grok จึงช่วยเพิ่มความน่าเชื่อถือ, การเข้าถึง, SEO และความนิยมของลิงก์ ส่งผลให้มีโอกาสถูกเผยแพร่ไปยังผู้ใช้จำนวนมาก

นักวิจัยพบว่าลิงก์เหล่านี้จำนวนมากถูกเปลี่ยนเส้นทางผ่านเครือข่ายโฆษณาที่ไม่น่าไว้วางใจ ก่อนจะนำผู้ใช้ไปสู่การหลอกลวง เช่น การทดสอบ CAPTCHA ปลอม, มัลแวร์ขโมยข้อมูล และ payloads อันตรายอื่น ๆ

แทนที่ X จะบล็อกเนื้อหาดังกล่าว กลับกลายเป็นว่าถูกโปรโมตไปยังผู้ใช้บนแพลตฟอร์ม ผ่านโฆษณาอันตรายที่ได้รับแรงสนับสนุนเพิ่มเติมจาก Grok เอง

Tal เรียกเทคนิคการโจมตีช่องโหว่นี้ว่า “Grokking” และชี้ว่าเป็นวิธีที่มีประสิทธิภาพสูง ซึ่งในบางกรณีสามารถขยายการมองเห็นของโฆษณาอันตรายให้เข้าถึงได้หลายล้านครั้ง ตามที่แสดงไว้ด้านล่าง

แนวทางแก้ไขที่เป็นไปได้คือการตรวจสอบทุกช่องข้อมูล, การบล็อกลิงก์ที่ซ่อนอยู่ และการเพิ่มขั้นตอน context sanitization ให้กับ Grok เพื่อไม่ให้ AI ตอบลิงก์ออกมาโดยไม่ตรวจสอบ แต่ควรมีการกรอง และตรวจสอบกับ blocklists ก่อน

Tal ยืนยันว่าได้ติดต่อ X เพื่อรายงานปัญหานี้แล้ว และได้รับการยืนยันแบบไม่เป็นทางการว่า ทีมวิศวกรของ Grok ได้รับรายงานดังกล่าวแล้วเช่นกัน

BleepingComputer ยังได้ติดต่อ X เพื่อสอบถามว่าพวกเขาทราบถึงการถูกนำไปใช้ในทางที่ผิดนี้หรือไม่ และมีแผนจะดำเนินการแก้ไขหรือไม่ แต่จนถึงเวลาที่เผยแพร่ข่าว ยังไม่ได้รับคำตอบกลับจาก X

ที่มา : bleepingcomputer