การโจมตีฟิชชิงรูปแบบใหม่บน Gmail ใช้ AI Prompt Injection เพื่อหลบเลี่ยงการตรวจจับ

โดยทั่วไปฟิชชิงมักเกี่ยวข้องกับการหลอกลวงผู้ใช้งานมาโดยตลอด แต่ในแคมเปญนี้ ผู้โจมตีไม่ได้มุ่งเป้าไปที่ผู้ใช้เท่านั้น หากแต่ยังพยายามโจมตีระบบป้องกันที่ใช้ AI ด้วย

เหตุการณ์นี้ถือเป็นวิวัฒนาการจากการโจมตีฟิชชิงบน Gmail ซึ่งถูกบันทึกไว้โดย Anurag เมื่อสัปดาห์ที่ผ่านมาโดยแคมเปญนั้นอาศัยความเร่งด่วน และการเปลี่ยนเส้นทาง ขณะที่การโจมตีครั้งใหม่นี้เพิ่ม AI Prompt ที่ซ่อนอยู่ เพื่อสร้างความสับสนให้กับระบบวิเคราะห์อัตโนมัติ

ตามการวิเคราะห์ของ Anurag อีเมลฟิชชิงจะถูกส่งมาพร้อมหัวข้อว่า Login Expiry Notice 8/20/2025 4:56:21 p.m. โดยในเนื้อหาของอีเมลเตือนผู้รับว่ารหัสผ่านใกล้หมดอายุ และให้ผู้ใช้งานทำการยืนยันข้อมูลบัญชีของตนเอง

เหตุการณ์นี้เป็นการโจมตีแบบ Social Engineering มาตรฐานที่อาศัยการสร้างความเร่งด่วน และการปลอมแปลงเป็น Gmail เพื่อหลอกให้เหยื่อคลิกโดยไม่ทันคิด

Prompt Injection ต่อ AI

วิธีการที่แท้จริงของการโจมตีนี้ซ่อนอยู่จากผู้ใช้ โดยในซอร์สโค้ดของอีเมลมีการฝังข้อความที่ถูกเขียนขึ้นเลียนแบบสไตล์ของ Prompt สำหรับ large language models เช่น ChatGPT หรือ Gemini

Prompt Injection นี้ถูกออกแบบมาเพื่อแทรกแซงการทำงานของเครื่องมือรักษาความปลอดภัยที่ขับเคลื่อนด้วย AI ซึ่งศูนย์ปฏิบัติการด้านความมั่นคงปลอดภัย (SOC) นำมาใช้มากขึ้นเรื่อย ๆ ในการคัดกรอง และจำแนกภัยคุกคาม

ตามที่ Anurag ระบุไว้ แทนที่จะระบุลิงก์ที่เป็นอันตราย และ flagging อีเมล AI Model อาจถูกเบี่ยงเบนความสนใจด้วยคำสั่งที่แทรกเข้ามา ซึ่งบังคับให้ AI เข้าไปอยู่ในลูปการให้เหตุผลที่ยืดยาว หรือสร้างมุมมองที่ไม่เกี่ยวข้องขึ้นมา การโจมตีสองแนวทางนี้จึงเป็นการเล่นงานทั้งจิตวิทยาของมนุษย์ และปัญญาประดิษฐ์ไปพร้อมกัน

หากการโจมตีสำเร็จ อาจทำให้ระบบอัตโนมัติจำแนกภัยคุกคามผิดพลาด ชะลอการแจ้งเตือนที่สำคัญ หรือแม้กระทั่งปล่อยให้การฟิชชิงหลุดรอดการป้องกันไปได้ทั้งหมด

ลำดับการส่ง และขั้นตอนของการโจมตีแสดงถึงความซับซ้อนที่มากขึ้น

• Email Delivery: อีเมลถูกส่งมาจาก SendGrid สามารถผ่านการตรวจสอบ SPF และ DKIM ได้สำเร็จ แต่อาจจะ failed ในการตรวจสอบ DMARC แต่ก็ทำให้สามารถส่งไปถึงกล่องจดหมายของผู้ใช้ได้

• Staging Redirect: ลิงก์เริ่มต้นในอีเมลใช้ Microsoft Dynamics เพื่อสร้างการเปลี่ยนเส้นทางที่ดูน่าเชื่อถือ
  hxxps://assets-eur.mkt.dynamics.com/d052a1c0-a37b-f011-8589-000d3ad8807d/digitalassets/standaloneforms/0cecd167-e07d-f011-b4cc-7ced8d4a4762

• Attacker Domain with Captcha: การเปลี่ยนเส้นทางนำไปสู่เพจที่มี CAPTCHA ซึ่งถูกออกแบบมาเพื่อบล็อกโปรแกรมรวบรวมข้อมูลอัตโนมัติ และแซนด์บ็อกซ์ไม่ให้เข้าถึงเว็บไซต์ฟิชชิ่งขั้นตอนสุดท้าย
  hxxps://bwdpp.horkyrown.com/M6TJL@V6oUn07/

• Main Phishing Site: หลังจาก CAPTCHA ผู้ใช้จะถูกพาไปยังหน้าเข้าสู่ระบบที่เลียนแบบ Gmail และมี JavaScript ที่ถูกทำให้สับสน
  hxxps://bwdpp.horkyrown.com/yj3xbcqasiwzh2?id=[long_id_string]

• GeoIP Request: เว็บไซต์ฟิชชิงทำการ request ไปยังบริการ GeoIP เพื่อเก็บข้อมูล IP Address, ASN และตำแหน่ง geolocation ของเหยื่อ เพื่อทำโปรไฟล์ และกรองระบบวิเคราะห์ออก
  hxxps://get.geojs.io/v1/ip/geo.json

• Beacon Call: ใช้ Telemetry Beacon หรือ Session Tracker เพื่อตรวจสอบว่าเป็นผู้ใช้งานจริง หรือเป็นบอท
  GET hxxps://6fwwke.glatrcisfx.ru/tamatar@1068ey

อีเมลที่ส่งผ่าน SendGrid สามารถหลบเลี่ยงการตรวจสอบเบื้องต้นได้ รวมถึงการเปลี่ยนเส้นทางผ่าน URL ของ Microsoft Dynamics ที่ถูกต้องจะทำให้การเข้าถึงแรกดูน่าเชื่อถือมากขึ้น

CAPTCHA ปกป้องโดเมนของผู้โจมตีเพื่อบล็อกเครื่องมือสแกนอัตโนมัติ และหน้าฟิชชิ่งสุดท้ายจะใช้ JavaScript แบบหลายชั้นที่ปกปิดไว้เพื่อขโมยข้อมูล credentials

แม้การระบุผู้โจมตีอย่างชัดเจนจะเป็นเรื่องที่ยาก แต่ข้อมูลจาก WHOIS สำหรับโดเมนของผู้โจมตี (bwdpp.horkyrown.com) ระบุข้อมูลติดต่อในปากีสถาน และเส้นทาง URL ของ Telemetry Beacons (6fwwke.glatrcisfx.ru/tamatar@1068ey) ยังมีคำที่มาจากภาษาฮินดี/อูรดู

แม้เบาะแสเหล่านี้ยังไม่ชัดเจน แต่ก็แสดงให้เห็นถึงความเชื่อมโยงที่เป็นไปได้กับกลุ่มผู้โจมตีในเอเชียใต้

แคมเปญนี้แสดงให้เห็นถึงวิวัฒนาการที่ชัดเจนของฟิชชิง โดยผู้โจมตีเริ่มสร้างภัยคุกคามต่อ AI พยายามโจมตี และทำลายเครื่องมือที่ออกแบบมาเพื่อป้องกันภัยคุกคามเหล่านั้น

สิ่งนี้บังคับให้องค์กรต้องปรับกลยุทธ์การป้องกันใหม่ ไม่เพียงแค่ปกป้องผู้ใช้จากการโจมตีแบบ Social Engineering แต่ยังต้องปกป้องเครื่องมือ AI จากการถูกควบคุมอีกด้วย

ที่มา : cybersecuritynews