นักวิจัยพบกลุ่ม Hacker ที่เกี่ยวข้องกับรัฐบาลรัสเซีย เกาหลีเหนือ อิหร่าน และจีน กำลังทดลองใช้ปัญญาประดิษฐ์ (AI) และแบบจำลองภาษาขนาดใหญ่ (LLM) เพื่อเสริมการโจมตีทางไซเบอร์ที่กำลังดำเนินอยู่
การค้นพบนี้มาจากรายงานที่เผยแพร่โดย Microsoft ร่วมกับ OpenAI ซึ่งทั้งสองรายงานระบุว่า พวกเขาสามารถขัดขวางความพยายามของหน่วยงานในเครือข่ายของรัฐ 5 รายที่ใช้บริการ AI เพื่อทำกิจกรรมทางไซเบอร์ที่เป็นอันตรายโดยการระงับบัญชีของพวกเขา
ไมโครซอฟต์ระบุในรายงานว่า "ฟีเจอร์การสนับสนุนทางด้านภาษาเป็นคุณลักษณะปกติของ LLM และทำให้น่าสนใจสำหรับกลุ่มผู้โจมตีที่มุ่งเน้นการโจมตีแบบ social engineering และเทคนิคอื่น ๆ โดยอาศัยการสื่อสาร และการหลอกลวงซึ่งปรับให้เหมาะกับงานของเป้าหมาย เครือข่ายวิชาชีพ และความสัมพันธ์อื่น ๆ”
แม้ว่าในปัจจุบันจะไม่มีการตรวจพบการโจมตีที่เด่นชัด หรือการโจมตีรูปแบบใหม่ที่ใช้ LLM แต่การทดลองใช้เทคโนโลยี AI ของกลุ่มผู้โจมตี ได้ทำให้สามารถข้ามขั้นตอนต่าง ๆ ของการโจมตีตามปกติได้ เช่น reconnaissance, การสร้างโค้ดสำหรับการโจมตี และการพัฒนามัลแวร์
โดย OpenAI ระบุว่า "พบผู้โจมตีกำลังใช้บริการ OpenAI เพื่อค้นหาข้อมูลเกี่ยวกับโอเพ่นซอร์ส การแปลภาษา ค้นหาข้อผิดพลาดในการเขียนโค้ด และใช้งานการเขียนโค้ดขั้นพื้นฐาน”
ตัวอย่างเช่น กลุ่มผู้โจมตีจากรัสเซียที่ถูกติดตามในชื่อ Forest Blizzard (aka APT28) ถูกระบุว่า กำลังทำการวิจัยโอเพ่นซอร์สเกี่ยวกับโปรโตคอลการสื่อสารผ่านดาวเทียม และเทคโนโลยีการถ่ายภาพเรดาร์ ตลอดจนการเขียน Script ต่าง ๆ
กลุ่มแฮ็กเกอร์ที่มีชื่อเสียงอื่น ๆ ที่ถูกพบพฤติกรรมดังกล่าว
Emerald Sleet (หรือที่รู้จักในชื่อ Kimusky) กลุ่มผู้โจมตีจากเกาหลีเหนือ ได้ใช้ LLM เพื่อระบุผู้เชี่ยวชาญ, หน่วยงาน think tanks และองค์กรที่มุ่งเน้นด้านการป้องกันในภูมิภาคเอเชียแปซิฟิก, ค้นหาช่องโหว่ที่ถูกเปิดเผยออกสู่สาธารณะ, ช่วยเหลือในการเขียนสคริปต์ขั้นพื้นฐาน และร่างเนื้อหาที่สามารถนำไปใช้ในแคมเปญฟิชชิ่งได้
Crimson Sandstorm (หรือที่รู้จักในชื่อ Imperial Kitty) กลุ่มผู้โจมตีจากอิหร่านที่ใช้ LLM เพื่อสร้างตัวอย่างโค้ดที่เกี่ยวข้องกับการพัฒนาแอป และเว็บ สร้างอีเมลฟิชชิ่ง และค้นคว้าวิธีการทั่วไปที่มัลแวร์สามารถหลบเลี่ยงการตรวจจับได้
Charcoal Typhoon (หรือที่รู้จักในชื่อ Aquatic Panda) กลุ่มผู้โจมตีจากจีนซึ่งใช้ LLM เพื่อวิจัยบริษัท และช่องโหว่ต่าง ๆ, สร้างสคริปต์, สร้างเนื้อหาที่น่าจะนำไปใช้ในแคมเปญฟิชชิ่ง และระบุเทคนิคสำหรับพฤติกรรมหลังการโจมตีระบบเป้าหมายได้สำเร็จ
Salmon Typhoon (หรือที่รู้จักในชื่อ Maverick Panda) กลุ่มผู้โจมตีจากจีนที่ใช้ LLM ในการแปลเอกสารทางเทคนิค, ดึงข้อมูลที่เปิดเผยต่อสาธารณะเกี่ยวกับหน่วยข่าวกรองหลายแห่ง และกลุ่มผู้โจมตีในภูมิภาคม แก้ไขข้อผิดพลาดในการเขียนโค้ด และค้นหากลยุทธ์เพื่อหลบเลี่ยงการตรวจจับ
Microsoft ระบุว่ากำลังกำหนดหลักการเพื่อลดความเสี่ยงที่เกิดจากการใช้เครื่องมือ AI และ API ในทางที่เป็นอันตรายโดยกลุ่มผู้โจมตีระดับสูงที่ได้รับการสนับสนุนจากรัฐบาลต่าง ๆ (APTs) และกลุ่มอาชญากรในโลกไซเบอร์ และสร้างแนวป้องกัน และความปลอดภัยที่มีประสิทธิภาพ รวมถึงการระบุตัวตน และการดำเนินการแจ้งเตือนการใช้งานของกลุ่มผู้โจมตีที่เป็นอันตรายไปยังผู้ให้บริการ AI รายอื่น
ที่มา : thehackernews.com
You must be logged in to post a comment.