การโจมตีแบบ Large language model hijacking หรือที่รู้จักกันในชื่อ LLMjacking กำลังสร้างค่าใช้จ่ายบนระบบ Cloud ที่ผิดปกติจำนวนมหาศาล โดยส่งผลให้บางองค์กรต้องสูญเสียเงินมากกว่า 100,000 ดอลลาร์ต่อวัน

จากเหตุการณ์ที่นักวิจัยของกลุ่ม Threat Intelligence Group (GTIG) จาก Google และ Mandiant ได้วิเคราะห์พบว่า บริษัทต่าง ๆ อาจมีค่าใช้จ่ายพุ่งสูงถึง 1 ล้านดอลลาร์อันเนื่องมาจากการเรียกใช้งาน API ที่ผิดปกติโดยใช้ API key ที่ถูกขโมยไป

จากการสังเกตการณ์พบว่า มี "กลุ่มปฏิบัติการสองกลุ่มที่ทำงานประสานกันเพื่อเจาะระบบ และหาเงินจากโครงสร้างพื้นฐาน LLM ขององค์กร"

นักวิจัยระบุประเภทของผู้ไม่หวังดีไว้ 2 กลุ่ม คือ กลุ่มที่สแกนหา Endpoint ของ LLM ที่มีการเปิดการเชื่อมต่อสู่สาธารณะ และกลุ่มที่ขโมย API key ที่ใช้งานได้จากเครื่องที่ไม่มีการป้องกัน

หลังจากเข้าถึงระบบในขั้นต้นได้แล้ว ผู้โจมตีจะนำสิทธิ์การเข้าถึงไปขายต่อให้กับบริการที่เรียกว่า "LLM mixers" ซึ่งเป็นบริการที่ให้สมาชิกสามารถเข้าถึง LLM ได้โดยไม่ได้รับอนุญาต

เมื่อสิทธิ์การเข้าถึงถูกขายต่อ ปริมาณการเรียกใช้งานจะพุ่งสูงขึ้นอย่างกะทันหัน ซึ่งบางครั้งอาจสูงกว่า 1,000 request ต่อวินาที ผู้ให้บริการ Cloud จะบันทึกการเรียกใช้งานเหล่านี้ว่าเป็นการใช้งานที่ถูกต้อง และเรียกเก็บเงินค่า Tokens จากองค์กรที่เป็นเหยื่อ

GTIG และ Mandiant สังเกตเห็นว่า กิจกรรมประเภทนี้เพิ่มสูงขึ้นในปีนี้ โดยมีค่าใช้จ่ายที่ผิดปกติสูงกว่า 100,000 ดอลลาร์ในวันเดียว และในบางองค์กรมีค่าใช้จ่ายสะสมแตะระดับ 1,000,000 ดอลลาร์

LLM mixers เสนอสิทธิ์การเข้าถึงทรัพยากร AI ในราคาที่ถูกมาก โดยใช้โครงสร้างพื้นฐานแบบ Proxy ของตนเองเพื่อส่งต่อ Prompts ของลูกค้าไปยังบริการที่ถูก Hijacked ผ่านทาง API key ที่ถูกขโมยมา

นักวิจัยพบตัวอย่างของโครงสร้างพื้นฐานเพื่อการส่งต่อข้อมูลดังกล่าวหลายแห่ง เช่น Jet Night ที่ขาย "แพ็กเกจใช้งานแบบไม่จำกัด" ในราคา 60 ดอลลาร์/เดือน รวมถึงบริการ newapi[.]pro

Google ระบุว่า "ผู้ไม่หวังดีอีกรายหนึ่งซึ่งทำการเรียกใช้ LLM API มากกว่า 500,000 ครั้งในเวลาไม่ถึงแปดชั่วโมง ได้ใช้ API key ของ Third-party ที่ถูกขโมยมาเพื่อขับเคลื่อน Token routing service ของ jet-night.