LFM2.5-24B-A2B รีวิว: ปรับแต่งเอเจนต์ความเร็วสูงบนอุปกรณ์ Edge

บทนำ: การเปลี่ยนผ่านสู่ความอัจฉริยะแบบท้องถิ่น

ในภูมิทัศน์ของปัญญาประดิษฐ์ที่กำลังพัฒนาไปอย่างต่อเนื่อง มีการเปลี่ยนแปลงกระบวนทัศน์ครั้งสำคัญเกิดขึ้น ในขณะที่โมเดลขนาดใหญ่บนคลาวด์เคยครองตลาดในช่วงต้นทศวรรษ 2020 ช่วงครึ่งหลังของทศวรรษนี้กลับเห็นการย้ายฐานอย่างแข็งแกร่งสู่ความอัจฉริยะบนอุปกรณ์ (on-device) หัวใจสำคัญของการเปลี่ยนผ่านนี้คือความต้องการเอเจนต์ที่ไม่เพียงแต่มีความฉลาด แต่ยังต้องตอบสนองเร็ว มีความเป็นส่วนตัว และมีประสิทธิภาพ นี่คือที่มาของ LFM2.5-24B-A2B สถาปัตยกรรมโมเดลที่ออกแบบมาโดยเฉพาะเพื่อเชื่อมโยงช่องว่างระหว่างการประมวลผลบนเซิร์ฟเวอร์ที่มีน้ำหนักมากกับการทำงานบนอุปกรณ์เคลื่อนที่ที่มีทรัพยากรจำกัด

รีวิวนี้นำเสนอความสามารถของ LFM2.5-24B-A2B โดยมุ่งเน้นที่ความเหมาะสมในการใช้งานสำหรับติดตั้งเอเจนต์อัตโนมัติบนอุปกรณ์ Edge ในขณะที่นักพัฒนาและองค์กรต่างๆ พยายามลดความหน่วง (latency) และการพึ่งพาการเชื่อมต่อคลาวด์ การทำความเข้าใจว่าโมเดลนี้ทำงานอย่างไรในสภาพแวดล้อมที่มีข้อจำกัดจึงเป็นเรื่องสำคัญ เราจะพิจารณาถึงสถาปัตยกรรม การใช้งานจริง ผลกระทบด้านราคา และการเปรียบเทียบกับคู่แข่งในหมวดโมเดลขนาดเล็กถึงขนาดกลาง

ทำความเข้าใจสถาปัตยกรรม: ทำไม “ขนาดเล็ก” ถึงเป็นความฉลาดรูปแบบใหม่

การตั้งชื่อของ LFM2.5-24B-A2B บ่งบอกถึงปรัชญาการออกแบบหลักของมัน ด้วยจำนวนพารามิเตอร์ประมาณ 24 พันล้าน มันอยู่ในจุดสมดุลที่เหมาะสมสำหรับฮาร์ดแวร์สมัยใหม่ ซึ่งมีขนาดใหญ่พอที่จะรักษาความตระหนักรู้ในบริบทและความสามารถในการให้เหตุผลที่โมเดลขนาดเล็กกว่า 7B มักขาดหาย แต่ก็มีขนาดกะทัดรัดพอที่จะทำงานได้อย่างมีประสิทธิภาพบนแล็ปท็อป แท็บเล็ต และแม้แต่สมาร์ทโฟนระดับไฮเอนด์ โดยไม่จำเป็นต้องใช้คลัสเตอร์ GPU เฉพาะทาง

คำว่า “A2B” มักหมายถึงกลยุทธ์การปรับแต่งเป็นไบนารีแบบ Adaptive-to-Binary หรือการปรับแต่งกลไกความสนใจ (attention mechanism) เฉพาะสำหรับการประมวลผลแบบแบทช์บนฮาร์ดแวร์ Edge ทางเลือกทางสถาปัตยกรรมนี้ให้ความสำคัญกับความเร็วในการอนุมานและประสิทธิภาพการใช้หน่วยความจำมากกว่าจำนวนพารามิเตอร์ล้วนๆ สำหรับนักพัฒนาที่สร้างเอเจนต์แบบเรียลไทม์ เช่น ผู้ช่วยเสียง ตัวควบคุมสมาร์ทโฮม หรือตัวประมวลผลเอกสารแบบออฟไลน์ ความสมดุลนี้มีความสำคัญอย่างยิ่ง โมเดลนี้ถูกออกแบบมาให้จัดการกับงานที่ซับซ้อนตามคำสั่งได้อย่างมีประสิทธิภาพ โดยยังคงใช้หน่วยความจำน้อย เพื่อให้แน่ใจว่าแอปพลิเคชันยังคงตอบสนองได้ดีแม้ภายใต้ภาระงานหนัก

ต่างจากโมเดลแบบดั้งเดิมที่ต้องใช้ทรัพยากรจำนวนมากสำหรับการแยกโทเคนและการจัดการบริบท ซีรีส์ LFM2.5 เน้นที่ไปป์ไลน์ที่กระชับ ซึ่งส่งผลให้ได้เวลาในการสร้างโทเคนแรก (TTFT) ที่เร็วกว่า ซึ่งเป็นตัวชี้วัดที่กำหนดความเร็วที่ผู้ใช้รับรู้จากเอเจนต์ AI ในทางปฏิบัติ สิ่งนี้หมายถึงความหน่วงที่น้อยลงเมื่อโต้ตอบกับแชทบอทหรือเวิร์กโฟลว์อัตโนมัติ สร้างประสบการณ์ผู้ใช้ที่เป็นธรรมชาติและน่าสนใจมากขึ้น

คุณสมบัติหลักและลักษณะประสิทธิภาพ

เมื่อประเมินโมเดลใดๆ สำหรับการติดตั้งบนอุปกรณ์ขอบ (edge) ปัจจัยทางเทคนิคหลายประการจะเป็นตัวกำหนดความเหมาะสม LFM2.5-24B-A2B แก้ไขประเด็นเหล่านี้ผ่านการปรับแต่งเฉพาะที่ช่วยให้แตกต่างจากโมเดลโอเพนซอร์สทั่วไป

หน้าต่างบริบทและการจัดการหน่วยความจำ

หนึ่งในจุดเด่นของโมเดลนี้คือการจัดการหน้าต่างบริบทที่มีประสิทธิภาพ ในขณะที่โมเดลจำนวนมากในช่วงขนาดนี้มักมีปัญหาในการรักษาความต่อเนื่องของบริบทที่ยาว LFM2.5-24B-A2B ใช้กลไกความสนใจแบบลำดับชั้น (hierarchical attention mechanism) ที่ช่วยให้รักษาความสอดคล้องในการสนทนาที่ยาวนานขึ้นได้โดยไม่ทำให้หน่วยความจำ膨胀มากเกินไป ซึ่งจะเป็นประโยชน์อย่างยิ่งสำหรับเอเจนต์ที่ต้องจดจำความชอบของผู้ใช้ข้ามหลายเซสชันหรือประมวลผลเอกสารยาวๆ ในเครื่อง

การรองรับ Quantization

โมเดลรองรับระดับ quantization หลากหลาย รวมถึงรูปแบบจำนวนเต็ม 4 บิตและ 8 บิต ความยืดหยุ่นนี้ช่วยให้ผู้พัฒนาสามารถปรับขนาดโมเดลให้ตรงกับข้อจำกัดของฮาร์ดแวร์ในอุปกรณ์เป้าหมายได้อย่างเหมาะสม ตัวอย่างเช่น เวอร์ชันที่ quantize เป็น 4 บิตสามารถทำงานได้อย่างลื่นไหลบนอุปกรณ์ Android ระดับกลาง ในขณะที่เวอร์ชัน 8 บิตอาจเหมาะสำหรับแอปพลิเคชันบนเดสก์ท็อปซึ่งมีข้อจำกัดด้านหน่วยความจำน้อยกว่าแต่ยังต้องการความเร็วสูง ตรวจสอบเอกสารปัจจุบันของผู้ขายสำหรับสูตร quantization ที่เฉพาะเจาะจง เนื่องจากมีการอัปเดตบ่อยครั้งเพื่อใช้ประโยชน์จากคำสั่งฮาร์ดแวร์ใหม่

การปฏิบัติตามคำสั่งและการให้เหตุผล

แม้จะมีขนาดกะทัดรัด โมเดลนี้แสดงความสามารถในการปฏิบัติตามคำสั่งได้อย่างแข็งแกร่ง มันโดดเด่นในงานที่มีโครงสร้าง เช่น การจัดรูปแบบ JSON การสร้างโค้ด และการให้เหตุผลเชิงตรรกะ แม้ว่ามันอาจไม่เทียบเท่าความสร้างสรรค์ที่มีรายละเอียดของโมเดลที่มีพารามิเตอร์ 70B+ ขึ้นไป แต่มันมีความทนทานเพียงพอสำหรับงานอัตโนมัติขององค์กรส่วนใหญ่ ความสามารถในการให้เหตุผลของมันแข็งแกร่งเป็นพิเศษในสถานการณ์ที่กำหนดผลลัพธ์แน่นอน ทำให้เหมาะสำหรับเวิร์กโฟลว์อัตโนมัติที่เน้นความแม่นยำมากกว่าความสร้างสรรค์

กรณีใช้งานจริงสำหรับเอเจนต์บนอุปกรณ์ขอบ

คุณค่าที่แท้จริงของ LFM2.5-24B-A2B อยู่ที่การนำไปใช้ในเวิร์กโฟลว์เฉพาะด้าน นี่คือหลายสถานการณ์ที่โมเดลนี้โดดเด่น:

ผู้ช่วยเสียงแบบออฟไลน์

ด้วยการเพิ่มขึ้นของผู้บริโภคที่ใส่ใจเรื่องความเป็นส่วนตัว ผู้ช่วยเสียงแบบออฟไลน์จึงได้รับความนิยมมากขึ้น ความหน่วงต่ำของ LFM2.5-24B-A2B ทำให้เหมาะสำหรับอินเทอร์เฟซที่ขับเคลื่อนด้วยเสียงซึ่งต้องตอบสนองทันทีโดยไม่ต้องรอการส่งข้อมูลไปกลับจากคลาวด์ ความสามารถในการจัดการกับคำถามภาษาธรรมชาติในเครื่องโดยตรงช่วยให้ข้อมูลของผู้ใช้ยังคงอยู่ในอุปกรณ์ ซึ่งช่วยแก้ปัญหาความเป็นส่วนตัวที่มีอยู่ในโซลูชันแบบคลาวด์

ระบบอัตโนมัติในบ้านอัจฉริยะ

ในระบบนิเวศบ้านอัจฉริยะ ตัวแทนมักต้องตีความคำสั่งที่ซับซ้อนและประสานงานอุปกรณ์หลายชิ้น การอนุมานที่มีประสิทธิภาพของโมเดลช่วยให้สามารถทำงานบนฮับกลางหรือแม้แต่ลำโพงอัจฉริยะแต่ละตัวได้ สามารถแยกวิเคราะห์คำสั่งภาษาธรรมชาติเช่น “เปิดไฟห้องนั่งเล่นและตั้งอุณหภูมิเป็น 72 องศา” โดยแปลงเป็นคำสั่ง API เฉพาะสำหรับอุปกรณ์ต่างๆ ด้วยความล่าช้าน้อยที่สุด

การประมวลผลและสรุปเอกสาร

สำหรับมืออาชีพที่ต้องทำงานกับเอกสารที่มีความละเอียดอ่อน เครื่องมือสรุปความแบบท้องถิ่นมีค่าอย่างยิ่ง LFM2.5-24B-A2B สามารถประมวลผลรายงาน อีเมล และบันทึกการประชุมโดยตรงบนแล็ปท็อป โดยให้สรุปที่กระชับโดยไม่ต้องอัปโหลดข้อมูลไปยังเซิร์ฟเวอร์ภายนอก สิ่งนี้มีประโยชน์เป็นพิเศษในอุตสาหกรรมที่มีการกำกับดูแลอย่างเข้มงวด เช่น สาธารณสุขและการเงิน ซึ่งอธิปไตยของข้อมูลเป็นข้อกำหนดที่เข้มงวด

ความช่วยเหลือด้านโค้ดใน IDE

สภาพแวดล้อมการพัฒนาแบบรวม (IDE) กำลังนำผู้ช่วย AI มาใช้มากขึ้น ลักษณะที่มีน้ำหนักเบาของโมเดลนี้ช่วยให้สามารถทำงานในเบื้องหลังของสภาพแวดล้อมการเขียนโค้ด โดยให้คำแนะนำแบบเรียลไทม์และการตรวจจับข้อผิดพลาดโดยไม่ส่งผลกระทบต่อประสิทธิภาพของ IDE อย่างมีนัยสำคัญ ความสามารถด้านการเขียนโค้ดที่แข็งแกร่งทำให้เป็นทางเลือกที่ใช้งานได้จริงแทนผู้ช่วยเขียนโค้ดบนคลาวด์ที่มีน้ำหนักมากกว่าสำหรับนักพัฒนาที่ชื่นชอบเวิร์กโฟลว์แบบออฟไลน์

เปรียบเทียบกับโมเดลคู่แข่ง

เพื่อทำความเข้าใจตำแหน่งของ LFM2.5-24B-A2B การเปรียบเทียบกับโมเดลยอดนิยมอื่นๆ ในหมวดหมู่ที่เหมาะสำหรับ Edge เป็นสิ่งที่มีประโยชน์ ตารางต่อไปนี้แสดงข้อแตกต่างหลักในด้านสถาปัตยกรรมและกรณีใช้งานทั่วไป โปรดทราบว่าตัวชี้วัดประสิทธิภาพอาจแตกต่างกันไปตามฮาร์ดแวร์และรายละเอียดการนำไปใช้ ควรทดสอบบนอุปกรณ์เป้าหมายของคุณเสมอ

การเปรียบเทียบนี้ชี้ให้เห็นว่า LFM2.5-24B-A2B อยู่ในจุดกึ่งกลางเชิงกลยุทธ์ โดยให้ความสามารถมากกว่าโมเดลขนาดเล็กโดยไม่ต้องแบกรับภาระโครงสร้างพื้นฐานของโมเดลขนาดใหญ่ สำหรับนักพัฒนาที่สร้างเอเจนต์ซึ่งต้องการความเข้าใจที่ละเอียดอ่อนแต่ต้องยังคงความรวดเร็วในการตอบสนอง ความสมดุลนี้มักเป็นตัวเลือกที่ดีที่สุด

ข้อพิจารณาเรื่องราคาและสัญญาอนุญาต

การกำหนดต้นทุนในการใช้งาน LFM2.5-24B-A2B ต้องพิจารณาทั้งค่าธรรมเนียมสัญญาอนุญาตและต้นทุนโครงสร้างพื้นฐาน ต่างจากโมเดลแบบปิดที่คิดค่าใช้จ่ายต่อโทเคนผ่าน API calls โมเดลนี้มักมีให้ใช้งานภายใต้สัญญาอนุญาตแบบโอเพนซอร์ส ซึ่งช่วยให้ติดตั้งแบบโลคอลได้โดยไม่ต้องเสียค่า API ซ้ำๆ อย่างไรก็ตาม องค์กรควรตรวจสอบเงื่อนไขสัญญาอนุญาตเฉพาะที่ผู้จำหน่ายกำหนด เนื่องจากอาจมีการเปลี่ยนแปลงได้

ต้นทุนโครงสร้างพื้นฐานส่วนใหญ่ขึ้นอยู่กับข้อกำหนดด้านฮาร์ดแวร์ เนื่องจากโมเดลนี้ถูกปรับแต่งให้มีประสิทธิภาพสูง จึงสามารถรันบนฮาร์ดแวร์ที่มีอยู่แล้วได้ในหลายกรณี ซึ่งช่วยลดความจำเป็นในการลงทุนเซิร์ฟเวอร์ใหม่ สำหรับการติดตั้งขนาดใหญ่ ความสามารถในการรันหลายอินสแตนซ์บนเซิร์ฟเวอร์เดียวเนื่องจากใช้หน่วยความจำน้อยกว่า สามารถนำไปสู่การประหยัดอย่างมีนัยสำคัญเมื่อเทียบกับการโฮสต์โมเดลขนาดใหญ่กว่า ตรวจสอบราคาปัจจุบันของผู้จำหน่ายสำหรับแพ็กเกจสนับสนุนระดับองค์กรหรือไบนารีที่ปรับแต่งแล้ว เนื่องจากอาจให้ประโยชน์ด้านประสิทธิภาพเพิ่มเติมในราคาเหมาจ่าย

วิเคราะห์ข้อดีและข้อเสีย

เพื่อให้มุมมองที่สมดุล นี่คือสรุปจุดแข็งและข้อจำกัดของ LFM2.5-24B-A2B

ข้อดี

• ปรับแต่งสำหรับอุปกรณ์ Edge: ออกแบบมาโดยเฉพาะเพื่อรันอย่างมีประสิทธิภาพบนฮาร์ดแวร์ที่มีข้อจำกัด ช่วยลดความหน่วงและการใช้พลังงาน
• ปฏิบัติตามคำสั่งได้ดี: สามารถจัดการกับพรอมป์ที่ซับซ้อนและผลลัพธ์ที่มีโครงสร้างได้อย่างเชื่อถือได้ เหมาะสมสำหรับงานอัตโนมัติ
• เน้นความเป็นส่วนตัว: การรันแบบโลคอลช่วยให้ข้อมูลอยู่ในอุปกรณ์ ช่วยดึงดูดผู้ใช้ที่ใส่ใจความเป็นส่วนตัวและอุตสาหกรรมที่มีกฎระเบียบ
• ขยายตัวได้อย่างคุ้มค่า: ข้อกำหนดด้านฮาร์ดแวร์ที่ต่ำกว่าช่วยให้ติดตั้งได้หนาแน่นขึ้น ลดต้นทุนโครงสร้างพื้นฐานสำหรับแอปพลิเคชันขนาดใหญ่
• การควอนไทซ์ที่ยืดหยุ่น: รองรับระดับการควอนไทซ์ที่หลากหลาย ช่วยให้นักพัฒนาปรับแต่งประสิทธิภาพได้อย่างละเอียดตามความสามารถเฉพาะของอุปกรณ์

ข้อเสีย

• ความลุ่มลึกเชิงสร้างสรรค์จำกัด: แม้จะโดดเด่นด้านตรรกะและโครงสร้าง แต่อาจขาดความลุ่มลึกเชิงสร้างสรรค์ของโมเดลขนาดใหญ่กว่าสำหรับงานเขียนที่มีลักษณะทางศิลปะสูงหรือต้องการความละเอียดอ่อน
• ข้อจำกัดของ Context Window: แม้จะได้รับการปรับแต่งแล้ว แต่ก็อาจทำงานได้ไม่ดีนักกับเอกสารที่ยาวมาก เมื่อเทียบกับโมเดลที่ออกแบบมาเฉพาะสำหรับรองรับบริบทยาวๆ
• การพึ่งพาฮาร์ดแวร์: ประสิทธิภาพอาจแตกต่างกันอย่างมากตามสถาปัตยกรรม CPU ที่ต่างกัน จึงจำเป็นต้องทดสอบอย่างละเอียดบนอุปกรณ์เป้าหมาย
• ความสมบูรณ์ของระบบนิเวศ: เนื่องจากเป็นสถาปัตยกรรมที่ใหม่กว่า ระบบนิเวศของเครื่องมือและไลบรารีอาจยังไม่สมบูรณ์เท่าโมเดลเก่าที่-established

เคล็ดลับการนำไปใช้สำหรับนักพัฒนา

การนำ LFM2.5-24B-A2B ไปใช้อย่างมีประสิทธิภาพต้องอาศัยความใส่ใจในรายละเอียด ต่อไปนี้คือแนวทางปฏิบัติที่ดีที่สุดบางประการ:

1. ทดสอบ Benchmark ตั้งแต่เนิ่นๆ: ทดสอบโมเดลบนฮาร์ดแวร์เป้าหมายของคุณตั้งแต่ช่วงต้นของวงจรการพัฒนา ประสิทธิภาพอาจแตกต่างกันไปขึ้นอยู่กับชุดคำสั่ง CPU และแบนด์วิดท์หน่วยความจำ
2. ปรับแต่งพรอมป์ให้เหมาะสม: เนื่องจากโมเดลมีขนาดเล็กกว่า พรอมป์ที่ชัดเจนและกระชับจะให้ผลลัพธ์ที่ดีกว่า หลีกเลี่ยงคำชี้แจงที่ยืดยาวเกินไปซึ่งอาจทำให้บริบทสับสน
3. ใช้ Quantization อย่างชาญฉลาด: เริ่มจาก Quantization แบบ 8 บิต เพื่อสมดุลระหว่างคุณภาพและความเร็ว หากหน่วยความจำมีจำกัด ให้เปลี่ยนไปใช้แบบ 4 บิต แต่ต้องตรวจสอบความแม่นยำในการให้เหตุผลว่าลดลงหรือไม่
4. Cache Responses: สำหรับงานที่ทำซ้ำ ๆ ให้ใช้กลไกแคชเพื่อลดจำนวนการเรียก inference ซึ่งจะช่วยปรับปรุงความหน่วงและอายุการใช้งานแบตเตอรี่บนอุปกรณ์มือถือให้ดียิ่งขึ้น

สรุปผล

LFM2.5-24B-A2B แสดงให้เห็นถึงวิวัฒนาการที่รอบคอบในการออกแบบโมเดลภาษาขนาดเล็ก โดยให้ความสำคัญกับประสิทธิภาพและความสมดุลในการให้เหตุผล จึงเป็นโซลูชันที่น่าสนใจสำหรับนักพัฒนาที่ต้องการนำเอเจนต์อัจฉริยะไปใช้งานบนอุปกรณ์ Edge ความสามารถในการจัดการงานที่ซับซ้อนโดยยังคงรักษาความหน่วงต่ำไว้ได้ ทำให้มันเป็นตัวเลือกที่แข็งแกร่งสำหรับตัวช่วยแบบออฟไลน์ ระบบอัตโนมัติสำหรับบ้านอัจฉริยะ และแอปพลิเคชันที่เน้นความเป็นส่วนตัว

แม้ว่าจะไม่สามารถทดแทนโมเดลคลาวด์ขนาดใหญ่ได้ในทุกกรณีใช้งาน แต่จุดแข็งด้านประสิทธิภาพและการประมวลผลในเครื่องท้องถิ่นนั้นสอดคล้องกับความต้องการที่เพิ่มขึ้นสำหรับโซลูชัน AI ส่วนตัวที่ตอบสนองได้รวดเร็ว เมื่อฮาร์ดแวร์พัฒนาขึ้นอย่างต่อเนื่องและการปรับแต่งซอฟต์แวร์มีความสมบูรณ์มากขึ้น โมเดลอย่าง LFM2.5-24B-A2B มีแนวโน้มที่จะกลายเป็นส่วนสำคัญในชุดเครื่องมือ Edge Computing สำหรับองค์กรที่ต้องการลดการพึ่งพาคลาวด์และเพิ่มความเป็นส่วนตัวของผู้ใช้ โมเดลนี้มอบแนวทางที่ใช้งานได้จริงและมีประสิทธิภาพ

คำถามที่พบบ่อย

LFM2.5-24B-A2B เหมาะกับแอปพลิเคชันแชทแบบเรียลไทม์หรือไม่? ใช่ สถาปัตยกรรมที่ผ่านการปรับแต่งเน้นที่ความหน่วงต่ำ จึงเหมาะสำหรับการโต้ตอบแบบเรียลไทม์ที่ต้องการการตอบสนองอย่างรวดเร็ว

โมเดลนี้ทำงานบนแล็ปท็อปเก่าได้หรือไม่? โดยทั่วไปทำได้ เนื่องจากมีการใช้หน่วยความจำอย่างมีประสิทธิภาพและรองรับการ Quantization จึงทำงานบนฮาร์ดแวร์ระดับกลางได้ อย่างไรก็ตาม ประสิทธิภาพจะขึ้นอยู่กับความสามารถของ CPU และปริมาณ RAM ที่มีอยู่

เปรียบเทียบกับโมเดลขนาดใหญ่สำหรับงานเขียนโค้ดเป็นอย่างไร? ทำงานได้ดีสำหรับงานเขียนโค้ดที่มีโครงสร้างชัดเจนและการช่วยดีบัก สำหรับงานออกแบบสถาปัตยกรรมที่ซับซ้อนสูงหรือความท้าทายด้านการเขียนโค้ดเชิงสร้างสรรค์ โมเดลขนาดใหญ่อาจให้รายละเอียดที่ละเมียดละไมกว่าเล็กน้อย แต่ข้อได้เปรียบด้านความเร็วของ LFM2.5 มักชดเชยข้อจำกัดนี้ได้สำหรับเวิร์กโฟลว์การเขียนโค้ดในชีวิตประจำวัน

วิธีที่ดีที่สุดในการติดตั้งโมเดลนี้คืออะไร? แนะนำให้ใช้เอนจินอินเฟอร์เรนซ์ที่มีน้ำหนักเบาซึ่งรองรับโมเดลแบบ Quantized ตรวจสอบเอกสารของผู้จำหน่ายสำหรับเฟรมเวิร์กที่แนะนำซึ่งปรับให้เหมาะกับแพลตฟอร์มฮาร์ดแวร์ของคุณโดยเฉพาะ