เฟรมเวิร์ก Edge Computing ใหม่สำหรับ AI แบบเรียลไทม์
เฟรมเวิร์กโอเพนซอร์สช่วยให้สามารถประมวลผล AI แบบเรียลไทม์ที่ edge ด้วยความหน่วงน้อยที่สุด
อนาคตของ AI ไม่ได้อยู่ในคลาวด์เพียงอย่างเดียว แต่อยู่ที่ edge ทำงานบนอุปกรณ์หลายพันล้านเครื่องตั้งแต่สมาร์ทโฟนไปจนถึงยานพาหนะอัตโนมัติไปจนถึงเซ็นเซอร์อุตสาหกรรม Edge AI แก้ไขความท้าทายที่สำคัญที่ AI บนคลาวด์ไม่สามารถทำได้: ความหน่วงระดับมิลลิวินาทีสำหรับแอปพลิเคชันเรียลไทม์ การประมวลผลบนอุปกรณ์ที่รักษาความเป็นส่วนตัว และการดำเนินงานในสภาพแวดล้อมที่มีการเชื่อมต่อจำกัดหรือไม่มีเลย อย่างไรก็ตาม การพัฒนาแอปพลิเคชัน edge AI ยังคงซับซ้อน ต้องการความเชี่ยวชาญพิเศษในการเพิ่มประสิทธิภาพโมเดล การเร่งฮาร์ดแวร์ และการติดตั้งใช้งานที่มีทรัพยากรจำกัด
วันนี้ Tanqory กำลังเปิดเป็นโอเพนซอร์สเฟรมเวิร์กเอดจ์คอมพิวติ้งของเรา แพลตฟอร์มที่ครอบคลุมที่ทำให้นักพัฒนาสามารถสร้าง ติดตั้งใช้งาน และจัดการแอปพลิเคชัน AI เรียลไทม์ที่ edge เฟรมเวิร์กของเราให้ความหน่วงการอนุมานแบบ sub-millisecond การประมวลผลบนอุปกรณ์ที่เน้นความเป็นส่วนตัวเป็นอันดับแรก ประสิทธิภาพทรัพยากรที่ยอดเยี่ยมสำหรับอุปกรณ์ที่มีข้อจำกัด และ API ที่เป็นมิตรกับนักพัฒนาที่ทำให้ edge AI เข้าถึงได้สำหรับนักพัฒนาทุกคน ไม่ใช่แค่ผู้เชี่ยวชาญ
นี่แสดงถึงการวิจัยและการติดตั้งใช้งานในโลกจริงหลายปีที่ Tanqory เรากำลังทำให้มันพร้อมใช้งานฟรีเพราะเราเชื่อว่า edge AI จะกำหนดทศวรรษหน้าของการคำนวณ และความคืบหน้าเกิดขึ้นเร็วขึ้นเมื่อเราร่วมมือกัน
ความจำเป็นของเอดจ์คอมพิวติ้ง
AI บนคลาวด์ได้ขับเคลื่อนนวัตกรรมที่น่าทึ่ง แต่มันก็ถึงขอบเขตพื้นฐานสำหรับแอปพลิเคชันที่กำลังเกิดขึ้น:
ข้อจำกัดความหน่วง: แอปพลิเคชันเช่นยานพาหนะอัตโนมัติ ระบบอัตโนมัติอุตสาหกรรม และความจริงเสริมต้องการการตัดสินใจที่แม่นยำระดับมิลลิวินาที การสื่อสารแบบไปกลับไปยังศูนย์ข้อมูลคลาวด์แนะนำความหน่วงที่วัดเป็นหลายร้อยมิลลิวินาที ช้าเกินไปสำหรับระบบ AI ทางกายภาพที่ต้องการการตอบสนองแบบแยกวินาที
ความต้องการความเป็นส่วนตัว: การประมวลผลข้อมูลส่วนบุคคล เสียง วิดีโอ ไบโอเมตริกซ์ ข้อมูลสุขภาพ ในคลาวด์ก่อให้เกิดข้อกังวลด้านความเป็นส่วนตัว การประมวลผลบนอุปกรณ์เก็บข้อมูลที่ละเอียดอ่อนไว้ในท้องถิ่น จัดการทั้งการตั้งค่าความเป็นส่วนตัวและข้อกำหนดด้านกฎระเบียบเช่น GDPR และ HIPAA
ข้อจำกัดแบนด์วิดท์: การสตรีมวิดีโอความละเอียดสูงหรือข้อมูลเซ็นเซอร์ไปยังคลาวด์เพื่อการประมวลผลใช้แบนด์วิดท์มหาศาล การประมวลผล edge ลดความต้องการแบนด์วิดท์ลงกว่า 90%+ โดยการประมวลผลข้อมูลในท้องถิ่นและส่งเฉพาะข้อมูลเชิงลึกแทนที่จะเป็นข้อมูลดิบ
ความต้องการความน่าเชื่อถือ: แอปพลิเคชันที่ขึ้นอยู่กับคลาวด์ล้มเหลวเมื่อการเชื่อมต่อสูญหาย Edge AI เปิดใช้งานการดำเนินงานในสภาพแวดล้อมที่มีการเชื่อมต่อเป็นระยะหรือไม่มี สถานที่ห่างไกล สิ่งอำนวยความสะดวกอุตสาหกรรม ยานพาหนะ พื้นที่ภัยพิบัติ
ต้นทุนโครงสร้างพื้นฐาน: การส่งข้อมูลไปยังคลาวด์ ประมวลผลที่นั่น และส่งผลลัพธ์กลับมาใช้เงินในระดับใหญ่ การประมวลผล edge ลดต้นทุนโครงสร้างพื้นฐานคลาวด์อย่างมากโดยการจัดการการคำนวณส่วนใหญ่ในท้องถิ่น
งานวิจัยระบุว่าภายในปี 2030 60-70% ของภาระงาน AI จะเป็นการอนุมานเรียลไทม์ที่ edge สร้างความต้องการเร่งด่วนสำหรับการเชื่อมต่อที่มีความหน่วงต่ำ การคำนวณ และความปลอดภัยนอกเหนือจากความสามารถปัจจุบัน เฟรมเวิร์กของเราจัดการกับความต้องการเหล่านี้วันนี้
สถาปัตยกรรมและคุณสมบัติของเฟรมเวิร์ก
ประสิทธิภาพการอนุมานแบบ Sub-Millisecond
แอปพลิเคชันเรียลไทม์ต้องการความเร็ว เฟรมเวิร์กของเราให้:
Runtime ที่เพิ่มประสิทธิภาพ: runtime การอนุมานแบบกำหนดเองที่เพิ่มประสิทธิภาพสำหรับอุปกรณ์ edge บรรลุการอนุมานแบบ sub-100-millisecond สำหรับโมเดลส่วนใหญ่ โดยสถาปัตยกรรมทั่วไปหลายตัวทำงานในน้อยกว่า 10 มิลลิวินาที
การเร่งฮาร์ดแวร์: การสนับสนุน native สำหรับตัวเร่งเฉพาะ Apple Neural Engine, Google Edge TPU, Qualcomm AI Engine อนุญาตให้โมเดลใช้ประโยชน์จากฮาร์ดแวร์ที่เพิ่มประสิทธิภาพสำหรับการดำเนินการเทนเซอร์ ทำให้สามารถมีประสิทธิภาพเรียลไทม์แม้บนอุปกรณ์มือถือ
Pipeline การเพิ่มประสิทธิภาพโมเดล: เครื่องมืออัตโนมัติที่ quantize โมเดล (ลดความแม่นยำจาก 32-bit เป็น 8-bit หรือต่ำกว่า) prune น้ำหนักที่ไม่จำเป็น และใช้ knowledge distillation เพื่อสร้างโมเดลขนาดกะทัดรัดที่รักษาความแม่นยำในขณะที่ลดความต้องการหน่วยความจำและการคำนวณลงกว่า 75%+
การดำเนินการที่ปรับตัวได้: เฟรมเวิร์กโปรไฟล์ความสามารถของอุปกรณ์ที่ runtime และเลือกกลยุทธ์การดำเนินการที่เหมาะสมโดยอัตโนมัติ ระดับ quantization ที่แตกต่างกัน ตัวเร่งฮาร์ดแวร์ หรือเวอร์ชันโมเดล ตามทรัพยากรที่มีอยู่
การประมวลผลแบบแบตช์: เมื่อประมวลผลอินพุตหลายตัวพร้อมกัน การแบทช์อัจฉริยะกระจายโอเวอร์เฮด ปรับปรุงปริมาณงานโดยไม่เสียสละความหน่วงต่ออินพุต
Test-Time Inference Scaling: ความสามารถที่กำลังเกิดขึ้นที่อนุญาตให้โมเดล AI ปรับทรัพยากรการคำนวณแบบไดนามิกที่เวลาอนุมานตามความซับซ้อนของงาน ความต้องการความหน่วง และฮาร์ดแวร์ที่มีอยู่ ให้แน่ใจว่าประสิทธิภาพที่เหมาะสมข้ามสถานการณ์ edge ที่หลากหลาย
การประมวลผลบนอุปกรณ์ที่เน้นความเป็นส่วนตัวเป็นอันดับแรก
ความเป็นส่วนตัวไม่ใช่ทางเลือก แต่เป็นพื้นฐานของการออกแบบเฟรมเวิร์กของเรา:
การอนุมานในท้องถิ่น: การอนุมาน AI ทั้งหมดเกิดขึ้นบนอุปกรณ์โดยค่าเริ่มต้น ข้อมูลอินพุตไม่ออกจากอุปกรณ์เว้นแต่จะกำหนดค่าอย่างชัดเจน ให้แน่ใจว่าข้อมูลส่วนบุคคลที่ละเอียดอ่อนยังคงเป็นส่วนตัว
Differential Privacy: เมื่อการเรียนรู้แบบรวมศูนย์อัปเดตโมเดลตามข้อมูลอุปกรณ์ edge เทคนิค differential privacy รับประกันทางคณิตศาสตร์ว่าข้อมูลแต่ละรายการไม่สามารถ reverse-engineer จากการอัปเดตโมเดล
โมเดลที่เข้ารหัส: โมเดลสามารถเข้ารหัสและถอดรหัสเฉพาะบนอุปกรณ์ที่ได้รับอนุญาต ป้องกันการขโมยโมเดลในขณะที่รักษาประสิทธิภาพการอนุมานผ่านเทคนิคการอนุมานที่รับรู้การเข้ารหัสเฉพาะ
Secure Enclaves: บนอุปกรณ์ที่สนับสนุนคุณสมบัติความปลอดภัยของฮาร์ดแวร์ (Trusted Execution Environments, Secure Enclaves) เฟรมเวิร์กสามารถดำเนินการอนุมานในสภาพแวดล้อมที่แยกซึ่งแม้แต่ระบบปฏิบัติการก็ไม่สามารถเข้าถึงได้
การอัปเดตที่รักษาความเป็นส่วนตัว: การอัปเดตและการปรับปรุงโมเดลสามารถกระจายได้ในขณะที่รักษาความเป็นส่วนตัวผ่านโปรโตคอลการรวมที่ปลอดภัยที่เรียนรู้จากรูปแบบร่วมกันโดยไม่ต้องเห็นข้อมูลแต่ละรายการ
ประสิทธิภาพทรัพยากรสำหรับอุปกรณ์ที่มีข้อจำกัด
อุปกรณ์ edge สมาร์ทโฟน เซ็นเซอร์ IoT ระบบฝังตัว มี CPU หน่วยความจำ แบตเตอรี่ และที่จัดเก็บข้อมูลจำกัด เฟรมเวิร์กของเราออกแบบมาสำหรับข้อจำกัดเหล่านี้:
รอยเท้าโมเดลขนาดเล็ก: โมเดลที่เพิ่มประสิทธิภาพผ่าน pipeline ของเราโดยทั่วไปใช้ 50-200MB เล็กพอสำหรับอุปกรณ์ที่มีพื้นที่จัดเก็บข้อมูลจำกัดแต่ทรงพลังพอสำหรับงาน AI ที่ซับซ้อน
การดำเนินงานหน่วยความจำต่ำ: การจัดการหน่วยความจำที่มีประสิทธิภาพอนุญาตให้โมเดลทำงานบนอุปกรณ์ที่มี RAM เพียง 512MB เปิด edge AI สำหรับอุปกรณ์ IoT ที่มีทรัพยากรจำกัดและระบบฝังตัว
ประสิทธิภาพการใช้พลังงาน: อายุแบตเตอรี่มีความสำคัญสำหรับอุปกรณ์มือถือและระยะไกล เฟรมเวิร์กของเราลดการใช้พลังงานผ่านการเร่งฮาร์ดแวร์ การกำหนดเวลาที่มีประสิทธิภาพ และคุณภาพที่ปรับตัวได้ที่ลดการประมวลผลเมื่อแบตเตอรี่ต่ำ
การพึ่งพาขั้นต่ำ: runtime มีการพึ่งพาภายนอกน้อยที่สุด ทำให้การติดตั้งใช้งานเรียบง่ายและลดรอยเท้าแอปพลิเคชัน การติดตั้งส่วนใหญ่ต้องการพื้นที่จัดเก็บข้อมูลเพิ่มเติมน้อยกว่า 100MB
การโหลดแบบก้าวหน้า: โมเดลขนาดใหญ่สามารถโหลดแบบก้าวหน้า เริ่มต้นด้วยความสามารถหลักที่พร้อมใช้งานทันทีในขณะที่คุณสมบัติเสริมโหลดในพื้นหลัง ปรับปรุงเวลาเริ่มต้นและประสบการณ์ผู้ใช้
API และเครื่องมือที่เป็นมิตรกับนักพัฒนา
Edge AI ไม่ควรต้องการปริญญาเอก เฟรมเวิร์กของเราให้อินเทอร์เฟซที่เข้าถึงได้:
API เรียบง่าย: API ที่สะอาด ใช้งานง่ายใน Python, Swift, Kotlin และ JavaScript อนุญาตให้นักพัฒนารวม AI ด้วยโค้ดเพียงไม่กี่บรรทัด การดำเนินการทั่วไป การโหลดโมเดล การรันการอนุมาน การจัดการผลลัพธ์ ตรงไปตรงมา
โมเดลที่ฝึกอบรมล่วงหน้า: model zoo ที่กว้างขวางรวมถึง computer vision (การตรวจจับวัตถุ การจำแนกประเภทภาพ การแบ่งส่วน) การประมวลผลภาษาธรรมชาติ (การจำแนกประเภทข้อความ การรับรู้เอนทิตี) และการประมวลผลเสียง (การรับรู้เสียง การจำแนกประเภทเสียง) พร้อมสำหรับการใช้งานทันที
เครื่องมือแปลงโมเดล: แปลงโมเดลจากเฟรมเวิร์กยอดนิยม (TensorFlow, PyTorch, ONNX) เป็นรูปแบบที่เพิ่มประสิทธิภาพของเราด้วยเครื่องมืออัตโนมัติที่จัดการ quantization การเพิ่มประสิทธิภาพ และการตรวจสอบ
การทดสอบและการดีบั๊ก: เครื่องมือทดสอบที่ครอบคลุมอนุญาตให้นักพัฒนาตรวจสอบโมเดลก่อนการติดตั้งใช้งาน จำลองข้อจำกัดอุปกรณ์ edge ระหว่างการพัฒนา และดีบั๊กปัญหาการอนุมานด้วยการโปรไฟล์โดยละเอียด
การติดตั้งใช้งานอย่างต่อเนื่อง: การบูรณาการ CI/CD เปิดใช้งานการทดสอบโมเดลอัตโนมัติ การเพิ่มประสิทธิภาพ และการติดตั้งใช้งานไปยังอุปกรณ์ edge ทำให้ pipeline การพัฒนาไปสู่การผลิตคล่องตัว
การตรวจสอบและการวิเคราะห์: การส่งสัญญาณที่สร้างขึ้นให้ข้อมูลเชิงลึกเกี่ยวกับประสิทธิภาพการอนุมาน ความแม่นยำ การใช้ทรัพยากร และข้อผิดพลาดข้ามกองเรือที่ติดตั้งใช้งาน เปิดใช้งานการเพิ่มประสิทธิภาพเชิงรุกและการแก้ไขปัญหา
การเจาะลึกทางเทคนิค
สถาปัตยกรรมและโมเดลที่สนับสนุน
เฟรมเวิร์กของเราสนับสนุนสถาปัตยกรรมเครือข่ายประสาทหลัก:
Computer Vision: MobileNet, EfficientNet, ResNet, YOLOv8, SegFormer, Vision Transformers Natural Language: BERT variants, GPT-style models, sentence transformers, language detection Audio Processing: Wav2Vec, Whisper, audio classification, speaker recognition Multi-Modal: CLIP, image captioning, visual question answering โมเดลกำหนดเอง: การสนับสนุนสำหรับสถาปัตยกรรมกำหนดเองผ่านระบบคำจำกัดความโมเดลที่ขยายได้
เทคนิคการเพิ่มประสิทธิภาพ
เทคนิคการเพิ่มประสิทธิภาพหลายอย่างลดขนาดโมเดลและปรับปรุงความเร็ว:
Quantization: การลดความแม่นยำเชิงตัวเลข (32-bit → 8-bit → 4-bit) ลดขนาดโมเดลลง 75-90% โดยมีการสูญเสียความแม่นยำน้อยที่สุด เราสนับสนุนกลยุทธ์ quantization หลายอย่างรวมถึง post-training quantization และ quantization-aware training
Pruning: การลบน้ำหนักเครือข่ายประสาทที่ไม่จำเป็น มักจะ 50-70% ของน้ำหนักสามารถ prune ได้โดยมีผลกระทบต่อความแม่นยำเล็กน้อย ลดขนาดโมเดลและเพิ่มความเร็วการอนุมาน
Knowledge Distillation: การฝึกอบรมโมเดล "นักเรียน" ที่เล็กกว่าเพื่อเลียนแบบโมเดล "ครู" ที่ใหญ่กว่าผลิตโมเดลขนาดกะทัดรัดที่รักษาความสามารถส่วนใหญ่ของโมเดลต้นฉบับในเศษส่วนของขนาด
Neural Architecture Search: การค้นหาอัตโนมัติสำหรับสถาปัตยกรรมโมเดลที่เหมาะสมที่กำหนดข้อจำกัดฮาร์ดแวร์ค้นพบโมเดลที่เพิ่มประสิทธิภาพเฉพาะสำหรับอุปกรณ์ edge เป้าหมาย
Operator Fusion: การรวมการดำเนินการหลายอย่างเป็น kernel ที่เพิ่มประสิทธิภาพเดียวลดการเคลื่อนไหวของหน่วยความจำและปรับปรุงประสิทธิภาพ ตัวอย่างเช่น การรวม convolution และฟังก์ชันการกระตุ้นเป็นการดำเนินการเดียว
รูปแบบการติดตั้งใช้งาน
แอปพลิเคชันที่แตกต่างกันต้องการแนวทางการติดตั้งใช้งานที่แตกต่างกัน:
บนอุปกรณ์ทั้งหมด: pipeline AI ทั้งหมดทำงานในท้องถิ่นโดยไม่มีการสื่อสารคลาวด์ใดๆ เหมาะสมสำหรับแอปพลิเคชันที่ละเอียดอ่อนด้านความเป็นส่วนตัวหรือการดำเนินงานออฟไลน์
Hybrid Edge-Cloud: กรณีทั่วไปทำงานบนอุปกรณ์ในขณะที่กรณีที่ซับซ้อนตกกลับไปยังการประมวลผลคลาวด์ สมดุลประสิทธิภาพ การใช้ทรัพยากร และความสามารถ
Edge-First พร้อมสำรอง Cloud: พยายามประมวลผลบนอุปกรณ์ก่อน ตกกลับไปยังคลาวด์เฉพาะถ้าอุปกรณ์ขาดทรัพยากรหรือความสามารถที่จำเป็น
Distributed Edge: อุปกรณ์ edge หลายตัวร่วมมือในงาน AI มีประโยชน์สำหรับแอปพลิเคชันเช่นการติดตามแบบหลายกล้องหรือเครือข่ายเซ็นเซอร์แบบกระจาย
Federated Learning: โมเดลฝึกอบรมร่วมมือข้ามอุปกรณ์ edge ในขณะที่เก็บข้อมูลการฝึกอบรมในท้องถิ่น รวมประโยชน์ของการเรียนรู้ร่วมกันกับความเป็นส่วนตัวของแต่ละบุคคล
แอปพลิเคชันและกรณีการใช้งานในโลกจริง
เฟรมเวิร์ก edge AI ของเราเปิดใช้งานแอปพลิเคชันที่ไม่เป็นไปได้ก่อนหน้านี้:
ยานพาหนะอัตโนมัติ: การตรวจจับวัตถุเรียลไทม์ การวางแผนเส้นทาง และการตัดสินใจด้วยความหน่วงมิลลิวินาทีที่ต้องการสำหรับการดำเนินงานที่ปลอดภัยไม่สามารถทนต่อความล่าช้าแบบไปกลับของคลาวด์
อุปกรณ์สุขภาพ: จอภาพสุขภาพที่สวมใส่ได้วิเคราะห์ข้อมูลไบโอเมตริกในท้องถิ่น ให้ข้อเสนอแนะทันทีในขณะที่เก็บข้อมูลสุขภาพที่ละเอียดอ่อนบนอุปกรณ์
ระบบอัตโนมัติอุตสาหกรรม: หุ่นยนต์โรงงานและอุปกรณ์การผลิตทำการตัดสินใจแบบแยกวินาทีตามการตรวจสอบด้วยสายตา การตรวจสอบอุปกรณ์ และการควบคุมคุณภาพที่ทำงานในท้องถิ่น
กล้องอัจฉริยะ: กล้องรักษาความปลอดภัยวิเคราะห์วิดีโอบนอุปกรณ์สำหรับการตรวจจับบุคคล การรับรู้ใบหน้า และการตรวจสอบกิจกรรม ส่งเฉพาะเหตุการณ์ที่เกี่ยวข้องแทนที่จะเป็นสตรีมวิดีโออย่างต่อเนื่อง
แอปมือถือ: แอปสมาร์ทโฟนให้การแปลเรียลไทม์ การวาง AR ผู้ช่วยเสียง และการปรับปรุงภาพถ่ายโดยไม่ต้องการการเชื่อมต่ออินเทอร์เน็ตหรือการประมวลผลคลาวด์
เซ็นเซอร์ IoT: อุปกรณ์บ้านอัจฉริยะ เซ็นเซอร์สิ่งแวดล้อม และอุปกรณ์ IoT อุตสาหกรรมประมวลผลข้อมูลในท้องถิ่น ลดแบนด์วิดท์และเปิดใช้งานการดำเนินงานระหว่างการหยุดชะงักของการเชื่อมต่อ
การทดสอบประสิทธิภาพ
ตัวเลขแสดงความสามารถของเฟรมเวิร์กของเราข้ามฮาร์ดแวร์ที่หลากหลาย:
iPhone 15 Pro: การจำแนกประเภท MobileNetV3 ใน 3.2ms การตรวจจับวัตถุ YOLO ใน 18ms Google Pixel 8: การแบ่งส่วนภาพใน 12ms การรับรู้เสียงประมวลผล 10x เรียลไทม์ Raspberry Pi 4: การตรวจจับวัตถุใน 45ms การจำแนกประเภทข้อความใน 8ms NVIDIA Jetson Nano: การประมวลผลวิดีโอเรียลไทม์ที่ 30 FPS พร้อมการติดตามวัตถุ ไมโครคอนโทรลเลอร์ ESP32: โมเดลการจำแนกประเภทเรียบง่ายใน 100ms บนอุปกรณ์ที่ราคาต่ำกว่า $5
ประสิทธิภาพการใช้พลังงาน
อายุแบตเตอรี่มีความสำคัญสำหรับอุปกรณ์มือถือและระยะไกล:
การจำแนกประเภทภาพสมาร์ทโฟน: 0.03mAh ต่อการอนุมาน ~33,000 การอนุมานต่อ 1% แบตเตอรี่ การประมวลผลเสียงอย่างต่อเนื่อง: 2-3% แบตเตอรี่ต่อชั่วโมงสำหรับการตรวจจับคำปลุกแบบเปิดตลอดเวลา การวิเคราะห์วิดีโอ: 10-15% แบตเตอรี่ต่อชั่วโมงสำหรับการตรวจจับวัตถุเรียลไทม์บนวิดีโอ
การเปิดเผยโอเพนซอร์ส
เฟรมเวิร์กทั้งหมดของเรามีอยู่ภายใต้ใบอนุญาต Apache 2.0 ที่ github.com/tanqory/edge-ai-framework:
Core Runtime: เครื่องมืออนุมานที่เพิ่มประสิทธิภาพสำหรับอุปกรณ์ edge (C++, Python bindings) เครื่องมือเพิ่มประสิทธิภาพโมเดล: ยูทิลิตี้ quantization, pruning และการแปลง (Python) โมเดลที่ฝึกอบรมล่วงหน้า: model zoo พร้อมโมเดลที่พร้อมใช้งานหลายสิบตัว SDK แพลตฟอร์ม: การบูรณาการ native สำหรับ iOS, Android, embedded Linux เอกสาร: คู่มือที่ครอบคลุม บทช่วยสอน และเอกสาร API ตัวอย่าง: แอปพลิเคชันตัวอย่างที่แสดงกรณีการใช้งานทั่วไป
ชุมชนและการสนับสนุน
เรากำลังสร้างเฟรมเวิร์กนี้แบบร่วมมือกัน:
ฟอรัมชุมชน: discuss.tanqory.com/edge-ai สำหรับคำถาม การอภิปราย และการแบ่งปันโครงการ แนวทางการสนับสนุน: เรายินดีรับการสนับสนุนโค้ด การเพิ่มโมเดล และการปรับปรุงเอกสาร การสนับสนุนโมเดล: แบ่งปันโมเดลที่เพิ่มประสิทธิภาพกับชุมชนผ่าน model hub ของเรา รายงานบั๊ก: GitHub issues สำหรับรายงานบั๊กและคำขอคุณสมบัติ การอัปเดตปกติ: รุ่นใหม่ทุก 6-8 สัปดาห์พร้อมการปรับปรุง การเพิ่มประสิทธิภาพ และความสามารถใหม่
เริ่มต้นใช้งาน
นักพัฒนาสามารถเริ่มสร้างแอปพลิเคชัน edge AI ในไม่กี่นาที:
การติดตั้ง
pip install tanqory-edge-ai
การใช้งานพื้นฐาน
from tanqory_edge import ImageClassifier
# โหลดโมเดลที่ฝึกอบรมล่วงหน้า
classifier = ImageClassifier('mobilenet_v3')
# รันการอนุมาน
results = classifier.predict(image)
print(f"การทำนายอันดับต้น: {results[0].label} ({results[0].confidence:.2f})")
การติดตั้งใช้งานโมเดลกำหนดเอง
# แปลงโมเดล TensorFlow/PyTorch ของคุณ
from tanqory_edge.tools import ModelConverter
converter = ModelConverter('your_model.pb')
converter.optimize(quantization='int8', pruning=0.3)
converter.export('optimized_model.tflite')
บทช่วยสอนสมบูรณ์ที่ docs.tanqory.com/edge-ai
แผนงานและการพัฒนาในอนาคต
เรากำลังปรับปรุงเฟรมเวิร์กอย่างต่อเนื่อง:
Q1 2026: การสนับสนุนโมเดลภาษาขนาดใหญ่ที่เพิ่มขึ้น เทคนิค quantization ที่ปรับปรุง Q2 2026: การติดตั้งใช้งาน WebAssembly สำหรับ edge AI ที่ใช้เบราว์เซอร์ Q3 2026: ความสามารถการเรียนรู้แบบรวมศูนย์ที่ขยาย Q4 2026: การสนับสนุนสำหรับตัวเร่งและโปรเซสเซอร์ฮาร์ดแวร์ที่กำลังเกิดขึ้น
ข้อมูลเข้าจากชุมชนกำหนดแผนงานของเรา ส่งคำขอคุณสมบัติและลงคะแนนในลำดับความสำคัญ
ทำไมต้องโอเพนซอร์ส?
การทำให้เฟรมเวิร์กนี้เป็นโอเพนซอร์สสะท้อนค่านิยมของเรา:
เร่งนวัตกรรม: ความคืบหน้าเกิดขึ้นเร็วขึ้นเมื่อเราร่วมมือกัน การปรับปรุงทุกอย่างเป็นประโยชน์ต่อทุกคน
เปิดใช้งานนักพัฒนา: Edge AI ไม่ควรจำกัดอยู่กับบริษัทขนาดใหญ่ที่มีความเชี่ยวชาญพิเศษ เรากำลังทำให้การเข้าถึงเป็นประชาธิปไตย
สร้างความไว้วางใจ: โอเพนซอร์สเปิดใช้งานการตรวจสอบความปลอดภัย การตรวจสอบ และความเชื่อมั่นในการป้องกันความเป็นส่วนตัว
มาตรฐานอุตสาหกรรม: เราต้องการสนับสนุนมาตรฐาน edge AI ที่กำลังเกิดขึ้นและแนวทางปฏิบัติที่ดีที่สุด
ตอบแทน: Tanqory ได้รับประโยชน์อย่างมากจากโอเพนซอร์ส นี่เป็นวิธีของเราในการสนับสนุนกลับชุมชนที่ทำให้ความสำเร็จของเราเป็นไปได้
การสนับสนุนเชิงพาณิชย์
ในขณะที่เฟรมเวิร์กฟรีและเป็นโอเพนซอร์ส เราเสนอการสนับสนุนเชิงพาณิชย์:
การสนับสนุนองค์กร: การสนับสนุนที่สนับสนุน SLA การเพิ่มประสิทธิภาพกำหนดเอง ความช่วยเหลือในการติดตั้งใช้งาน โปรแกรมการฝึกอบรม: เวิร์กช็อปและการฝึกอบรมสำหรับทีมพัฒนา การให้คำปรึกษา: การออกแบบสถาปัตยกรรม การเพิ่มประสิทธิภาพโมเดล การปรับแต่งประสิทธิภาพ การพัฒนากำหนดเอง: คุณสมบัติที่ปรับแต่ง การบูรณาการ หรือการเพิ่มประสิทธิภาพ
ติดต่อ enterprise@tanqory.com สำหรับรายละเอียด
วิสัยทัศน์ของเรา
Edge AI แสดงถึงเฟสต่อไปของปัญญาประดิษฐ์ เคลื่อนย้ายจากที่เน้นคลาวด์เป็นแบบกระจาย จากที่ขึ้นอยู่กับออนไลน์เป็นอัตโนมัติ จากทั่วไปเป็นส่วนบุคคล แอปพลิเคชันที่เราแทบจะจินตนาการไม่ได้วันนี้จะเป็นไปได้เมื่อความสามารถ AI เข้าถึงอุปกรณ์ทุกเครื่อง
ด้วยการเปิดเป็นโอเพนซอร์สเฟรมเวิร์ก edge AI ของเรา เรากำลังลงทุนในอนาคตนี้ ไม่ใช่แค่สำหรับ Tanqory แต่สำหรับชุมชนนักพัฒนาทั้งหมด เราเชื่อว่าเทคโนโลยีที่ดีที่สุดชนะไม่ใช่โดยการถูกล็อคไว้ แต่โดยการถูกแบ่งปัน ปรับปรุงร่วมมือกัน และติดตั้งใช้งานอย่างกว้างขวาง
ดาวน์โหลดเฟรมเวิร์ก สร้างสิ่งที่น่าทึ่ง และแบ่งปันสิ่งที่คุณสร้าง อนาคตของ edge AI กำลังถูกสร้างขึ้นในตอนนี้ และเรารู้สึกตื่นเต้นที่จะสร้างมันร่วมกัน
ดาวน์โหลด Tanqory Edge AI Framework ที่ github.com/tanqory/edge-ai-framework หรือเยี่ยมชม docs.tanqory.com/edge-ai สำหรับเอกสารที่สมบูรณ์
