桃園訊 – 邊緣運算解決方案全球領導品牌凌華科技(股票代號:6166)宣布推出全新「DLAP Supreme」邊緣生成式AI平台系列,通過整合群聯電子的創新AI解決方案aiDAPTIV+,突破地端生成式人工智慧(AI)應用中的記憶體限制,顯著提升地端設備的AI運算能力。「DLAP Supreme」系列在不增加高昂硬體成本的情況下,實現AI效能的顯著擴展,幫助企業降低AI應用部署的成本門檻,並加速生成式AI在各行各業的落地應用,尤其在地端AI運算領域。
突破AI運算成本,顯著提升效能
隨著生成式AI逐步滲透至各行各業,許多地端設備在執行大型語言模型時,面臨因DRAM容量不足而造成的性能瓶頸,影響模型運行,甚至出現Token長度不足等問題。DLAP Supreme系列利用aiDAPTIV+技術,有效突破這些限制,並顯著提升運算效能,藉此支援地端設備進行生成式語言模型訓練,使邊緣設備具備AI模型訓練能力,並提升其自主學習與適應能力。
以DLAP-411 Orin Supreme搭載NVIDIA Jetson AGX Orin 32GB組態搭配上Gemma 27B模型為例,其推論的TTFT提升了8倍,token長度提升了4倍。並且可以執行需在H100/A100 80G tensor core GPU才能運行的模型訓練任務,顯著的提升了運行生成式AI模型的效能,並且大幅度降低了部署生成式AI的成本。
深度合作,打造更可靠的AI應用方案
凌華科技邊緣運算平台事業處總經理陳少華表示:「我們希望通過DLAP Supreme系列,幫助更多企業和機構輕鬆導入生成式AI技術,並在降低成本的同時,提升效能。我們將繼續與群聯電子及全球AI領域的合作夥伴攜手合作,共同打造多方協作的AI應用生態圈,推動生成式AI技術的普及。」
群聯電子執行長潘健成表示:「群聯與凌華在工控儲存市場攜手合作已超過十年,一路以來,我們共同推動技術創新,致力於為產業提供最具價值的解決方案。這次,群聯推出的邊緣AI技術方案 aiDAPTIV+,很高興能協助凌華打造以 NVIDIA Jetson AGX Orin 平台為基礎的全新DLAP Supreme邊緣生成式AI系列,這不僅是一項重要的合作里程碑,更將在邊緣AI的發展上掀開新篇章。透過雙方的深度合作,我們將共同加速並擴大邊緣AI在模型fine-tuning的應用及市場,特別是在智慧製造、智慧城市及其他產業場景中的實際應用。我們相信,這樣的合作不僅能夠滿足市場對邊緣AI的需求,更能推動產業邁向更智慧、更高效的未來。」
開拓更多應用場景,支持多樣模組
DLAP Supreme系列的推出,不僅為地端生成式AI應用開創了全新機會,還將幫助各行各業突破記憶體限制,充分釋放AI技術的潛力。除了對AGX Orin進行突破性優化外,aiDAPTIV+技術同樣能擴展入門級的Orin Nano、NX及Super模組的記憶體,支持更多設備進行更高效的AI運算。凌華科技計畫持續推出Orin Nano Super與NX Super版本,進一步擴大DLAP Supreme系列的應用範圍,滿足不同需求的AI運算場景。
*此產品預計於 2025 年 2 月正式發表。
關於群聯電子
群聯電子 (Phison Electronics Corp.) (TPEX:8299) 為全球快閃記憶體(NAND Flash)控制晶片及儲存解決方案領導廠商。身為快閃記憶體專家,從IP技術授權、晶片設計、系統架構解決方案、系統整合、成品,提供不同需求的客戶最佳的產品及服務。在各項產品類別上,包括SSD (PCIe/SATA/PATA)、eMMC/UFS、SD、或是USB介面皆可提供完整的儲存解決方案,客戶應用亦遍及各類消費性電子、企業級、以及工業車用。在標準制定上,群聯電子擔任SDA、ONFI、UFSA的董事會成員,並積極貢獻JEDEC、PCI-SIG、MIPI、NVMe、IEEE-SA等規範。 www.phison.com