麗臺科技助力AI全民化 COMPUTEX推多場域液冷AI系統與AIDMS

麗臺科技 (Leadtek )自6月4日起至6月7日於COMPUTEX 2024展出一系列液冷AI工作站和AI伺服器，以及AIDMS（AI開發管理平台）助力產業AI落地案例，傾全力助AI全民化。

過去，AI似乎是大企業的專利，需要昂貴的設備和高超的技能，但隨著生成式AI和AIDMS no-code AI管理平台等工具的親民化，現在任何人都能輕鬆運用AI技術，創造出無限的可能性。

不同規模AI訓練適用的液冷系統

在麗臺科技攤位最顯眼的就是採用D2C液冷技術的AI伺服器和工作站。麗臺推出的AI系統，支援最新的Intel/AMD平台、PCIe Gen5，其NVIDIA GPU配置從單一到十個GPU都有，可用於不同規模的加速運算和多GPU協同合作，包括生成式AI、大型語言訓練、數位孿生以及工業元宇宙等應用領域。

這次曝光的新品 WinFast Mini AI 工作站專為全民AI化打造。最高可支援 2 張高階 NVIDIA RTX Ada Lovelace GPU，同時提供更高瓦數電源供應器，為NVIDIA下一代GPU做好準備。再加上液冷散熱技術，能更有效降低 GPU 溫度並提供安靜的運作環境，適合沒有獨立大型機房的場域使用。集結高效、安靜、高彈性於一機，WinFast Mini AI 工作站將會是全民AI化的殺手級AI工作站。

WS2050L 則採用5U機架式塔式設計，一體式液冷設計無需外接液冷管路，可容納多達4張液冷式NVIDIA RTX GPU，並搭載雙Intel Xeon第5代可擴充處理器，提供高達128個處理器核心。配置上可直立於機房或安裝於伺服器機櫃中，達到節省空間、易於維護和提高管理效率的目的。

有著穩健外型的8U HGX AI server是結合8U尺寸與NVIDIA H100 SXM5 8-GPU組態的伺服器，適用於LLM使用。CPU搭配英特爾第五代Xeon可擴充處理器，記憶體升級為DDR5-5600MHz，容量最大可達8TB，網路介面則支援2個10GbE埠，另可搭配高速網卡，提供高速連接和優異的網路性能。

同場展出的液冷AI伺服器GS4850T為4U外型，可安裝10張雙寬度GPU，並搭載Dual Root 系統，並擁有 Peer to Peer 超高效率GPU間資料傳輸，並支援PCIe 5.0，提供每秒 128 GB 的總頻寬。

值得一提的是，麗臺為AI系統提供了相容性最高的Leadtek RTX AI Software Pack 與 GDMS(GPU Docker Management System) GPU資源分配與管理系統。讓客戶在取得硬體設備後，無需額外投入時間來選擇與調教相關NVIDIA Library與 Framework、驅動程式以及Docker 等環境，即可輕鬆地開始AI應用的開發工作與GPU 資源的分配及管理。

MLOps no-code 平台，AI落地的最後推手

麗臺科技自主研發的AIDMS（AI開發管理系統），是一個底層專為團隊協作而生的MLOps管理平台。

在養殖漁界享有盛名的光速點苗(LumiGood)開發團隊光速海盜，在麗臺攤位分享水產養殖業的AI轉型之路。在麗臺AIDMS的幫助下，從一開始的毫無頭緒到享受AI帶來的便利，只有短短6個月時間。

光速海盜總監朱禹諾分享：台灣養殖漁業世界排名20，年產值300億，但仍依賴人工點苗交易。面對缺工少子化挑戰，我們把這視為轉型契機，推出光速點苗 LumiGood APP，以AI技術解決視覺精確性、人力短缺以及交易誠信依據等問題，助力養殖業提升競爭力。

LumiGood 的操作十分方便，只要會用手機拍照，即可快速掌握魚苗數量。而且透過每次的再訓練，AI自主學習讓準確度再優化，即使是面對體型不同、顏色不同的魚苗或是蝦苗，都能保持準確度在97%以上。成功解決養殖漁業的痛點。

在便民的點苗服務背後，是一間熱血的新創公司。光速海盜團隊負責人孫偉強補充：對新創來說，開發時間攸關勝敗，AIDMS在提升開發速度上超乎我們預期，並有效降低開發成本與難度。在點苗系統的開發中，我們需要訓練大量的魚苗模型，AIDMS幫助我們將時間縮短至預期的四分之一。另得益於AIDMS 的no-code降低AI門檻，剛踏足AI開發的團隊可以直接跳過繁瑣和複雜的AI環境設定以及程式撰寫時間，成功地訓練出適用的模型，並且根據結果進行修正與優化，使開發過程更順暢。

麗臺科技於6/4~7在台北國際電腦展（COMPUTEX 2024）展示了涵蓋各種AI訓練規模的AI硬體和AIDMS等AI管理軟體，為各種場域AI落地提供強大支援。此外，在麗臺的NVIDIA認證講師將於現場助參觀者踏出AI轉型的第一步。想要了解更多麗臺的產品和合作機會，歡迎至南港展覽館一館四樓M區，麗臺科技展位（展位號碼M1001a）與我們深入交流。