AI Agent 浪潮來襲!企業如何佈局智慧應用新商機?
特邀 Innodisk 吳志清、MoBagel 王易如,深度解析 AI Agent 發展趨勢與產業應用策略。
這份知識精煉摘要探討了AI Agent浪潮下企業如何佈局智慧應用新商機。內容由宜鼎與MoBagel的專家分享,聚焦於邊緣運算結合AI的落地實踐。講者區分了產業型AI與企業型AI的需求差異,並強調硬體平台在AI應用中的關鍵角色,特別是針對Agentic AI的軟硬體協同整合。影片也深入分析了雲端AI的局限性(延遲、主權、成本、ESG),並透過零售業員工訓練與亞洲防詐騙等實際案例,展示了邊緣AI如何提供即時、安全且具成本效益的解決方案。本內容適合企業決策者、IT管理人員、系統整合商及對AI應用落地感興趣的開發者,以理解AI技術趨勢與實務部署策略。
重點摘要
- 邊緣運算結合AI是未來場域應用的趨勢,特別是生成式AI興起加速了其落地。
- AI應用分為產業型AI(影像處理、場域應用)和企業型AI(文字、知識處理),兩者對硬體算力與平台需求不同。
- 硬體平台如宜鼎IQ系列提供可擴展的算力(TOPS),是確保AI應用穩定高效運行的基礎。
- Agentic AI的興起促使企業考慮在地端(On-Prem)部署AI,以節省訂閱費用並解決Token消耗問題。
- 成功的Agentic AI需要明確的目標設定、多語言模型匹配性測試,以及軟硬體協同優化(如記憶體管理、作業系統優化)。
- 邊緣AI能有效解決雲端AI在即時性、資料主權、成本與ESG永續性方面的局限。
- 實際案例顯示,邊緣AI可應用於零售業員工訓練(AI低語助手)及金融防詐騙,帶來顯著的業務與社會效益。
- AI的未來發展趨勢是更即時、私密、自主且無所不在,並需考量永續性(Edge AI, Space AI)。
章節
引言與邊緣運算趨勢
講者介紹邊緣運算結合AI的落地應用,並指出生成式AI加速了即時性與安全性需求的應用落地。
AI應用類型與硬體平台
區分產業型AI(影像處理)與企業型AI(文字/知識處理),並說明宜鼎如何將晶片轉化為邊緣運算系統。
Agentic AI與在地端部署
探討Agentic AI對Token消耗的需求,以及企業轉向On-Premise部署以節省成本的趨勢。
軟硬體協同與API整合
強調硬體需匹配多種AI模型,並透過middleware、SDK與API實現硬體資訊的調用。
AI工具與整體解決方案
介紹用於評估AI算力(FPS vs. Token)的工具,並強調宜鼎提供從感測器到應用層的完整解決方案。
雲端AI的局限性與轉變
MoBagel共同創辦人易如分析雲端AI在延遲、資料主權、成本及ESG方面的挑戰,預示AI將走向邊緣。
零售業AI訓練案例
分享全球最大醫療保健品平台如何利用邊緣AI(IQ9)實現店員的無痕訓練,提升銷售與客戶體驗。
金融防詐騙AI案例
討論AI如何在符合法規下,透過在地端監聽對話關鍵字,即時預防詐騙,解決社會痛點。
AI的永續性與未來展望
探討資料中心擴張的ESG問題,強調AI應走向Edge AI和Space AI,實現更即時、私密、自主且永續的發展。
適合對象:企業決策者、IT管理人員、系統整合商、軟體開發者以及對AI應用落地與永續發展感興趣的專業人士。