台灣大(3045-TW)今(8)日舉辦第四屆硬科技日(D.E.E.P. Tech Day),發表企業級AI Agent平台「MyAgent」,整合企業知識、模型、工具與工作流程,支援地端或私有雲部署、多元魔性彈性切換與企業及治理。總經理林之晨點出,企業自建Agentic平台是AI轉型的關鍵核心。
林之晨表示,企業近年積極部署AI,也開始思考如何將AI導入自身營運,而自建 Agentic平台是重要關鍵。他並指出,透過自建Agentic平台,整合企業內部資料,並串接大型語言模型(LLM),以確保營業秘密等敏感資料外流。
不過林之晨提到,前沿模型的token成本昂貴,且不是所有問題都是高價值的,不可能所有問題都讓前沿模型解決。因此他建議,建置自身的Agentic平台後,也應建立Hybrid Model Portfolio(混合模型組合)及Model Routing(模型分流)機制。
林之晨進一步表示,建立上述機制後,可將日常簡單的問題,利用地端模型解決,複雜問題再導引至前沿模型,以兼顧成本與效能。
針對地端模型,林之晨也提到,部署地端模型需有完善的AI基礎建設,但當今全球最缺的就是AI相關硬體設施,也就是AI算力與電源供應。
因此林之晨指出,台灣大於硬科技日中,展出的是一系列的AI解決方案,而非單一技術。「MyAgent」整合企業知識、模型、工具與工作流程,支援地端或私有雲部署、多元模型彈性切換與企業級治理,協助企業將分散的AI應用整合為可自主掌握、可規模部署且能持續進化的AI Workforce。
※ 本文經「鉅亨網」授權轉載,原文出處