早期項目|硅谷初創公司「Aizip」推出小型語言模型,與瑞薩科技合作
作者丨常敏瀟
編輯丨邱曉芬
從前兩年的百模大戰到大語言模型 LLM(Large Language Model)的逐步落地應用,端側AI始終是人工智能技術發展中至關重要的一環。
所謂的端側AI,即用戶在使用過程中不依賴雲服務器,直接在終端設備本地使用AI服務。
相比於ChatGPT4.0和最新推出的Llama3.1等依賴於雲端接口的主流大語言模型,端側AI有較強的私密性,也具有個性化操作和節省成本等諸多優勢。
雖然,目前市場中已有以微軟爲代表的幾家公司提出了“AI PC”的產品,即將雲端大語言模型成功縮小,能夠在手機、電腦等移動終端離線使用,但確保在低成本智能設備上,隨時隨地使用自動化程序,仍然是小模型面臨的重大挑戰。
一家美國初創公司,想解決端側落地的難題。
「Aizip」於2020 年創立於美國硅谷,專注於微型人工智能(Tiny AI)在感知端、邊緣端等智能硬件上的端側AI應用。
目前,「Aizip」 已創建了一系列小型語言模型(SLM)和 AI Agents,並取名爲 Gizmo,大小從 3 億到 20 億個參數不等。
這一模型支持在各種平臺使用,讓不同設備間有更好的兼容性,也在不同設備間切換時,讓用戶體驗到一致的操作和功能。
「Aizip」 主要面向企業端客戶提供智能客服、技術支持、財務支持、人力支持等一系列服務。個人用戶可以在手機、平板、手錶、汽車、家電等智能設備終端使用Gizmo的個性化語音助手服務。
據瞭解,「Aizip」希望通過構建可隨時在移動端部署,且擴展性較強的AI模型,讓用戶能在任何地點使用AI應用。公司目前突破了以數據爲中心的模型效率,以及AI 設計自動化等關鍵技術。
相比於大模型,小模型可以部署在十美金以下的芯片上,其應用和推廣成本低得多,可以廣泛應用於智能設備的移動端。
這意味着AI能夠更加快速、精準的給用戶提供建議。用戶也能更加方便地在手機和平板上使用AI技術處理日常工作並進行娛樂,並在離線狀態下使用AI的個性化的服務。
在商業化方面,據瞭解,「Aizip」近期已與瑞薩科技合作推出基於 ARM 微處理器單元(MPU)的超高效小型語言模型 SLM(Small Language Model)和緊湊型AI Agents。由瑞薩科技(Renesas)提供廣泛的微控制器、系統芯片(SoC)、電源管理 IC 等產品。
團隊方面,「Aizip」團隊成員均來自於斯坦福、伯克利、麻省理工、卡耐基梅隆等知名院校,多位成員曾供職於Google和Meta。
「Aizip」創始成員之一、Aizip SLM和AI Agents 開發負責人 Weier Wan 表示:“我們正見證高效 AI 的一個關鍵時刻,端側 AI Agents 可以真正讓一切事物懂得思考。在運行速度爲 1.2 GHz 的單個 A55 內核的 RZ/G2L 上,模型的響應時間已經可以縮短至 3 秒以內。”
end
end