​硅谷小模型初创公司「Aizip」推出小语言端侧模型，与瑞萨科技合作

硅谷小模型初创公司「Aizip」推出小语言端侧模型，与瑞萨科技合作

作者丨常敏潇

编辑丨邱晓芬

从前两年的百模大战到大语言模型   LLM（Large Language Model）的逐步落地应用，端侧 AI 始终是人工智能技术发展中至关重要的一环。

所谓的端侧 AI，即用户在使用过程中不依赖云服务器，直接在终端设备本地使用 AI 服务。

相比于 ChatGPT4.0 和最新推出的 Llama3.1 等依赖于云端接口的主流大语言模型，端侧 AI 有较强的私密性，也具有个性化操作和节省成本等诸多优势。

虽然，目前市场中已有以微软为代表的几家公司提出了 "AI PC" 的产品，即将云端大语言模型成功缩小，能够在手机、电脑等移动终端离线使用，但确保在低成本智能设备上，随时随地使用自动化程序，仍然是小模型面临的重大挑战。

一家美国初创公司，想解决端侧落地的难题。

「Aizip」于 2020   年创立于美国硅谷，专注于微型人工智能 ( Tiny AI ) 在感知端、边缘端等智能硬件上的端侧 AI 应用。

目前，「Aizip」  已创建了一系列小型语言模型（SLM）和   AI Agents，并取名为   Gizmo，大小从   3   亿到   20   亿个参数不等。

这一模型支持在各种平台使用，让不同设备间有更好的兼容性，也在不同设备间切换时，让用户体验到一致的操作和功能。

「Aizip」 主要面向企业端客户提供智能客服、技术支持、财务支持、人力支持等一系列服务。个人用户可以在手机、平板、手表、汽车、家电等智能设备终端使用 Gizmo 的个性化语音助手服务。

据了解，「Aizip」希望通过构建可随时在移动端部署，且扩展性较强的 AI 模型，让用户能在任何地点使用 AI 应用。公司目前突破了以数据为中心的模型效率，以及 AI   设计自动化等关键技术。

相比于大模型，小模型可以部署在十美金以下的芯片上，其应用和推广成本低得多，可以广泛应用于智能设备的移动端。

这意味着 AI 能够更加快速、精准的给用户提供建议。用户也能更加方便地在手机和平板上使用 AI 技术处理日常工作并进行娱乐，并在离线状态下使用 AI 的个性化的服务。

在商业化方面，据了解，「Aizip」近期已与瑞萨科技合作推出基于   ARM   微处理器单元（MPU）的超高效小型语言模型   SLM（Small Language Model）和紧凑型 AI Agents。由瑞萨科技（Renesas）提供广泛的微控制器、系统芯片（SoC）、电源管理   IC   等产品。

团队方面，「Aizip」团队成员均来自于斯坦福、伯克利、麻省理工、卡耐基梅隆等知名院校，多位成员曾供职于 Google 和 Meta。

「Aizip」创始成员之一、Aizip SLM 和 AI Agents   开发负责人   Weier Wan   表示：" 我们正见证高效   AI   的一个关键时刻，端侧   AI Agents   可以真正让一切事物懂得思考。在运行速度为   1.2 GHz   的单个   A55   内核的   RZ/G2L   上，模型的响应时间已经可以缩短至   3   秒以内。"

end