Cactus图标

AI大模型 / 端侧AI模型

Cactus

cactuscompute.com

面向手机、笔记本、可穿戴设备与机器人的端侧 AI 平台,提供小型基础模型及本地推理方案,主打离线与低延迟。

工具介绍

Cactus 聚焦在手机、笔记本、智能家居、可穿戴设备和机器人上运行端侧 AI,提供跨平台推理能力与轻量模型。官网近期展示 Needle 2,这是一款面向微型设备的 14MB 智能体语言模型。它适合对隐私、离线可用性和响应延迟有要求,并希望减少云端模型依赖的移动与边缘应用。

适合场景

在移动设备上离线运行语言模型为可穿戴设备加入本地智能能力开发低延迟的边缘智能体

替代工具

MLC LLMllama.cpp