
Pocket Lab尺寸仅为14.2 x 8 x 2.5厘米,重量约300克,内部设备也很强大年夜:
处理器:基于ARM v9.2架构的12核ARM CPU。
AI算力:定制异构模块(SoC + dNPU),供给约190 TOPS的总AI算力。
内存与存储:配备了高达80GB的LPDDR5X内存(个中48GB专用于NPU)和1TB SSD。
功耗:典范体系功耗为65W。

Pocket Lab最大年夜的亮点在于,其可以或许完全在本地离线状况下运行高达1200亿参数的大年夜模型,打破了以往对云端、办事器或高端GPU的依附。
Pocket Lab支撑一键安装包含Llama、Qwen、DeepSeek、Mistral、Phi和OpenAI GPT-OSS在内的多种主流开源模型,并支撑OpenManus、ComfyUI等AI Agent框架。
Tiiny AI确认,这些软件功能和OTA硬件进级将在2026年1月的CES展会上正式宣布,该产品的订价细节今朝仍未颁布。
该公司经由过程TurboSparse(神经元级稀少激活技巧)和PowerInfer(开源异构推理引擎)等技巧,实现了在低功耗下达到近似办事器级的机能,尤其针对10B至100B参数的小我AI “黄金区间”进行了优化。


发表评论 取消回复