Pocket Lab尺寸仅为14.2 x 8 x 2.5厘米,重量约300克,内部设备也很强大年夜:

处理器:基于ARM v9.2架构的12核ARM CPU。

AI算力:定制异构模块(SoC + dNPU),供给约190 TOPS的总AI算力。

内存与存储:配备了高达80GB的LPDDR5X内存(个中48GB专用于NPU)和1TB SSD。

功耗:典范体系功耗为65W。

Pocket Lab最大年夜的亮点在于,其可以或许完全在本地离线状况下运行高达1200亿参数的大年夜模型,打破了以往对云端、办事器或高端GPU的依附。

Pocket Lab支撑一键安装包含Llama、Qwen、DeepSeek、Mistral、Phi和OpenAI GPT-OSS在内的多种主流开源模型,并支撑OpenManus、ComfyUI等AI Agent框架。

Tiiny AI确认,这些软件功能和OTA硬件进级将在2026年1月的CES展会上正式宣布,该产品的订价细节今朝仍未颁布。

该公司经由过程TurboSparse(神经元级稀少激活技巧)和PowerInfer(开源异构推理引擎)等技巧,实现了在低功耗下达到近似办事器级的机能,尤其针对10B至100B参数的小我AI “黄金区间”进行了优化。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部