全球最小AI超算诞生：300克掌中设备可运行千亿参数
时间：2025-12-12 15:40:36 浏览：
科技媒体Wccftech报道，初创公司Tiiny AI近日发布了号称全球最小的AI超级计算机——Tiiny AI Pocket Lab。这款设备仅重300克，尺寸如手掌大小（14.2 × 8 × 2.53厘米），却搭载了ARMv9.2 12核CPU、80GB LPDDR5X内存和1TB SSD存储，AI算力高达190 TOPS。
其最大亮点在于能成功部署并本地运行1200亿（120B）参数的大语言模型（LLM），支持“博士级推理、多步骤分析和深度上下文理解”任务。这得益于其两项核心技术：TurboSparse（神经元级稀疏激活技术）和PowerInfer（开源异构推理引擎），它们显著提升了推理效率。
该设备支持一键部署GPT-OSS、Llama、Qwen等数十种主流开源模型，完全离线操作，功耗控制出色（TDP 30W）。Tiiny AI计划在CES 2026上正式展示这款产品。
标题：全球最小AI超算诞生：300克掌中设备可运行千亿参数
链接：https://www.kuaixia8.cn/news/qqzxaicsds300kzzsbkyxqycs.html
免责声明：本站资料均来源互联网收集整理，作品版权归作者所有，如果侵犯了您的版权，请发邮件给我们
资讯推荐
更多 
