跳转至主要内容

04AI门户网

MLC-LLM-能在手机上运行的MLC-LLM大型语言模型

admin
最后编辑于 2025年3月7日

MLC LLM 是一种通用解决方案,允许将任何语言模型本地部署在各种硬件后端和本机应用程序上,以及供每个人进一步优化自己用例的模型性能的高效框架。一切都在本地运行,没有服务器支持,并通过手机和笔记本电脑上的本地 GPU 加速

Demo地址:MLC LLM | Home

 

分类:

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注