快科技5月2日音讯，近来，一个名为MLC LLM的项目在GitHub上线，

  据悉，MLC LLM项目的实质是一种通用解决方案，它答应将任何言语模型本地布置在一组不同的硬件后端和本地使用程序上。

  上述这一切，都在本地运转，无需服务器支撑，并经过手机或笔记本电脑上的本地GPU加快。

  技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种根据Meta开发的LLaMA模型的轻量级LLM，作用尽管不如GPT3.5或GPT4，但在巨细方面比较占优势。

  现在，该项目可用于Windows、Linux、macOS和iOS渠道，但暂时还没有适用于Android的版别。

  值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst方案、SAMPL机器学习研讨小组以及华盛顿大学、上海交通大学和OctoML等。