5月2日消息,近日,一个名为MLC LLM的项目在 GitHub 上线, 该项目为一个能够在手机上运行的,无需联网的开源人工智能聊天机器人。
据悉,MLC LLM项目的本质是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时,它还有着一个高效的框架,供每个人进一步优化自己用例的模型性能。
上述这一切, 都在本地运行,无需服务器支持,并通过手机或笔记本电脑上的本地GPU加速。
5月2日消息,近日,一个名为MLC LLM的项目在 GitHub 上线, 该项目为一个能够在手机上运行的,无需联网的开源人工智能聊天机器人。
据悉,MLC LLM项目的本质是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时,它还有着一个高效的框架,供每个人进一步优化自己用例的模型性能。
上述这一切, 都在本地运行,无需服务器支持,并通过手机或笔记本电脑上的本地GPU加速。
热点播报 2023-10-25 09:48:28
热点播报 2023-10-25 08:02:34
热点播报 2023-10-24 14:16:15
热点播报 2023-10-24 14:17:57
热点播报 2023-10-20 11:32:20
qq头像大全无线网络连接上但上不了网摄像头价格苹果手机售后服务电话努比亚x动感单车椭圆机四轮电动车小牛电动车激光电视苏泊尔电饭煲小天才电话手表华为mate20xrtx2080无线网卡怎么用wifi6oppo手机怎么录屏微信群主怎么踢人共享文件夹怎么设置电动牙刷和普通牙刷哪个好12306放票时间电烤箱烤鱼大金空调故障代码游戏机ticwatchoppo 新机reno z苹果11pro是双卡吗苹果手机id密码忘了怎么办flag是什么意思天文望远镜什么牌子的好豆浆机什么牌子好壁挂炉哪个牌子好电脑卡了怎么办手机充电慢怎么办电容笔九阳破壁机苏泊尔电磁炉小程序制作i3 8100家用路由器怎么备份手机通讯录怎么修改路由器密码捷安特自行车价格什么牌子的破壁机最好海信H11麦本本为什么这么便宜
网友评论