真的假的？！手機安裝開源語言模型可離線使用！

[ejsoon]

真的假的？！手機安裝開源語言模型可離線使用！

• 引用

帖子 由 ejsoon » 2024年 10月 20日 16:38

手机安装运行最新开源的Qwen2-7B-Instruct大语言模型（可断网使用）

https://www.bilibili.com/video/BV1gS421R7To/

誰有閒置的手機可以試一下？

[BobMaster]

Re: 真的假的？！手機安裝開源語言模型可離線使用！

• 引用

帖子 由 BobMaster » 2024年 10月 21日 10:10

实测可以跑，就是比较慢和卡
运行设备：Redmi K70 Ultra



https://llm.mlc.ai/docs/deploy/android.html
预编译好的安装包：https://github.com/mlc-ai/binary-mlc-llm-libs/releases

以下圈友为 BobMaster 的帖子点了赞:

ejsoon

[ejsoon]

Re: 真的假的？！手機安裝開源語言模型可離線使用！

• 引用

帖子 由 ejsoon » 2024年 10月 22日 01:21

实测可以跑，就是比较慢和卡
运行设备：Redmi K70 Ultra



https://llm.mlc.ai/docs/deploy/android.html
预编译好的安装包：https://github.com/mlc-ai/binary-mlc-llm-libs/releases

不知如果問它一些編程問題，它是否也能解答？甚至直接代碼寫好？