tokenlm官网-token imdownload

当然这里也可以使用LMDeploy的模型部署服务，其支持开箱即用的命令行对话GradioDemo展示和Api服务，思路主要如下其会在同路径下生成一个workspace文件夹，随后就可以直接进行对话了命令行对话lmdeploychatturbomindworkspaceGradioDemo