从Google cloud bucket运行Eleuther AI GPT模型

2024-10-02 00:21:28 发布

您现在位置:Python中文网/ 问答频道 /正文

有谁能建议我如何从存放在谷歌云存储桶中的语言模型生成提示

我一直在用colab笔记本来运行Eleuther AI GPT Neo models。这很好,只是每次实例超时时,我都必须再次将模型复制到云存储桶中。这不仅不方便,而且浪费了带宽,因为型号通常只有几GB大小。因此,考虑到模型已经在我的云存储桶中,我希望能够查询它们,而无需每次都复制它们

现在,这应该是直截了当的。然而,将模型从colab复制到bucket的行为似乎会生成文件名和路径,这些文件名和路径很难手动解开,我已经尝试了很长时间

所以,我的问题是,给定一个包含GPT模型检查点和配置文件的云存储桶,我如何访问这个模型并用提示显示它


Tags: 实例模型路径语言文件名models浪费笔记本

热门问题