[Question] 如何正确加载 Atomas 任务的预训练权重？

[hyian113]

作者您好，

我在使用该模型/项目时，尝试加载您提供的预训练权重，但在文档中没有找到清晰的指引，遇到了一些问题，想请教您正确的加载方式。

📌 使用情况说明

• 模型结构：我使用的是论文中提到的 molt5-base（来自 laituan245/molt5-base）。
• 权重文件：Atomas_weight_for_text-based_de_novo_molecule_generation_task.ckpt。
• 问题描述：当我尝试加载该权重时，发现 molt5-base 的隐藏层维度是 768，而该 .ckpt 文件似乎是基于 hidden_size=1024 的模型保存的，导致模型结构不兼容，无法正常加载。

如下图所示（加载时报错）：

❓ 想请教的问题

1. 请问该 .ckpt 是基于哪一个具体配置的模型结构训练得到的？（是否为 molt5-large 或 custom-config？）
2. 如果希望加载并使用该权重，推荐使用的 base model 是哪个？
3. 是否可以提供一份推荐的加载代码示例或者模型配置？

如能指引正确的加载方式，感激不尽 🙏

谢谢您的工作和贡献！