| language: zh | |
| widget: | |
| - text: "总[MASK]是水环境中的重要污染物。" | |
| - text: "气[MASK]变化是重要的全球环境问题。" | |
| tags: | |
| - pretrain | |
| - pytorch | |
| - environment | |
| 环境领域的中文预训练Bert模型，在hlf/chinese-bert-wwm-ext的基础上进行训练，旨在学习到中文表达后进一步学习到环境领域的专业知识。 | |
| 1.5G的预训练语料包括水环境、大气环境、土壤环境、气候变化、中文期刊、国家政策等内容。 | |
| 项目正在进行中，后续会陆续更新相关内容。 | |
| 清华大学环境学院课题组 | |
| 有相关需求、建议，联系[email protected] |