1 Star 1 Fork 1

modelee/afro-xlmr-base

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
tokenizer_config.json 398 Bytes
一键复制 编辑 原始数据 按行查看 历史
David Adelani 提交于 2022-04-12 21:43 . Upload tokenizer_config.json
{"bos_token": "<s>", "eos_token": "</s>", "sep_token": "</s>", "cls_token": "<s>", "unk_token": "<unk>", "pad_token": "<pad>", "mask_token": {"content": "<mask>", "single_word": false, "lstrip": true, "rstrip": false, "normalized": true, "__type": "AddedToken"}, "model_max_length": 512, "special_tokens_map_file": null, "name_or_path": "xlm-roberta-base", "tokenizer_class": "XLMRobertaTokenizer"}
Loading...
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
1
https://gitee.com/modelee/afro-xlmr-base.git
git@gitee.com:modelee/afro-xlmr-base.git
modelee
afro-xlmr-base
afro-xlmr-base
main

搜索帮助