File size: 2,232 Bytes
76b4794 3d6c14c 76b4794 6ee9897 64ec444 3ba50ba 76b4794 48dd3bc 6ee9897 48dd3bc 6ee9897 48dd3bc 64ec444 76b4794 3d6c14c 76b4794 6ee9897 76b4794 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 |
from __future__ import annotations
from transformers import PretrainedConfig
from transformers import PreTrainedModel
from torch import nn
import torch
from torchtyping import TensorType
class FastTextJpConfig(PretrainedConfig):
"""FastTextJpModelのConfig
"""
model_type = "fasttext_jp"
def __init__(self,
vocab_size=1,
hidden_size=1,
tokenizer_class="FastTextJpTokenizer",
**kwargs):
"""初期化処理
Args:
tokenizer_class (str, optional):
tokenizer_classを指定しないと、pipelineから読み込まれません。
config.jsonに記載されます。
vocab_size (str, optional):
vocab_sizeを指定しないと、pipelineから読み込まれません。
config.jsonに記載されます。
hidden_size (str, optional):
hidden_sizeを指定しないと、pipelineから読み込まれません。
config.jsonに記載されます。
"""
kwargs["vocab_size"] = vocab_size
kwargs["hidden_size"] = hidden_size
kwargs["tokenizer_class"] = tokenizer_class
super().__init__(**kwargs)
class FastTextJpModel(PreTrainedModel):
"""FastTextのEmbeddingを行います。
"""
config_class = FastTextJpConfig
def __init__(self, config: FastTextJpConfig):
super().__init__(config)
self.word_embeddings = nn.Embedding(config.vocab_size,
config.hidden_size)
def forward(self, **inputs) -> TensorType["batch", "word", "vectors"]:
"""embeddingを行います。
Returns:
TensorType["batch", "word", "vectors"]: 単語ごとにベクトルを返します。
"""
return self.word_embeddings(torch.Tensor(inputs["input_ids"]))
# AutoModelに登録が必要だが、いろいろやり方が変わっているようで定まっていない。(2022/11/6)
# https://huggingface.co/docs/transformers/custom_models#sending-the-code-to-the-hub
FastTextJpConfig.register_for_auto_class()
FastTextJpModel.register_for_auto_class("AutoModel")
|