README.md

metadata

license: mit
viewer: true
task_categories:
  - text2text-generation
language:
  - vi
size_categories:
  - 10K<n<100K

ViQP: Dataset for Vietnamese Question Paraphrasing

Dataset sample

An example of 'viqp_train.json' looks as follows.

  {
    "source": "Trong thuật toán Caesar Cipher, ký tự K với mã hóa k=4 thì sẽ được chữ mới gì?",
    "target": [
      "Ký tự K với mã hóa k=4 trong thuật toán Caesar Cipher thì sẽ được chữ gì?",
      "Ký tự K với mã hóa k=4 trong thuật toán Caesar Cipher thì sẽ được chữ mới gì?",
      "Trong thuật toán Caesar Cipher, ký tự K với mã hóa k=4 thì sẽ được chữ gì?",
      "Trong thuật toán Caesar Cipher, mã hóa k=4 thì ký tự K sẽ là chữ gì?"
    ],
    "type": "ENTY_letter"
  }

Model resource

Question paraphrasing model after training with ViQP is available at here

pip install simplet5

from simplet5 import SimpleT5

model = SimpleT5()
model.load_model("t5", "SCM-LAB/vietnamese_question_paraphrasing_ViT5_base", use_gpu=True)

question = "Tác phẩm Lục Vân Tiên được sáng tác năm nào?"
model.predict(f"question paraphrasing: {question}", num_return_sequences= 5, num_beams= 5)

>>> ['Tác phẩm Lục Vân Tiên được sáng tác lúc nào?',
 'Tác phẩm Lục Vân Tiên được sáng tác khi nào?',
 'Tác phẩm Lục Vân Tiên được sáng tác vào năm nào?',
 'Lúc nào tác phẩm Lục Vân Tiên được sáng tác?',
 'Tác phẩm Lục Vân Tiên được sáng tác vào lúc nào?']

Citation Information

@INPROCEEDINGS{10288738,
  author={Nguyen, Sang Quang and Vo, Thuc Dinh and Nguyen, Duc P.A and Tran, Dang T. and Nguyen, Kiet Van},
  booktitle={2023 International Conference on Multimedia Analysis and Pattern Recognition (MAPR)}, 
  title={ViQP: Dataset for Vietnamese Question Paraphrasing}, 
  year={2023},
  volume={},
  number={},
  pages={1-6},
  doi={10.1109/MAPR59823.2023.10288738}
}

Please CITE our paper when ViQP is used to help produce published results or is incorporated into other software.