Symato/KB_wikimedia

Steps

• Download parquet from:
  • https://huggingface.co/datasets/wikimedia/wikipedia/tree/main/20231101.vi
  • https://huggingface.co/datasets/wikimedia/wikisource/tree/main/20231201.vi
• Convert parquet to jsonl
• Split and convert to xz file (maximum compression -9) so each file < 50MB

Tại sao lại dùng jsonl và xz?

• Với định dạng text jsonl rất dễ thao tác trên terminal (jq, wc, head, tail ...) và python (import json)
• Với định dạng xz có thể nén file rất nhỏ chỉ còn 1/2 - 1/3 so với parquet
• Python có thể đọc định dạng xz dễ dàng mà không phải cài thêm thư viện lzma.open("file.jsonl.xz","rt") (import lzma)
• xz có thể đọc được dễ dàng trên terminal với xzcat tool, khi kết hợp với jq và head, tail, wc thì làm được nhiều thứ:
  • Đếm số sample xzcat file.jsonl.xz | wc -l
  • Xem nội dung sample từ 100 tới 120 xzcat file.jsonl.xz | head -n 1200 | tail -n 20 | jq

Như vậy với các tools có sẵn của linux terminal và python có thể thao tác trực tiếp trên .jsonl.xz

Tại sao lại giữ cho mỗi file < 50MB

• Có thể upload lên github mà không gặp warning file quá to
• Khi chia nhỏ dễ dàng xử lý song song với code tuần tự
  • Chỉ cần gọi lặp lại 1 pipepine xử lý với từng file đầu vào một

https://huggingface.co/datasets/wikimedia/wikipedia/tree/main/20231101.vi

wget https://huggingface.co/datasets/wikimedia/wikipedia/resolve/main/20231101.vi/train-00000-of-00004.parquet
wget https://huggingface.co/datasets/wikimedia/wikipedia/resolve/main/20231101.vi/train-00001-of-00004.parquet
wget https://huggingface.co/datasets/wikimedia/wikipedia/resolve/main/20231101.vi/train-00002-of-00004.parquet
wget https://huggingface.co/datasets/wikimedia/wikipedia/resolve/main/20231101.vi/train-00003-of-00004.parquet

https://huggingface.co/datasets/wikimedia/wikisource/tree/main/20231201.vi

wget https://huggingface.co/datasets/wikimedia/wikisource/resolve/main/20231201.vi/train-00000-of-00001.parquet

{
  "id": "2841",
  "url": "https://vi.wikisource.org/wiki/%C3%81o%20b%C3%B4ng%20che%20b%E1%BA%A1n",
  "title": "Áo bông che bạn",
  "text": "Ai ơi, còn nhớ ai không?\nTrời mưa một mảnh áo bông che đầu \n    Nào ai có tiếc ai đâu?\nÁo bông ai ướt khăn đầu ai khô?\n    Người đi Tam Đảo, Ngũ hồ\nKẻ về khóc trúc than ngô một mình\n    Non non nước nước tình tình\nVì ai ngơ ngẩn cho mình ngẩn ngơ…\n\nThơ Việt Nam\nLục bát"
}