SentenceTransformer based on comet24082002/finetune_bge_simsce_V1

This is a sentence-transformers model finetuned from comet24082002/finetune_bge_simsce_V1. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: comet24082002/finetune_bge_simsce_V1
Maximum Sequence Length: 512 tokens
Output Dimensionality: 1024 tokens
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("comet24082002/ft_bge_newLaw_OnlineContrastiveLoss_SimSCE_V2_5epochs")
# Run inference
sentences = [
    'Hồ sơ ứng cử và thời gian nộp hồ sơ ứng cử Hội đồng nhân dân như thế nào?',
    'Trình tự xem xét, thông qua dự thảo nghị quyết của Hội đồng nhân dân cấp xã\n1. Dự thảo nghị quyết của Hội đồng nhân dân cấp xã phải được Ban của Hội đồng nhân dân cùng cấp thẩm tra trước khi trình Hội đồng nhân dân cấp xã. Chậm nhất là 03 ngày trước ngày khai mạc kỳ họp Hội đồng nhân dân, Ủy ban nhân dân gửi tờ trình, dự thảo nghị quyết và các tài liệu có liên quan đến các đại biểu Hội đồng nhân dân.\n2. Việc xem xét, thông qua dự thảo nghị quyết tại kỳ họp Hội đồng nhân dân được tiến hành theo trình tự sau đây:\na) Đại diện Ủy ban nhân dân thuyết trình dự thảo nghị quyết;\nb) Đại diện Ban của Hội đồng nhân dân được phân công thẩm tra trình bày báo cáo thẩm tra;\nc) Hội đồng nhân dân thảo luận và biểu quyết thông qua dự thảo nghị quyết.\n3. Dự thảo nghị quyết được thông qua khi có quá nửa tổng số đại biểu Hội đồng nhân dân biểu quyết tán thành.\n4. Chủ tịch Hội đồng nhân dân ký chứng thực nghị quyết.',
    '"Điều 8. Hội đồng tuyển dụng viên chức\n1. Trường hợp đơn vị sự nghiệp công lập được giao thẩm quyền tuyển dụng, Hội đồng tuyển dụng có 05 hoặc 07 thành viên, bao gồm:\na) Chủ tịch Hội đồng là người đứng đầu hoặc cấp phó của người đứng đầu đơn vị sự nghiệp công lập;\nb) Phó Chủ tịch Hội đồng là người phụ trách công tác tổ chức cán bộ của đơn vị sự nghiệp công lập;\nc) Ủy viên kiêm Thư ký Hội đồng là viên chức giúp việc về công tác tổ chức cán bộ của đơn vị sự nghiệp công lập;\nd) Các ủy viên khác là người có chuyên môn, nghiệp vụ liên quan đến việc tổ chức tuyển dụng do người đứng đầu đơn vị sự nghiệp công lập quyết định.\nTrường hợp không bố trí được Chủ tịch Hội đồng tuyển dụng theo quy định tại điểm a khoản này thì cơ quan có thẩm quyền quản lý đơn vị sự nghiệp công lập xem xét, quyết định.\n2. Trường hợp cơ quan có thẩm quyền quản lý đơn vị sự nghiệp công lập thực hiện việc tuyển dụng, Hội đồng tuyển dụng có 05 hoặc 07 thành viên, bao gồm:\na) Chủ tịch Hội đồng là người đứng đầu hoặc cấp phó của người đứng đầu cơ quan có thẩm quyền tuyển dụng;\nb) Phó Chủ tịch Hội đồng là lãnh đạo bộ phận tham mưu về tổ chức cán bộ của cơ quan có thẩm quyền tuyển dụng;\nc) Ủy viên kiêm Thư ký Hội đồng là người đại diện bộ phận tham mưu về tổ chức cán bộ của cơ quan có thẩm quyền tuyển dụng;\nd) Các ủy viên khác là người có chuyên môn, nghiệp vụ liên quan đến việc tổ chức tuyển dụng do người đứng đầu cơ quan có thẩm quyền tuyển dụng quyết định.\n3. Hội đồng tuyển dụng làm việc theo nguyên tắc tập thể, quyết định theo đa số; trường hợp biểu quyết ngang nhau thì thực hiện theo ý kiến mà Chủ tịch Hội đồng tuyển dụng đã biểu quyết. Hội đồng tuyển dụng có nhiệm vụ, quyền hạn sau đây:\na) Thành lập các bộ phận giúp việc: Ban kiểm tra Phiếu đăng ký dự tuyển, Ban đề thi, Ban coi thi, Ban phách, Ban chấm thi, Ban chấm phúc khảo (nếu có); Ban kiểm tra sát hạch khi tổ chức thực hiện phỏng vấn hoặc thực hành tại vòng 2;\nTrường hợp cần thiết, Chủ tịch Hội đồng tuyển dụng thành lập Tổ Thư ký giúp việc;\nb) Tổ chức thu phí dự tuyển và sử dụng phí dự tuyển theo quy định;\nc) Kiểm tra Phiếu đăng ký dự tuyển, tổ chức thi, chấm thi, chấm phúc khảo theo quy chế;\nd) Báo cáo người đứng đầu cơ quan, đơn vị có thẩm quyền tuyển dụng quyết định công nhận kết quả thi tuyển, xét tuyển;\nđ) Giải quyết khiếu nại, tố cáo trong quá trình tổ chức thi tuyển, xét tuyển;\ne) Hội đồng tuyển dụng tự giải thể sau khi hoàn thành nhiệm vụ.\n4. Không bố trí những người có quan hệ là cha, mẹ, anh, chị, em ruột của người dự tuyển hoặc của bên vợ (chồng) của người dự tuyển; vợ hoặc chồng, con đẻ hoặc con nuôi của người dự tuyển hoặc những người đang trong thời hạn xử lý kỷ luật hoặc đang thi hành quyết định kỷ luật làm thành viên Hội đồng tuyển dụng, thành viên các bộ phận giúp việc của Hội đồng tuyển dụng."',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Training Details

Training Dataset

Unnamed Dataset

Size: 21,048 training samples
Columns: sentence1, sentence2, and label
Approximate statistics based on the first 1000 samples:
sentence1 sentence2 label
type string string int
details
min: 9 tokens
mean: 24.27 tokens
max: 47 tokens

min: 25 tokens
mean: 292.38 tokens
max: 512 tokens

0: ~50.00%
1: ~50.00%

	sentence1	sentence2	label
type	string	string	int
details	min: 9 tokens mean: 24.27 tokens max: 47 tokens	min: 25 tokens mean: 292.38 tokens max: 512 tokens	0: ~50.00% 1: ~50.00%

Samples:

sentence1	sentence2	label
`Lao động nữ sinh con có cần phải trực tiếp đi thông báo tìm kiếm việc làm không?`	"Điều 10. Thông báo về việc tìm kiếm việc làm theo quy định tại Điều 52 Luật Việc làm 1. Trong thời gian hưởng trợ cấp thất nghiệp, hằng tháng người lao động phải trực tiếp thông báo về việc tìm kiếm việc làm với trung tâm dịch vụ việc làm nơi đang hưởng trợ cấp thất nghiệp theo Mẫu số 16 ban hành kèm theo Thông tư này, trừ trường hợp quy định tại Khoản 2 và Khoản 3 Điều này. 2. Người lao động đang hưởng trợ cấp thất nghiệp không phải thực hiện thông báo hằng tháng về việc tìm kiếm việc làm nếu thời gian thông báo về việc tìm kiếm việc làm nằm trong khoảng thời gian mà người lao động thuộc một trong các trường hợp sau: a) Nam từ đủ 60 tuổi trở lên, nữ từ đủ 55 tuổi trở lên; b) Người lao động được xác định thuộc danh mục bệnh phải điều trị dài ngày có giấy xác nhận của cơ sở y tế có thẩm quyền; c) Nghỉ hưởng chế độ thai sản có xác nhận của cơ sở y tế có thẩm quyền. Riêng đối với trường hợp nam giới có vợ chết sau khi sinh con mà phải trực tiếp nuôi dưỡng con thì giấy tờ xác nhận là giấy khai sinh của con và giấy chứng tử của mẹ; d) Đang tham gia khóa học nghề theo quyết định của Giám đốc Sở Lao động – Thương binh và Xã hội và có xác nhận của cơ sở dạy nghề; đ) Thực hiện hợp đồng lao động theo mùa vụ hoặc theo một công việc nhất định có thời hạn dưới 03 tháng. Trong thời hạn 03 ngày làm việc kể từ ngày người lao động thuộc một trong các trường hợp tại các Điểm b, c, d, đ của Khoản này thì người lao động phải gửi thư bảo đảm hoặc ủy quyền cho người khác nộp giấy đề nghị không thực hiện thông báo hằng tháng về việc tìm kiếm việc làm theo Mẫu số 17 ban hành kèm theo Thông tư này và kèm theo bản chính hoặc bản sao có chứng thực một trong các giấy tờ theo quy định nêu trên đến trung tâm dịch vụ việc làm nơi người lao động đang hưởng trợ cấp thất nghiệp, trường hợp gửi theo đường bưu điện thì tính theo ngày gửi ghi trên dấu bưu điện. Sau khi hết thời hạn của một trong các trường hợp nêu trên, người lao động phải tiếp tục thực hiện thông báo về việc tìm kiếm việc làm theo quy định. Ví dụ 14: Bà Trần Thị T có quyết định về việc hưởng trợ cấp thất nghiệp 06 tháng kể từ ngày 02/3/2015 đến ngày 01/9/2015 (ngày thông báo về việc tìm kiếm việc làm hằng tháng cụ thể như sau: Tháng hưởng trợ cấp thất nghiệp thứ nhất là ngày nhận trả kết quả, tháng hưởng trợ cấp thất nghiệp thứ hai từ ngày 03 đến ngày 07/4, tháng hưởng trợ cấp thất nghiệp thứ ba từ ngày 04 đến ngày 06/5, tháng hưởng trợ cấp thất nghiệp thứ tư từ ngày 03 đến ngày 05/6, tháng hưởng trợ cấp thất nghiệp thứ năm từ ngày 02 đến ngày 06/7, tháng hưởng trợ cấp thất nghiệp thứ sáu từ ngày 03 đến ngày 07/8). Bà T có quyết định về việc hỗ trợ học nghề của Giám đốc Sở Lao động – Thương binh và Xã hội, thời gian học nghề của bà là 03 tháng tính từ ngày 15/4/2015 đến ngày 15/7/2015. Như vậy, chậm nhất vào ngày 20/4/2015 (sau 03 ngày làm việc kể từ ngày bà T được hỗ trợ học nghề), bà T phải gửi giấy xác nhận của cơ sở dạy nghề về việc đang học nghề cho trung tâm dịch vụ việc làm nơi đang hưởng trợ cấp thất nghiệp. Tháng hưởng trợ cấp thất nghiệp thứ ba, thứ tư, thứ năm bà T không phải thông báo về việc tìm kiếm việc làm. Tuy nhiên, đến tháng hưởng trợ cấp thất nghiệp thứ sáu bà T phải tiếp tục thực hiện thông báo về việc tìm kiếm việc làm theo quy định. 3. Người lao động đang hưởng trợ cấp thất nghiệp không phải trực tiếp thông báo hằng tháng về việc tìm kiếm việc làm nếu thời gian thông báo về việc tìm kiếm việc làm nằm trong khoảng thời gian mà người lao động thuộc một trong các trường hợp sau: a) Ốm đau nhưng không thuộc trường hợp quy định tại Điểm b Khoản 2 Điều này có xác nhận của cơ sở y tế có thẩm quyền; b) Bị tai nạn có xác nhận của cảnh sát giao thông hoặc cơ sở y tế có thẩm quyền; c) Bị hỏa hoạn, lũ lụt, động đất, sóng thần, địch họa, dịch bệnh có xác nhận của Chủ tịch Ủy ban nhân dân xã, phường, thị trấn; d) Cha, mẹ, vợ/chồng, con của người lao động chết; người lao động hoặc con của người lao động kết hôn có giấy xác nhận của Ủy ban nhân dân xã, phường, thị trấn. Các trường hợp không trực tiếp đến trung tâm dịch vụ việc làm thì chậm nhất trong thời hạn 03 ngày làm việc kể từ ngày cuối cùng của thời hạn thông báo hằng tháng về việc tìm kiếm việc làm theo quy định, người lao động phải gửi thư bảo đảm hoặc ủy quyền cho người khác nộp bản chính hoặc bản sao có chứng thực một trong các giấy tờ theo quy định nêu trên đến trung tâm dịch vụ việc làm nơi đang hưởng trợ cấp thất nghiệp, trường hợp gửi theo đường bưu điện thì tính theo ngày gửi ghi trên dấu bưu điện. 4. Ngày người lao động thông báo hằng tháng về việc tìm kiếm việc làm được ghi cụ thể trong phụ lục quyết định hưởng trợ cấp thất nghiệp của người lao động như sau: a) Ngày của tháng thứ nhất hưởng trợ cấp thất nghiệp là ngày nhận quyết định hưởng trợ cấp thất nghiệp theo phiếu hẹn trả kết quả; b) Từ tháng thứ hai trở đi người lao động thực hiện ngày thông báo hằng tháng về việc tìm kiếm việc làm trong thời hạn 03 ngày làm việc kể từ ngày đầu tiên của tháng hưởng trợ cấp thất nghiệp. 5. Trường hợp ngày thông báo hằng tháng về việc tìm kiếm việc làm của người lao động nằm trong khoảng thời gian làm thủ tục chuyển nơi hưởng trợ cấp thất nghiệp theo quy định tại Điều 22 Nghị định số 28/2015/NĐ-CP thì người lao động không phải thực hiện việc thông báo về việc tìm kiếm việc làm với trung tâm dịch vụ việc làm. Ví dụ 15: Bà Nguyễn Lan Y có quyết định hưởng trợ cấp thất nghiệp với thời gian 03 tháng. Tháng hưởng trợ cấp thất nghiệp thứ nhất từ ngày 02/7/2015 đến ngày 01/8/2015, tháng hưởng trợ cấp thất nghiệp thứ hai từ ngày 02/8/2015 đến ngày 01/9/2015, tháng hưởng trợ cấp thất nghiệp thứ ba từ ngày 02/9/2015 đến ngày 01/10/2015. Sau khi hưởng trợ cấp thất nghiệp tháng đầu tiên, ngày 28/7/2015 bà Y làm đề nghị chuyển nơi hưởng trợ cấp thất nghiệp trong khi ngày thông báo về việc tìm kiếm việc làm tháng hưởng trợ cấp thất nghiệp thứ hai của bà Y là ngày 03 đến ngày 05/8/2015. Như vậy, bà Y không phải thực hiện việc thông báo tìm kiếm việc làm hằng tháng với trung tâm dịch vụ việc làm nơi chuyển đi cũng như nơi chuyển đến mà không bị tạm dừng hưởng trợ cấp thất nghiệp. 6. Người lao động đang hưởng trợ cấp thất nghiệp được coi là đã thông báo hằng tháng về việc tìm kiếm việc làm khi đã ghi đúng và đầy đủ các nội dung trong thông báo hằng tháng về việc tìm kiếm việc làm và chịu trách nhiệm về nội dung thông báo."	`1`
`Lao động nữ sinh con có cần phải trực tiếp đi thông báo tìm kiếm việc làm không?`	Công bố thông tin trước ngày khai trương hoạt động Doanh nghiệp xếp hạng tín nhiệm phải công bố trên phương tiện thông tin đại chúng và trang thông tin điện tử của doanh nghiệp ít nhất mười (10) ngày làm việc trước ngày dự kiến khai trương hoạt động kinh doanh dịch vụ xếp hạng tín nhiệm các thông tin cơ bản sau đây: 1. Tên, địa chỉ trụ sở chính của doanh nghiệp xếp hạng tín nhiệm. 2. Địa chỉ trang thông tin điện tử của doanh nghiệp xếp hạng tín nhiệm. 3. Giấy chứng nhận đủ điều kiện kinh doanh. 4. Vốn điều lệ thực góp. 5. Danh sách, tỷ lệ góp vốn tương ứng của từng cổ đông hoặc thành viên góp vốn sở hữu trên 5% vốn điều lệ thực góp của doanh nghiệp xếp hạng tín nhiệm. 6. Tên của người đại diện theo pháp luật của doanh nghiệp xếp hạng tín nhiệm. 7. Ngày dự kiến khai trương hoạt động xếp hạng tín nhiệm của doanh nghiệp. Theo đó, công ty cổ phần xếp hạng tín nhiệm phải công bố trên phương tiện thông tin đại chúng và trang thông tin điện tử của công ty ít nhất 10 ngày làm việc trước ngày dự kiến khai trương hoạt động kinh doanh dịch vụ xếp hạng tín nhiệm với các thông tin cơ bản sau đây:	`0`
`Kho bảo quản pháo hoa để kinh doanh được quy định như thế nào?`	Kỹ thuật an toàn trong kinh doanh pháo hoa 2.2.2. Kho bảo quản pháo hoa để kinh doanh 2.2.2.1. Kho bảo quản được xây dựng bảo đảm theo quy định tại QCVN 06:2021/BXD. 2.2.2.2. Địa điểm đặt kho bảo đảm khoảng cách an toàn từ 50 m trở lên đối với cửa hàng xăng, dầu, gas, cơ sở kinh doanh có sử dụng gia nhiệt bằng nhiên liệu hóa thạch hoặc có ngọn lửa trần. 2.2.2.3. Kho được niêm yết nội quy, quy định, quy trình về bảo đảm an ninh, trật tự, an toàn, phòng cháy, chữa cháy, cứu nạn, cứu hộ; trong kho niêm yết quy trình sắp xếp, bảo quản, xuất, nhập pháo hoa. 2.2.2.4. Người quản lý kho được huấn luyện về kỹ thuật an toàn theo quy định; 2.2.2.5. Trữ lượng kho không được vượt quá 15 tấn sản phẩm.	`1`

Loss: OnlineContrastiveLoss

Training Hyperparameters

Non-Default Hyperparameters

per_device_train_batch_size: 4
learning_rate: 2e-05
num_train_epochs: 5
warmup_ratio: 0.1

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
prediction_loss_only: True
per_device_train_batch_size: 4
per_device_eval_batch_size: 8
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
learning_rate: 2e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1.0
num_train_epochs: 5
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.1
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: False
fp16: False
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: False
fp16_full_eval: False
tf32: None
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: False
dataloader_num_workers: 0
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: False
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True}
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_torch
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: False
resume_from_checkpoint: None
hub_model_id: None
hub_strategy: every_save
hub_private_repo: False
hub_always_push: False
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
dispatch_batches: None
split_batches: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_sampler: batch_sampler
multi_dataset_batch_sampler: proportional

Training Logs