metadata
library_name: sentence-transformers
pipeline_tag: sentence-similarity
tags:
- sentence-transformers
- feature-extraction
- sentence-similarity
- transformers
- rubert
- bi-encoder
- retriever
- msmarco
datasets:
- unicamp-dl/mmarco
language:
- ru
base_model: DeepPavlov/rubert-base-cased
widget:
- source_sentence: определение новичка
sentences:
- >-
Часть пятая: Посещение художественного музея. Для новичка посещение
художественного музея может стать непростой задачей. Большинство музеев
очень большие и требуют выносливости и хорошего чувства направления.
Потратьте некоторое время на то, чтобы узнать больше о музее, прежде чем
отправиться в путь, - лучший способ обеспечить более информативное и
приятное посещение. ПРЕЖДЕ ЧЕМ ТЫ УЙДЕШЬ.
- Определение новичка - это новичок или человек в начале чего-либо.
example_title: Example 1
- source_sentence: какое состояние может определить тест с физической нагрузкой
sentences:
- >-
Тест с физической нагрузкой разработан, чтобы выяснить, содержат ли одна
или несколько коронарных артерий, питающих сердце, жировые отложения
(бляшки), которые блокируют кровеносный сосуд на 70% или более. Для
подтверждения результата часто требуется дополнительное тестирование.
Результат испытаний.
- >-
Тест направлен на то, чтобы выяснить, не получает ли какой-либо участок
сердечной мышцы достаточный кровоток во время тренировки. Он похож на
тест с физической нагрузкой, фармакологический или химический
стресс-тест. Он также известен при стресс-тесте таллием, сканировании
перфузии миокарда или радионуклидном тесте.
example_title: Example 2
model-index:
- name: rubert-bi-encoder-mmarcoRU
results:
- task:
type: Retrieval
dataset:
type: unicamp-dl/mmarco
name: mMARCO (Russian)
split: test
metrics:
- type: cos_sim-Recall@5
value: 0.9997142857142856
- type: cos_sim-MRR@10
value: 0.9859809523809522
- type: cos_sim-NDCG@10
value: 0.9895648869214424
- type: cos_sim-MAP@100
value: 0.9859928571428572
- type: dot_score-Recall@5
value: 0.9995714285714286
- type: dot_score-MRR@10
value: 0.9821190476190476
- type: dot_score-NDCG@10
value: 0.986705516337711
- type: dot_score-MAP@100
value: 0.9821300366300368
license: mit
DiTy/bi-encoder-russian-msmarco
This is a sentence-transformers model based on a pre-trained DeepPavlov/rubert-base-cased and finetuned with MS-MARCO Russian passage ranking dataset: It maps sentences & paragraphs to a 768 dimensional dense vector space and can be used for asymmetric semantic search in the Russian language.
Usage (Sentence-Transformers)
Using this model becomes easy when you have sentence-transformers installed:
pip install -U sentence-transformers
Then you can use the model like this:
from sentence_transformers import SentenceTransformer, util
sentences = [
'какое состояние может определить тест с физической нагрузкой',
'Тест с физической нагрузкой разработан, чтобы выяснить, содержат ли одна или несколько коронарных артерий, питающих сердце, жировые отложения (бляшки), которые блокируют кровеносный сосуд на 70% или более. Для подтверждения результата часто требуется дополнительное тестирование. Результат испытаний.',
'Тест направлен на то, чтобы выяснить, не получает ли какой-либо участок сердечной мышцы достаточный кровоток во время тренировки. Он похож на тест с физической нагрузкой, фармакологический или химический стресс-тест. Он также известен при стресс-тесте таллием, сканировании перфузии миокарда или радионуклидном тесте.'
]
model = SentenceTransformer('DiTy/bi-encoder-russian-msmarco')
embeddings = model.encode(sentences)
results = util.semantic_search(embeddings[0], embeddings[1:])[0]
print(f"Sentence similarity: {results}")
# `Sentence similarity: [{'corpus_id': 0, 'score': 0.8545001149177551}, {'corpus_id': 1, 'score': 0.023047829046845436}]`
Usage (HuggingFace Transformers)
Without sentence-transformers, you can use the model like this: First, you pass your input through the transformer model, then you have to apply the right pooling-operation on-top of the contextualized word embeddings.
from transformers import AutoTokenizer, AutoModel
import torch
#Mean Pooling - Take attention mask into account for correct averaging
def mean_pooling(model_output, attention_mask):
token_embeddings = model_output[0] #First element of model_output contains all token embeddings
input_mask_expanded = attention_mask.unsqueeze(-1).expand(token_embeddings.size()).float()
return torch.sum(token_embeddings * input_mask_expanded, 1) / torch.clamp(input_mask_expanded.sum(1), min=1e-9)
# Sentences we want sentence embeddings for
sentences = [
'красный плоский лишай вызван стрессом',
'В большинстве случаев причину появления красного плоского лишая невозможно. Это не вызвано стрессом, но иногда эмоциональный стресс усугубляет ситуацию. Известно, что это заболевание возникает после контакта с определенными химическими веществами, такими как те, которые используются для проявления цветных фотографий. У некоторых людей определенные лекарства вызывают красный плоский лишай. Эти препараты включают лекарства от высокого кровяного давления, болезней сердца, диабета, артрита и малярии, антибиотики, нестероидные противовоспалительные обезболивающие и т. Д.',
'К сожалению для работодателей, в разных штатах страны есть несколько дел, по которым суды установили, что стресс, вызванный работой, может быть основанием для увольнения с работы, если стресс достигает уровня серьезного состояния здоровья, которое вызывает они не могут выполнять свою работу.',
]
# Load model from HuggingFace Hub
tokenizer = AutoTokenizer.from_pretrained('DiTy/bi-encoder-russian-msmarco')
model = AutoModel.from_pretrained('DiTy/bi-encoder-russian-msmarco')
# Tokenize sentences
encoded_input = tokenizer(sentences, max_length=512, padding='max_length', truncation=True, return_tensors='pt')
# Compute token embeddings
with torch.no_grad():
model_output = model(**encoded_input)
# Perform pooling. In this case, mean pooling.
sentence_embeddings = mean_pooling(model_output, encoded_input['attention_mask'])
print("Sentence embeddings:")
print(sentence_embeddings)
Training
The model was trained with the parameters:
DataLoader:
torch.utils.data.dataloader.DataLoader of length 1989041 with parameters:
{'batch_size': 16, 'sampler': 'torch.utils.data.sampler.RandomSampler', 'batch_sampler': 'torch.utils.data.sampler.BatchSampler'}
Loss:
sentence_transformers.losses.MultipleNegativesRankingLoss.MultipleNegativesRankingLoss with parameters:
{'scale': 20.0, 'similarity_fct': 'cos_sim'}
Parameters of the fit()-Method:
{
"epochs": 5,
"evaluation_steps": 250000,
"evaluator": "sentence_transformers.evaluation.InformationRetrievalEvaluator",
"max_grad_norm": 1,
"optimizer_class": "<class 'torch.optim.adamw.AdamW'>",
"optimizer_params": {
"lr": 2e-05
},
"scheduler": "WarmupLinear",
"steps_per_epoch": null,
"warmup_steps": 10000,
"weight_decay": 0.01
}
Full Model Architecture
SentenceTransformer(
(0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)