Transformers documentation

SarvamMoE

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.24.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Ce modèle a été contribué à Hugging Face Transformers le 2026-11-20.

FlashAttention SDPA

SarvamMoE

SarvamMoE est l’architecture de Sarvam-30B, un modèle de langage Mixture of Experts (MoE) de 30 milliards de paramètres développé par Sarvam AI. Sa version plus grande, Sarvam-105B, utilise SarvamMLA.

Caractéristiques architecturales clés :

  • Grouped-query attention avec normalisation QK et embeddings de position rotatifs complets.
  • Sparse Mixture of Experts : 128 experts routés avec 6 actifs par jeton, plus 1 expert partagé. La première couche utilise un MLP dense.
  • Routing sigmoïde avec une correction de biais des experts et un facteur d'échelle routé.

L’architecture est identique à celle de GLM-4-MoE, avec des noms de paramètres et de configuration différents. Les classes auto le chargent avec l’implémentation GLM-4-MoE (Glm4MoeModel et Glm4MoeForCausalLM), de sorte que seul SarvamMoEConfig est spécifique à SarvamMoE. Les points de contrôle publiés sont convertis aux noms GLM-4-MoE lors du chargement et reconvertis lors de l’enregistrement.

L'exemple ci-dessous montre comment générer du texte avec la classe AutoModelForCausalLM.

from transformers import AutoModelForCausalLM, AutoTokenizer


tokenizer = AutoTokenizer.from_pretrained("sarvamai/sarvam-30b")
model = AutoModelForCausalLM.from_pretrained("sarvamai/sarvam-30b", device_map="auto")

messages = [{"role": "user", "content": "Explain the Pythagorean theorem in one sentence."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt", return_dict=True)
output = model.generate(**inputs.to(model.device), max_new_tokens=64)
print(tokenizer.decode(output[0][inputs["input_ids"].shape[1] :], skip_special_tokens=True))

SarvamMoEConfig

classe transformers.SarvamMoEConfig

< >

( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Nonevocab_size: int = 262144hidden_size: int = 4096intermediate_size: int = 8192num_hidden_layers: int = 19num_attention_heads: int = 64num_key_value_heads: int = 4hidden_act: str = 'silu'max_position_embeddings: int = 131072initializer_range: float = 0.006rms_norm_eps: float = 1e-06use_cache: bool = Truetie_word_embeddings: bool = Falserope_parameters: transformers.modeling_rope_utils.RopeParameters | dict | None = Noneattention_bias: bool = Falseattention_dropout: float | int = 0.0moe_intermediate_size: int = 1024num_experts_per_tok: int = 6output_router_logits: bool = Falsen_shared_experts: int = 1n_routed_experts: int = 128routed_scaling_factor: float = 2.5n_group: int = 1topk_group: int = 1first_k_dense_replace: int = 1norm_topk_prob: bool = Trueuse_qk_norm: bool = Truebos_token_id: int | None = Noneeos_token_id: int | list[int] | None = 1pad_token_id: int | None = 0num_mtp_layers: int = 0head_dim: int = 64 )

Paramètres

  • vocab_size (int, facultatif, par défaut 262144) — Taille du vocabulaire du modèle. Définit le nombre de jetons différents qui peuvent être représentés par les input_ids.
  • hidden_size (int, facultatif, par défaut 4096) — Dimension des représentations cachées.
  • intermediate_size (int, facultatif, par défaut 8192) — Dimension des représentations du MLP.
  • num_hidden_layers (int, facultatif, par défaut 19) — Nombre de couches cachées dans le décodeur Transformer.
  • num_attention_heads (int, facultatif, valeur par défaut 64) — Nombre de têtes d'attention pour chaque couche d'attention du décodeur Transformer.
  • num_key_value_heads (int, facultatif, valeur par défaut 4) — Ceci est le nombre de têtes key_value à utiliser pour implémenter l'attention Grouped Query. Si num_key_value_heads=num_attention_heads, le modèle utilisera l'attention Multi Head (MHA), si num_key_value_heads=1 le modèle utilisera l'attention Multi Query (MQA), sinon l'attention GQA est utilisée. Lors de la conversion d'un checkpoint multi-têtes en checkpoint GQA, chaque tête clé et valeur de groupe doit être construite en effectuant un meanpooling de toutes les têtes d'origine au sein de ce groupe. Pour plus de détails, consultez ce papier. S'il n'est pas spécifié, la valeur par défaut sera num_attention_heads.
  • hidden_act (str, facultatif, par défaut silu) — La fonction d'activation non linéaire (fonction ou chaîne de caractères) du décodeur. Par exemple, "gelu", "relu", "silu", etc.
  • max_position_embeddings (int, facultatif, par défaut 131072) — La longueur de séquence maximale avec laquelle ce modèle pourrait être utilisé.
  • initializer_range (float, facultatif, par défaut 0.006) — L'écart-type de la truncated_normal_initializer utilisé pour initialiser toutes les matrices de poids.
  • rms_norm_eps (float, facultatif, valeur par défaut 1e-06) — L'épsilon utilisé par les couches de normalisation rms.
  • use_cache (bool, facultatif, valeur par défaut True) — Indique si le modèle doit retourner les dernières attentions clés/valeurs (non utilisé par tous les modèles). N’est pertinent que si config.is_decoder=True ou si le modèle est un modèle génératif uniquement décodeur.
  • tie_word_embeddings (bool, facultatif, valeur par défaut False) — Indique s'il faut lier les embeddings de poids selon la correspondance tied_weights_keys du modèle.
  • rope_parameters (Union[~modeling_rope_utils.RopeParameters, dict], facultatif) — Dictionnaire contenant les paramètres de configuration pour les embeddings RoPE. Le dictionnaire doit contenir une valeur pour rope_theta et, le cas échéant, les paramètres utilisés pour le mise à l’échelle si vous souhaitez utiliser RoPE avec des max_position_embeddings plus longs.
  • attention_bias (bool, facultatif, par défaut False) — Indique s'il faut utiliser un biais dans les couches de projection des requêtes, des clés, des valeurs et de la sortie lors de l'auto-attention.
  • attention_dropout (Union[float, int], facultatif, valeur par défaut 0.0) — Le taux de dropout appliqué aux probabilités d'attention.
  • moe_intermediate_size (int, facultatif, par défaut 1024) — Taille intermédiaire des MLP des experts routés.
  • num_experts_per_tok (int, facultatif, valeur par défaut 6) — Nombre d'experts auxquels chaque jeton doit être routé. Il s'agit de la valeur top-k pour le routage par choix de jeton.
  • output_router_logits (bool, facultatif, par défaut False) — Indique si les logits du routeur doivent être renvoyés par le modèle. L’activation de cette option permet également au modèle de renvoyer la perte auxiliaire, incluant la perte d’équilibrage de charge et la perte z du routeur.
  • n_shared_experts (int, facultatif, par défaut 1) — Nombre d'experts partagés.
  • n_routed_experts (int, facultatif, par défaut 128) — Nombre d'experts routés.
  • routed_scaling_factor (float, facultatif, par défaut 2.5) — Facteur d'échelle des experts routés.
  • n_group (int, facultatif, valeur par défaut 1) — Nombre de groupes pour les experts routés.
  • topk_group (int, facultatif, valeur par défaut 1) — Nombre de groupes sélectionnés pour chaque jeton (pour chaque jeton, garantissant que les experts sélectionnés ne se trouvent que dans topk_group groupes).
  • first_k_dense_replace (int, facultatif, valeur par défaut 1) — Nombre de couches denses dans les couches superficielles (embed->dense->moe->moe…->lm_head). --k couches denses—/
  • norm_topk_prob (bool, facultatif, valeur par défaut True) — Indique s'il faut normaliser les poids des experts routés.
  • use_qk_norm (bool, facultatif, valeur par défaut True) — Indique s'il faut utiliser la normalisation des requêtes et des clés dans l'attention.
  • bos_token_id (int, facultatif) — Identifiant du jeton utilisé pour le début de flux dans le vocabulaire.
  • eos_token_id (Union[int, list[int]], facultatif, par défaut 1) — Identifiant du jeton utilisé pour la fin de flux dans le vocabulaire.
  • pad_token_id (int, facultatif, par défaut 0) — Identifiant du jeton utilisé pour le bourrage dans le vocabulaire.
  • num_mtp_layers (int, facultatif, valeur par défaut 0) — Nombre de modules de prédiction multi-tokens (MTP) disponibles à ajouter après le modèle transformer de base. Les points de contrôle publiés ne contiennent pas de poids MTP.
  • head_dim (int, facultatif, par défaut 64) — La dimension des têtes d'attention. Si None, elle est par défaut égale à hidden_size // num_attention_heads

Ceci est la classe de configuration destinée à stocker la configuration d'un Glm4MoeModel. Elle est utilisée pour instancier un modèle Sarvam Moe en fonction des arguments spécifiés, définissant ainsi l'architecture du modèle. L'instanciation d'une configuration avec les valeurs par défaut produira une configuration similaire à celle de sarvamai/sarvam-30b

Les objets de configuration héritent de PreTrainedConfig et peuvent être utilisés pour contrôler les sorties du modèle. Consultez la documentation de PreTrainedConfig pour plus d’informations.

Exemple :

>>> from transformers import AutoModelForCausalLM, SarvamMoEConfig

>>> # Initializing a Sarvam-30B style configuration
>>> configuration = SarvamMoEConfig()

>>> # Initializing a model (which uses the GLM-4-MoE implementation) from that configuration
>>> model = AutoModelForCausalLM.from_config(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config
Update on GitHub