Transformers documentation
SarvamMoE
Ce modèle a été contribué à Hugging Face Transformers le 2026-11-20.
SarvamMoE
SarvamMoE est l’architecture de Sarvam-30B, un modèle de langage Mixture of Experts (MoE) de 30 milliards de paramètres développé par Sarvam AI. Sa version plus grande, Sarvam-105B, utilise SarvamMLA.
Caractéristiques architecturales clés :
- Grouped-query attention avec normalisation QK et embeddings de position rotatifs complets.
- Sparse Mixture of Experts : 128 experts routés avec 6 actifs par jeton, plus 1 expert partagé. La première couche utilise un MLP dense.
- Routing sigmoïde avec une correction de biais des experts et un facteur d'échelle routé.
L’architecture est identique à celle de GLM-4-MoE, avec des noms de paramètres et de configuration différents. Les classes auto le chargent avec l’implémentation GLM-4-MoE (Glm4MoeModel et Glm4MoeForCausalLM), de sorte que seul SarvamMoEConfig est spécifique à SarvamMoE. Les points de contrôle publiés sont convertis aux noms GLM-4-MoE lors du chargement et reconvertis lors de l’enregistrement.
L'exemple ci-dessous montre comment générer du texte avec la classe AutoModelForCausalLM.
from transformers import AutoModelForCausalLM, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("sarvamai/sarvam-30b")
model = AutoModelForCausalLM.from_pretrained("sarvamai/sarvam-30b", device_map="auto")
messages = [{"role": "user", "content": "Explain the Pythagorean theorem in one sentence."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt", return_dict=True)
output = model.generate(**inputs.to(model.device), max_new_tokens=64)
print(tokenizer.decode(output[0][inputs["input_ids"].shape[1] :], skip_special_tokens=True))SarvamMoEConfig
classe transformers.SarvamMoEConfig
< source >( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Nonevocab_size: int = 262144hidden_size: int = 4096intermediate_size: int = 8192num_hidden_layers: int = 19num_attention_heads: int = 64num_key_value_heads: int = 4hidden_act: str = 'silu'max_position_embeddings: int = 131072initializer_range: float = 0.006rms_norm_eps: float = 1e-06use_cache: bool = Truetie_word_embeddings: bool = Falserope_parameters: transformers.modeling_rope_utils.RopeParameters | dict | None = Noneattention_bias: bool = Falseattention_dropout: float | int = 0.0moe_intermediate_size: int = 1024num_experts_per_tok: int = 6output_router_logits: bool = Falsen_shared_experts: int = 1n_routed_experts: int = 128routed_scaling_factor: float = 2.5n_group: int = 1topk_group: int = 1first_k_dense_replace: int = 1norm_topk_prob: bool = Trueuse_qk_norm: bool = Truebos_token_id: int | None = Noneeos_token_id: int | list[int] | None = 1pad_token_id: int | None = 0num_mtp_layers: int = 0head_dim: int = 64 )
Paramètres
- vocab_size (
int, facultatif, par défaut262144) — Taille du vocabulaire du modèle. Définit le nombre de jetons différents qui peuvent être représentés par lesinput_ids. - hidden_size (
int, facultatif, par défaut4096) — Dimension des représentations cachées. - intermediate_size (
int, facultatif, par défaut8192) — Dimension des représentations du MLP. - num_hidden_layers (
int, facultatif, par défaut19) — Nombre de couches cachées dans le décodeur Transformer. - num_attention_heads (
int, facultatif, valeur par défaut64) — Nombre de têtes d'attention pour chaque couche d'attention du décodeur Transformer. - num_key_value_heads (
int, facultatif, valeur par défaut4) — Ceci est le nombre de têtes key_value à utiliser pour implémenter l'attention Grouped Query. Sinum_key_value_heads=num_attention_heads, le modèle utilisera l'attention Multi Head (MHA), sinum_key_value_heads=1le modèle utilisera l'attention Multi Query (MQA), sinon l'attention GQA est utilisée. Lors de la conversion d'un checkpoint multi-têtes en checkpoint GQA, chaque tête clé et valeur de groupe doit être construite en effectuant un meanpooling de toutes les têtes d'origine au sein de ce groupe. Pour plus de détails, consultez ce papier. S'il n'est pas spécifié, la valeur par défaut seranum_attention_heads. - hidden_act (
str, facultatif, par défautsilu) — La fonction d'activation non linéaire (fonction ou chaîne de caractères) du décodeur. Par exemple,"gelu","relu","silu", etc. - max_position_embeddings (
int, facultatif, par défaut131072) — La longueur de séquence maximale avec laquelle ce modèle pourrait être utilisé. - initializer_range (
float, facultatif, par défaut0.006) — L'écart-type de la truncated_normal_initializer utilisé pour initialiser toutes les matrices de poids. - rms_norm_eps (
float, facultatif, valeur par défaut1e-06) — L'épsilon utilisé par les couches de normalisation rms. - use_cache (
bool, facultatif, valeur par défautTrue) — Indique si le modèle doit retourner les dernières attentions clés/valeurs (non utilisé par tous les modèles). N’est pertinent que siconfig.is_decoder=Trueou si le modèle est un modèle génératif uniquement décodeur. - tie_word_embeddings (
bool, facultatif, valeur par défautFalse) — Indique s'il faut lier les embeddings de poids selon la correspondancetied_weights_keysdu modèle. - rope_parameters (
Union[~modeling_rope_utils.RopeParameters, dict], facultatif) — Dictionnaire contenant les paramètres de configuration pour les embeddings RoPE. Le dictionnaire doit contenir une valeur pourrope_thetaet, le cas échéant, les paramètres utilisés pour le mise à l’échelle si vous souhaitez utiliser RoPE avec desmax_position_embeddingsplus longs. - attention_bias (
bool, facultatif, par défautFalse) — Indique s'il faut utiliser un biais dans les couches de projection des requêtes, des clés, des valeurs et de la sortie lors de l'auto-attention. - attention_dropout (
Union[float, int], facultatif, valeur par défaut0.0) — Le taux de dropout appliqué aux probabilités d'attention. - moe_intermediate_size (
int, facultatif, par défaut1024) — Taille intermédiaire des MLP des experts routés. - num_experts_per_tok (
int, facultatif, valeur par défaut6) — Nombre d'experts auxquels chaque jeton doit être routé. Il s'agit de la valeur top-k pour le routage par choix de jeton. - output_router_logits (
bool, facultatif, par défautFalse) — Indique si les logits du routeur doivent être renvoyés par le modèle. L’activation de cette option permet également au modèle de renvoyer la perte auxiliaire, incluant la perte d’équilibrage de charge et la perte z du routeur. - n_shared_experts (
int, facultatif, par défaut1) — Nombre d'experts partagés. - n_routed_experts (
int, facultatif, par défaut128) — Nombre d'experts routés. - routed_scaling_factor (
float, facultatif, par défaut2.5) — Facteur d'échelle des experts routés. - n_group (
int, facultatif, valeur par défaut 1) — Nombre de groupes pour les experts routés. - topk_group (
int, facultatif, valeur par défaut1) — Nombre de groupes sélectionnés pour chaque jeton (pour chaque jeton, garantissant que les experts sélectionnés ne se trouvent que danstopk_groupgroupes). - first_k_dense_replace (
int, facultatif, valeur par défaut 1) — Nombre de couches denses dans les couches superficielles (embed->dense->moe->moe…->lm_head). --k couches denses—/ - norm_topk_prob (
bool, facultatif, valeur par défautTrue) — Indique s'il faut normaliser les poids des experts routés. - use_qk_norm (
bool, facultatif, valeur par défautTrue) — Indique s'il faut utiliser la normalisation des requêtes et des clés dans l'attention. - bos_token_id (
int, facultatif) — Identifiant du jeton utilisé pour le début de flux dans le vocabulaire. - eos_token_id (
Union[int, list[int]], facultatif, par défaut1) — Identifiant du jeton utilisé pour la fin de flux dans le vocabulaire. - pad_token_id (
int, facultatif, par défaut0) — Identifiant du jeton utilisé pour le bourrage dans le vocabulaire. - num_mtp_layers (
int, facultatif, valeur par défaut 0) — Nombre de modules de prédiction multi-tokens (MTP) disponibles à ajouter après le modèle transformer de base. Les points de contrôle publiés ne contiennent pas de poids MTP. - head_dim (
int, facultatif, par défaut64) — La dimension des têtes d'attention. Si None, elle est par défaut égale à hidden_size // num_attention_heads
Ceci est la classe de configuration destinée à stocker la configuration d'un Glm4MoeModel. Elle est utilisée pour instancier un modèle Sarvam Moe en fonction des arguments spécifiés, définissant ainsi l'architecture du modèle. L'instanciation d'une configuration avec les valeurs par défaut produira une configuration similaire à celle de sarvamai/sarvam-30b
Les objets de configuration héritent de PreTrainedConfig et peuvent être utilisés pour contrôler les sorties du modèle. Consultez la documentation de PreTrainedConfig pour plus d’informations.
Exemple :
>>> from transformers import AutoModelForCausalLM, SarvamMoEConfig
>>> # Initializing a Sarvam-30B style configuration
>>> configuration = SarvamMoEConfig()
>>> # Initializing a model (which uses the GLM-4-MoE implementation) from that configuration
>>> model = AutoModelForCausalLM.from_config(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config