TRL documentation

MergeModelCallback

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MergeModelCallback

classe trl.experimental.merge_model_callback.MergeModelCallback

< >

( merge_config: MergeConfig | None = Nonemerge_at_every_checkpoint: bool = Falsepush_to_hub: bool = False )

Parâmetros

  • merge_config (experimental.merge_model_callback.MergeConfig, opcional) — Configuração usada para o processo de mesclagem. Se não for fornecida, a configuração padrão MergeConfig é utilizada.
  • merge_at_every_checkpoint (bool, opcional, padrão False) — Se o modelo deve ser mesclado a cada checkpoint.
  • push_to_hub (bool, opcional, padrão False) — Se deve enviar o modelo mesclado para o Hub após a mesclagem.

Um TrainerCallback que mescla o modelo de política (o modelo em treinamento) com outro modelo com base em uma configuração de mesclagem.

Exemplo:

>>> from trl.experimental.merge_model_callback import MergeConfig, MergeModelCallback

>>> config = MergeConfig()
>>> merge_callback = MergeModelCallback(config)
>>> trainer = DPOTrainer(..., callbacks=[merge_callback])
Update on GitHub