Usando PaddleNLP no Hugging Face

Aproveitando o framework PaddlePaddle, o PaddleNLP é uma biblioteca de NLP fácil de usar e poderosa, com um excelente zoológico de modelos pré-treinados, suportando uma ampla gama de tarefas de NLP, desde pesquisa até aplicações industriais.

Explorando o PaddleNLP no Hub

Você pode encontrar modelos do PaddleNLP filtrando à esquerda na página de modelos.

Todos os modelos no Hub vêm com os seguintes recursos:

1. Um cartão de modelo gerado automaticamente com uma breve descrição e tags de metadados que auxiliam na descoberta.
2. Um widget interativo que você pode usar para interagir com o modelo diretamente no navegador.

3. Um widget de Inference Providers que permite fazer solicitações de inferência.

4. Implante facilmente seu modelo como um aplicativo Gradio nos Spaces.

Instalação

Para começar, você pode seguir o PaddlePaddle Quick Start para instalar o PaddlePaddle Framework com seu sistema operacional, gerenciador de pacotes e plataforma de computação preferidos.

paddlenlp oferece uma instalação rápida em uma linha através do pip:

pip install -U paddlenlp

Usando modelos existentes

Assim como os modelos transformer, a biblioteca paddlenlp oferece uma linha simples para carregar modelos do Hugging Face Hub definindo from_hf_hub=True! Dependendo de como você deseja usá-los, pode usar a API de alto nível com a função Taskflow ou usar AutoModel e AutoTokenizer para ter mais controle.

# Taskflow provides a simple end-to-end capability and a more optimized experience for inference
from paddlenlp.transformers import Taskflow
taskflow = Taskflow("fill-mask", task_path="PaddlePaddle/ernie-1.0-base-zh", from_hf_hub=True)

# If you want more control, you will need to define the tokenizer and model.
from paddlenlp.transformers import AutoTokenizer, AutoModelForMaskedLM
tokenizer = AutoTokenizer.from_pretrained("PaddlePaddle/ernie-1.0-base-zh", from_hf_hub=True)
model = AutoModelForMaskedLM.from_pretrained("PaddlePaddle/ernie-1.0-base-zh", from_hf_hub=True)

Se você quiser ver como carregar um modelo específico, pode clicar em Use in paddlenlp e receber um trecho de código funcional para carregá-lo!

Compartilhando seus modelos

Você pode compartilhar seus modelos PaddleNLP usando o método save_to_hf_hub em todas as classes Model e Tokenizer.

from paddlenlp.transformers import AutoTokenizer, AutoModelForMaskedLM

tokenizer = AutoTokenizer.from_pretrained("PaddlePaddle/ernie-1.0-base-zh", from_hf_hub=True)
model = AutoModelForMaskedLM.from_pretrained("PaddlePaddle/ernie-1.0-base-zh", from_hf_hub=True)

tokenizer.save_to_hf_hub(repo_id="<my_org_name>/<my_repo_name>")
model.save_to_hf_hub(repo_id="<my_org_name>/<my_repo_name>")

Recursos adicionais

• Guia de instalação do PaddlePaddle guide.
• PaddleNLP Repositório no GitHub.
• PaddlePaddle no Hugging Face Hub