Giao diện: TextGenerationStreamPrefillToken

Thuộc tính

id

• id: number

Token ID từ bộ phân từ của mô hình

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:23

---

logprob

• Optional logprob: number

Logprob Tùy chọn vì logprob của token đầu tiên không thể được tính toán

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:30

---

text

• text: string

Văn bản token

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:25

Update on GitHub