Alex's KB

Home

❯

1 Cultura

❯

1.1 Informatica

❯

1.1.2 Intelligenza artificiale

❯

Natural Language Processing

❯

Tokenization

❯

Sub word Tokenization

Sub-word Tokenization

25 nov 20251 minuto

  • nlp-pre-processing
  • tokenization
  • sub-word-tokenization

Definizione Di Sub-word Tokenization

Un tokenizzatore di questo tipo è diviso in due parti:

Metodi Di Sub-word Tokenization

  • Byte-Pair Encoding (BPE)
  • Unigram
  • WordPiece

Vista grafico

  • Definizione Di Sub-word Tokenization
  • Metodi Di Sub-word Tokenization

Link entranti

  • Byte-Pair Encoding (BPE)
  • Metodi di tokenizzazione

Creato con Quartz v4.5.2 © 2025

  • GitHub
  • LinkedIn