Alex's KB

Home

❯

Informatica

❯

Intelligenza artificiale

❯

Natural Language Processing

❯

Tokenization

❯

Sub word Tokenization

Sub-word Tokenization

17 feb 20261 minuto

  • nlp-pre-processing
  • tokenization
  • sub-word-tokenization

Definizione Di Sub-word Tokenization

Un tokenizzatore di questo tipo è diviso in due parti:

Metodi Di Sub-word Tokenization

  • Byte-Pair Encoding (BPE)
  • Unigram
  • WordPiece

Vista grafico

  • Definizione Di Sub-word Tokenization
  • Metodi Di Sub-word Tokenization

Link entranti

  • Byte-Pair Encoding (BPE)
  • Metodi di tokenizzazione

Creato con Quartz v4.5.2 © 2026

  • GitHub
  • LinkedIn