标签: Byte Latent Transformer

All the articles with the tag "Byte Latent Transformer".

• 字节潜在 Transformer (BLT)，打破大型语言模型中的分词瓶颈

  Published:Dec 13, 2024 |  at 03:22 PM

  字节潜在 Transformer (BLT) 是一种新型架构，旨在克服大型语言模型 (LLMs) 中的分词瓶颈。传统 LLMs 依赖分词，将输入文本分割成子词单元，在 handling diverse or multilingual inputs 时限制灵活性和效率。BLT 通过直接处理原始字节序列消除分词，允许模型无缝处理任何文本输入格式。