|
- 在计算机领域token有多少种意思? - 知乎
int（关键字token） a（标识符token） =（操作符token） 1（数字token） ;（分隔符token） 就像把一句话拆分成一个个词语那样简单 AI NLP领域的token 这是最近特别被人熟知，即使是不学计算机的也肯定知道这个token是啥！ 在ChatGPT等大语言模型中，token就是文本的基本
- 【5分钟背八股】什么是 Token?什么是 JWT?如何基于Token进行身份验证？ - 知乎
Token是指一串代表某个用户身份信息的字符串。Token通常包含了用户的身份认证信息以及访问权限等相关信息，可以用于在不同的系统和服务之间进行身份验证和授权控制。 JWT（JSON Web Token）是一种基于Token的身份验证机制。它使用JSON格式对Token进行编码和解码，包含了用户的身份认证信息以及访问
- 大模型的token究竟是什么？ - 知乎
这些 token ID 接着被映射为高维的实数向量，也就是 embeddings（词嵌入向量）。 通常这些向量的维度可能是 512、1024 或更高。 这些嵌入向量能够捕捉 token 之间的语义关系：相似的 token 在向量空间中距离更近。 模型通过这些向量在高维空间中做运算、推理、生成
- 用transformer做视觉，具体是怎么把图片转成token的？ - 知乎
这些图像的token意义上等价于文本的token，都是原来信息的序列表示。 不同的是，文本的token是通过分词算法分到的subword，这些subword会被映射到字典的index；也就是说，文本的token是一个数字。 而图像的一个token（patch）是一个 16\times16\times3 的矩阵。
- 我国日均 Token 消耗量已突破 30 万亿，这是一个什么量级的概念？ - 知乎
假设咱们就把 30万亿 Token 数 当做 30万亿字数，来看看这是个什么规模的数据： 第 12 版《新华字典》总字数约 72 万字，日均 Token 消耗 30万亿，至少相当于 4166 万本 《新华字典》。
- NLP领域中的token和tokenization到底指的是什么？ - 知乎
Token对应着文本中的一个元素，通过Tokenization将文本划分成一个个的Token。 例如上面的图片，在句子 “We love NLP” 中， “We”、“love”、“NLP” 分别是三个Token。 而在中文的处理上，并不可以简单通过单词就区分开每个token。
- ChatGPT如何计算token数？ - 知乎
首先 OpenAI token 的计算包含两部分。 输入给 GPT 模型的 token 数和 GPT 模型生成文本的 token 数。 例如，你提问耗费了 100 token，GPT 根据你的输入，生成文本（也就是回答）了 200 token，那么一共消费的 token 数就是 300 。 那么 token 和字符是如何映射的呢，是什么关系
- 如何看待 Google 最新开源的 Gemma-3 系列大模型？ - 知乎
Gemma-3花了600多秒，估计是token超了，结果还处于死循环中，可以看到它对于数学和逻辑表现出的性能非常的差。 QwQ32B，干脆利落，直接解决了。 按现在的趋势来看，未来的天下是具有推理能力的模型，这样才在各种情况下具有一定的通用型。
|
|
|