Easton Man's Channel
12 hours ago
属于CYY自己的世界
为什么我们的 AI 不说人话?
Telegraph
|
source
(author: Yangyu Chen)
Telegraph
为什么我们的 AI 不说人话?
最近尝试用 LLM 进行一些知识的学习,也会在博客记录一些学习的过程,但发现抛开代码后, LLM 的回答的用词有时候非常奇怪,甚至有些不符合人类的表达习惯。 原理 我们以 DeepSeek v4 Flash 为例,来看看它的模型结构,其他 Transformer 模型的结构也大同小异: flowchart TB IN(["input_ids"]) --> EMB["embed 输入词表<br/>129,280 × 4,096"] EMB --> BLK["Block × 43<br/>MLA 稀疏注意力…
Home
Powered by
BroadcastChannel
&
Sepia