书名:一本书读懂Token : 看透AI时代的底层逻辑
ISBN:978-7-115-70122-0
本书由人民邮电出版社发行数字版。版权所有,侵权必究。
您购买的人民邮电出版社电子书仅供您个人使用,未经授权,不得以任何方式复制和传播本书内容。
我们愿意相信读者具有这样的良知和觉悟,与我们共同保护知识产权。
如果购买者有侵权行为,我们可能对该用户实施包括但不限于关闭该帐号等维权措施,并可能追究法律责任。
著 包 坤
责任编辑 贾 静
人民邮电出版社出版发行 北京市丰台区成寿寺路11号
邮编 100164 电子邮件 315@ptpress.com.cn
网址 http://www.ptpress.com.cn
读者服务热线:(010)81055410
反盗版热线:(010)81055315
本书从普通用户使用AI时最直接的付费困惑出发,系统介绍AI时代的计费与计量单位——Token(中文译名“词元”),旨在帮助读者建立Token思维,更准确地理解AI能力、成本与价值之间的关系,从而更高效地使用AI。
全书共10章。第1~3章梳理Token从行业术语演变为大众常识的背景,剖析AI公司的商业模式;第4~5章聚焦个体与工具的关系,分析用户价值体验产生差异的根本原因;第6~8章分别针对上班族、家长及企业主三大核心群体,探讨AI时代如何重新定价专业工作、如何培养孩子的AI素养,以及如何算清企业AI投入的成本与回报;第9~10章从认知上升到行动,提供任务筛选、会员选购、回报测算、无效消耗规避等一整套务实策略。
科技的进化与商业的变革息息相关。本书从Token(中文译名为“词元”)的基本逻辑到其在商业、工作与教育中的实际影响等维度构建了清晰的Token知识框架,帮助读者在高速发展的时代中理解并顺应AI驱动的效率变革。
刘润 润米咨询创始人
这是一本帮助普通人理解下一轮财富分配、产业重构与能力重估逻辑的书。
过去二十年,我们见证了流量如何变革商业。未来十年,Token将重新定义效率以及组织与个人的竞争力。这个过程中真正重要的,不是学会使用几个AI工具,而是顺应一个趋势:当智能能力可以被调用、被计量、被定价时,个人、企业和社会的价值坐标将被重新定位。本书用普通人能看懂的语言,围绕一个看似技术层面的术语,展开了一场关乎未来大课题的探讨。
赵晓光 天风证券副总裁、研究所所长,
新财富“白金分析师”“杰出研究领袖”
本书的价值在于帮助普通读者建立理解AI时代的新坐标。包坤博士从工作、教育与日常生活的真实场景出发,把Token这个术语演绎为公众能够理解的效率问题、成本问题和能力问题。他提醒我们,AI带来的不只是工具升级,更是计量方式、组织方式与竞争逻辑的变革。
这是一本兼具现实感、解释力与前瞻性的通识书,推荐给每一位正在使用或即将使用AI工具的人。
严骏驰 上海交通大学人工智能学院教授,
国际模式识别学会会士
很多人第一次真切感受到AI带来的冲击,是在一个个极其普通的日常场景中:上班族为了赶第二天的汇报,把杂乱的会议纪要丢给AI,让它“整理成三段,语言风格正式点”;家长看着写作文没思路的孩子,顺手打开AI工具让孩子把已有想法告诉AI,然后让AI“帮忙列个提纲”;中小企业主深夜还在为了拿下一个订单对着计算机“死磕”数百页的招标文件,或者为了省点设计费自己抠图、改海报、写产品说明书,于是开始尝试用AI帮自己梳理标书重点,生成文案。
在刚开始使用时,大家觉得AI只是个更聪明、更省时间的工具。但用得越久,或许越会产生困惑:为什么有的AI工具在前几轮用起来感觉很聪明,聊久了就开始“变笨”?为什么有的AI工具会员服务看着定价不高,用起来却受到上下文长度、调用频率或功能权限等多种限制?为什么让AI辅助写作一篇长报告,其成本会比想象中高得多?
这些困惑背后,隐藏着一个易被大多数普通人忽视,却正在悄悄改写世界规则的概念——Token(中文译名为“词元”)。简单来说,Token是AI处理信息的最小单位,它就像乐高积木块一样,可以被拆解、被组合、被计量。
过去,Token只是工程师才需要关注的计量单位,就像我们用电时不需要知道是如何计量电费的。但当AI从“偶尔回答问题”变成“持续帮你干活”的工具,当模型公司开始按输入Token、输出Token和上下文Token来计费时,Token就不再只是一个技术领域的术语,它变成了AI时代的一个新的计量单位。这就好比工时定义了工业时代,流量定义了互联网时代,而Token正在定义智能时代,让原本抽象的智能能力,第一次变得可计量,可预算,可比较。
你的每一次对话、每一个结果生成,在深层逻辑里,都意味着你的需求被翻译成机器能处理的最小单位,并进入了一套全新的经济系统。这套系统,正在悄悄改变我们的工作方式、教育模式,甚至每个人的竞争力。
本书旨在帮你理解Token这个新的计量单位。它不是一本写给工程师的技术手册,也不会堆砌晦涩的行业术语,而是尝试从你已经感受到、却还没来得及理解清楚的使用场景出发,回答那些最现实的问题:为什么同样的一个问题,AI的响应速度有时快有时慢,AI回复的成本有时高有时低?为什么老板们真正关心的,已经不是要不要用AI,而是应该买人力、买软件,还是买Token?
本书写给在写字楼里写各种报告的上班族,写给陪孩子学习、做规划的家长,写给有业务压力的中小企业主,也写给用AI辅助创作的内容创作者,以及所有隐约感觉到“世界规则正在变,但我还没想明白它变在哪”的普通人。
如果本书能帮你建立一种清晰的认知——AI每一次生成背后,都有一种正在被组织、被出售、被管理的智能能力在支撑——那么,你就真正开始进入AI时代了。
本书会按章节一步步拆解这个新世界:从Token到底是什么,到模型公司到底在售卖什么;从智能体如何改变工作流,到工作、教育、企业决策中正在发生的变化;最后,回到普通人应怎样建立自己的Token思维,把AI变成稳定的杠杆。
一个时代真正的变革,往往不是源于某项技术被发明,而是越来越多的普通人开始在不知不觉间为它付费,用它工作,靠它生活。
这,就是本书要带来的内容。
包坤

很多人第一次真正接触Token,并不是在读技术文章时,也不是在听政策解读时,而是在自己的日常生活里:注册了一个AI工具的会员,想让它帮自己写周报、修改汇报材料、阅读并总结PDF文件;给孩子充值了一个AI工具用来练习口语或辅助写作,发现有的功能能用,有的功能还要升级;做自媒体或创业做小生意时,想让AI帮自己整理资料、生成脚本、自动回复客户,结果发现“随便聊聊”和“让它持续干活”完全不是一回事。
大多数人以为自己买的是一个“更聪明的聊天工具”,但实际上,他们已经悄悄进入了一套新的计价体系。
本章并不会从技术角度详细介绍Token的定义,而重点在于回答一个更贴近你我的问题:为什么这样一个原本属于程序员和模型工程师的术语,会突然和上班族、学生家长、内容创作者、创业者的日常生活和工作发生关联?
显然,并不是大家突然开始热爱技术了,而在于人工智能(Artificial Intelligence,AI)已经从“看起来很厉害”走向“真的在帮我们干活”,而且AI一旦进入工作流、进入账单、进入采购、进入家庭教育和个人效率系统,Token就会从后台参数,变成普通人必须面对的现实。
先看3类很典型的场景。
第一类场景是职场办公。一位在国内大型企业或外企工作的职员,起初只是偶尔用AI润色邮件、撰写周报、拟定标题,后来逐渐发展为让它整理会议纪要、阅读长篇PDF文件、提炼客户需求、修改PPT结构,甚至融合多份材料的内容以形成方案初稿。
起初,他以为自己只是订阅了一项会员服务,购买的不过是“一种更智能的辅助写作能力”,但随着使用的深入逐渐发现,真正拉开体验差距的,并不仅仅是模型是否足够智能,更在于它能否处理更长的材料、记忆更长的上下文、调用更多的工具,并连续完成更复杂的任务。
第二类场景是家庭教育。近年来,不少家长已开始为孩子购买AI写作、AI口语、AI答疑、AI练习等各类工具。其初衷很简单:为孩子提供一个额外的练习伙伴,一个可以随时发起提问的智能助手,而不是为了替代老师和家教。
在使用过程中,许多家长会产生一些疑问:为什么一些产品像是“闲聊”工具,而另一些产品却明显更像一个真正懂得辅导、善于追问,并能记住孩子薄弱环节的学习伙伴?为什么用一些AI工具处理长文批改、连续对话、图片识别或文档分析等复杂任务的时候,我们需要支付额外的费用(如升级套餐)?
第三类场景是自媒体运营(包括在办公室里的管理场景)。一位运营视频号的创作者,起初只是用AI辅助拟定标题、润色文案、搭建内容框架和提纲,后来逐渐会用它整理采访资料、拆解爆款文案结构、解读新闻、生成分镜脚本、修改口播稿。一位小微企业主,起初可能只是用AI辅助起草招聘启事、回复客户咨询,后来则会用它帮忙整理知识库、生成标准作业程序、自动解答高频问题,甚至协助完成部分内部协同工作。此时,AI的定位已不再是“陪你聊几句”的工具,而是逐渐演变为一台被期望能持续运转、不断产出成果的智能机器。
上班族、学生家长和内容创作者/小微企业主使用AI的场景对比如表1-1所示。
表1-1 3类角色使用AI的场景对比
| 用户类型 |
最初目的 |
使用后目标的变化 |
真正购买的东西 |
|---|---|---|---|
| 上班族 |
润色邮件、撰写周报、拟定标题 |
整理会议纪要、阅读长篇PDF文件、提炼客户需求、修改PPT结构,整理多份材料并生成方案初稿 |
更长上下文、更强调用能力、更强任务处理 |
| 学生家长 |
口语陪练、写作辅助、作业答疑 |
开始要求批改长文、看图理解、连续追问和个性化辅导 |
更深的理解能力、更多输出、更强记忆与持续辅导能力 |
| 内容创作者/小微企业主 |
拟定标题、润色文案、搭建内容框架和提纲 |
整理采访资料、拆解爆款文案结构、解读新闻、生成分镜脚本、修改口播稿,整理知识库、生成标准作业程序、自动解答高频问题等 |
从单次回答到持续干活的智能调用能力 |
这3类场景看似差别很大,但其背后揭示的是同一个逻辑:普通用户并非是通过“理解Token”进入Token时代的,而是先使用AI、为AI付费、对AI产生依赖,才逐步被卷入这套全新的计价体系的。换言之,许多人尚未完全理解Token为何物,便已开始为其买单了。
在很长一段时间里,我们这些普通用户其实并不需要关心Token。因为在那个阶段,它仅仅是技术后台中的一个计量单位,属于工程师、开发者及模型公司财务报表中的概念。
我们使用AI时,只关心它是否好用、处理速度够不够快、结果是否符合预期。就像我们刷短视频时不会去思考背后传输了多少数据包,使用导航软件时不会去计算发送定位请求的刷新频率一样,技术世界所采用的底层单位通常不会自动进入大众视野。
然而,一个概念一旦开始与价格发生关联,就很难继续隐于幕后。过去,很多人购买AI会员服务时,感受是很直观的:每月支付几十元或十几、二十美元,换来一个“比以前更聪明的工具”,听起来物有所值。但随着使用的逐步深入,问题便显现出来:为什么有的模型响应快,但理解深度不足;有的模型准确度高,但使用次数受限?为什么深度研究、阅读长文档、联网搜索、多轮连续推理分析等听上去很自然的需求,一旦要求AI真正执行,其成本和使用门槛立刻就变高?
很多人真正意识到Token的存在,并非始于有人告诉他“这是一个重要的技术概念”,而是在使用体验中感受到了差异:同样是提问,即兴发问与让它认真处理一堆材料,成本不同;同样是写作,简单修改一句与让它参考十页资料重写整篇,成本不同;同样是充值一个会员服务,是否能长期记忆上下文、读取附件、调用工具,背后其实对应着不同层级的智能消耗。你不需要理解技术细节,但会越来越强烈地感觉到:自己不是在和一个免费的聊天机器人随意对话,而是在调动一台有成本结构、有能力分层、有资源消耗的后台机器。
这正是Token从幕后走向台前的第一步。它备受关注并非因为它突然出现变得神秘,而是因为它第一次被普通人感知为“一个与金钱挂钩的变量”。在任何时代,只要一个概念开始出现于套餐、账单、会员分层、企业采购和个人预算,它就注定不再只是专业人士小圈子内的语言。
很多人对于AI付费会陷入一个典型的认知误区:认为自己购买的是像Office、剪映或某个传统SaaS等那样的工具,交了月费,就拥有了“使用权”。实际上AI与传统软件有一个本质区别:它不是一个静态的工具,而是一段持续发生的计算过程。你每输入一句话、上传一张图、附上一份PDF文件、要求它联网搜索一次、让它反复推理几轮等,后台都需要进行额外的计算与处理。也就是说,你买的不是一个放在桌面上的静态软件,而是一段段持续被调用、被执行、被消耗的智能处理能力。
这听上去抽象,但放回普通人的体验里,其实非常直观。一个上班族让AI辅助撰写一封邮件,系统很快会给出一个像样的答案,这看起来像“一次低成本的调用”。可是如果他接着要求把这封邮件改造成可以给客户看的版本,再参考他上传的3页会议纪要,把里面的风险点提出来,并给出一个适用于向老板汇报的提纲,那么,此时这个上班族要求的,已经不只是简单的文本生成,而是一整段更长、更复杂的推理与处理过程。
学生家长也是一样。让AI完成给孩子讲解一道题,与连续批改一篇作文、指出逻辑漏洞、参考孩子前几次的错误原因给出针对性建议等任务所调用的是不同层级的能力。
内容创作者的需求层级差异更为明显。让AI完成起草10个爆款文章标题,与先读几篇新闻、提炼共识、抓住冲突点、改成符合创作者风格的口播稿,再输出一版适合创作者账号调性的脚本,这两种任务所需消耗的资源也绝非一个数量级。
普通人真正需要理解的是,为什么自己只是多提了几个要求,背后的处理成本却会陡然增加。
如果能够理解其中的缘由,你对Token的理解就不会停留在它是技术后台中的一个计量单位。Token之所以会走红,底层原因不是被炒作,而是越来越多用户在实际体验中发现:原来我买的不是一种笼统的会员服务,而是一种有强弱、有深浅、有层级差异的智能处理能力。
如果说,价格让普通人开始意识到后台机器的存在,那么AI Agent(智能体)则让这种后台机器第一次“显形”了。
在聊天机器人(ChatBot)时代,AI给人的感受主要是“会说”。你问一句,它答一句;你给一个开头,它往下续写;你要一版提纲,它帮你组织内容。在这个阶段,很多人虽然已经在用AI,但本质上仍然把它看作一个会表达、会模仿、会概括的助手。
OpenClaw这类智能体之所以引起巨大反响,恰恰因为它把一种全新的AI体验推到了台前:AI不再只是回答你的问题,而是在读文件、查网页、调工具、拆任务、连续做事。你看着它一步步处理任务,就会明白,原来AI不是凭空生成结果,而是在持续消耗某种资源,将不同环节串联起来,让工作一点点往前推进。这种体验和聊天完全不同,聊天是“问一句,答一句”;智能体则是“我给你一个目标,你替我把完成目标的过程跑起来”。
对普通人来说,OpenClaw的意义不在于是否真的会去使用它,而在于它第一次把一个原本隐藏在技术后台的事实,以人人都能感知的方式暴露了出来:AI越像一个真正会干活的助手,它能提供的就越不只是几句回答,而是整个行动链。这个时候,Token的角色也随之改变。过去Token更像是说话成本,现在开始变成办事成本;过去Token主要对应输入和输出,现在越来越多地对应读取、理解、记忆、调用和执行。
也正因如此,OpenClaw这股热潮才会被很多人视作一个分水岭。它不只是告知大家“又来了一个新工具”,而是在提醒所有普通用户:AI的下一阶段,不只是会聊天,而是会持续做事。一旦AI从“说”走向“做”,Token这个词就再也不可能只属于工程师了,因为它开始和你真正想让AI完成的任务深度绑定。
| 小栏|为什么OpenClaw会让普通人第一次真正注意到Token? 在大模型爆发早期,普通人感受到的只是“问一句、答一句”,因此很难意识到后台到底消耗了什么。OpenClaw这类智能体让用户第一次真切感受到:AI正在执行读文件、查资料、调工具、连着执行多个步骤。当AI开始“持续干活”而不是“单次回答”时,Token才第一次从抽象的技术计费项,变成用户能直观感受到的“燃料”。 |
从聊天机器人到智能体,普通人的感受对比如表1-2所示。
表1-2 普通人感受到的变化
| 对比维度 |
聊天机器人 |
智能体 |
普通人的感受 |
|---|---|---|---|
| AI在做什么 |
回答问题、续写、概括 |
读文件、查网页、调工具、执行任务 |
后者更像一个会持续干活的助手 |
| Token更像什么 |
语言处理成本 |
行动“燃料”与任务推进成本 |
不是多说几句,而是多做几步 |
| 用户最常见的动作 |
提问、润色、翻译、摘要 |
上传附件、发出连续指令、跨工具处理 |
使用门槛和体验差距开始拉大 |
| 价值体现 |
提升表达效率 |
进入真实工作流 |
AI从玩具变成生产力工具 |
很多人会问:一个英文词有了官方给出的中文译名,真的有那么重要吗?答案是肯定的。其重要性并不在于“官方定义”本身,而在于这标志着这个概念已经准备进入公共语言系统。
过去大家谈论Token时,更像是在借用技术圈内部的一个术语;而“词元”这个译名一经提出并开始被广泛接受,就意味着这个概念不再只属于程序员、开发者和模型公司,它正准备进入媒体、出版、教育、企业管理和普通人的认知框架。
因此,这件事真正值得注意的地方,不是文件本身,而是它背后的信号:AI的很多底层概念,正在从行业术语变成常识。一旦一个概念进入公共语言系统,就会引发连锁反应,媒体更容易报道它,老师更容易讲解它,企业更容易据此做预算,普通用户也更容易将它与自己的日常经验关联起来。
正因如此,给出“词元”这个译名其实是在帮普通人跨过一道门槛——你不必先学会编程,才能使用AI工具处理复杂任务,并开始理解自己在为何而付费,为什么有些AI功能更贵,为什么有些看似普通的使用需求背后其实对应着更复杂的消耗。
所以,政策和官方命名正是在帮普通人确认——原来我最近遇到的AI会员分层、长文档限制、深度功能收费、智能体热潮,并不是零散的事件,而是被越来越多的人共同感知、共同参与的一种新趋势。
硅谷的科技公司内部,最近围绕Token的讨论十分热烈,如Tokenmaxxing、内部排行榜、Token Budget(Token预算)、用Token预算衡量工程师效率……这当然是一个极具象征意味的现象,说明企业已不再把AI当作“好玩的新玩具”,而是开始将其视为可被预算、可被比较、可被组织起来的新生产力资源。
对本书的目标读者而言,更重要的不是追踪硅谷在讨论什么,而是要理解,你所在的公司、团队乃至所采用的工作方式,也迟早会面临同样的转型。
过去,团队购买软件时通常按所加装的席位、账号或年费计算,但购买AI工具则不同,差异并不在于有没有加装,而在于你到底怎么用、用得有多深、能替你干多少事。公司给员工统一配置AI工具,看似只是新增了一项办公福利,可一旦员工开始用它读合同、看报告、写方案、整理客户信息、调用内部知识库等,问题立刻就从装没装变成了值不值。为什么有些人越用越高效,有些人却越用越忙?我们花了钱,换来的是噱头,还是实打实的结果?
因此,硅谷案例的意义不在于制造距离感,而在于说明一件迟早会发生在更多组织里的事:当AI从工具变成基础设施加以投入,管理者一定会试图寻找一种新的度量衡来衡量调动智能的能力。你未必会真的看到自己公司的Token仪表盘,但很可能会更早地感受到一种变化:善用AI且能将其用在刀刃上的人,开始比只会埋头硬干的人更快更好地完成工作。
换句话说,硅谷只是在这个事件上表现得更极致,但这并非硅谷人的专属问题,而是正悄悄蔓延到普通公司的办公现场。它不一定叫Token Budget,也不一定叫Tokenmaxxing,而是可以更熟悉的形式显现:同样使用AI,有的人产出翻倍,有的人却只是把杂乱无章的结果重新加工;有的团队觉得AI“真香”,有的团队却觉得“买了也没用”;有的人觉得AI让自己更省时间,有的人却觉得自己被更多的信息和选择搞得更累。
再往前看一步,Token带来的真正变化,不仅是收费方式的改变,更是角色与分工方式的重构。
过去,一个人的价值很大程度上取决于他“会不会做”某件事;未来,一个人的价值可能越来越取决于他“能不能借助AI,把同一件事所产生的效果放大数十倍、百倍”。过去,团队的效率取决于人数、流程和协作;未来,团队的效率则可能越来越取决于是否能把最有价值的人类判断力用在真正值得由人判断的地方,而把大量标准化、重复性、信息搬运型、流程衔接型的工作交给AI去执行。
很多人觉得Token离自己很远,是因为他们将其视为一个技术领域的术语,而非一个正在悄悄改写日常生活的新计量单位。事实上,只要你开始用AI写邮件、做总结、练口语、阅读PDF文件、整理脚本、搭建知识库、生成方案、跑工作流等,你就已经进入了Token时代。你不需要先知道这个词,恰恰相反,大多数人是先被卷进来,才发现原来背后还有这样一个词。
Token真正改变的,不是少数技术精英的讨论方式,而是上班族的工作模式、学生家长的教育投入、内容创作者的内容生产,以及小老板的经营账。它之所以变得重要,不是因为大家突然爱上了技术,而是因为AI正从看起来很厉害变成真的在替人干活。
一旦AI真的开始替人干活,人们就一定会追问:它到底消耗了什么?产生了多少价值?为什么有些能力贵,有些能力便宜?为什么有些人能借助它提高工作效率,有些人却更焦虑?
说到底,Token之所以会“火”起来,不是一个热词的偶然爆红,而是到了一个人们开始学会给自己买的智能算账的时代。只是这个“账”最开始不出现在政策文件里,也不出现在硅谷饭桌上,而是出现在我们自己的办公桌、家庭教育、内容生产和小生意经营里。等意识到这一点时,其实你已经身居这场变化之中了。
至此,其实只回答了一个问题:为什么Token会突然与普通人的日常生活和工作发生关联。我们尚未触及更本质也更基础的问题:Token到底是什么?为什么它既不是严格意义上的“字”,也不等同于“单词”?为什么同样意思的一句话,中文与英文的Token消耗量不同?为什么一张图片、一份PDF文档、一段代码,乃至一段超长的上下文,都会改变Token的计算逻辑?
一个时代或许可以先在日常生活里被感知,但如果要真正看懂它如何重塑工作、财富与效率,终究还得回归其底层的工作机制。
下一章,我们就来深入拆解,看看机器究竟是如何将世界切分为一个个“词元”的。