CitadexDocs

AI 流量:爬虫、引流、智能体与优化计划

AI 流量页的五个标签:概览、AI 引流、AI 爬虫(按用途、本周要处理的事、优化计划、给 AI 看的优化版)、智能体、数据接入(Google Analytics、网站脚本、Cloudflare、Vercel、WordPress、Next.js、Netlify)。

Visibility4 min read

它衡量什么

引用数据告诉你 AI 说了什么。AI 流量告诉你站点上发生了什么:哪些 AI 爬虫来读你的页面、读的时候有没有报错、哪些真人从 AI 回答点进来、AI 智能体能不能在你的网站上完成任务。这页只显示接入的数据,接好之前是空的。

标签

标签内容
概览全链路归因(出现在答案 → 页面被爬 → 真人引流 → 转化)、趋势、「谁只读内容,谁真正带来客户」
AI 引流从 ChatGPT、Perplexity、Gemini 等点进来的访客、落地页、转化
AI 爬虫按用途的结论、爬虫访问、报错页面、新文章抓取、优化计划、给 AI 看的优化版
智能体智能体就绪度监测和模拟智能体任务
数据接入接入 Google Analytics、网站脚本和爬虫日志

AI 爬虫:按用途

AI 公司的爬虫分三类,用途不同,处理方式也不同:

用途做什么例子
搜索AI 搜索建索引,决定 AI 回答能否找到并引用你OAI-SearchBot、PerplexityBot、Claude-SearchBot
用户触发用户在 AI 里让它打开你的网页ChatGPT-User、Perplexity-User、Claude-User
训练用于训练以后的模型GPTBot、ClaudeBot

「按用途」区块对每类给出结论:robots.txt 是允许、屏蔽还是部分屏蔽,加上真实访问次数和报错比例。搜索和用户触发被屏蔽会直接影响 AI 现在能不能引用你;训练类是否放行由你决定。

AI 流量 → 爬虫(按用途)

AI 流量 → 爬虫(按用途)

同一标签里还有:

  • 本周要处理的事。 按影响从大到小排列,处理完会自动消失,比如 robots.txt 屏蔽了搜索爬虫(「查看怎么修」)、页面给 AI 爬虫报错(「查看页面」)。
  • AI 抓取报错的页面。 报错码、次数、哪些爬虫;「复制给技术」生成一段可以直接发给开发的说明。
  • 新发布文章:AI 来抓了吗? 最近 60 天发布的文章、AI 第一次来抓的时间、抓取次数、是否被引用;还没被抓的可点「加快收录」。
  • 抓取 × 引用交叉表。 被抓取且被引用、被抓取但未被引用、被引用但近期未抓取。被抓却不被引用的页面可以点「去优化」。
  • 点任意页面打开页面抽屉,看这页的抓取、引用和来访。

优化计划

「优化计划」(AI 爬虫标签里打开)把要改的页面排好:

  • 本周计划:先处理最值得改的几页。每页标「只需改几处」或「需完整改写」;「改动清单」列出具体改哪里(现在 → 改成、新增的问答和结构化数据代码,可复制),改动清单不占文章额度;「完整改写」生成整页新版本,算一篇文章。改好后点「已改好,开始复测」。
  • 提示词分工:每个问题只让一个页面负责回答,可以手动更换负责页面;内容重复的页面会建议合并后 301 跳转。
  • 改动清单:所有生成过的清单。

AI 助手的「本周计划」会提前为最多 3 页准备好改动清单,见 每周计划。

给 AI 看的优化版

不方便改网站时,可以为某页生成「给 AI 看的优化版」:只有 AI 爬虫会看到优化版,访客、Google 和 Bing 看到的仍是原页面;内容和原页面一致,只是改成 AI 更容易读懂、更愿意引用的写法。可以「预览」对比原页面和优化版,打开「只给 AI 看」后,表格显示开启后的读取和引用变化。需要用数据接入里的 Cloudflare Worker、Next.js、Netlify 或 WordPress 接入。

智能体

智能体标签(付费套餐)每周一自动检查网站的智能体就绪度,记录历史曲线、新问题和已修好的项目,以及搜索和用户触发爬虫的报错率;分数下降 10 分以上或某项变成未通过时提醒。「模拟智能体任务」让一个只读的 AI 智能体在你的网站上尝试找价格、找商品、找退款政策、找询价表单等任务,记录完成情况、卡在第几步和原因。详见 智能体就绪度。

AI 流量 → 智能体

AI 流量 → 智能体

数据接入

每个项目有自己的接入密钥,「换一个密钥」后旧的立即失效。选一种或几种:

  • Google Analytics(转化):「授权 Google Analytics」后选媒体资源,无需代码。只有工作区所有者可以连接。
  • 网站追踪脚本:把一行代码贴进网站的 head,记录从 AI 点进来的访客;在转化点调用转化函数即可记录转化。没有 Google Analytics 的网站用它。
  • AI 爬虫监测(服务器日志):
  • Cloudflare:「直接连接(推荐)」填一个只读的 API Token 和 Zone ID,每小时自动拉取 AI 爬虫访问记录,不用部署 Worker;也可以用 Worker 转发。
  • Vercel:团队设置 → Drains 添加日志转发,目标地址填页面上的网址。
  • WordPress:下载插件,上传并启用。
  • Next.js、Netlify:把页面上的代码保存到项目里,重新部署。
  • 其他服务器:按页面示例把 AI 爬虫请求转发过来。

即使什么都不接入,爬虫表也会检查你的 robots.txt,标出被你拦截的 AI 引擎。想把漏斗继续到线索、商机和收入,用「收入归因」,见 收入归因。

告警

在设置 → 邮件通知 → 项目告警通知 打开「AI 流量异常(爬虫骤降、被拦截、报错增多)」,异常时按你选的频率发邮件或 Slack。

常见问题

被 AI 引用了,为什么没有带来访问? 多数 AI 回答不带链接,或用户不点。看概览的「谁只读内容,谁真正带来客户」:每带来 1 次访问需要的抓取越少,说明这家 AI 越会把读者带过来。

这和 Search Console 有关系吗? 没有。Search Console 用于发布后的收录通知和提示词导入;AI 流量是站点侧的数据。

Was this article helpful?