← 返回行业动态

官网设计得很好看,但AI就是不抓取,怎么办?能怎么优化?

我见过太多企业主,花大价钱做官网,设计精美、交互流畅、动效丝滑。人类访问体验极好。但AI来抓取的时候,转身就走。

为什么?因为你的官网在AI眼里,是一个空壳。

什么是"空壳问题"?

现代官网为了交互体验,大量采用客户端渲染。页面初始加载时,HTML里只有一个空荡荡的容器,实际内容全靠浏览器执行JavaScript后"画"上去。

人类访问时,浏览器完成了渲染过程,所以看起来一切正常。但绝大多数AI爬虫不执行JavaScript,它们只抓取服务器返回的原始HTML,看到的是一个没有内容的空壳。

数据有多残酷?

在一项持续27天的抓取测试中,GPTBot和ClaudeBot对纯HTML页面的抓取覆盖率是100%。对依赖JavaScript渲染的页面,覆盖率是零。

Googlebot虽然具备渲染JS的能力,但对JS页面的抓取覆盖率也仅有2%。这意味着,即使你的官网在Google上排名很好,在AI搜索里也可能完全隐形。

谁在受影响?

所有用React、Vue、Angular等前端框架搭建的官网。所有依赖客户端渲染展示核心内容的网站。所有把公司介绍、产品参数、联系方式放在JS里动态加载的页面。

这不是技术选型的问题,是认知盲区的问题。你做了一个给人看的网站,但AI只有一双"文本眼"。

为什么企业主意识不到这个问题?

因为官网在人类访问时表现完全正常。你打开网站,一切都在,内容完整,体验流畅。你自然不会想到AI看到的是另一番景象。而且传统搜索引擎的排名数据也在正常反馈,Google收录正常,百度排名正常,一切指标都告诉你"网站没问题"。

但AI搜索是另一套体系。它不看你的人类访问体验,不看你的传统搜索排名,只看它自己抓到的原始HTML里有没有内容。没有内容,你就是隐形的。

空壳问题的本质是什么?

本质是"渲染时机"的错位。人类访问时,浏览器先拿到空壳HTML,再执行JS把内容画上去,整个过程几百毫秒,人类感知不到延迟。AI爬虫访问时,拿到空壳HTML后不会执行JS,直接开始解析,发现没有内容,转身就走。

这个错位在传统搜索时代被Googlebot的JS渲染能力弥补了。但AI爬虫没有这个能力,也不打算在短期内具备这个能力。因为对AI厂商来说,执行JS抓取的成本太高,而纯文本抓取已经能满足大部分需求。

空壳问题有多普遍?

我接触过的企业中,超过一半的官网存在这个问题。尤其是近五年新建的网站,几乎全部采用前端框架,全部依赖客户端渲染。这些网站在传统搜索里可能排名不错,但在AI搜索里全部隐形。

更麻烦的是,这个问题不会自己暴露。你的网站访问量正常,用户行为正常,传统搜索排名正常。没有任何数据告诉你"AI看不到你"。你只能主动去检查,才能发现这个问题。

空壳问题和内容质量的关系是什么?

空壳问题是"能不能被读到"的问题,内容质量是"读到了值不值得引用"的问题。两者是先后关系。空壳问题不解决,内容质量再好也没用,因为AI根本读不到。空壳问题解决了,内容质量才成为决定因素。

所以优先级很明确:先解决空壳问题,再优化内容质量。不要本末倒置,花大量时间写优质内容,结果AI根本看不到。

解法是什么?

确保核心信息以服务端渲染方式直接输出。让AI爬虫拿到的原始HTML里,就包含公司简介、产品参数、联系方式等关键内容。技术细节交给工程师,但企业主必须知道:这个问题的存在,决定了你的品牌在新一代用户决策入口里是否可见。

怎么验证解决效果?

解决后,用禁用JS的方式打开官网,如果能看到核心内容,说明服务端渲染生效了。再用查看源代码的方式确认,公司简介、产品参数、联系方式直接存在于原始HTML中。两个方法都通过,才算真正解决了空壳问题。



常见问题

什么是官网的"空壳问题"?

网站依赖前端框架渲染,初始HTML只有空容器,内容靠JS执行后加载。人类访问时浏览器完成渲染,看起来正常。AI爬虫不执行JS,拿到的是空壳,里面没有任何有效信息。这个现象就叫空壳问题,是AI时代官网隐形的主要原因之一。它不会自己暴露,传统搜索数据一切正常,问题被完全掩盖,只能主动检查才能发现。

哪些网站最容易出现空壳问题?

用React、Vue、Angular等前端框架搭建的官网,核心内容依赖客户端渲染的页面,都容易出现空壳问题。特别是那些追求交互体验、大量使用动态加载的网站。判断方法很简单:禁用JS后打开官网,如果看不到内容,就说明存在空壳问题。近五年新建的网站,几乎全部采用前端框架,几乎全部存在这个问题,只是严重程度不同。

空壳问题会导致什么后果?

AI爬虫抓取不到任何有效信息,你的官网在AI搜索里完全隐形。用户问AI相关问题时,你的品牌永远不会出现在答案里。而且这个隐形是静默的,你不会收到通知,不会看到报错,传统搜索数据也一切正常,问题被完全掩盖。短期看是AI搜索里没有你,长期看是品牌在新一代用户决策入口里彻底消失。

百度搜索引擎能抓到JS页面,为什么AI抓不到?

百度搜索引擎具备渲染JS的能力,会等待页面加载完成再抓取内容,为此投入了大量技术资源。AI爬虫不执行JS,只读取服务器返回的原始HTML,不等待动态加载。对AI厂商来说,执行JS抓取成本太高,纯文本抓取已能满足大部分需求。AI要的是信息,不是页面效果,你的动效和交互设计对AI毫无价值。

怎么解决网站空壳问题?

核心信息做服务端渲染,确保原始HTML里直接包含正文内容。辅以结构化数据标注,帮助AI准确识别信息类型。技术实现方式包括服务端渲染、静态站点生成、预渲染等。关键原则是:AI爬虫拿到的HTML里必须直接有内容,不能靠JS后加载。解决后要验证,禁用JS能看到内容,查看源代码能搜到核心信息,才算真正解决。