逐隻列出 AI 爬蟲是否被 robots.txt 擋住:4 隻影響分數與章,另 6 隻列 AEO+ 簽證頁,其他只列參考;並產出修正後的 robots.txt。
先免費檢測你的網站,再從護照頁進來使用這個工具。
這是 IDAEO 自己網站的實測數字,不是你的網站;用來說明各家爬蟲來讀之後,這段期間實際帶回了什麼。
期間:2026-09-28~2026-10-04(日本時間,7 天)。出處:Cloudflare 流量統計,取得時間 2026-10-05。 量測網站:idaeo.ai、washinmura.jp
這 7 天:已驗證的 AI 公司爬蟲讀取約 917,548 次,另有已驗證的搜尋引擎爬蟲(Googlebot、bingbot、Applebot)讀取約 616,412 次;從 AI 對話介面點回我們網站 35 次;從一般 Google/Bing 搜尋點回 18,239 次。
從 AI 對話點回的次數很少,只是這段期間觀測到的總數,不代表長期比例;一般搜尋點回的數量較多,同樣只代表這段期間。
| 平台 | 爬蟲(用途) | AI 公司爬蟲讀取(已驗證) | 搜尋引擎爬蟲讀取(已驗證) | 從 AI 對話點回 | 從一般搜尋點回 |
|---|---|---|---|---|---|
| OpenAI(ChatGPT) | ChatGPT-User, GPTBot, OAI-SearchBot(使用者即時讀取、訓練、搜尋) | 20,455 | — | 14 | — |
| Anthropic(Claude) | Claude-User, ClaudeBot(使用者即時讀取、訓練) | 469,249 | — | 1 | — |
| Googlebot, GoogleOther(搜尋、其他用途) | 5,839 | 217,109 | 9 | 15,345 | |
| Microsoft(Bing/Copilot) | bingbot(搜尋) | — | 275,410 | 4 | 2,894 |
| Perplexity | PerplexityBot(搜尋) | Cloudflare 尚未驗證,暫不列數字 | — | 7 | — |
| Meta AI | meta-externalagent(訓練) | 233,806 | — | 0 | — |
| Apple | Applebot(搜尋) | — | 123,893 | 無法量(沒有可辨識的來源網址) | — |
| Amazon | Amazonbot(訓練) | 187,558 | — | 無法量(沒有可辨識的來源網址) | — |
| 字節跳動(ByteDance) | Bytespider(訓練) | 612 | — | 無法量(沒有可辨識的來源網址) | — |
| DuckDuckGo | DuckAssistBot(使用者即時讀取) | 29 | — | 無法量(沒有可辨識的來源網址) | — |
訓練用爬蟲的讀取不會直接變成點擊;放行是讓 AI 有機會讀到你網站公開的資料。點回只是其中一種可以量到的結果。
所以我們的做法一律是放行:讓每一隻 AI 爬蟲都讀得到你的網站。
「已驗證」是 Cloudflare 判定的已驗證機器人;自稱同名但未驗證的讀取(包含我們自己檢測工具的探測)不列入。數字是 Cloudflare 的造訪估計值。點回只算帶有來源網址的點擊,App 內開啟等不帶來源的點擊算不到,實際可能更多。
「從一般搜尋點回」包含 Google、Bing 的搜尋結果頁,裡面可能也有 AI 摘要帶來的點擊,無法再拆開。