OAI-SearchBot 和 ChatGPT-User
當 ChatGPT 在網路上搜尋時,OAI-SearchBot 和 ChatGPT-User 擷取頁面——與訓練爬蟲 GPTBot 分開。
兩個機器人,兩個任務
OAI-SearchBot 為 ChatGPT 搜尋建立搜尋索引。當使用者在問題中明確要求或分享連結時,ChatGPT-User 會開啟頁面。兩者都為帶來源連結的引用答案提供基礎。
為什麼應允許它們
想在 ChatGPT 中作為來源出現的人,必須給這兩個機器人存取權限。僅針對 GPTBot 的封鎖不影響搜尋;針對「User-agent: *」的封鎖也影響 OAI-SearchBot。
robots.txt 規則
為最大可見性:為「User-agent: OAI-SearchBot」和「User-agent: ChatGPT-User」各設一個區塊,均帶「Allow: /」。用 Disallow 有針對性地排除敏感區域(登入、購物車、內部搜尋)。
測試可擷取性
citeglass 對 OAI-SearchBot 和 ChatGPT-User 分別檢查 robots.txt 是否允許它們,以及你的伺服器是否確實向它們提供內容——包括機器人防護儘管 robots.txt 允許仍封鎖它們的情況。
檢查你自己的網站
citeglass 約 30 秒內顯示你的網站在哪裡對 AI 系統不可讀 — 免費且無需登入。
繼續閱讀
一般資訊,不構成法律建議。GEO 是一個新興領域 — 建議可能會變化。