robots.txt Penjana
Hasilkan fail robots.txt untuk tapak web anda serta-merta. Tambahkan peraturan ejen pengguna, benarkan/tidak benarkan laluan, lengah-rangkak dan URL peta laman. Penjana robots.txt masa nyata percuma.
Hasilkan fail robots.txt untuk tapak web anda serta-merta. Tambahkan peraturan ejen pengguna, benarkan/tidak benarkan laluan, lengah-rangkak dan URL peta laman. Penjana robots.txt masa nyata percuma.
robots.txt ialah fail teks biasa di akar tapak web yang memberitahu perangkak jalan yang boleh mereka lawati dan yang harus mereka elakkan. Format ini bertarikh pada 1994 dan disokong oleh hampir setiap enjin carian dan perangkak yang berkelakuan baik. Fail itu adalah nasihat — perangkak berniat jahat mengabaikannya — tetapi perangkak yang sah (Google, Bing, dll.) mematuhi arahannya dengan pasti.
Kegunaan biasa: menyekat perangkak dari kawasan pentadbir (/wp-admin/, /admin/), tidak termasuk parameter URL carian bermuka yang menghasilkan kandungan pendua, menghalang pengindeksan laluan pementasan atau pembangunan, mengisytiharkan lokasi peta laman dan membenarkan ejen pengguna tertentu semasa menyekat orang lain. Fail dibaca pada permulaan setiap sesi merangkak.
Penjana ini membina robots.txt yang betul secara sintaksis daripada input borang. Corak biasa (benarkan semua, sekat semua, sekat laluan tertentu) ialah templat; peraturan tersuai boleh ditambah bagi setiap ejen pengguna. Output pergi di /robots.txt akar tapak anda.
Robots.txt tulisan tangan mudah ralat. Kesilapan sintaks (kepekaan huruf besar, padanan laluan tepat, susunan peraturan) secara senyap menghasilkan gelagat yang salah — laluan yang anda ingin sekat kekal dirangkak atau laluan yang anda mahu diindeks dikecualikan. Penjana yang menghasilkan sintaks yang betul mengelakkan perangkap ini.
robots.txt juga mempunyai interaksi halus dengan alat SEO lain. Tidak membenarkan laluan dalam robots.txt tidak menghalangnya daripada muncul dalam hasil carian (Google mungkin mengindeks URL tanpa merangkaknya); meta noindex memerlukan halaman dirangkak terlebih dahulu. Mengetahui alat mana yang hendak digunakan untuk tujuan yang penting; penjana boleh membimbing anda.
Pilih templat, sesuaikan, gunakan.
Format: Ejen pengguna: <nama> diikuti dengan arahan Benarkan/Tidak Benar. * sepadan dengan semua bot. Nama khusus (Googlebot, Bingbot) menyasarkan perangkak tertentu. Berbilang blok ejen Pengguna boleh menyusun peraturan.
Larang: <path> menyekat laluan bermula dengan awalan yang diberikan. Disallow: / menyekat keseluruhan tapak. Disallow: /admin/ menyekat apa sahaja di bawah /admin/. Perkara tebas mengekori; Disallow: /admin (tiada slash) juga sepadan dengan /administrator.
Lengah-rangkak (dalam saat) meminta rangkak yang lebih perlahan. Peta laman (URL mutlak) mengisytiharkan lokasi peta laman anda. # memulakan baris ulasan.