แปลงฟรี

robots.txt เครื่องกำเนิดไฟฟ้า

สร้างไฟล์ robots.txt สำหรับเว็บไซต์ของคุณทันที เพิ่มกฎตัวแทนผู้ใช้ อนุญาต/ไม่อนุญาตเส้นทาง การรวบรวมข้อมูลล่าช้า และ URL แผนผังเว็บไซต์ โปรแกรมสร้าง robots.txt แบบเรียลไทม์ฟรี

เพิ่มกฎ

สร้าง robots.txt

เกี่ยวกับเครื่องมือนี้

robots.txt เป็นไฟล์ข้อความธรรมดาที่รากของเว็บไซต์ที่บอกโปรแกรมรวบรวมข้อมูลว่าตนอาจเข้าชมเส้นทางใดและควรหลีกเลี่ยงเส้นทางใด รูปแบบนี้เริ่มตั้งแต่ปี 1994 และได้รับการสนับสนุนจากเสิร์ชเอ็นจิ้นและโปรแกรมรวบรวมข้อมูลที่มีพฤติกรรมดีเกือบทุกตัว ไฟล์นี้เป็นคำแนะนำ — โปรแกรมรวบรวมข้อมูลที่เป็นอันตรายจะเพิกเฉย — แต่โปรแกรมรวบรวมข้อมูลที่ถูกต้องตามกฎหมาย (Google, Bing ฯลฯ) เคารพคำสั่งของมันอย่างน่าเชื่อถือ

การใช้งานทั่วไป: การบล็อกโปรแกรมรวบรวมข้อมูลจากพื้นที่ผู้ดูแลระบบ (/wp-admin/, /admin/) ยกเว้นพารามิเตอร์ URL การค้นหาแบบ faceted ที่สร้างเนื้อหาที่ซ้ำกัน การป้องกันการจัดทำดัชนีเส้นทางชั่วคราวหรือการพัฒนา การประกาศตำแหน่งแผนผังเว็บไซต์ และการอนุญาตตัวแทนผู้ใช้เฉพาะในขณะที่บล็อกผู้อื่น ไฟล์จะถูกอ่านเมื่อเริ่มต้นเซสชันการรวบรวมข้อมูลแต่ละครั้ง

ตัวสร้างนี้สร้าง robots.txt ที่ถูกต้องตามหลักไวยากรณ์จากอินพุตแบบฟอร์ม รูปแบบทั่วไป (อนุญาตทั้งหมด บล็อกทั้งหมด บล็อกเส้นทางเฉพาะ) เป็นเทมเพลต กฎที่กำหนดเองสามารถเพิ่มได้ต่อตัวแทนผู้ใช้ ผลลัพธ์จะไปที่ /robots.txt ของรูทไซต์ของคุณ

เหตุใดจึงต้องใช้เครื่องมือสร้าง robots.txt

robots.txt ที่เขียนด้วยลายมือมีแนวโน้มที่จะเกิดข้อผิดพลาด ข้อผิดพลาดทางไวยากรณ์ (การพิจารณาตัวพิมพ์เล็กและตัวพิมพ์ใหญ่ การจับคู่เส้นทางที่แน่นอน การเรียงลำดับกฎ) ทำให้เกิดพฤติกรรมที่ไม่ถูกต้อง โดยไม่ได้ตั้งใจ — เส้นทางที่คุณต้องการบล็อกยังคงถูกรวบรวมข้อมูล หรือเส้นทางที่คุณต้องการจัดทำดัชนีจะถูกแยกออก ตัวสร้างที่สร้างไวยากรณ์ที่ถูกต้องจะหลีกเลี่ยงข้อผิดพลาดเหล่านี้

robots.txt ยังมีการโต้ตอบที่ละเอียดอ่อนกับเครื่องมือ SEO อื่นๆ อีกด้วย การไม่อนุญาตเส้นทางใน robots.txt ไม่ได้ขัดขวางไม่ให้ปรากฏในผลการค้นหา (Google อาจจัดทำดัชนี URL โดยไม่รวบรวมข้อมูล) meta noindex กำหนดให้รวบรวมข้อมูลหน้าเว็บก่อน รู้ว่าเครื่องมือใดที่จะใช้สำหรับจุดประสงค์ที่สำคัญ เครื่องกำเนิดไฟฟ้าสามารถแนะนำคุณได้

วิธีใช้งาน

เลือกเทมเพลต ปรับแต่ง ปรับใช้

  1. เลือกเทมเพลตเริ่มต้น: อนุญาตทั้งหมด (ท่าทางการรวบรวมข้อมูลเริ่มต้น-ทุกอย่าง) บล็อกทั้งหมด (บล็อกทุกอย่างจากการจัดทำดัชนี) หรือกำหนดเอง (เริ่มจากกฎที่คุณระบุ)
  2. เพิ่มกฎตัวแทนผู้ใช้: ไม่อนุญาตให้ใช้เส้นทางเฉพาะสำหรับโปรแกรมรวบรวมข้อมูลทั้งหมด หรือสำหรับบ็อตที่ระบุชื่อ (Googlebot, Bingbot, GPTBot) แต่ละบล็อกตัวแทนผู้ใช้มีชุดคำสั่งอนุญาตและไม่อนุญาตของตัวเอง
  3. เพิ่ม URL แผนผังเว็บไซต์: รวม URL ที่สมบูรณ์ของแผนผังเว็บไซต์ XML ของคุณ โปรแกรมรวบรวมข้อมูลใช้สิ่งนี้เพื่อค้นหา URL ที่อาจพลาดไป
  4. บันทึกและปรับใช้: ดาวน์โหลดไฟล์ที่สร้างขึ้น อัปโหลดไปที่รากของโดเมนของคุณ (เพื่อให้ปรากฏที่ https://example.com/robots.txt) ยืนยันโดยไปที่ URL นั้นในเบราว์เซอร์

กรณีการใช้งานทั่วไป

รายละเอียดทางเทคนิค

รูปแบบ: User-agent: <name> ตามด้วยคำสั่ง Allow/Disallow * ตรงกับบอททั้งหมด ชื่อเฉพาะ (Googlebot, Bingbot) กำหนดเป้าหมายไปยังโปรแกรมรวบรวมข้อมูลเฉพาะ การบล็อก User-agent หลายรายการสามารถซ้อนกฎได้

ไม่อนุญาต: <path> บล็อกเส้นทางที่ขึ้นต้นด้วยคำนำหน้าที่กำหนด Disallow: / บล็อกทั้งไซต์ Disallow: /admin/ บล็อกทุกสิ่งภายใต้ /admin/ เรื่องสแลชต่อท้าย; ไม่อนุญาต: /admin (ไม่มีเครื่องหมายทับ) จะจับคู่ /administrator ด้วย

การรวบรวมข้อมูลล่าช้า (เป็นวินาที) ร้องขอให้รวบรวมข้อมูลช้าลง แผนผังไซต์ (URL สัมบูรณ์) ประกาศตำแหน่งแผนผังไซต์ของคุณ #เริ่มบรรทัดแสดงความคิดเห็น

แนวทางปฏิบัติที่ดีที่สุด

คำถามที่พบบ่อย

ฉันสามารถปรับแต่งเอาต์พุตที่สร้างขึ้นได้หรือไม่
ใช่. เครื่องมือนี้มีตัวเลือกการปรับแต่งที่หลากหลายเพื่อปรับแต่งผลลัพธ์ให้ตรงตามความต้องการเฉพาะของคุณ ปรับการตั้งค่าก่อนสร้างหรือสร้างใหม่ด้วยตัวเลือกต่างๆ
เนื้อหาที่สร้างขึ้นใช้งานได้ฟรีหรือไม่?
ใช่. ทุกสิ่งที่คุณสร้างด้วยเครื่องมือนี้เป็นของคุณเพื่อใช้เพื่อวัตถุประสงค์ส่วนตัว การศึกษา หรือเชิงพาณิชย์โดยไม่มีข้อจำกัดหรือข้อกำหนดการระบุแหล่งที่มา
สิ่งนี้จำเป็นต้องมีบัญชีหรือไม่?
ไม่ เครื่องมือนี้พร้อมใช้งานทันทีโดยไม่ต้องสมัคร ไม่มีอีเมล และไม่ต้องลงทะเบียน เพียงเปิดหน้าและเริ่มสร้าง
ข้อมูลอินพุตของฉันถูกเก็บไว้เป็นส่วนตัวหรือไม่?
ใช่. การประมวลผลทั้งหมดเกิดขึ้นในเบราว์เซอร์ของคุณ ข้อมูลอินพุตและเอาต์พุตที่สร้างขึ้นจะไม่ถูกส่งไปยังเซิร์ฟเวอร์ภายนอกใดๆ
ฉันจะบล็อคบอทตัวหนึ่งแต่อนุญาตบอทตัวอื่นได้อย่างไร?
แยกการบล็อก User-agent User-agent: BadBot ตามด้วย Disallow: / บล็อก BadBot User-agent: * พร้อมอนุญาต: / อนุญาตผู้อื่น
robots.txt คำนึงถึงตัวพิมพ์เล็กและตัวพิมพ์ใหญ่หรือไม่
การจับคู่เส้นทางคำนึงถึงตัวพิมพ์เล็กและตัวพิมพ์ใหญ่ Disallow: /Admin ไม่ตรงกับ /admin. จับคู่กรณีที่แท้จริงของ URL ของคุณ
การรวบรวมข้อมูลล่าช้าทำให้ Google ช้าลงจริงหรือ
Google ไม่ให้การรวบรวมข้อมูลล่าช้า โดยเป็นไปตามการตั้งค่าอัตราการรวบรวมข้อมูลใน Search Console โปรแกรมรวบรวมข้อมูลอื่นๆ (Bing, Yandex) เคารพการหน่วงเวลาการรวบรวมข้อมูล
ข้อมูลของฉันถูกอัปโหลดหรือไม่?
ไม่ การสร้างเกิดขึ้นในเบราว์เซอร์ของคุณ