ساخت فایل ربات (Robots.txt Generator)

پیشفرض - همه ربات ها:

تاخیر-خزیدن (Crawl-Delay):

نقشه سایت: (درصورتی که ندارید، خالی بگذارید)

ربات های جستجو:	Google
	Google Image
	Google Mobile
	MSN Search
	Yahoo
	Yahoo MM
	Yahoo Blogs
	Ask/Teoma
	GigaBlast
	DMOZ Checker
	Nutch
	Alexa/Wayback
	Baidu
	Naver
	MSN PicSearch

مسیر های موردنظر:	مسیر فولدرها و فایل ها نسبت به روت سایت وارد شوند و ابتدای آن حتما اسلش داشته باشد "/"

حالا یک فایل با نام robots.txt در مسیر اصلی سایت خود ایجاد کنید و محتوای فوق را در آن کپی نمایید.

درباره ما ساخت فایل ربات (Robots.txt Generator)

نحوه ایجاد فایل ‏Robots.txt داشتن فایل Robots.txt برای هر سایت لازم است. زمانی که یک موتور جستجو سایتی را بررسی می کند، اول فایل robots.txt را در سطح ریشه پیدا کرده و بعد از شناسایی آن، خزنده، فایل را خوانده و در آخر فایل ها و دایرکتوری هایی را که ممکن است مسدود شده باشند، پیدا می کند. به بیانی ساده فایل robots.txt اجازه بررسی سایت و صفحات را به ربات های موتورهای جستجو می دهد. با تایپ دستوراتی در این فایل متنی از دسترسی همه یا تعدادی از ربات های موتورهای جستجو برای بازدید و ایندکس سایت جلوگیری می گردد و یا با مشخص نمودن بخش های غیرضروری سایت، از لیست ایندکس توسط ربات ها خارج می شوند.