brouserdən yığanda robots.txt görsənir, chmodu dəyişsəm robotlar bunu görəcəkmi?
Wordpressdə isə belədir:
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Host: sizinsayt.az
Sitemap: http://sizinsayt.az/sitemap.xml.gz
Sitemap: http://sizinsayt.az/sitemap.xml
Əgər wordpress blog üçün sitemap(saytın xəritəsi) yaratmamısınızsa, onda son 2 sətri silin.
CHMOD 666 ver,vəssalam =\
Disallow: /senindirectory/
Deyerek istediyin directory'e botların girmesini engelleyebilersen.
Joomladaki default robots.txt beledir meselen
User-agent: *
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /images/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /xmlrpc/