Help - robot.txt

12
kuffa
На сайте с 09.01.2008
Offline
120
822

Скажите, так правильно robot.txt прописан, чтобы определить основной сайт для яндекса и для гугла? В смысле, в правильном ли месте относительно основного кода стоит User-agent: Yandex и Host: mysite.ru? Нужно ли писать что-либо подобное для Гугла?

Код:

User-agent: Yandex

Host: mysite.ru

User-agent: *

Crawl-delay: 10

# Directories

Disallow: /database/

Disallow: /includes/

Disallow: /misc/

Disallow: /modules/

Disallow: /sites/

и так далее.....

Ссори, что тема не нова, но здесь везде в хэлпах () место "User-agent: Yandex - Host: mysite.ru" не указано. толи в начале, толи в конце вставлять...

Drupal Dev & Design
Web-Silver
На сайте с 02.05.2007
Offline
247
#1

1. Все же файл называется robots.txt

2. Для Яндекса читаем тут: http://help.yandex.ru/webmaster/?id=996567#996574

3. Для Гугла делаем 301 редирект.

kuffa
На сайте с 09.01.2008
Offline
120
#2

да, конечно robots...

Ссылки уже читал.

Смысл вопроса в том - нужно ли отдельно прописывать все Allow: / Disallow: /

для яндекса и для дефолтного бода или же яндекс поймет все Disallow, которые внизу, под User-agent: * прописаны.

User-agent: Yandex

Host: mysite.ru

User-agent: *

Crawl-delay: 10

# Directories

Disallow: /database/

Disallow: /includes/

и т.д.

EG
На сайте с 25.02.2008
Offline
110
#3

Использую такой вариант robots.txt

User-agent: Yandex

Disallow: /..../

Host: mysite.ru

User-agent: *

Disallow: /.../

//Пустая строка между секциями обызательна

kuffa:
Нужно ли писать что-либо подобное для Гугла?

Для гугла можно в панеле вебмастера выбрать основной домен

El_Gato добавил 24.06.2008 в 09:05

kuffa:
Смысл вопроса в том - нужно ли отдельно прописывать все Allow: / Disallow: /
для яндекса и для дефолтного бода или же яндекс поймет все Disallow, которые внизу, под User-agent: * прописаны.

Обязательно надо... Яндекс ели находит секцию специально для него предназначенную, то дальше не читает...

shhef
На сайте с 02.05.2007
Offline
85
#4

для гугла делайте так:

User-agent: Googlebot

Host: mysite.ru

Disallow:/бебебе/

kuffa
На сайте с 09.01.2008
Offline
120
#5

Пасиб-пасиб!

kimberlit
На сайте с 13.03.2007
Offline
370
#6
shhef:
для гугла делайте так:
User-agent: Googlebot
Host: mysite.ru
Disallow:/бебебе/

Таких советчиков на кол бы посадить!

Не позорьте себя и форум! Воздержитесь от советов!

shhef
На сайте с 02.05.2007
Offline
85
#7
kimberlit:
Таких советчиков на кол бы посадить!
Не позорьте себя и форум! Воздержитесь от советов!

😂😂😂 ню ню академик, давай давай, так держать...

А как для Гугла сделать, так и молчим?

некоторые новички, не знают что такое 301 редирект... между прочим...

V
На сайте с 02.06.2008
Offline
23
#8

shhef, Google не понимает host в robots.txt... Only Yandex ;)

Vаskes добавил 24.06.2008 в 18:16

Можно написать:

User-agent: *

Disallow: /директория которая не будет индексироваться/

Disallow: /директория которая не будет индексироваться/

Disallow: /директория которая не будет индексироваться/

Disallow: /директория которая не будет индексироваться/

Host: www.site.ru

shhef
На сайте с 02.05.2007
Offline
85
#9

я тоже так думал, пока где то на одном сайте не увидел (ща ищу где видел), думал что то новое...

V
На сайте с 02.06.2008
Offline
23
#10

shhef, Надеюсь не на школьных сайтах :)

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий