Страница 1 из 2

robot.txt и версия 3.2

Добавлено: 14.05.2017 14:25
regina68
Подскажите пожалуйста.
Можно ли использовать robot.txt от версии 3.1.6
Или что то над добавлять в версии 3.2
Спасибо!

Re: robot.txt и версия 3.2

Добавлено: 14.05.2017 14:39
apograph
Структура папок 3.1 и 3.2 одинакова.

Re: robot.txt и версия 3.2

Добавлено: 31.05.2017 23:23
regina68
Подскажите пожалуйста.
Перешла на версию 3.2.
Но после использования robot.txt от 3.1.6 yandex проиндексировал много неправильных url.
В частности появились /app.php/feed/topic/1 /feed.php?f=1&t=16
/viewtopic.php?f=1&start=4&t=8
Т.е. получается у меня неправильный robot.txt
Написала новый а может у кого правильный проверенный есть.
Добавила к robots.txt для 3.1
Еще свои пути. Написала пока общий для google и yandex.

Код: Выделить всё

User-agent: *
Disallow: /adm
Disallow: /app.php/
Disallow: /assets
Disallow: /bin
Disallow: /cache
Disallow: /common.php
Disallow: /composer.json
Disallow: /config
Disallow: /config.php
Disallow: /groupcp.php 
Disallow: /cron.php
Disallow: /docs
Disallow: /download
Disallow: /ext
Disallow: /faq.php
Disallow: /feed.php
Disallow: /files
Disallow: /includes
Disallow: /language
Disallow: /lastpost.php
Disallow: /mcp.php
Disallow: /memberlist.php
Disallow: /phpbb
Disallow: /profile.php
Disallow: /posting.php
Disallow: /report.php
Disallow: /search.php
Disallow: /store
Disallow: /ucp.php
Disallow: /vendor
Disallow: /faylovt.php
Disallow: /index.php?
Disallow: /viewonline.php
Disallow: /*&st=*
Disallow: /*&sk=*
Disallow: /*&sd=*
Disallow: /*&view=*
Disallow: /viewtopic.php*p=*
Disallow: /viewtopic.php?t=*
Disallow: /view*&start=0$
Disallow: /viewforum.php?hash*
Disallow: /viewtopic.php?highlight=*
Disallow: /viewtopic.php?f=*&t=*&view=next
Disallow: /viewtopic.php?f=*&t=*&view=previous
Disallow: /viewtopic.php?f=*&t=*&view=print
Disallow: /viewtopic.php?p=*
Disallow: /viewtopic.php?t=*&p=*
User-agent: Yandex
Host: xxxxx

robots.txt для 3.2

Добавлено: 22.08.2018 15:22
MrBas
Здравствуйте, данная тема вроде не затрагивалась для версии 3.2
Поделитесь своим robots.txt для свежей версии пожалуйста

Re: robots.txt для 3.2

Добавлено: 22.08.2018 15:28
Siava
MrBas, robots.txt для версии форума 3.2 будет таким же, как и для 3.1.

Re: robots.txt для 3.2

Добавлено: 22.08.2018 15:37
MrBas
Спасибо! А я подумал вдруг могут быть изменения из за обновления как в предыдущих версиях.

Отправлено спустя 25 секунд:
Оставлю тут тогда как файл должен быть заполнен

Код: Выделить всё

User-agent: *
Disallow: /adm
Disallow: /cache
Disallow: /files
Disallow: /includes
Disallow: /language
Disallow: /store
Disallow: /common.php
Disallow: /config.php
Disallow: /cron.php
Disallow: /faq.php
Disallow: /mcp.php
Disallow: /memberlist.php 
Disallow: /memberlist_fields.php
Disallow: /thankslist.php
Disallow: /posting.php
Disallow: /recent.php
Disallow: /report.php
Disallow: /search.php
Disallow: /style.php
Disallow: /ucp.php
Disallow: /go.php
Disallow: /index.php*
Disallow: /viewonline.php
Disallow: /*&st=*
Disallow: /*&sk=*
Disallow: /*&sd=*
Disallow: /*&hilit=*
Disallow: /*&view=*
Disallow: /viewtopic.php*p=*
Disallow: /viewtopic.php?t=*
Disallow: /view*&start=0$
Disallow:
Clean-param: sid /index.php
Clean-param: sid /viewtopic.php

Re: robots.txt для 3.2

Добавлено: 22.08.2018 16:30
TrekRed
Извините за глупый вопрос, а нужен ли данный файл для форума? Если есть на сайте реклама от гугла AdSense, то нужен ли этот файл и что в него прописывать для AdSense? Форуму уже 3 года и все без этого файла.

Re: robots.txt для 3.2

Добавлено: 22.08.2018 23:59
ciiz1
Мне советовали /style.php оставить.

А это от расширений?

Код: Выделить всё

/memberlist_fields.php
/*&hilit=*
/go.php

Re: robots.txt для 3.2

Добавлено: 23.08.2018 10:26
Pazh
ciiz1 писал(а):
22.08.2018 23:59
/memberlist_fields.php
расширение
ciiz1 писал(а):
22.08.2018 23:59
/*&hilit=*
подсветка результатов поиска - штатное
ciiz1 писал(а):
22.08.2018 23:59
/go.php
расширение для внешних ссылок

Re: robots.txt для 3.2

Добавлено: 23.08.2018 21:54
Джим
MrBas писал(а):
22.08.2018 15:37
Disallow: /viewtopic.php?t=*
Мне кажется, это лишнее. Ведь именно такие адреса использует Яндекс при индексировании наших форумов.

Re: robots.txt для 3.2

Добавлено: 25.08.2018 19:16
ciiz1
За /*&hilit=* спасибо, не знал.

Re: robots.txt для 3.2

Добавлено: 31.12.2018 15:05
invader
Доброго Времени Суток!
Нуждаюсь в помощи по составлению robots.txt
для 3.2.5.
Дело в том, что сам сайт на WP, а форум в соответствующем пути /forum...
Если кто-то уже составлял, поделитесь пожалуйста.
Ну и просьба к поддержке помочь правильно составить... :oops:
Как я понимаю файл robots.txt может быть только один и лежать в корне. После переноса домена ещё не вытаскивал файл из папки /forum, тупо не знаю как их объеденить, чтоб не конфликтовали параметры...

Re: robot.txt и версия 3.2

Добавлено: 10.01.2019 22:08
Tugus
Приветствую! Подскажите, пожалуйста, что нужно дописать или изменить в файле роботс после перехода на https?
Наш выглядит так:

Код: Выделить всё

User-agent: *
Disallow: /*?sid=*
Disallow: /adm
Disallow: /cache
Disallow: /download
Disallow: /files
Disallow: /includes
Disallow: /language
Disallow: /store
Disallow: /common.php
Disallow: /config.php
Disallow: /cron.php
Disallow: /faq.php
Disallow: /mcp.php
Disallow: /memberlist.php 
Disallow: /memberlist_fields.php
Disallow: /thankslist.php
Disallow: /posting.php
Disallow: /recent.php
Disallow: /report.php
Disallow: /search.php
Disallow: /ucp.php
Disallow: /go.php
Disallow: /viewonline.php
Disallow: /*&st=*
Disallow: /*&sk=*
Disallow: /*&sd=*
Disallow: /*&hilit=*
Disallow: /*&view=*
Disallow: /viewtopic.php?*&view=print
Disallow: /viewtopic.php?p=*
Disallow: /viewtopic.php?f=*&t=*&start=0$
Disallow: /viewforum.php?f=*&start=0$
Disallow: /viewtopic.php?f=*&t=*&view=next
Disallow: /viewtopic.php?f=*&t=*&view=previous
Sitemap: http://magija-portal.ru/sitemap.xml

Clean-param: sid /forum/index.php
Clean-param: sid /forum/viewforum.php
Clean-param: sid /forum/viewtopic.php

User-agent: Yandex
Disallow: /*?sid=*
Disallow: /adm
Disallow: /cache
Disallow: /download
Disallow: /files
Disallow: /includes
Disallow: /language
Disallow: /store
Disallow: /common.php
Disallow: /config.php
Disallow: /cron.php
Disallow: /faq.php
Disallow: /mcp.php
Disallow: /memberlist.php 
Disallow: /memberlist_fields.php
Disallow: /thankslist.php
Disallow: /posting.php
Disallow: /recent.php
Disallow: /report.php
Disallow: /search.php
Disallow: /ucp.php
Disallow: /go.php
Disallow: /viewonline.php
Disallow: /*&st=*
Disallow: /*&sk=*
Disallow: /*&sd=*
Disallow: /*&hilit=*
Disallow: /*&view=*
Disallow: /viewtopic.php?*&view=print
Disallow: /viewtopic.php?p=*
Disallow: /viewtopic.php?f=*&t=*&start=0$
Disallow: /viewforum.php?f=*&start=0$
Disallow: /viewtopic.php?f=*&t=*&view=next
Disallow: /viewtopic.php?f=*&t=*&view=previous
Host: magija-portal.ru
Sitemap: http://magija-portal.ru/sitemap.xml
Clean-param: sid /forum/index.php
Clean-param: sid /forum/viewforum.php
Clean-param: sid /forum/viewtopic.php

Re: robot.txt и версия 3.2

Добавлено: 10.01.2019 22:30
Татьяна5
Tugus писал(а):
10.01.2019 22:08
Disallow: /files
Вы запретили ботам все вложения разом (и картинки тоже)
Tugus писал(а):
10.01.2019 22:08
Disallow: /includes
Disallow: /language
Tugus писал(а):
10.01.2019 22:08
Disallow: /common.php
С этим у них проблемы с отображением могут быть
Tugus писал(а):
10.01.2019 22:08
Disallow: /memberlist_fields.php
Disallow: /thankslist.php
Tugus писал(а):
10.01.2019 22:08
Disallow: /recent.php
Эти файлы физически есть? Откуда и зачем?

Re: robot.txt и версия 3.2

Добавлено: 10.01.2019 22:36
Tugus
Татьяна5,
Татьяна5 писал(а):
10.01.2019 22:30
запретили ботам все вложения разом (и картинки тоже)
у нас картинки и вложения на 99 сторонние, из сети. Разрешение на их индексацию будет иметь вес? Надо разрешить?

Татьяна5 писал(а):
10.01.2019 22:30
Tugus писал(а): ↑22 минуты назад
Disallow: /common.php
С этим у них проблемы с отображением могут быть
Стираем строку?

Татьяна5 писал(а):
10.01.2019 22:30
Tugus писал(а): ↑22 минуты назад
Disallow: /memberlist_fields.php
Disallow: /thankslist.php
Tugus писал(а): ↑22 минуты назад
Disallow: /recent.php
Эти файлы физически есть? Откуда и зачем?
хе! мемберов точно ни к чему светить. Они этого не приветствуют. thankslist.php - у нас есть система лайков (расширение) и репутация (расширение). Списка "благодарности" нет. recent.php - последние темы, да, есть.