robot.txt и версия 3.2

Проблемы с установкой или работой phpBB 3.2.x? Получите помощь здесь!
Правила форума
Местная Конституция | Шаблон запроса | Документация (phpBB3) | Мини [FAQ] по phpBB 3.1.x/3.2.x | FAQ | Как задавать вопросы | Как устанавливать расширения

Ваш вопрос может быть удален без объяснения причин, если на него есть ответы по приведённым ссылкам (а вы рискуете получить предупреждение ;) ).
Аватара пользователя
Татьяна5
Поддержка
Поддержка
Сообщения: 9584
Зарегистрирован: 08.08.2011 2:02
Благодарил (а): 172 раза
Поблагодарили: 2652 раза
Контактная информация:

Re: robot.txt и версия 3.2

Сообщение Татьяна5 » 10.01.2019 22:40

includes, language, common.php - стирайте. К тем файлам/папкам запросы должны проходить свободно (а их индексации всё равно нет)
Tugus писал(а):
10.01.2019 22:36
мемберов точно ни к чему светить
В 3.2 нет файла memberlist_fields.php
Tugus писал(а):
10.01.2019 22:36
(расширение)
Расширения не добавляют файлов в корень форума, а запрещены файлы из корня

Отправлено спустя 3 минуты 17 секунд:
Tugus писал(а):
10.01.2019 22:08
Disallow: /config.php
Это, по идее, тоже не надо
Прямой доступ к файлу запрещён в .htaccess
Tugus писал(а):
10.01.2019 22:08
Disallow: /cron.php
"На вкус и цвет"
Если не хотите, чтобы боты могли запускать действия по крону, оставляйте, но ничего плохого в том, что они действия запустят, нет (наоборот точнее по времени выполнятся)

Аватара пользователя
Tugus
phpBB 1.4.4
Сообщения: 115
Зарегистрирован: 27.11.2018 12:43
Благодарил (а): 40 раз

Re: robot.txt и версия 3.2

Сообщение Tugus » 10.01.2019 22:45

Теперь:

Код: Выделить всё

User-agent: *
Disallow: /*?sid=*
Disallow: /adm
Disallow: /cache
Disallow: /download
Disallow: /files
Disallow: /store
Disallow: /config.php
Disallow: /cron.php
Disallow: /faq.php
Disallow: /mcp.php
Disallow: /memberlist.php 
Disallow: /thankslist.php
Disallow: /posting.php
Disallow: /recent.php
Disallow: /report.php
Disallow: /search.php
Disallow: /ucp.php
Disallow: /go.php
Disallow: /viewonline.php
Disallow: /*&st=*
Disallow: /*&sk=*
Disallow: /*&sd=*
Disallow: /*&hilit=*
Disallow: /*&view=*
Disallow: /viewtopic.php?*&view=print
Disallow: /viewtopic.php?p=*
Disallow: /viewtopic.php?f=*&t=*&start=0$
Disallow: /viewforum.php?f=*&start=0$
Disallow: /viewtopic.php?f=*&t=*&view=next
Disallow: /viewtopic.php?f=*&t=*&view=previous
Sitemap: http://magija-portal.ru/sitemap.xml

Clean-param: sid /forum/index.php
Clean-param: sid /forum/viewforum.php
Clean-param: sid /forum/viewtopic.php

User-agent: Yandex
Disallow: /*?sid=*
Disallow: /adm
Disallow: /cache
Disallow: /download
Disallow: /files
Disallow: /store
Disallow: /config.php
Disallow: /cron.php
Disallow: /faq.php
Disallow: /mcp.php
Disallow: /memberlist.php 
Disallow: /thankslist.php
Disallow: /posting.php
Disallow: /recent.php
Disallow: /report.php
Disallow: /search.php
Disallow: /ucp.php
Disallow: /go.php
Disallow: /viewonline.php
Disallow: /*&st=*
Disallow: /*&sk=*
Disallow: /*&sd=*
Disallow: /*&hilit=*
Disallow: /*&view=*
Disallow: /viewtopic.php?*&view=print
Disallow: /viewtopic.php?p=*
Disallow: /viewtopic.php?f=*&t=*&start=0$
Disallow: /viewforum.php?f=*&start=0$
Disallow: /viewtopic.php?f=*&t=*&view=next
Disallow: /viewtopic.php?f=*&t=*&view=previous
Host: magija-portal.ru
Sitemap: http://magija-portal.ru/sitemap.xml
Clean-param: sid /forum/index.php
Clean-param: sid /forum/viewforum.php
Clean-param: sid /forum/viewtopic.php
1) А где ему сказать, что теперь мы на https?
2) Выяснил, что медиа с ютюба и т.п. блокируются браузером как "блокировка рекламы на этом сайте". Если в настройках браузера разрешить её, то замочек в адресной строке становится красным. Есть ли варианты настроек, чтобы не перекачивать ворох медиафайлов на сервер?

Отправлено спустя 11 минут 16 секунд:
Вот такое выдает браузер
 
2019-01-10_22-16-53.png
2019-01-10_22-18-08.png
Это распространено на медиа и счетчик рамблер.

дотумкал пока до варианта перезалить медиа на сервер, но тогда придется докупать место на хостинге. Есть ли альтернативные мысли?

Аватара пользователя
nissin
phpBB 3.0.3
Сообщения: 2173
Зарегистрирован: 16.12.2007 14:01
Откуда: Павлодар
Благодарил (а): 7 раз
Поблагодарили: 335 раз
Контактная информация:

Re: robot.txt и версия 3.2

Сообщение nissin » 11.01.2019 6:15

Tugus,

Код: Выделить всё

Host: https://magija-portal.ru
Sitemap: https://magija-portal.ru/sitemap.xml
По ббкоду media используйте независимый js на своём сервере:
phpBB [media] — bbcode для вставки аудио, видео, карт и др.
В изображениях и скриптах счётчиков поменяйте http на https.
Всё повторяется. nurlan.info

Doroty123
phpBB 1.2.1
Сообщения: 22
Зарегистрирован: 05.12.2017 18:13
Благодарил (а): 2 раза

Re: robot.txt и версия 3.2

Сообщение Doroty123 » 14.01.2019 22:22

Подскажите пожалуйста, после перехода форума на версию 3.2.2 в вебмастере яндекса появились сотни дублей главной страницы. Как их правильно закрыть? Что бы сама главная не вылетела ?
Скрин из вебмастера прилагаю. Понять бы еще из за чего и что генерирует эти дубли.
Если закрою так? Это верно будет?
Disallow: /index.php?*

на всякий случай прилагаю роботс который сейчас

Код: Выделить всё

User-agent: *
Disallow: /faq.php
Disallow: /mcp.php
Disallow: /memberlist.php
Disallow: /posting.php
Disallow: /report.php
Disallow: /search.php
Disallow: /ucp.php
Disallow: /budget/*
Disallow: /viewtopic.php?p=*
Disallow: /viewtopic.php?f=*&t=*&start=0$
Disallow: /viewtopic.php?f=*&t=*&view=next
Disallow: /viewtopic.php?f=*&t=*&view=previous
Disallow: /go.php
Clean-param: sid /index.php
Clean-param: sid /viewforum.php
Clean-param: sid /viewtopic.php

# Google Image
User-agent: Googlebot-Image
Disallow:

# Google AdSense
User-agent: Mediapartners-Google
Disallow:

User-agent: Yandex
Disallow: /faq.php
Disallow: /mcp.php
Disallow: /memberlist.php
Disallow: /posting.php
Disallow: /report.php
Disallow: /search.php
Disallow: /ucp.php
Disallow: /budget/*


Host: 
Clean-param: sid /index.php
Clean-param: sid /viewforum.php
Clean-param: sid /viewtopic.php

Sitemap: http://...
Вложения
вебмастер.jpg

Аватара пользователя
Siava
Поддержка
Поддержка
Сообщения: 4105
Зарегистрирован: 11.01.2005 14:29
Откуда: Питер
Благодарил (а): 107 раз
Поблагодарили: 424 раза
Контактная информация:

Re: robot.txt и версия 3.2

Сообщение Siava » 15.01.2019 10:40

Doroty123, потому что у вас яндексу разрешается индексировать подобное. В вебмастере яндекса есть удобный интрумент анализа вашего robots.txt, а также документация по его использованию.
Еще одно нарушение правил и будете забанены. © Mr. Anderson
https://siava.ru/forum/ (phpbb 2.0.x, 3.1.x 3.2.x)

Ответить

Вернуться в «Поддержка phpBB 3.2.x»