Форум: Форум PHPФорум ApacheФорум Регулярные ВыраженияФорум MySQLHTML+CSS+JavaScriptФорум FlashРазное
Новые темы: 0000000
Программирование. Ступени успешной карьеры. Авторы: Кузнецов М.В., Симдянов И.В. PHP на примерах (2 издание). Авторы: Кузнецов М.В., Симдянов И.В. Объектно-ориентированное программирование на PHP. Авторы: Кузнецов М.В., Симдянов И.В. PHP Puzzles. Авторы: Кузнецов М.В., Симдянов И.В. Самоучитель MySQL 5. Авторы: Кузнецов М.В., Симдянов И.В.
ВСЕ НАШИ КНИГИ
Консультационный центр SoftTime

Разное

Выбрать другой форум

 

Здравствуйте, Посетитель!

вид форума:
Линейный форум (новые сообщения вниз) Структурный форум

тема: Что за странные роботы стали у Гугле

Сообщения:  [1-10]    [11-20]  [21-21] 

 
 автор: cheops   (18.03.2013 в 20:57)   письмо автору
 
   для: добряк   (17.03.2013 в 14:01)
 

После RewriteCond должно быть RewriteRule, так как RewriteCond задает лишь условие для выполнения последущего RewriteRule.

  Ответить  
 
 автор: добряк   (17.03.2013 в 14:01)   письмо автору
 
   для: Sfinks   (17.03.2013 в 13:25)
 

В .htaccess воткнул

RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} AhrefsBot


Через некоторое время Сервак показывает ошибку 500.
Ждал, ждал, потом удалил .htaccess - моментально все заработало

Вопрос, как банишь ботов?

  Ответить  
 
 автор: Sfinks   (17.03.2013 в 13:25)   письмо автору
 
   для: добряк   (17.03.2013 в 12:34)
 

Умный робот передает и реферера и куки.

  Ответить  
 
 автор: добряк   (17.03.2013 в 12:34)   письмо автору
 
   для: Владимир55   (16.03.2013 в 17:20)
 

Вариант различать робота от человека

getenv("HTTP_REFERER"); // получаем URL, с которого пришёл посетитель
Если getenv("HTTP_REFERER") пустое занчение, то робот

Проблема закладок, URL набранных вручную или ссылка на компе
Тогда добавить cooki, если добавляется, то человек.

  Ответить  
 
 автор: добряк   (16.03.2013 в 19:08)   письмо автору
 
   для: Владимир55   (16.03.2013 в 17:20)
 

.Когда банишь, куда можно отправить робота, кроме exit.

http://100nt.ru/board/index.php/topic/20004-%D0%B1%D0%BE%D1%80%D1%8C%D0%B1%D0%B0-%D1%81-ahrefsbot/
Сайт находится на не бесплатном хостинге, но все же падает от этого бота (AhrefsBot) . Достал уже флудить
Через .htaccess блокировать его айпи не получается.

  Ответить  
 
 автор: добряк   (16.03.2013 в 17:42)   письмо автору
 
   для: Владимир55   (16.03.2013 в 17:20)
 

У меня с утра не работает под денвером strtolower() и мне чего то надоело дурью маятся.
Остальные lcfirst() ... так же не работают.
Пойду погуляю на воздух

http://ru.wikipedia.org/wiki/Sphinx_(поисковая_система)- считается лучшей
Можно свой на на php, но скорость не та.
У меня года два валяется без дела

  Ответить  
 
 автор: добряк   (16.03.2013 в 17:36)   письмо автору
 
   для: Владимир55   (16.03.2013 в 17:20)
 

я много ошибок делаю сейчас при написании, извините, глаза болят, устали от монитора
Надо было написать
полнотекстовый поиск с морфологическим анализом
вместо
полноиндексный поиск с морфологическим анализом

Простите, случайно ошибся, надо отдохнуть

Как Вы намерены исправлять запросы робота? Или подстраиваться под них?

По индексированным словам и морфологической близости
Механизм простой, но рутинный, по составлению индексного файла
На самом деле много готовых , платных и бесплатных, с рекламой и без.
Можно самому написать, но сейчас не до сук, надо поднять свой и 4 штуки влить, это 1-2 недели уйдет.
А готовые, на свежую голову можно воткнуть за 1-2 дня, но и там и там отслеживать надо.

  Ответить  
 
 автор: Владимир55   (16.03.2013 в 17:20)   письмо автору
 
   для: добряк   (16.03.2013 в 17:14)
 

Нет, я вполне серьезно.

Вот это привлекло мое внимание:

"Какой бы дурацкий запрос из идиотских слов не дал пользователь или робот ... , система исправляла на существющие слова и давала бы вразуметельный ответ"

Как Вы намерены исправлять запросы робота? Или подстраиваться под них?

  Ответить  
 
 автор: добряк   (16.03.2013 в 17:14)   письмо автору
 
   для: Владимир55   (16.03.2013 в 16:19)
 

Мне почему то смешно стало. Извините. Или вы надо мной смеетесь.
Ну ведь у гугла и яндекса и у других каждый день, если вы ввели с ошибкой слова он исправляет и ищет другие.
Возможно вы имели ввиду......
Вы пошутили наверное или я чего то не понял

  Ответить  
 
 автор: Владимир55   (16.03.2013 в 16:19)   письмо автору
 
   для: добряк   (16.03.2013 в 16:05)
 

Очень интересная идея!

Можете раскрыть её поподробнее?

  Ответить  

Сообщения:  [1-10]    [11-20]  [21-21] 

Форум разработан IT-студией SoftTime
Rambler's Top100
вверх

Rambler's Top100 Яндекс.Метрика Яндекс цитирования