Если вы не можете урвать файл robotstxt или в
нем нет инструкций о блокировке, это может быть связано с ошибкой
настройки вашего хостинга или контент-менеджмента.
Другой возможной причиной может быть использование
параметра noindex в файлах robotstxt или размещение
мета-тега noindex на страницах вашего сайта.
Эти инструкции указывают поисковым роботам не индексировать
контент, даже если он обнаружен при обходе robotstxt.
Если ваш сайт использует JavaScript или AJAX для
загрузки контента или страниц, это также может стать
причиной блокировки индексации. Поисковые роботы Google не всегда
способны корректно возделывать этакий контент, если он не предоставлен
в явном виде при первичной загрузке страницы. google не индексирует сайт

=kiss=