Запрет на посещение всех страниц, установленный пустой директивой в Allow, – одна из ошибок, из-за которой индексирующий робот не видит сайт.
Пустые значения делают сайт абсолютно недоступным и прописывают команду специально, чтобы запретить посещение ресурса.
«Яндекс» заменил правила, и директива стала игнорироваться при обнаружении в robots.txt: пустой Allow теперь нужно заменить на директиву Disallow, иначе запрет на посещение не сработает.
«Яндекс.Вебмастер» позволит проверить настройки доступа. Главное – не оставлять пустых значений, если не требуется запрет на индексирование.