Quais são os obstáculos para a indexação de um site ?
A lista de fatores que bloqueiam ou penalizam a indexação é bastante longa. Com o aprimoramento das práticas de desenvolvimento, a crescente qualidade do CMS popular e os avanços nos mecanismos de pesquisa, hoje fica quase mais difícil não ser indexado.
Algumas tecnologias são desastres reais, se você quiser se beneficiar de excelente indexação.
O sites ou os caminhos de navegação dos sites, inteiramente e somente pensados em Javascript, também costumam apresentar problemas de interpretação.
Uma vez que o site não tem nenhum link apontando para ele, levará mais tempo para se indexar, especialmente se não receber quaisquer visitantes.
Também é mais complicado indexar sites usando frames ou i-frames.
A duplicação em massa de conteúdo pode ser uma preocupação, a fim de manter a confiança dos robôs. Se a maioria do conteúdo que eles encontrarem já existir, eles certamente preferirão usar seus recursos (tempo de máquina) em outro lugar.
As URLs realmente exóticas também são mais difíceis de indexar, mesmo que a maioria dos mecanismos seja menos restritivos do que antes. Você sabia que, há alguns anos, indexar uma URL contendo mais de 3 hifens no mecanismo da Microsoft era mais complexo, se não impossível ?
Páginas muito profundas com uma rede interna fraca, obviamente não incentivam os mecanismos para indexá-los rapidamente ou pelo menos rastreá-los regularmente.