Antes de começarmos a falar sobre índices precisamos de mais informações sobre como o Microsof SQL Server é estruturado porque é determinante no seu modo de funcionamento.

Todos os bancos de dados relacionais visam a melhor performance possível com o menor custo e por isso os algorítimos utilizados são os melhores possíveis.
Sendo assim você descobrirá que todos os bancos de dados relacionais utilizam o conceito de 'arvore binária balanceada' para armazenar suas informações porque é a maneira mais eficiente de se fazer a pesquisa.

Árvores Binárias Balanceadas

A Árvore é considerada Balanceada se, e somente se, para cada um de seus nós, as altura das sub-árvores à direita e à esquerda forem iguais ou se difiram em apenas uma unidade.
Em uma árvore desbalanceada de 10.000 nós são necessárias 5.000 comparações para efetuar uma busca. Já numa árvore balanceada com o mesmo número de nós gasta em média 14 comparações para achar o resultado desejado.
O fator de balanceamento informa se a árvore estão ou não balanceada e é a subtração dos número de nós à direita do número de nós a esquerda:
Se for -1 : O ramo da esquerda possui mais nós que o da direita Se for 0: a árvore esta perfeitamente balanceada Se for 1 : O ramo da direita possui mais nós que o da esquerda.