Bien que ces deux termes soient de stricts équivalents, l’usage a introduit une nuance qu’aucun fondement étymologique cependant ne vient étayer. Deuxième et second devraient s’employer indifféremment dans le sens de « qui vient immédiatement après le premier », or on les distingue aujourd’hui pour signifier implicitement qu’il existe ou non une suite à l’énumération.
Ainsi, deuxième s’emploie lorsqu’il y a plus de deux éléments, et second lorsqu’il n’y en a que deux.
Dans la langue surveillée, il est conseillé de respecter cette distinction, qui introduit un brin d’élégance et charge le terme d’une information supplémentaire sans qu’il soit besoin de la formuler explicitement. Par exemple, si l’on parle du second fils d’un homme, on sous-entend que celui-ci n’en a que deux, mais si l’on parle de son deuxième fils, alors on sous-entend qu’il en a au moins trois.
Pour les mêmes raisons et par souci d’optimisme, on parle généralement de la Seconde Guerre mondiale.
Dans les cas où il est question de « moitié » (d’une vie, d’un trajet, d’une baguette de pain…), toujours suivant cette distinction, il ne peut y avoir qu’une seconde moitié, car deux moitiés suffisent à former un tout. On ne parlera donc pas de la deuxième moitié du XXe siècle, mais de la seconde. En revanche, on peut parler de la deuxième partie du XXe siècle, car ce dernier peut comporter un nombre infini de parties.
Il existe toutefois de nombreuses exceptions qui viennent transgresser cette « règle » arbitraire, instaurée sans doute par commodité : dans le système scolaire, on passe de la troisième à la seconde, alors que suivent une première et une terminale. De même, lorsqu’on est au volant d’une voiture, on passe généralement la seconde avant de passer la troisième (bien que deuxième soit également possible, mais plus rare). Dans le train, on peut voyager en seconde classe ou en deuxième classe, mais toujours en seconde, qu’il existe ou non une troisième classe.
L’Académie française précise que cette distinction n’est pas obligatoire.