1. Trouver un mot de passe : une combinatoire redoutable

Les systèmes d'exploitation, que ce soit Windows ou Unix, stockent les mots de passe de façon cryptée. Lors de l'ouverture d'une session, le système d'exploitation crypte le mot de passe saisi par l'utilisateur et le compare à celui qui est stocké dans son fichier, également crypté. Si les codes sont les mêmes, le mot de passe est valide. Si un pirate réussi à trouver un mot de passe crypté, pour retrouver celui d'origine (non crypté), il va crypter des mots de passes et de les comparer à la chaîne cryptée qui a été récupérée. Une fois qu'il a trouvé un mot de passe qui une fois crypté soit le même que la version récupéré sur la machine compromise, il a le mot de passe décrypté.

Plusieurs techniques sont possibles pour « casser » un mot de passe, dont trois sont très utilisées. La première méthode est systématique et elle consiste à encoder toutes les possibilités. La seconde méthode dite « par dictionnaire » consiste à crypter des mots de passes courants et leurs variantes afin d'accélérer le processus. La troisième consiste à rechercher dans une base de données pré calculée de mots de passes cryptés la version cryptée du mot de passe et ainsi avoir très rapidement la version décryptée. La troisième méthode implique d'avoir auparavant calculer tous les mots de passes possibles avec les différents algorithmes de cryptage utilisés.

Une fois que le pirate est parvenu à récupérer un mot de passe crypté, il va chercher à le décrypter. Ceci implique donc qu'il a déjà compromis d'une façon ou d'une autre une machine, ou qu'il a intercepté un mot de passe lors d'une conversation réseau entre deux machines. La cryptanalyse ou attaque en force brute n'intervient que dans un deuxième temps.