Cela semble être un bogue dans le noyau Linux - le compteur n'est jamais décrémenté, même si des ptys sont désalloués.
Dans une configuration standard, ls /dev/pts devrait afficher les ptys réels alloués pour le moment, et vous pouvez exécuter lsof sur eux pour lister tous les processus utilisant un pty particulier (ou tout autre fichier, d'ailleurs).
Corrigé dans Linux 3.2.
Dévpts uniques exemple.