trouver est votre ami. Je pense que ce qui suit devrait le faire :
find <target_dir> -not -name \*.bz2 -exec bzip2 \{\} \;
c'est-à-dire que si le répertoire où se trouvent les fichiers que vous souhaitez bzip est /var/log/blah, ce serait :
find /var/log/blah -not -name \*.bz2 -exec bzip2 \{\} \;