Vous avez besoin d'un autre argument, il s'attend à lire un certificat à partir de l'entrée standard. Vous vouliez probablement ajouter -new en tant qu'argument de ligne de commande, ou vous devez transmettre un certificat existant à l'entrée standard.
J'ai eu le même problème lors de l'utilisation de GitBash sous Windows 7, après des heures de recherche, cela a résolu mon problème :
winpty openssl genrsa -out ../private.pem -aes256 4096
Cela pourrait vous donner une idée de ce dont vous avez besoin.