Impossible à moins que tu réécrives rutorrent.
Je m'explique nginx analyse l'url pour savoir quelle page envoyée : certes nginx peux faire un liens entre la requête crypté et la ou il doit taper pour avoir la bonne page. Sauf que dans rutorrent les liens sont défini alors faudrait tous les réécrire pour que cela fonctionne.
Par contre ce que tu peux faire si ton installation de rutorrent n'est pas directement de le directory html. C'est de faire un liens symbolique en le nommant par exemple "aqsdzaleealzzaa" : de ce faite pour accédé a rutorrent tu ferais :
http://mondomaine.com/aqsdzaleealzzaa/index.html