Comme il te le dit, un problème de config, en général c'est pas grand chose, surtout de l'inattention
Va vérifier dans ton virtual host Nginx avec un petit
nano /etc/nginx/sites-enabled/rutorrent.conf
si tu as bien tout modifié, si tu fais un changement n'oublie pas de redémarrer Nginx avec
service nginx restart
Vérifie aussi le fichier .rtorrent.rc dans ton espace utilisateur (/home/tonuser/.rtorrent.rc) et que tout concorde au niveau des ports. Ça ne doit pas rester en 500x pour le numéro de port et doit concorder avec ce que tu as défini dans le vHost (5001 pour le premier par exemple)
Si après avoir vérifié rTorrent ne fonctionne toujours pas, vérifie si il est bien démarré pour ton utilisateur, je te donne les commandes pour le relancer (celles que Seedbox manager utilise en fait ^^)
killall --user tonUser rtorrent
su --command='screen -S tonUser-rtorrent -X quit' tonUser
rm /home/tonUser/.session/rtorrent.lock
su --command='screen -dmS tonUser-rtorrent rtorrent' tonUser
Sinon je comprend parfaitement que tu fasses l'installation à la main, les scripts c'est bien, mais faire le tuto à la main au moins une fois histoire de dire "j'en suis capable" c'est pas mal aussi