Danke für die Hilfe an alle!
Es stellte sich heraus, dass es sich um einen iptable-Konflikt handelte. Zwei Regeln, die den offenen Port auflisten (was zu einem geschlossenen Port führte).
Einer der Kommentare von aka und ein anderer von manu2013 waren jedoch Probleme, auf die ich gestoßen wäre, wenn der Konflikt nicht gewesen wäre.
So! Denken Sie immer daran, /etc/mongod.conf zu bearbeiten Datei und stellen Sie Ihren bind_ip = 0.0.0.0 ein um Verbindungen nach außen herzustellen.
Stellen Sie außerdem sicher, dass Sie in Ihrem iptable keine widersprüchlichen Regeln für den von Mongo gewünschten Port haben (siehe Link auf der Website von mongodb, um Ihre iptables richtig einzurichten).
Versuchen Sie Folgendes:
sudo rm /var/lib/mongodb/mongod.lock
sudo service mongodb restart