Josef Hoppe hatte zehn Geschwister und wurde mit elf Jahren, obwohl körperlich unterentwickelt, zu einem Tischler in die Lehre gegeben. In der Schule hatte er beim Dorfgeistlichen gerade noch Lesen und Schreiben gelernt. 1901 war er an der Gründung einer kurzlebigen sozialistischen Zeitung beteiligt. Zusammen mit seinem Bruder  Gustav Hoppe wurde er wegen revolutionärer Aktivitäten 1907 trotz rumänischer Staatsbürgerschaft aus Rumänien ausgewiesen. Die Abschiebung über die ungarisch-rumänische Grenze misslang mehrmals, denn die Brüder weigerten sich, Rumänien zu verlassen. Schließlich wurden sie über die österreichische Grenze in die Nordbukowina abgeschoben. Über Czernowitz, wo er sofort wieder politisch aktiv zu arbeiten begann, kam Josef Hoppe auf Geheiss der Sozialistischen Partei Rumäniens im September 1908 nach Wien, wo er in einer Möbelfabrik arbeitete. Er wurde Mitglied der SDAP und des Bildungsvereins Karl Marx, wo er mit Friedrich Adler, Max Adler und Therese Schlesinger in Kontakt kam. 1918 war er eines der Gründungsmitglieder der KPÖ. Später wurde er Vertrauensmann der illegalen rumänischen KP in Österreich. Nach Hoppes Angaben wurde seine Wohnung in zwölf Jahren 48 Mal von der Polizei durchsucht. Obwohl nichts gefunden wurde, wurde Josef Hoppe 1935 wegen Betätigung für die KPÖ verhaftet und nach 141 Tagen Haft ausgewiesen. Er emigrierte - vermutlich auf dem Umweg über Rumänien - mit Unterstützung der Roten Hilfe nach Russland, wo er in Moskau in einer Möbelfabrik Arbeit fand. Er lebte im Haus der Politemigranten in der ul. Obucha 3, als er am 9. März 1938 verhaftet wurde. Josef Hoppe wurde am 29. Juni 1938 wegen Spionage für Rumänien zum Tode verurteilt und am 20. August 1938 in Butowo bei Moskau hingerichtet. In seinem Strafakt ist ein Bescheid eines NKWD-Majors enthalten, in dem festgestellt wird, dass Ausländer, die auf Betreiben der MOPR (Internationale Rote Hilfe) oder der Komintern in die Sowjetunion gelangten, nicht als fremde Staatsbürger, sondern als Staatenlose strafrechtlich wie Inländer zu behandeln seien.