Djohar muda adalah seorang pemain sepak bola yang tercatat memperkuat PSL Langkat pada periode 1968-1969. Kariernya sebagai pemain kemudian berlanjut di klub papan atas tanah air, PSMS Medan pada kurun 1973-76.
Usai pensiun Djohar tak begitu saja meninggalkan dunia tersebut karena kemudian dia masuk dalam korps baju hitam dan menjadi wasit nasional dan internasional pada periode 1976 hingga 1987. Selanjutnya, Sarjana Pertanian Perkebunan dari Fakultas Pertanian Universitas Sumatra Utara tersebut menjadi match inspector nasional dan internasional.
Setelah merasakan bagaimana menjadi pemain, wasit dan match inspector, Djohar kemudian menduduki jabatan strategis di PSSI Sumut, dia menjadi Ketua Pengurus Daerah PSSI Sumut periode 2000-2004. Di tanah kelahirannya itu, Bapak dari Empat Anak dan kakek dari tujuh orang cucu tersebut juga diserahi tanggung jawab sebagai Ketua Harian KONI mulai tahun 2003. Sebelumnya ia pernah menjabat Sekretaris Jenderal Komite Olahraga Nasional Indonesia di bawah pimpinan Agum Gumelar dan Pengurus Daerah PSSI Sumatra Utara. Selain itu juga aktif sebagai guru besar di Universitas Islam Sumatra Utara dan staf ahli Menteri Pemuda dan Olahraga Indonesia.
Tahun 2011, Djohar Arifin Husin terpilih menjadi Ketua PSSI periode 2011-2016 setelah menjalani Kongres Luar Biasa (KLB) PSSI di Surakarta. Menggantikan Nurdin Khalid. Saat ini Djohar tercatat sebagai anggota DPR RI Fraksi Partai Gerakan Indonesia Raya, mewakili daerah pemilihan Sumatra Utara.
