Il a été un monument du sport suédois au même titre que le skieur Ingemar Stenmark et le joueur de tennis Björn Borg. Vice champion olympique des poids lourds en 1952 (devant son éternel rival Floyd Patterson ), il est devenu un grand boxeur chez les professionnels .

Le 26 juin 1959 au Yankee Stadium de New York, il a détrôné le champion du monde des lourds, l'Américain Floyd Patterson au 3e round.  Grâce à ce triomphe, Johansson était devenu, à l'époque, le cinquième champion du monde des poids lourds non-américains.

L'année suivante, il perdra son titre récupéré par K-O au 5e round par le même Patterson. En mars1961 ils se sont rencontrés pour un troisième combat à Miami (victoire de Patterson par K-O au 6eme round). Afin de se préparer à ce combat, Johansson avait eu un jeune boxeur professionnel cde dix-huit ans omme sparring-partner au nom de Cassius Clay (le futur Mohamed Ali).

Champion d'Europe en 1962 en battant par KO le boxeur anglais Dick Richardson.

Il a été élu 'Boxeur de l'année' par Ring Magazine en 1958 et 1959.

Il a pris sa retraite en 1963 avec au total 26 victoires (17 avant la limite) en 28 combats.

Comme son rival et ami Floyd Patterson , il souffrait de la maladie d'Alzheimer. Il est décédé le 30 janvier 2009.