Entraineur renommé, il est resté 36 ans dans la célèbre université d'Oklahoma State University avec qui il remporte le titre universitaire en 1945 et 1946 (premier entraineur à remporter deux titres NCAA consécutifs, il est élu meilleur entraîneur de l'année lors de ces deux saisons). Entraineur des Etats-Unis, il remporte le titre olympique en 1964 et 1968 (2eme en 1972 ; il est le seul entraîneur américain de l'histoire à remporter deux titres olympiques en basketball). Il perd la finale de 1972 face à l'URSS suite à une controverse, mettant ainsi fin à une série de 63 victoires consécutives. Le trophée Henry Iba, créé en 1959, récompense le meilleur entraîneur de basket universitaire de l'année. En 1987, la salle d'Oklahoma State, Gallagher Hall, est renommée Gallagher-Iba Arena en son honneur. Il existe un siège dans cette salle, appelé le siège de Monsieur Iba, où aucun spectateur n'a le droit de s'assoir. Spécialiste de la défense, il était surnommé the iron duke of defense (le duc de fer de la défense).