Между тем глава семьи отважно воевал на фронте в звании политрука. Домой писал крайне редко. В 1943 году его сильно контузило, и после лечения он был комиссован на гражданку. Однако к родным он не вернулся. Встретив другую женщину, он женился на ней и навсегда остался в Москве.
В 1944 году Иосиф вместе с семьей вернулся на Украину, в город Краматорск. Там же он пошел в первый класс средней школы. В 1946 году мама И. Кобзона встретила свою новую любовь и вышла замуж. Ее новым избранником оказался бывший фронтовик, отец двоих сыновей Михаил Моисеевич. Так у Иосифа появилось еще два брата (кроме них у него было еще двое родных братьев и сестра).
В конце 40-х годов семья Кобзонов сменила место жительства и переехала в Днепропетровск. Каким будущий певец был в детстве?
По его словам, был он довольно хулиганист и доставлял своей матери много забот. Чтобы не прослыть среди дворовой шпаны слабаком и трусом, Иосиф сделал на своем теле целых пять татуировок. И. Кобзон рассказывает: «Мне было 13 лет, я был в селе у дяди. Меня завели ребята, что я городской, трус. И тогда, чтобы доказать им и себе, что это не так, я в течение дня произвел себе татуировки. Это довольно сложно: три иголки обжигаются, макаются в тушь, и колется рисунок. На пальце я сделал колечко, в другом месте инициалы моих двух самых близких друзей, в третьем — свои инициалы. А на правом плече написал: «Не забуду мать родную». После этого я три дня пролежал с температурой сорок. Приехал домой и получил по башке от мамы. В начале своей карьеры, в 60-е годы, я их свел — нельзя было так выходить на сцену. А мама мне сказала: «Ты, конечно, мог сводить все татуировки, я тебя не просила их делать, но эту ты не имел права убирать…»
В те же 13 лет Кобзон всерьез увлекся боксом. Его успехи на этом поприще были довольно весомы: он стал чемпионом Украины по этому виду спорта.
В 15 лет Иосиф открыто стал курить. Произошло это при следующих обстоятельствах. И. Кобзон рассказывает: «Отчим, которого я называл отцом, был очень добрым Человеком, мама была значительно строже. Однажды в пятнадцать лет отец «застукал» меня в уборной с сигаретой. На следующий день после долгих разговоров о вреде курения отец дал мне двадцать копеек, сказав, что, мол, если не можешь бросить, то кури открыто, не прячься. Как только ему удалось уговорить маму? Так я начал курить…»
Между тем, окончив семь классов средней школы, Кобзон поступил в горный техникум. После его окончания в 1956 году он был тут же призван в ряды Советской Армии (так называемый «целинный» набор). Все новобранцы этого набора работали на целинной страде в Кустанайской области Казахстана. Когда страда закончилась, всех отправили дослуживать в разные концы страны. Иосиф попал в Закавказский военный округ. Именно там он впервые обратил на себя внимание как солист (а петь он начал еще в школе) и был приглашен в окружной ансамбль песни и пляски.
Видимо, эта активная концертная деятельность в составе военного ансамбля и зародила в юноше мысль попробовать себя на поприще искусства. Поэтому, вернувшись домой в 1959 году, он заявил своим родителям, что собирается ехать в Москву поступать на артиста. Мать крайне негативно встретила это заявление сына. «Какой из тебя певец? — недовольно ворчала она. — Иди лучше работать по специальности. Там и деньги будешь нормальные получать, и на ноги встанешь». Точно так же рассуждали и братья Иосифа, которые считали его затею «выпендрежем», — мол, все нормальные люди вкалывают, а он хочет «сачка давить на сцене». Однако эти разговоры не смогли убедить Кобзона изменить свое решение. Чтобы заработать себе на дорогу денег, он устроился работать лаборантом. Вскоре нужная сумма была собрана и он отправился в Москву.
Как это ни удивительно, но, приехав в столицу и абсолютно никого в ней не зная, Кобзон с первого раза поступил сразу в три учебных заведения: училище при Московской консерватории, ГИТИС и Государственный музыкально-педагогический институт имени Гнесиных. После короткого раздумья он выбрал последний.
Занимаясь в оперной студии института под руководством профессора Георгия Борисовича Орентлихера, Кобзон пел Онегина, Фигаро, Елецкого, Валентина в «Фаусте». Учителя уже тогда прочили ему карьеру оперного певца. Но он внезапно увлекся легкой музыкой. И хотя ректор института Ю. В. Муромцев был категорически против того, чтобы его студенты увлекались эстрадой, справиться с Кобзоном он так и не сумел.