Родился в 1955 году в селе Анненское Тербунского района Липецкой области. В 1980 году окончил с отличием юридический факультет Воронежского государственного университета.

В 1981 году избран народным судьей Грязинского городского народного суда Липецкой области. С 1991 года возглавляет Липецкий областной суд.

Иван Иванович являлся делегатом всех Всероссийских съездов судей и с 2000 года является постоянным членом Совета судей РФ. В декабре 2008 года на VII Всероссийском съезде судей И.И.Марков был избран в состав Президиума Совета судей РФ. В должности судьи работает уже более 28 лет. «Заслуженный юрист Российской Федерации», судья высшего квалификационного класса. За многолетнее образцовое исполнение служебных обязанностей, конкретный вклад в развитие судебной системы, инициативу при исполнении служебного долга Иван Иванович награжден ведомственной наградой - медалью «За заслуги перед судебной системой Российской Федерации» II степени. Награжден Наградным знаком Совета судей Российской Федерации «За служение правосудию». В июне 2004 года Указом Президента РФ награжден орденом Почета.