1986 yılında A.Ü.Siyasal Bilgiler Fakültesi’nden mezun olan Koç, aynı yıl Türkiye İş Bankası A.Ş. Teftiş Kurulu Başkanlığı’nda göreve başlamıştır.
Ekim 1994 tarihinde İş Bankası Menkul Kıymetler Müdürlüğü’ne Müdür Yardımcısı olarak atanmıştır. 03.01.1997 tarihinde, İş Yatırım Menkul Değerler A.Ş.’nde Sermaye Piyasaları ve Portföy Yönetiminden sorumlu Birim Müdürü olarak göreve başlamış; 16.04.1999 tarihinde aynı kurumda Genel Müdür Yardımcılığı’na yükselmiştir. 11 Eylül 2001 tarihinde İş Girişim Sermayesi Yatırım Ortaklığı A.Ş.’nin Genel Müdürlüğü görevine atanan İlhami Koç, 28 Nisan 2002 yılında İş Yatırım Menkul Değerler A.Ş. Genel Müdürü olarak görev yapmaya başlamış; 11 yıl bu görevi yaptıktan sonra 2013 yılında Türkiye İş Bankası A.Ş. Genel Müdür Yardımcılığına yükselmiştir.
Yurtiçi ve yurtdışı birçok banka ve şirketin yönetim kurulunda görev yapan Koç, 2014 yılında Türkiye Sermaye Piyasaları Birliği Başkanı olarak seçilmiştir. Bu görevi nedeniyle halen Borsa İstanbul A.Ş. Yönetim Kurulu Üyesi olarak da görev yapmaktadır.
İlhami Koç, 14 Kasım 2016 tarihinden itibaren Anadolu Anonim Türk Sigorta Şirketi Genel Müdürü olarak görev yapmaktadır.
Evli ve bir çocuk sahibi olan İlhami Koç, İngilizce bilmektedir