Джеймс Патрик Кавийзъл е роден на 26 септември 1968 г. в Маунт Върнън, Вашингтон. Той е едно от петте деца на Маргарет, бивша театрална актриса и Джеймс Кавийзъл. Семейството му са ревностни католици. Той е с ирландски, швейцарски и словашко-романски произход. Като младеж той е „много краен“. Има интереси в спорта и религията.
Атлетичен е и практикува различни спортове, в които постига някои успехи. През 1984 год. той посещава Mount Vernon High School, но скоро е преместен в O'Dea High School и Burien Kennedy High School в Буриен, Вашингтон, където става истинска баскетболна звезда. Там се дипломира – през 1987 г. Посещава Bellevue Community College, където отново влиза в баскетболния отбор. Но скоро травма на крака прекратява активната му спортна дейност. Това насочва Джим към актьорството. През 1990 кандидатства за роля в независимата продукция „My Own Private Idaho“ (1991).
Печели много малко участие като чуждестранен чиновник, след като казва на кастинг директорите, че е скорошен италиански имигрант. Следващата година, Джим се премества в Лос Анджелис, където работи като сервитьор между отделните конкурси за роли. Той получава малки роли в „Diggstown“ (1992), „Wyatt Earp“ (1994)“, The Wonder Years“ (1988), „Murder, She Wrote“ (1984) и редица други, докато не спечелва популярност след участието си в „Angel Eyes“ (2001), където играе любовната тръпка на Дженифър Лопес.
Той се утвърждава постепенно като универсален актьор, със силно изразено присъствие. Той, обаче има силен проблем от религиозен характер, който се проявява на екрана, когато отказва да сцена с екранната си съпруга Ашли Джъд в „High Crimes“ (2002), тъй като това противоречи на католическото му възпитание. То също така оказва и влияние, когато е избран от Мел Гибсън за ролята на Исус Христос за „Страстите Христови“ (2004), където участието му е аплодирано от критици и от зрители. През 2011 год. печели водеща роля в криминалната драма на CBS „Person of Interest" (2011). Шоуто придобива изключително висок рейтинг и носи на Кавийзъл нови предизвикателства на екрана.
Извън филмите Джим е женен за Кери – учителка в училище, която среща по време на уредени срещи през 1993 г. Двамата имат брак от 1996 г.