Один из главных представителей американского независимого кинематографа. Неоднократный призёр Каннского кинофестиваля.
 
Родился 22 января 1953, в Акроне, штат Огайо, недалеко от Кливленда. 
 
Его отец работал на шинном заводе Гудиер. Мать до замужества работала журналистом в местном журнале «Маяк», освещала последние новости шоу-бизнеса и кино. 

Джим поступил в Школу журналистики при Северо-Западном университете. Позже отправился продолжать учёбу в Париж, где активно посещал Французскую синематеку и влюбился во французское кино. 

По возвращении на родину переводится в Колумбийский Университет (Нью-Йорк). Там Джармуш начал интересоваться пост-структуральной философией и писать маленькие полуповествовательные абстрактные пьесы. В 1975 году получил степень бакалавра по английской литературе.
 
В Нью-Йорке Джармуш находит работу ассистента у знаменитого режиссёра Николаса Рэя. 
 
В 1980 году полулюбительски, на пленке 16мм, снял картину «Вечный отпуск». Из короткометражки «Новый Свет» впоследствии получилась полнометражная картина «Удивительнее рая» (1984), получившая премию Каннского фестиваля за лучший дебют «Золотая камера» и «Золотой Леопард» в Локарно. 

В начале 1980-х Джармуш сотрудничал с Dark Day, сайд-проектом клавишника из видной авангардной No Wave-группы DNA. Некоторое время он был участником ещё одной No Wave-группы, The Del-Byzanteens. Режиссёр по сей день продолжает периодически сотрудничать с различными музыкантами, помимо того, Джармуш является автором ряда эссе об известных музыкантах и группах; имеются у него и поэтические публикации. Он же – основатель шуточного «тайного общества» «Sons of Lee Marvin» (Сыновья Ли Марвина).

Джармуш является участником рок-группы SQÜRL, которую он основал вместе с Картером Логаном и Шейн Стоунбек. Кавер группы SQÜRL на песню Ванды Джексон 1961 года Funnel of Love использована в качестве саундтрека к фильму «Выживут только любовники».