Redan i unga år lärde sig Nusrat Fateh Ali Khan sjunga qawwali, en sufisk, religiös-extatisk musikstil. Traditionen hade gått i arv inom familjen och även hans far var en framstående sångare. Khan tog över faderns och sina farbröders qawwaliensemble 1971.