爵士樂在樂器和演奏方法上非常有特色，與傳統樂隊完全不同。自“爵士時代”以來，薩克斯已成為最暢銷的樂器之壹。長號能演奏出其他銅管樂器所不能的滑稽或怪誕的滑音，因此在爵士樂隊中引起轟動；小號也是爵士樂手最喜歡的樂器。這種樂器結合不同的靜音和最高音域的幾個音符所產生的新穎音色幾乎成為了爵士樂獨有的音色特征。鋼琴、班卓琴、吉他以及後來的電吉他以其強大的打擊樂音和彈奏和弦的能力占據了重要地位。相反，傳統樂隊中最重要的弦樂器(小提琴、中提琴、大提琴)起著相對次要的作用；法國號豐富的音色在樂團裏很有魅力，但對於爵士樂隊來說，它的氣質太溫馴了，幾乎沒人用。在管弦樂隊中，每件樂器都試圖在音調和音量控制上融入整體的聲音，但在爵士樂隊中，恰恰相反，音樂家們盡力讓每件樂器“立起來”。
樂隊的組織非常靈活，最基礎的部分是兩個部分——節奏組和旋律組。在早期的爵士樂隊中，節奏組由貝斯、班卓琴和鼓組成。後來貝司和班卓琴逐漸被貝司和吉他取代，鋼琴也加入進來。20世紀30年代，出現了壹支舞蹈樂隊，當時被稱為“大樂隊”。它由三部分組成:節奏組、銅管組和木管組。節奏組使用的樂器仍然是貝斯、吉他、鋼琴和鼓；銅管組常見的編制是三個小號和兩個長號，但這個數字是不固定的；木管樂隊通常由四五個薩克斯管組成，每個人都演奏單簧管或其他木管樂器。如果編曲是五個薩克斯，壹般是兩個中音，兩個男高音，壹個中音。還有壹個商業樂隊(有時稱為“甜蜜”和“酒店”等。)，類似於“大樂隊”，但薩克斯往往全是中音，木管組會更多使用其他樂器(如長笛和雙簧管)，有時會配三四把小提琴。這種樂隊的聲音經常可以在商業錄音帶中聽到。