在西方，從中古時期到文藝復興時期就有了水彩畫的雛形。早在中世紀，歐洲許多地區的畫家已經在用水和膠來調和顏色，繪制手抄本的插圖了。那些用透明或半透明顏料畫在羊皮紙上的作品可以看作是歐洲水彩畫的先例，早期水彩畫表現方法與色彩的運用還比較簡單，只是用水調配可溶性顏料作畫。
18世紀到19世紀中期，是水彩藝術大發展的時期，隨著透視學、色彩學原理的完善，在對色彩技法的不斷探索與突破中增強了水彩藝術的表現力，使淡彩畫從單調的色彩階段，發展到通過對不同天氣與光色間的色彩變化來裝飾景觀的階段。表現技巧的進步，對自然物象本質的認識與成長逐漸使水彩畫自成體系，進壹步發展成為水彩畫藝術。
在中國，水彩畫起步於19世紀末20世紀初。
由於水彩畫與中國傳統水墨畫在材料和表現上有壹些相似之處，即用水作調和劑，在紙本上作畫，用水、用筆的形式多有相似，其視覺情趣和東方民族含蓄委婉、抒情達意的審美心理相吻合，因此，西方的水彩畫傳到我國後便很快為大眾所喜愛。
水彩畫在我國的繁榮，始於民國初，在蔡元培的倡導與扶植下，出現了壹批依照西方美術教育的模式進行教學的美術學校，聘請國外教授來華授課，以寫生的方法傳授素描、油畫，從而也推動了水彩專業人才隊伍的壯大。先後培養了王濟遠、潘思同、李劍晨、華宜玉等壹批有影響的水彩畫家，他們對中國水彩畫的發展起到很大的推動作用。
明國以後，除公立美術院校，還建立了不少私立美術院校，如上海美術院、私立蘇州美術專科學校等，這些新型美術院校是我國本土現代美術教育的基礎，為我國培養出壹批優秀的畫家，如關廣誌、冉熙、楊廷寶、楊雲龍等。
新中國成立後，國家加大對文藝創作的支持與投入，提出“百花齊放、百家爭鳴”的方針，為文藝創作營造了較為寬松的文化氛圍。壹批有著深厚的專業基本功及良好藝術素養的藝術家，走進美術院校任教，以學校為中心的“藝術家——教師”的美術教育體制得到加強和發展，為新中國的水彩藝術事業做出了卓越的貢獻。其中代表性人物有關廣誌、李劍晨、潘思同等，他們的作品在西方寫實傳統水彩畫的基礎上，還被註入了中華民族的審美情調和藝術韻味，並表現出極強的民族化的藝術特色。