民國紀元前十年(日本明治三十五年)二月二十四日，以嘉義公學校(現今嘉義市崇文國民小學)分校名義招生開辦。設校當初，商借外林庄林皆先生座落於嘉義西堡水掘頭一O七番地之三建築敷地及住屋充為校地及臨時校舍、改設成兩間教室(面積二二．七坪)，一間辦公室(面積八坪)，一間教師宿舍(面積八坪)，一切準備就緒，於同年三月二十四日正式開學授課。

　到民國紀元前九年(日本明治三十六年)五月二十六日，正式獨立，校名改稱水掘頭公學校，修業年限六年，同年六月二十日林皆先生將其所有土地捐贈給水掘頭公學校。民國紀元前八年(日本明治三十七年)五月二十一日，柳子林庄黃靖卿先生了當時就任水掘頭區街庄長)為謀求學校之發展，將林皆先生之住屋價購捐獻給學校，充為校舍建築用地，創校當初，因民智未開，又觀念保守，就學兒童以男生居多，女生就讀者寥寥無幾，一直到民國紀元前七年(日本明治三十八年)女生就讀人數才逐漸增多，因此原有教室不敷使用，經商借水掘頭街廟宇廂房權充臨時教室，為女生上課之用，於四月一日開學授課，後來因就學兒童減少。於民國紀元前四年(日本明治四十一年)五月一日被裁定將修業年限六年縮短為四年，一直到民國八年(日本大正八年)四月一日，就學兒童又增多，經核准又恢復修業年限為六年。

　民國十年(日本大正十年)四月二十四日，因台灣之地方制度改制，水掘頭庄改名為水上庄，本校校名亦隨著改稱水上公學校，其學區含湖子內及大崙庄。湖子內學童，因路途遙遠：通學極為不便，因此湖子內庄民捐建竹造茅葺平屋(面積20坪)充做教室兩間，成立水上公學校湖子內分離教室，於四月二十四日開學授課。同日大崙庄廟宇廂房(磚造瓦頂平屋面積20坪)充為教室，開學授課。成立水上公學校大崙分離教室。

　民國十年四月三十日，本校就學兒童增多，教室不敷使用，洽商柳子林庄廟宇，無償借用廂房(木造瓦賣平屋30坪)改設兩間教室上課。民國十一年(日本大正十一年)五月，租用水上庄水上三o九番地之木造乎房及土角造瓦葺平屋(面積20坪)改設為教室上課。同時間無償借用水上庄廟宇附屬建物(磚造瓦葺平屋，面積13坪)充為教室使用，民國十五年三月到十七年四月，無償借用柳子林廟宇附屬建物(木造瓦葺平屋，面積37坪)，改設兩間教室上課。民國十一年四月，無償借用大崙庄呂四川先生座落於大崙二五六番地建築敷地及木造瓦葺平屋(面積共45坪)一棟充為大崙分離教室上課。到民國十二年(大正十二年)四月二十七日，因湖子內大崙分離教室的就學兒童增多，經核准均昇格為分教場，湖子內分離教室昇格為湖子內分教場(即今柳林國民小學前身)，大崙分離教室昇格為大崙分教場(即今大崙國民小學前身)

　民國十六年日本政府為培養農業技術人材為由，三月三十一日在本校增設水上農業補習學校，到民國二十五年三片三十一日，因教育制度改制，而廢校。

　民國三十二年四月一日增設高等科，修業年限為二年，實施義務教育，前六年稱為尋常科，後二年為高等科(相當現今之國民中學)

　民國三十四年十月二十五日台灣光復，本校由台南縣政府接管，民國三十五年．一月十五更改校名為台南縣水上鄉第一國民學校。同年六月一日因台灣省行政區域調整，本校劃歸嘉義市管轄，校名改稱嘉義市立水上國民學校，同時廢止高等科。同年十一月十三日更改校名為嘉義市水上區水上國民學校。民國三十六年十月二十五日，由本校劃六班級學生歸南靖國民學校。

　民國三十九年十月二十五日，本省行政區域調整，嘉義改縣，本校隸屬嘉義縣，校名改稱為嘉義縣水上鄉水上國民學校。民國五十四年八月一日由本校劃六班學生歸回歸國民學校(即今之北回國民小學)。民國五十七年九月一日，校名改稱為嘉義縣水上鄉水上國民小學。