据历史资料记载，因大琴下段与陈江上段，很像一大琵琶琴，店上即琵琶弹线，故取名为大琴。清属石上里，民国初属河东自治局，苏区时属丰山区管，民国后期，属丰山乡第五保，解放初属丰山区。公社化时为丰山公社大琴大队。

1961年设大琴公社，1965年并入丰山公社，为大琴大队。1979年陈江分出，分为陈江与大琴2个大队。

1984年4月建乡换届时，称大琴村至今。村政府设店上庙背，位于丰山乡驻地西北方，东邻高田，距离丰山驻地7.5公里。地势西部高，东北部略低，中属为丘陵地带。