小由马行政村位于山东省临清市魏湾镇北部，距镇政府2公里，东与跨马村为邻，北与贾庄村交界，西与大由马村接壤，南与仁庄村相连，该村地处鲁西北黄河冲积平原，地势平坦，土壤以盐化潮土为主。东西最大距离0.5公里，南北最大距离2公里，境内有1条沥青路与村内街道相连接，交通十分便利。顺德渠流经本村，长度1公里，全村辖区总面积82.3公顷，村庄建成区面积6公顷。全村姓氏有穆、李、宋、王5个姓氏，其中穆姓氏人口最多，该村曾荣获文明村荣誉称号。

据此村李氏族谱记载，明建文年间，燕王军队经此，曾于此处宿军饮马。至明永乐年间，李姓由山西迁来此建村，当时命名“饮马庄”。清咸丰三年间记载为“由马庄”。经考，由、饮二字谐音相近，故演变为“由马庄”。1956年该村拆为两村，分大、小两个由马，此村为小由马。