小古庄位于大店镇西南5公里处，东与周家坡子村相邻，西与四角岭村相邻，南与言边镇的下河村、团埠子村、苍沟村接壤，北与薛家道口村、庄家滩井村、王家滩井村接壤。

明洪武年间，徐、孟、唐三姓由东海县迁此立村，取名小官庄村。民国初年，为区别重名村，取历史悠久古老之意，改称小古庄。

小古庄村南、东、西三面环岭，北面平原。解放前，全村130户，300口人，总面积2400亩，居住面积150亩，耕地面积2250亩。解放后，全村161户，总面积2400亩，居住面积200亩，耕地面积2200亩。改革开放后（至现在）全村396户，1240口人，总面积2200亩，居住面积480亩，耕地面积1920亩。

解放前，孟姓迁入本镇小官庄村。唐姓迁入道口乡兰墩官庄，现由徐、李、王、彭、庄、来、魏、苗八姓组成。