除了大型抹香鲸类化石外,日本也发现了史前小抹香鲸科的化石。有关小抹香鲸科的化石所知甚少 , 于德国Baltringen发现了最早的小抹香鲸科中新抹香鲸Miokogia elongates , 中新抹香鲸Miokogia elongates生存于中新世早期 , 具体资料不详。秘鲁中新世的皮斯科地层也发现了小抹香鲸科沙加小抹香鲸Scaphokogia cochlearis , 沙加小抹香鲸Scaphokogia cochlearis有宽阔且不对称的颅骨 , 较圆的头骨盆及狭长的眶前裂。相对现存的小抹香鲸属, 沙加小抹香鲸Scaphokogia cochlearis有较长的吻部 , 吻部且呈较钝及矩形的 , 沙加小抹香鲸Scaphokogia cochlearis上颌骨有残余的齿槽 , 虽不知道其牙齿怎样,但Muizon (1988)认为沙加小抹香鲸Scaphokogia cochlearis上颌骨有未萌出的非功能性牙齿。晚中新世或上新世早期还有一种史前小抹香鲸类拟小抹香鲸Kogiopsis floridana , 拟小抹香鲸Kogiopsis floridana于1929年被划作小抹香鲸科 , 它只有下颌部分被发现 , 拟小抹香鲸 Kogiopsis floridana有较大的体型显示它和柏加小抹香鲸 Prakogia cedrosensis及小抹香鲸属kogia关系较远 , 拟小抹香鲸属Kogiopsis牙齿能有5.25寸的长度。

于70年代曾于墨西哥上新世早期地层发现了史前的小抹香鲸类柏加小抹香鲸 Prakogia cedrosensis 部分颅骨化石 ,它被认为是代表最理想的现存小抹香鲸属种的先祖。但于常陆太田市也发现了更早的小抹香鲸属化石---普利斯加小抹香鲸Kogia prisca。普利斯加小抹香鲸Kogia prisca一共有六颗牙齿化石, 一般牙齿高度达50毫米 , 最大的牙齿高度能达90毫米 , 牙齿前端至末端直径最大值能达6.5毫米,最细小的牙齿边至边间直径最大值能达7.5毫米, 最大牙齿前端至末端直径最大值及边至边间直径最大值分别是达10毫米及10.5毫米。普利斯加小抹香鲸Kogia prisca齿冠呈轻微的圆锥形及非常尖锐 , 齿冠非常倾斜。普利斯加小抹香鲸Kogia prisca牙齿有非常高的牙根且被一层很薄的白垩质覆盖牙根上下。最细小的牙齿的牙根中段那层薄薄白垩质厚度达0.5毫米 , 最大颗牙齿牙根中段那层薄薄珐琅质厚度则达1毫米。牙根末端有牙髓腔 , 有较大的孔径。白垩质层有不规则,垂直的细纹 , 齿质中央有横向的细纹。

普利斯加小抹香鲸Kogia prisca牙齿形状及结构都很奇特罕见 , 它们和现存的小抹香鲸非常类似 , 最细小的那颗牙齿可能是属于颌骨中最前或最后的牙齿之一 , 最大的牙齿弯曲 , 可能是属于齿排中段 , 至于其他尺寸仅次于该最大颗的牙齿都该是后湾的, 而且也是置于齿排中段前后而矣 , 普利斯加小抹香鲸Kogia prisca和现存的小抹香鲸属种不同之处在于普利斯加小抹香鲸Kogia prisca牙齿有较大的横载面及相对明显的白垩质 。此外上新世时期意大利也有小抹香鲸属Kogia pusilla , 具体资料不详。