汉代张骞出使西域后，中原王朝与西域各国随着商贸交往的日益频繁，文化交流也日渐密切。起源于印度的佛教也随着东来的僧侣和络绎不绝的商队进入中原。北魏时期，由于最高统治者的倡导，佛教日渐昌盛，特别是隋唐时期，历任帝王崇佛成风，在各地大肆开窟修庙、雕塑佛像，并率百官顶礼拜，民间亦随之崇佛。我国传统的道教在民间有着深厚的基础，平川境内的鹯阴口是汉至魏晋时期最繁忙、最重要的渡口，是古丝绸之路北线的必经之地，佛道两教文化在此汇合传播至中原及至欧亚地区，平川人民崇佛信道之风日盛，沿黄河两岸开凿洞空，雕塑佛、道之像，在境内留下了福寿山石刻、迭烈逊真武庙、红山寺石窟等丰富的石窟艺术遗产。

这些石窟均内有着佛道诸圣的雕塑，环窟庙四壁皆绘有壁画。雕塑手法有粗犷、细腻之分。壁画构图新颖，比例协调，色彩浓丽，绘画手法细腻，具有鲜明的时代特征。