1881年沙皇政府借口亚历山大二世遭谋杀，在被捕的嫌疑犯人中有一名是犹太妇女，于是掀起一场反犹、驱逐犹太人行动。1894年沙皇尼古拉二世再次掀起反犹浪潮。同时，沙皇觊觎中国东北，鼓励向中国东北移民，促使俄罗斯人，其中不少是犹太人，不断向中国东北迁移、定居。部分俄罗斯犹太人继续沿海南下天津、青岛、上海。光绪二十八年（1902年）来上海的俄罗斯犹太人已达25户100余人，他们建立了阿什肯纳兹犹太人社区。阿什肯纳兹犹太人是指栖居欧洲北部各国的犹太人群体。当代东欧、西欧、美洲的犹太人中，除少数是西班牙犹太人的后裔外，都属于阿什肯纳兹犹太人。

俄国“十月革命”后，有些俄罗斯犹太人随同白俄一起流亡中国，其中不少人来到上海。20世纪20年代，上海的俄罗斯犹太人已增至800～1000人。

民国20年（1931年）九一八事变发生后，日本侵略者驱赶在中国东北的俄国人，迫使俄罗斯犹太人随同大批白俄南下流亡上海。30年代侨居上海的俄罗斯犹太人已增至4000余人。