宋徽宗年间（1101～1125年），一批犹太移民经天竺（印度）迁徙到当时繁华的宋都东京（今开封市），他们向徽宗殷勤致意，并进贡了西洋布匹。徽宗热情相待，并给予他们“归我仲夏，遵守祖风，留遗汴梁”的优厚待遇。自此，这一支犹太人就定居中国，繁衍至今。史称“开封城里的中国犹太人”。

开封是当时中国犹太人的三大聚居地之一，是中国犹太社团的中心，犹太人在这里存留时间最长，留下的遗迹也最多。当时，在开封的犹太人有70姓，约1000人。教经胡同是开封犹太人一直居住的地方。为纪念祖先雅各，犹太人宰杀牛羊时要先挑除脚筋，所以他们聚居的地方也被叫做“挑筋胡同”。民国时期，地方政府以其名不雅为由，便改名为“教经胡同”。

犹太人定居开封200年之后，金朝军队攻入中原，犹太人不愿随北宋王室南逃。此时的开封几乎成为一座空城，100万人口只剩下5万。犹太人此时在开封城内得到永久的安居地。1163年，开封犹太人兴建起在中国的第一座犹太会堂。随着犹太商业和手工业的发展，他们的宗教生活也正常进行。他们保持本民族的宗教习规和传统风俗，实行族内通婚，遵守教规所包含的规定，一日3次对上帝礼拜，每月四次“会斋”，即守安息日，一年7次“守戒”，即过宗教节日。

明代是开封犹太社团人丁兴旺的时代，发展成为一个最大的犹太社区，有73姓、500多家，约5000人，并建有专门的犹太墓地。他们精通生意之道，又重视教育。据史书上记载，在开封考取进士的犹太人就有20多位，当地大宗的商业更是少不了他们。犹太人被汉民族同化也发生在这个时候，在中国儒教文化的熏陶下，开封犹太人中间的许多知识分子逐渐放弃对犹太教经典的学习，改读孔孟之书，循科举之路，出现了一批封官进俸的犹太名人。随着这些人在中国各地宦游或经商，开封犹太人逐渐向全国各地流动。由于他们与中国汉人自由平等共处，便逐渐接纳了中国的传统风俗习惯，同时逐渐放弃了本民族的习俗，加速了被同化的过程。

明崇祯十五年（1642年），黄河决口淹没了开封城。开封犹太人当中有200多家外迁。洪水过后，返回开封重建家园的只有7个姓族。他们力图恢复正常的犹太人生活，凑钱修复犹太会堂，重新修订《犹太圣经》。

1850年，开封犹太社团的最后一个拉比（犹太教的职业神职人员）去世，却没有人能来接替。随着拉比知识的逐步萎缩，年轻人的心已不再被信仰所吸引。犹太会堂最后一次被洪水毁坏后便无人重修了，终于在1854年即清咸丰四年毁废。此后，开封犹太人中的一部分人改信伊斯兰教，名曰“蓝帽回回”，而更多的人在与当地人的通婚过程中被同化，犹太社区已不复存在。到19世纪后半期，犹太人终以“蓝帽回回”的身份，加入到中华民族大家庭中。

进入20世纪后，开封犹太人的外部特征进一步消失。但其中一部分犹太人的后裔对自己的身份问题态度十分严肃。他们在与中国其他民族相处时，仍然保持祖先的遗风，在屡次人口普查中，坚持认定自己是犹太人。据统计，目前开封仍有犹太人后裔200多户，约千人。