三河马主要产于内蒙古自治区呼伦贝尔盟的额尔古纳和大兴安岭以西滨洲铁路沿线一带。其中有一个地方叫三河镇，因其位于根河、得尔布尔河和哈乌尔河三条河流域内而得名。据说过去三河镇之中心处有一天然水泉，供全镇饮水，是建立马场的缘故之一。这里是大陆性季风气候，冬季严寒，夏季较热，马产区海拔高度660米左右，有世界著名的呼伦贝尔草原，草原面积大，地势多丘陵起伏，水源充足，草生繁茂，草质优良，养马条件得天独厚，是育成三河马的天然基础。

1955年调查三河马时查明，三河地区古有“韦室马”，在1904-1930年间有来源于苏联境内毗连我国边疆的后贝加尔地方的马匹，即后贝加尔马，该马亦属于蒙古系的马种。此期间，俄国人引用奥尔洛夫马和比丘克马等品种对其进行改良。1934-1935年，日本入侵的伪满时期，曾在海拉尔设种马场，引入的盎格鲁-诺尔曼、盎格鲁-阿拉伯、阿拉伯马、奇特兰、英纯血、美国快步马等马种血液，对三河马的形成产生一定影响。1940年代以前，三河马曾以“海拉尔马”名扬上海、天津、中国香港等地的赛马场。赛马用马的需求，给当地马种形成带来了新的推动力。

从三河马的历史可以看出，当时该地区的马就是在后贝加尔马和部分三河地区原有马种的基础上，经过多品种无计划杂交的后代，其血缘十分复杂，遗传基础也很丰富。1945年日本帝国主义投降时，海拉尔种马场被日寇烧毁并烧死种马30余匹，其他全部散失。1946-1954年对三河马历史来说，虽然经历过所有制及管理体制的变化，因当地属于自给自足的经济体系，马种基本上没有受到过大的影响，但至多也就能稳定在原有的水平。

解放后，由于生产建设的发展，需要大量役马和种马，各地纷纷到三河马产区买马，造成三河马大量外流，特别是优良的种公马外流较多，当时，留在当地的三河马不仅体格较小，在外貌结构上也存在不少缺点，为进一步选育造成困难。更为困难的是当时尚处于个体分散饲养时期，饲养条件差，饲料不足，在管理上，病健同群，公母老幼混牧，血统不清，不仅无法控制外流和迅速增加数量，更难进行有计划地选育。根据群众对三河马在育种上的要求，1954年11月，政府建立扎罗木得三河马场（即大雁马场，位于海拉尔和牙克石之间），该场先后收购三河马大小共计 677 匹。1955年4月，政府又建立额尔古纳旗三河马场（即三河马场），该场共有813匹三河马。三河马场的品质比大雁马场略佳。这就是历史上最著名的两个三河马场。