虎林地名是源于境内的七虎林河。七虎林河的得名是取于县北的一座山名。因河水发源于七虎林山，故名七虎林河。清代设治时取为地名，沿用至今。
虎林明朝时称呢吗河，为穆棱河地方。
明朝末年又划属。乌苏里地，其河的东岸属扎布的领土，西岸属穆位府的领土。
咸丰十年(1860年)签定的《北京条约》中，将乌苏里江右岸一带归属了俄国，剩余的部分归属密山府。
宣统元年(1909年)在虎头设分防同知，称呢吗厅。
宣统二年(191Q年)团与俄界呢吗口名称相混，故改名虎林厅。后由于虎头地处县的边境，便于满洲国康德年间将县公署移置黑嘴子。此地便成为县政的中心。
民国三年(1914年)虎林县隶属吉林省依兰道。
民国十八(1929年)东北政务委员会成立，废道制，县归省直接管辖，虎林仍隶属于吉林省，为三等县；
满洲国大同元年(1932年)实行省公署官制，确立东北为五省，虎林仍属吉林省，为丁类县；
康德元年(1934年)十二月实行地方行政机构改革，将东北划为十四省，虎林划属滨江省所辖。
康德四年(1937年)七月一日实行第二次行政机构改革，增设牡丹江、通化两省，虎林划属牡丹江省所辖。
康德六年(1939年)六月又增设东安、北安两省，又将虎林划属东安省。
康德十年(1943年)十月设置东满总省(包括牡丹江、东安、间岛三省)和兴安总省(包括兴安东、西、南、北四省)，虎林随之划属东满总省的东安区域所辖。
民国三十六年(1947年)六月五日公布东北新省区方案，将伪省合并为九省，虎林划属合江省所辖。
全国解放后，划东北为三省。此县又划属黑龙江省。
