I boka «Fantefolket» eller «Landstrygerfolket i Norge» fra 1850, hevder Eilert Sundt at det han kalte fantefolket kunne føres tilbake til to innvandringer: den første var av sigøynerne på 1500-tallet, mens den andre var av europeiske landstrykere og håndverkere på 1600-tallet.
Den første innvandringen ga opphav til det Sundt kalte de «ekte» taterne (storvandringene), mens den andre var opphavet til en annen gruppe som han kalte «skøiere» eller småvandringene.
Sundt mente at storvandringene og småvandringene hadde ulike personlighetstrekk. På grunn av sin «sigøynerarv» hadde storvandringene en personlighet med en «utemmet villskap» som førte dem på ville veier og som gjorde at det var vanskelig for dem å venne seg til et bofast liv. Småvandringene var derimot av en mindre fremmedartet rase, ettersom de både hadde europeisk og norsk avstamning.
Begge disse gruppene mente han var en del av fantefolket, som ifølge Sundt også bestod av personer fra den norske befolkningen, som hadde sluttet seg til disse innvandrerne (Sundt 1850, Winge 1995, Minken 2009).
Sundts syn på taterne som etterkommere etter de første sigøynere som kom til Norge, var lenge dominerende, men på slutten av 1940 tallet ble det kritisert av blant annet teologen Kaspar Flekstad. Flekstad mente at det var viktig å tilbakevise at de norske «omstreiferne» hadde en «sigøynerarv» fordi de uten en slik arv ville være lettere å bosettes.
I mellomkrigstiden ble det etniske en del av et rasehygienisk tankegods. Dette kan man blant annet se i Johan Scharffenbergs kriminalanalyser, basert på materiale fra Botsfengselet.