Barna skulle fjernes fra sine familier så tidlig som mulig slik at de ikke lærte foreldrenes livsform. De skulle, ideelt sett, plasseres i barnehjem fra de var mellom fire og seks år. Der skulle de være til de var 10-12 år, for så å plasseres i fosterhjem.
Arbeidet med barna var kjernen i Misjonens arbeid: «Berger du barna, berger du slekten», var grunnlegger og sogneprest Jacob Walnums motto. «Det vi må gjøre», mente han, var «å rykke det onde opp med roten». Her definerte han «det onde» som romanifolkets kultur - og det man skulle rykke opp var barna.
Misjonen etablerte en rekke barnehjem. Den første var Askviknes barnehjem i Os utenfor Bergen, som ble tatt i bruk høsten 1899. Lillegården barnehjem i Eidanger ved Porsgrunn og Rostad barnehjem i Inderøy startet begge rundt 1900.
I 1918 åpnet Eilert Sunds barnehjem på Eidsvoll, i 1921 åpnet Jacob Walnums barnehjem i Kopervik og i 1929 åpnet Sørlandets barnehjem på Greipstad ved Kristiansand.
Hvem kom på barnehjem?
Barn kunne havne i barnehjem både med og uten foreldres samtykke. Det var vergerådene, som tilsvarer dagens barnevernsnemnder, som hadde det formelle ansvaret for å fjerne barn fra sine foreldre. Misjonen var ofte den som tok initiativet til at barn ble tatt. Barn kunne bli tatt fra foreldrene uten et formelt vedtak og begrunnelsen var ofte at familien ikke hadde et fast sted å bo.
Etter at barna ble tatt fra sine foreldre ville Misjonen at de skulle ha så lite kontakt med sine biologiske foreldre som mulig. Barna ble gjerne fortalt at de skulle ta avstand fra sine foreldre, eller at foreldrene var døde eller ikke ville ha dem. Til foreldrene sa Misjonen at barna hadde det godt og at kontakt bare ville gjøre dem urolige. Brev mellom foreldre og barn kom ofte ikke fram.
Mange foreldre opplevde at å be om kortsiktig hjelp fra Misjonen, førte til en permanent omsorgsoverdragelse. Et paradoks er at barna ofte ble flyttet fra sted til sted, og slik ble «reisende» mellom Misjonens ulike institusjoner.
De fleste av foreldrene opplevde å aldri få se sine barn igjen. I likhet med forholdene i andre barnehjem opplevde barna ofte omsorgssvikt og overgrep, eller i beste fall bare mangel på kjærlighet.