I anslutning till Norrfors sågverk byggdes ytterligare ett antal byggnader som
herrgård, mangårdsbyggnad, bagarstuga, bod, stall/loge, vedhus, hölada, hässja, fähus, arbetarbostad och klensmedja.

Herrgården uppfördes 1846 (samma år som Baggböle herrgård) som förvaltarbostad till Norrfors sågverk, med sin sexdelade plan, sitt brutna avvalmade papptak och klassicistiska former, särskilt i den fint arbetade portalen.

I anslutning till herrgården låg en äldre parstuga, bagarstuga, fähus med storhässja och några bodar. Ladugården hade uppförts redan på 1830-talet.

Arbetarbostaden låg nordväst om sågverksdammen.

Såghuset var uppfört 1840 med en ram på 12 sågblad och drevs av ett hjul. Dickson & Co köpte denna såg 1850 och privilegierna överflyttades till Baggböle, med undantag för en blockskärningsram för Norrfors byamäns behov.

Ägare idag är en privatperson Svarte Månsson Swartling, Västra Norrfors.

Norrfors herrgård byggnadsminnesförklarades 1984.