przed utworzeniem hrabstwa Anderson, Tennessee, terytorium to było początkowo terenem tak zwanego Wschodniego pasma Indian Cherokee, które zostało zasiedlone przez kilka rodzin pionierów, w tym rodziny Wallace, Gibbs, Freels, Frost i Tunnell. Chociaż Traktat z Holston, podpisany w 1791 roku, miał być negocjacją z Czirokezami, aby zakazać osiedlania się na tym obszarze, w tym na terenie dzisiejszego hrabstwa Anderson, traktat stał się nieskuteczny, ponieważ coraz więcej osadników przemieszczało się przez Appalachy z Wirginii i Karoliny Północnej do Tennessee. Powódź białych osadników w domenie indyjskiej była przyczyną kilku potyczek, które złagodzone po traktacie z Tellico w 1798 roku (z punktem wyjścia dla zrzekł ziemi z Czirokezów jest blokada Tellico) pozwoliło na większą łatwość w osiedlaniu się na tym obszarze.
Hrabstwo Anderson zostało wydzielone z części hrabstwa Grainger w stanie Tennessee oraz części hrabstwa Knox w stanie Tennessee w 1801 roku; sąsiednie Hrabstwo Roane w stanie Tennessee zostało również utworzone z części hrabstwa Knox w stanie Tennessee w 1801 roku, dzięki czemu hrabstwa Anderson i Roane zostały nazwane „siostrzanymi hrabstwami”. Hrabstwo Anderson zostało nazwane na cześć Josepha Andersona (1757-1847), który był w tym czasie amerykańskim senatorem z Tennessee, a jego kariera obejmowała również sędziego Sądu Najwyższego terytorium na południe od rzeki Ohio i kontrolera Skarbu USA.
podobnie jak wiele hrabstw wschodniego Tennessee, mieszkańcy hrabstwa Anderson byli w dużej mierze przeciwni secesji w przededniu wojny secesyjnej. 8 czerwca 1861 roku Anderson głosował przeciwko dekretowi secesji Tennessee, stosunkiem głosów 1278 do 97.
Budowa Norris Dam, pierwszej tamy zbudowanej przez Tennessee Valley Authority, przyniosła poważne zmiany w hrabstwie w latach 30. XX wieku.około 2900 rodzin zostało przesiedlonych z terenów zbiornika w Anderson i pobliskich hrabstwach podczas budowy, która rozpoczęła się w 1933 roku i została ukończona w 1936 roku. Miasto Norris zostało pierwotnie zbudowane jako planowana społeczność, aby zamieszkać robotników zaangażowanych w budowę tej tamy. W wyniku zakończenia budowy i eksploatacji zapory temperatura dolnego koryta rzeki Clinch zmieniła się, tak że dawny przemysł perłowy, który od wielu lat odnosił sukcesy, wyparował, ponieważ małże, niegdyś rozpowszechnione w rzece, nie były w stanie utrzymać życia w zmienionym klimacie.
podczas II wojny światowej projekt rządu federalnego Manhattan przyniósł większe zmiany w hrabstwie, w tym wysiedlenie większej liczby rodzin i założenie Oak Ridge.
Muzeum Appalachii w Norris upamiętnia pionierskie i wiejskie życie ostatnich dziesięcioleci w hrabstwie Anderson i regionie. Jest to również Antykwariat, który sprzedaje artefakty od czasów pierwszych osadników do czasów wojny Coal Creek