före bildandet av Anderson County, Tennessee, var det territoriet ursprungligen land av det som idag kallas Eastern Band of Cherokee Indians, som hade avvecklats av flera pionjärfamiljer inklusive Wallace, Gibbs, Freels, Frost och Tunnell familjer. Även om Holston-fördraget, undertecknat 1791, var avsett som en förhandling med Cherokee för att förbjuda bosättning av området inklusive det som idag är Anderson County, blev fördraget ineffektivt när fler bosättare flyttade genom Appalachian Mountains Från Virginia och North Carolina till Tennessee. Översvämningen av vita bosättare till den indiska domänen var orsak till flera skärmytslingar, som lättade efter Tellico-fördraget 1798 (med en ursprungspunkt för avstått mark från Cherokee som Tellico Blockhouse) möjliggjorde större lätthet att bosätta området.Anderson County delades från en del av Grainger County, Tennessee samt en del av Knox County, Tennessee, 1801; angränsande Roane County, Tennessee, bildades också från en del av Knox County, Tennessee, 1801, vilket gjorde Anderson och Roane län effektivt kallade ’syster län’. Anderson County namngavs för att hedra Joseph Anderson (1757-1847), som vid den tiden var amerikansk senator från Tennessee, och vars karriär också inkluderade domare vid Superior Court of the Territory söder om floden Ohio och Comptroller av US Treasury.liksom många East Tennessee län var invånarna i Anderson County till stor del emot avskiljning inför inbördeskriget. Den 8 juni 1861 röstade Anderson Countians emot Tennessees förordning om avskiljning, 1 278 till 97.
byggandet av Norris Dam, den första dammen som byggdes av Tennessee Valley Authority, medförde stora förändringar i länet på 1930-talet. cirka 2900 familjer flyttades från reservoarmarker i Anderson och närliggande län under byggandet, som började 1933 och slutfördes 1936. Staden Norris byggdes ursprungligen som ett planerat samhälle för att hysa arbetarna som är involverade i byggandet av denna damm. Som ett resultat av dammen färdigställande och drift, temperaturen i nedströms Clinch flodbädden förändrats, så att en tidigare pärla industrin som hade varit framgångsrik i många år avdunstat som musslor, en gång förhärskande i floden, inte kunde upprätthålla liv i det förändrade klimatet.
under andra världskriget medförde den federala regeringens Manhattan-projekt mer förändring i länet, inklusive förskjutning av fler familjer och grundandet av Oak Ridge.Museum of Appalachia i Norris firar pionjärer och landsbygdsliv under de senaste decennierna i Anderson County och den omgivande regionen. Det är också en antikaffär som säljer artefakter från tiden för de första bosättarna till tiden för Kolviken kriget