før dannelsen af Anderson County, Tennessee, var dette område oprindeligt land for det, der i dag kaldes Eastern Band of Cherokee Indians, som var blevet afgjort af flere pionerfamilier, herunder familierne Murace, Gibbs, Freels, Frost og Tunnell. Selvom Holston-traktaten, underskrevet i 1791, var beregnet som en forhandling med Cherokee for at forbyde bosættelse af området inklusive det, der i dag er Anderson County, blev traktaten ineffektiv, da flere bosættere flyttede gennem Appalachian Mountains fra Virginia og North Carolina til Tennessee. Oversvømmelsen af hvide bosættere i Det Indiske domæne var årsag til flere træfninger, som lettede efter Tellico-traktaten i 1798 (med et oprindelsessted for afstået jord fra Cherokee som Tellico-blokhuset) muliggjorde større lethed med at bosætte området.Anderson County blev opdelt fra en del af Grainger County, Tennessee såvel som en del af Knock County, Tennessee, i 1801; nabolandet Roane County, Tennessee, blev også dannet fra en del af Knock County, Tennessee, i 1801, hvilket gjorde Anderson og Roane amter effektivt kaldet ‘søster amter’. Anderson County blev navngivet til ære for Joseph Anderson (1757-1847), som på det tidspunkt var amerikansk senator fra Tennessee, og hvis karriere også omfattede dommer ved Superior Court of the Territory syd for floden Ohio og Comptroller for US Treasury.
ligesom mange East Tennessee amter, beboerne i Anderson County var stort set imod løsrivelse på tærsklen til borgerkrigen. Den 8. juni 1861 stemte Anderson Countians imod Tennessee ‘ s Ordinance of Secession, 1.278 til 97.opførelsen af Norris Dam, Den første dæmning bygget af Tennessee Valley Authority, bragte store ændringer til amtet i 1930 ‘ erne. cirka 2900 familier blev flyttet fra reservoirlande i Anderson og nærliggende amter under opførelsen, som begyndte i 1933 og blev afsluttet i 1936. Byen Norris blev oprindeligt bygget som et planlagt samfund til at huse de arbejdere, der var involveret i opførelsen af denne dæmning. Som et resultat af dæmningens færdiggørelse og drift ændrede temperaturen på nedstrøms Clinch-flodlejet sig, så en tidligere perleindustri, der havde haft succes i mange år, fordampede, da muslingerne, engang udbredt i floden, ikke var i stand til at opretholde livet i det ændrede klima.under Anden Verdenskrig bragte den føderale regerings Manhattan-projekt mere forandring til amtet, herunder fordrivelse af flere familier og grundlæggelsen af Oak Ridge.Museum of Appalachia i Norris fejrer pioner og landdistrikterne i de sidste årtier i Anderson County og den omkringliggende region. Det er også en antikvitetsbutik, der sælger artefakter fra tiderne for de første bosættere til tiderne for Coal Creek-krigen