Aarhus Symfoniorkester blev grundlagt under navnet Aarhus By-Orkester i 1935 som en udvidelse af orkestret ved Aarhus Theater.

Aarhus Theater havde i 1927 fået tilknyttet den energiske, københavnske dirigent Thomas Jensen, og hans store evner som orkesterleder blev hurtigt synlige. Sammen med bl.a. den initiativrige Gustav Albeck, senere professor i litteratur, blev Thomas Jensen ankermanden i oprettelsen af Aarhus Symfoniorkester - og orkestrets første chefdirigent.

I orkestrets første tid var det tæt knyttet til Aarhus Theater, hvilket var økonomisk og ansættelsesmæssigt problemfyldt. En stor del af året var det forpligtet til at spille til forestillingerne på teatret.

I sine første mange leveår spillede orkestret sine koncerter i mange forskellige rum. Blandt disse var Stadionhallen, Universitets aula, biografkoncertsalen i Scala og Kongreshuset i Amaliegade. I 1982 blev Musikhuset Aarhus indviet, og indetil maj 2007 har Aarhus Symfoniorkester primært spillet sine koncerter der.
I august 2007 indviede Aarhus Symfoniorkester Symfonisk Sal i Musikhuset Aarhus i Musikhuset nye, flotte tilbygning. Således er orkestret nu omsider hjemme Musikhuset Aarhus, hvor Symfonisk Sal danner rammen om såvel prøver som koncerter.

Aarhus Symfoniorkester fik sit nuværende navn i 1983.