Walter Weller wurde 1939 in Wien geboren und begann ab dem 6. Lebensjahr sein Musik- und Violinstudium an der Hochschule für Musik in Wien. Mit 17 Jahren wurde er Mitglied des Staatsopernorchesters und gründete nur ein Jahr darauf das Weller Quartett, das er als Primarius leitete und mit dem er Preise wie den Mozart Interpretationspreis, die Goldene Beethovenmedaille, den Grammy Award oder den Grand Prix du Disque gewann. 1961 wurde Walter Weller Konzertmeister des Staatsopernorchesters/Wiener Philharmoniker. Sein Debüt als Dirigent gab er 1966, am Dirigentenpult der Wiener Staatsoper debütierte er 1969 mit "Die Entführung aus dem Serail" und leitete hier bis zu seinem letzten Dirigat, "Il barbiere di Siviglia" 1976, insgesamt 44 Vorstellungen von 12 Opernwerken.
Walter Weller war Musikdirektor und Chefdirigent des Royal Liverpool Philharmonic Orchestra, Chefdirigent des Royal Philharmonic Orchestra London, Chefdirigent des Royal Scottish National Orchestra, Musikdirektor der Allgemeinen Musikgesellschaft Basel, Generalmusikdirektor des Theaters Basel und Chefdirigent des Sinfonieorchesters Basel. Weiters war Walter Weller Chef-Gastdirigent des Orquesta Nacional de España, Conductor Emeritus des Scottish National Orchestra, Ehrendirigent bei den Stuttgarter Philharmonikern, Ehrendirigent des Trondheim Symfoniorkester und war Director Asociado des Orquesta de Valencia. Ab der Saison 2007/2008 übernahm Walter Weller die Position des Musikdirektors und Chefdirigenten des Orchestre National de Belgique.
Zu seinen zahlreichen Auszeichnungen zählen u. a. das Große Silberne Ehrenzeichen für Verdienste um die Republik Österreich (1998).