Vallilan kirjasto aloitti toimintansa osoitteessa Itäinen Viertotie 39 (nyk. Hämeentie 101) 10.9.vuonna 1908. Päätös kirjaston perustamisesta oli tehty jo vuonna 1898 Hermannin työväenyhdistyksen Helsingin Kansankirjastojen johtokunnalle tekemänkymmenen esityksenvuotta perusteellaaiemmin. Kirjaston alkuperäinen nimi oli Hermannin haaraosasto. Tiloihin kuului viisi vuokrahuonetta joista kaksi toimi kirjavarastona, yksi lainaustoimistona ja kaksi lukuhuoneina. Kirjasto palveli asiakkaita kaikkina päivinä paitsi jouluaattona ja -päivänä. Hermannin haaraosaston toiminta jatkui alkuperäisissä tiloissa vuoteen 1927 saakka, jolloin suosion jatkuva kasvu ja siitä seurannut tilanpuute pakotti kirjastolautakunnan hankkimaan sille uudet tilat.
Kirjaston uusi tila sijaitsi edellisvuonna valmistuneessa Sammatintie 2-4:n talossa, jonka kivijalasta kirjastolle oli vuokrattu 200 neliötä tilaa ja 50 neliön lisätila. Samalla kirjaston nimi muutettiin Vallilan sivukirjastoksi.
Vuonna 1944 helmikuun 16.-17. välisenä yönähelmikuussa tapahtuneissa pommituksissa Sammatintie 2-4 sai osuman ja syttyi tuleen. Vaikka tulipalo ei yltänyt kirjaston tiloihin sammutustöistä valunut vesi pääsi kirjoihin ja tuhosi jäätyessään suuren osan kokoelmasta. Säilyneet osat siirrettiin turvaan Käpylän kirjastoon. Pommituksen jälkiä korjattaessa kirjaston tiloja muutettiin avoimemmiksi mutta silti jatkuva tilanpuute haittasi jatkuvatisilti kirjaston toimintaa huolimatta lehtisalin siirtämisestä Kangasalatielle. Kirjastolle oli suunniteltu uutta, täysin omaa tilaa useisiin eri paikkoihin jo 1930-luvun lopulta mutta vasta 1980-luvun lopulla se päätettiin sellainen viimein rakentaa.
27.10.1991 vihittiin käyttöön Vallilan kirjaston nykyinen rakennus, vihittiin käyttöön 1991. Juha Leiviskän suunnittelemasuunnittelemassa Vallilan korttelitalo, jossakorttelitalossa toimii kirjaston lisäksi Päiväkoti Runopäiväkoti. Uusi rakennus nosti Vallilan kirjaston jälleen paikallisten suosioon. Kirjaston toiminta on jatkunut vilkkaana aina näihin päiviin asti. Vallilan kirjastoKirjasto peruskorjattiin ja tiloja ajanmukaistettiin vuonna 2008. Korttelitalon sisäpiha palautettiin alkuperäisen kaltaiseen asuunsa vuonna 2010.
