Bibliotēka sāka veidoties 1862. gadā kā pirmās augstākās mācību iestādes Latvijā – Rīgas Politehnikuma bibliotēka.

1896. gadā Rīgas Politehnikumu pārveidoja par Rīgas Politehnisko institūtu. 1915. gadā institūtu un daļu bibliotēkas fonda evakuēja uz Krieviju. 1918. gadā institūts beidza pastāvēt.

1919. gadā pēc Latvijas valsts nodibināšanas tika izveidota jauna augstskola – Latvijas Universitāte, kuras īpašumā nonāca Latvijā palikušie Rīgas Politehniskā institūta bibliotēkas fondi. Daļa agrāko bibliotēkas fondu vēl aizvien atrodas Krievijā, kā arī Latvijas Universitātes bibliotēkā.

1958. Tika atjaunots Rīgas Politehniskais institūts un savas attīstības otro posmu uzsāka RPI bibliotēka. RPI bibliotēkas direktore no tās atjaunošanas un organizēšanas laikā 1958. gada līdz 1984. gada bija Dzidra Tomsone. Viņa izveidoja bibliotēkas fondu sistēmu, bibliotēkas struktūru, izstrādāja bibliotēkas stratēģiju. Veidojās RPI bibliotēkas jaunā struktūra: Centra bibliotēka ar trim filiālēm – Ķīmijas fakultātes, Arhitektūras katedras metodiskā kabineta un Sabiedriski politiskās literatūras bibliotēkas. Turpmākajos gados līdz ar Rīgas Politehniskā institūta attīstību un lasītāju skaita pieaugumu veidojās jauni lasītāju apkalpošanas punkti un filiāles.

1969. gadā tai tika piešķirts zinātniskās bibliotēkas nosaukums.

1972. gadā bibliotēka saņēma miljono grāmatu. Paplašinoties bibliotēkas struktūrai, nepārtraukti palielinājās fonda apjoms, pieauga darbinieku un lasītāju skaits.

1990. gadā fondā bija 2 132 481 eks. dažādu izdevumu.

1990. Rīgas Politehnisko institūtu pārdēvēja par Rīgas Tehnisko universitāti (RTU), bet bibliotēku par Rīgas Tehniskās universitātes Zinātnisko bibliotēku (RTU ZB). Gadu gaitā bibliotēkas struktūra mainījās. Vairākas Mācību konsultāciju punktu bibliotēkas tika likvidētas sakarā ar šo punktu slēgšanu.

1993. RTU ZB sāka ieviest pirmo Latvijā izstrādāto integrēto informācijas sistēmu ALISE. Bibliotēkai pavērās jaunas iespējas informācijas pakalpojumu sniegšanā. Sāka veidoties automatizēta bibliotēka, kas var realizēt jaunus veidus, kā piekļūt informācijai.

1994. Sāk veidoties RTU ZB elektroniskais katalogs. RTU Zinātniskā bibliotēka kļūst par Latvijas Akadēmisko bibliotēku asociācijas (LATABA) un Starptautiskās Tehnisko universitāšu bibliotēku asociācijas (IATUL) locekli.

1996. RTU ZB darbinieki sāk veidot  «RTU mācību spēku un darbinieku publicēto darbu elektronisko datubāzi».

1998. Bibliotēkā lietotājiem sāk piedāvāt interneta pakalpojumus.

1999. Lietotāju apkalpošanas nodaļa, Informācijas centrs, Krātuve, Periodikas lasītava, Kopētava, Sietuve un bibliotēkas iekšējā darba nodaļas pārcēlās uz jaunām telpām. Uz citām telpām pārcēlās arī Mācību literatūras abonements.

2000.–2003. RTU ZB sāka strādāt ar bibliotēku integrēto informācijas sistēmu ALEPH 500, kas izstrādāta ar mērķi nodrošināt universitāšu bibliotēku vajadzības un prasības. ALEPH 500 ir iespējama visu bibliotekāro procesu automatizācija. Bibliotēkas elektroniskais katalogs tika iekļauts 8 valsts nozīmes bibliotēku kopkatalogā. Tika izveidota 8 valsts nozīmes bibliotēku vienotā lasītāju datubāze, kurā tika iekļauti arī RTU ZB lietotāji.

2004.–2006. Uzsākta un ieviesta automatizēto dokumentu izsniegšana-saņemšana. Nodrošināta attālā dokumentu pasūtīšana, rezervēšana, lietošanas termiņa pagarināšana.

2006. gadā Rīgas Tehniskās universitātes Zinātniskā bibliotēka saņēma akreditācijas apliecību uz 5 gadiem un atzinumu par valsts nozīmes bibliotēkas statusa piešķiršanu.

2007. gadā tika atzīmēta RTU ZB dibināšanas 145. dzimšanas diena. Tai tika veltīta konference «Akadēmiskās bibliotēkas: no klasiskām līdz hibrīdām».

2007. gadā atbalstu guva divi bibliotēkā izstrādātie projekti. Bibliotēka piedalās projektos Vienotais bibliotēku informācijas tīkls LATLIBNET un Valsts  vienotā bibliotēku sistēma VVBIS.