Rock Cafe loomise ideed kandis Margus Pilt endas kuus aastat. Raadio- ja rockimehe peas oli täpne ettekujutus, milline võiks olla üks korralik ja kvaliteetne rockmuusika kontsertklubi. Sel ajal ei leidunud aga seltskonda ja raha, kellega nii suurejooneline projekt ette võtta. Kuni 2004. aastal viis elu Pildi kokku õigete inimestega, kes klubiloomise ideest kinni võtsid ja õla alla panid. Eesmärk oli luua muusikaklubi laia silmaringiga inimesele, kes peab lugu kvaliteetsest live-muusikast. Teisisõnu muusikakants, mis jääks puutumata odavast kiirtootest ja plaadimuusika järele suudmaigutavast artistist.
Poole aastaga ehitati klubi valmis.
Rock Cafe esimene kontsert toimus mitteametliku avamise raames 5. novembril 2004. aastal. Tegemist oli proovikontserdiga, et testida lava ja tegelikult ka baaritöötajaid. Laval olid Tanel Padar ja The Sun ning soojendajaks House of Games. The Sun esitles sel kontserdil oma uut EPd. Külastajate seas olid muide ka kaks ansambli Whitesnake liiget, sest samal päeval toimuma pidanud Whitesnake’i kontsert jäi ära.
Klubi algne idee eeldas pühendumist rockmuusikale, kuid selge oli see, et sellega piirduda ei saa. Seetõttu alustati juba enne ametlikku avamist läbirääkimisi Anne Ermiga Jazzkaarega koostöö alustamiseks. Üsna pea korraldati Rock Cafes ka Anne Ermi poolt Prantsusmaalt pärinev No Jazz’i õnnestunud kontsert. 2004. aasta JõuluJazz toimus juba Rock Cafes.
Rock Cafe ametlik avapauk toimus 14. novembril 2004. aastal, mil laval oli 1980ndate hevimuusika lipulaev W.A.S.P. (USA). Piletid sellele müüdi läbi ilma reklaamita kahe nädalaga. Edasi kujuneski Rock Cafe motoks korraldada vähemalt kord kvartalis mõne välisesineja kontsert. Üldiselt peeti sellest ka kinni ja reeglina toimusid kontserdid täismajale.
Läbi aastate on lavalaudadel esinenud W.A.S.P. (USA), Steve Vai (USA), Nazareth (UK), Uriah Heep (UK), Type O Negative (USA), Sepultura (BRA), Simple Plan (CAN), Testament (USA), Overkill (USA), Koop (Swe), Bill Wyman (UK), Paul Gilbert (USA), Deftones (USA), Melrose, Apocalyptica (Fin), Nightwish (Fin) (esimene konstert uue lauljaga), Boomfunk MC’s (Fin), Gorky Park (Rus), Mnemic (Den), Raunchy (Den), Fish (Sco), U.D.O (Ger), Laibach (Slo), Graham Bonnet ja paljud teised. Lisaks on siinsel laval esinenud kõik Eesti rockbändid, kellel seni kvaliteetse lavaga esinemiskohta polnud.
