Bécsben született, édesapja Zipernowsky József könyvelő, édesanyja Fischer Franciska. A piarista gimnáziumban érettségizett Pesten, majd 3 évig gyógyszerészként dolgozott Kecskeméten. Ezután iratkozott be a Királyi József Műegyetemre 1872-ben. Negyedévesen már az akkor fiatal tudománynak számító elektrotechnikáról tartott előadásokat a Mérnök- és Építész-Egylet felolvasó ülésein. Egyik ilyen előadásán figyelt fel rá Mechwart András a Ganz és Társa Vasöntő és Gépgyár vezérigazgatója. Mechwart az akkor 25 éves Zipernowskyra bízta a Ganz gyárban 1878-ban létesített új villamos osztály vezetését. Itt néhány hónap alatt Zipernowsky tervei alapján készítették el az öntőműhely világításához szükséges első egyenáramú dinamót. Déri Miksa 1882-től lépett a gyár szolgálatába, és Zipernowskyval együtt még ugyanebben az évben öngerjesztésű váltakozó áramú generátort szabadalmaztattak a Nemzeti Színház 1000 izzólámpából álló világításának táplálására.
Figyelme a váltakozó áram felé fordult, mert abban látta a jövőt, míg Edison is, Siemens is úgy ítélte, hogy a váltakozó áramnak nincs jövője, mert megoldhatatlan a termelt energia elosztása. 1883-ban a bécsi nemzetközi elektrotechnikai kiállításon is sikeresen részt vett. 1885-ben Déry és Zipernowsky szabadalmaztatta a párhuzamos kapcsolású, tetszőleges áttételű váltakozóáramú induktorokon alapuló áramelosztó rendszert. Ezt néhány hónap múlva követte legnagyobb jelentőségű munkájának, a zárt vasmagos transzformátornak szabadalmi bejelentése, amelynek Bláthy Ottó is részese volt. Ezzel a váltakozóáramú Ganz-rendszer diadalútja kezdődött, melyet 1893-ig Zipernowsky személyesen vezényelt. Legnagyobb sikere a Róma városát ellátó Tivoli Erőmű és távvezeték létesítése volt 1892-ben.
Zipernowskyt az 1900-ban megalakult Magyarországi Elektrotechnikusok Egyesülete (ma Magyar Elektrotechnikai Egyesület) 1903-ban Dérivel és Bláthyval együtt tiszteletbeli tagjává nyilvánította, majd 1905-ben Zipernowskyt választották elnöknek. 1912-ben Zipernowsky 5000 koronát adományozott az egyesületnek, hogy annak kamatát minden évben díj gyanánt ítéljék oda. Az egyesületi választmány ezüst Zipernowsky-plakettel egészítette ki a díjat.
1893-tól a Magyar Tudományos Akadémia levelező tagja volt. Ugyanebben az évben június 11-én kinevezték a Műegyetemen újonnan alakított Elektrotechnika tanszék tanszékvezető egyetemi tanárának. Ezzel Zipernowsky megvált a Ganz gyártól, és a továbbiakban tevékenységét az oktatásban és a tudományos közéletben folytatta.
A Műegyetem 1906/1907-es tanévben átadott fizikai-elektrotechnikai épületében (ma F épület) a tanszék saját előadótermet és laboratóriumot kapott, amelyet Zipernowsky korszerű gépekkel szerelt fel. A nagyfeszültségű technika terén a tanszék Európa más egyetemeit és próbatermeit is megelőzte. A terem egykori felszereléséből egy gépcsoport ma is az eredeti helyén található.
Az egyesület 1937-es közgyűlésén már nem vett részt, búcsúlevelét felolvasták, utódja Verebélÿ László lett.
1942. november 29-én halt meg Budapesten.