A Zólyom vármegyei Breznóbányán, 1835. június 28-án született a szász Karol Herrmann bányaüzemi sebészmester ötödik gyermekeként. Tizenkét éves koráig csak németül beszél, majd Miskolcon abban az evangélikus algimnáziumban tanul meg magyarul, amelyben a Tiszát szabályozó Vásárhelyi Pál, és Kossuth miniszterelnöke, Szemere Bertalan is tanult. Az 1848-as forradalom kitörésekor, tizenhárom évesen, katonának jelentkezik, ám nem sorozzák be a beteges, gyengén halló gyereket. Előbb inas egy miskolci lakatos üzemben, majd a bécsi politechnikum hallgatója. Diploma helyett – meghal édesapja, így édesanyja nem tudja támogatni tanulmányait – géplakatos.

1857-ben nem megy el a sorozásra, mert nem akar az osztrák seregben szolgálni. Megtalálják, katonaszökevénynek minősítik és tíz évre besorozzák. 1861 szeptemberében mégis leszerelhet. Hamarosan az észak-olaszországi felkelők között harcol, majd hasonlót tesz Lengyelországban. Nem sokkal később elnyer egy konzervátori állást a kolozsvári Erdélyi Múzeumnál. Jó ez a hely, mégis elhagyja a csekélyke fizetés okán. A Magyar Polgár című kolozsvári ellenzéki laphoz szegődik újságírónak, de bő egy évre rá innen is megy. Pesten egy nagy pókmonográfia megírásával bízzák meg. „Azonnal kutatóútra indul a Duna-Tisza közére, a Vajdaságba és Erdélybe, egészen Orsováig, onnan az Alföldön át a Hegyaljára, majd a Felvidék és a Dunántúl tájai következnek” – olvasható Kiss József 2000-ben megjelent tanulmányában.

Az 1875, 1877 és 1878 években megjelenő háromkötetes Magyarország pókfaunája egy csapásra ismertté teszi Herman Ottót. Kinevezik a Nemzeti Múzeum állattárába „őrsegédnek”: a szerény fizetéshez hivatali lakáshoz is jár. Egyre aktívabb szerepet vállal a politikában. 1878-ban csatlakozik a Függetlenségi Párthoz. 1879 októberében – Kossuth Lajos ajánlására – Szeged Alsóváros képviselője. Az öreg politikus egyébként gyakorta kikérte természettudós barátjának véleményét. Herman 1877-ben, 1887-ben és 1893-ban személyesen is felkereste a kormányzót torinói otthonában.

A három kötetes pókmonográfiát két kötetes halászati tanulmány követi. Az 1887-ben közzé tett A magyar halászat könyve első kötetében a magyar halászmesterség ősi eszközeit, a különféle halászati módokat, a másodikban a hazai halak leírását, élőhelyeit, életmódját, s halászati jelentőségét (fajonkénti saját rajzokkal) mutatja be. 1888 nyarán kéthónapos tanulmányútra indul a norvég fjordokhoz és Lappföldre. Tapasztalatairól, élményeiről jelenik meg Az északi madárhegyek tájáról című műve.

Hazatérése után országos hálózatot szervez a madárvonulás megfigyelésére, 1893-ban a kultusztárca anyagi támogatásával létrehívja a Magyar Ornitológiai Központot. 1891-ben egy miskolci ház alapozása közben addig ismeretlen, különös szerszámokra bukkannak – Herman Ottó nyomban felismeri a jégkorszak emberének eszközeit. Ő kezdi meg a Miskolc környéki barlangok ősrégészeti feltárását, elindítja a magyar ősemberkutatást. Az ekkor már megromlott egészségi állapotú tudóst féltve szerető tanítványa és fáradhatatlan munkatársa, Lambrecht Kálmán is elkíséri az ásatásokra. Lambrecht a Herman Ottó – Az utolsó magyar polihisztor élete és kora című munkájában arra is kitért, hogy a Magyar Tudományos Akadémia miért nem választotta tagjai közé a tudóst. Azért, mert Herman maga tiltakozott megválasztatása ellen.

„Én a szabad kutatás és szabad bírálat embere vagyok; – irja 1884-ben egy hirlapi nyilatkozatában – a tudományban sem pajtást, sem urat nem ismerek s ennélfogva csak oly testületeknek lehetek tagja, melyben a döntő szó a szakembereké; ellenben nem kivánok helyet oly testületben, melyben a döntés főbb része oly dignitariusoké (tisztviselő - a szerk), kiknek méltóságos voltát nem bolygathatom ugyan, de akiknek tudományos értékéről nekem – tudományos munkálataik sajnos hiánya miatt – fogalmam sincsen”, de meg azért is, „hogy legyen ezen a cimkórságos magyar glóbuszon legalább egy ember, aki cim és rang nélkül, épen csak mint ember, meg tud élni – munkával”. 75 éves korában villamos üti el a gondolataiba merülő tudóst, amiből felépül, de két év múlva szélütés éri. 1914 december elején újabb balesetet szenved az ekkor már 79 éves Herman Ottót. Talán ezt a sérülését is kiheverné, de a Krisztina körúti lakásán törött lábbal fekve tüdőgyulladást kap, s 1914 december 27-én életét veszti. A Kerepesi-temetőben nyugszik 1965 szeptemberéig, amikor is az exhumált hamvak (akaratának megfelelően) a Hámori-temetőbe kerülnek.