İlkokul yıllarında dedesinin çevresinde bulunan, çağının ünlü müzik ustalarını dinleyerek musikiyle tanıştı. Okulda okutulan müzik dersine de en az matematik dersi kadar önem verdi.
Haftanın belirli gecelerinde dedesi Ahmet Rasim Bey’in evinde, zamanın meşhur musikişinaslarının katılımlarıyla yapılan saz toplantılarına, sesi çok güzel olan küçük Osman Nihat’ın da katılmasına izin verilir ve meşk edilen şarkılar kendisine de öğretilirdi. Bu toplantılar, Osman Nihat için büyük bir eğitim fırsatı olmuş ve bu çalışmalardan çok faydalanmıştı. Ayrıca Leon Hancıyan Efendi de kendisiyle özel olarak ilgilenerek musiki bilgisinin artmasına yardım etmekteydi. Ele avuca sığmayacak derecede yaramaz ve haşarı olan Osman Nihat’la başa çıkamayacaklarını anlayan ailesi, onu küçük yaşta yatılı okula verdi. Halbuki hocası Sadri Bey'in amacı, Osman Nihat’ı Viyana'ya göndertmek, ona mûsikî tahsili yaptırtmaktı. Ancak, ailenin karşı çıkmasıyla bu amacını gerçekleştirememişti.
Dede Ahmet Rasim Bey, torununun musikiyle uğraşmasına pek de taraftar değildi. “Belki vazgeçer” düşüncesiyle musiki çalışmalarını sürdürebilmesi için önce tahsilini tamamlaması şartını koşmuştu. Osman Nihat, dedesinin bu şartını yerine getirerek, öncelikle İstanbul Üniversitesinde iktisat eğitimini tamamladı ve ancak ondan sonra, mûsikî ile ciddi bir şekilde uğraşmağa başladı.
Kısıtlı imkanlarla, tek başına çalışmağa mecbur kalan genç sanatkâr, bütün vaktini piyanosunun başında geçiriyor, bestelediği eserleri çok yakın arkadaşı olan Kadıköylü Dr. Talha Bey'e çalıp söylüyordu. Leon Hancıyan’la yaptığı derslere de devam eden Osman Nihat, her dersten sonra; öğrendiği usûl ve makamda bir eser besteleyerek hocasına götürüyor; Leon Hancıyan Bey'i, hayretten hayrete düşürüyordu. Basit güfteler üzerinde yaptığı bu beste denemeleri çok ümit verdiği için Leon Hancıyan, yeni bir deneme yapmaya karar verdi. Ahmed Rasim Bey’e torununun dinleyici sıfatıyla bile olsa, İtalyan konservatuarlarından birine devam etmesinin çok yerinde bir hareket olacağını söyledi. Ancak Ahmet Rasim Bey buna şiddetle karşı çıkınca, Osman Nihat, hayatını kazanmak için mecburen memuriyete atılmaya karar verdi. İstanbul Maliye dairesinde tahakkuk memuru olarak başladığı resmi görevi, Ankara'da TCDD Genel Müdürlüğü tercüme kalem şefliği ve yayın müdürlüğü ile PTT Müfettişi olarak devam etti.
Osman Nihat, Leon Hancıyan'ın teşvikiyle Suzinak makamında "Ne müşkülmüş seni sevmek, sana yar olmak" dizesiyle başlayan ilk ciddi bestesini yaptı. Bu şarkıyla ilgili anısını Osman Nihat bakın nasıl aktarıyor: “Dedem bir gün beni yanına çağırarak bir şeyler okumamı söyledi. Ben de bir cesaret:
“Ne müşkülmüş seni sevmek, sana yar olmak / Dilşad olmak isterken perişan olmak / Reva mıdır yar olanın kalbi zar olmak / Dilşad olmak isterken perişan olmak,” güfteli şarkımı okudum. Çok beğenen dedem, şarkının kimin olduğunu sordu. Benim bestem olduğunu söylemeye cesaret edemeyerek Hacı Arif Bey’e ait olduğunu söyledim. Duygulanarak gözleri dolan dedem ; “Böyle bir eseri ancak o yapabilir” diye söyleniyordu. Şarkımı beğenmesinin verdiği cesaretle dedeme gerçeği anlattım. O kadar kızdı ki, ‘Düzenbaz, yalancı’ diyerek beni bastonla kovalamaya başladı. Ama bu şarkı, dedemin bendeki istek ve yeteneği anlayıp benimle yakından ilgilenmesine ve bestekarlığıma önemli katkılar yapmasına vesile oldu”.