Bağdat’ta doğmuştur. Babası mülkiye kaymakamların­dan ve Bağdat’ın eski ve bilinen ailelerinden biri olan Alusi­zadelere mensup Arif Hikmet Bey; annesi ise yine Bağdat’ın ileri gelenlerinden Kahyazadeler’in kızı Sara Hanım’dır. Meşhur tefsir alimi Mahmud el Alusi Ahmet Haşim’in ba­basının dedesidir. Babasının Arabistan vilâyetlerindeki memuriyetleri sebebiyle düzensiz bir ilkokul tahsili gör­dü. Aynı sebepten dil olarak da sadece Arapçayı öğrendi. Annesinin ölümü üzerine 12 yaşında babasıyla birlikte İs­tanbul’a geldi. 1897’de Galatasaray Sultanîsi’ne yatılı ola­rak verildi. Hâşim’in sanat ve edebiyata ilgisi Galatasaray Sultanîsi’nde başlar. Bilinen ilk manzumesi *Leyâl-i Aş­kım* 1901’de *Mecmua-i Edebiyye*de yayınlandı. Bu dö­nemde Muallim Naci, Abdülhak Hâmid, Tevfik Fikret ve Cenab Şahabeddin’in tesiri altında kaldı. Son sınıfta iken Fransız şiirini ve sembolistleri tanıdı. Bundan sonra ken­di şahsiyetini gösterdi ve ilk şiirlerini kitaplarına almadı.