Mahalle muhtarlığı, Osmanlı Devleti döneminde 19. yüzyıldan beri vardı. Mahallenin başında bulunan imamlar, toplumsal dayanışmayı sağlamak, halkın ihtiyaçlarını karşılaması gibi dünyevi hizmetler de görürdü. Halktan ücret alan imamların görevlerinin bir kısmı, zamanla mahalle muhtarlarına devredilmiştir. 19. yüzyılda devlet halk ilişkilerinin iyileştirilmesi amacıyla merkezi idarenin bir parçası olarak bazı yardımcı mahalli örgütler kurulmuştur. Mahalle muhtar ve ihtiyar heyetleri de bu kuruluşlardandır. 1864 Tarihli Vilayet Nizamnamesi ile hukuk sistemimiz içinde yer alan mahalle muhtarlığının kanunların ve emirlerin ilanı, tebligatta ve vergi toplamada idareye yardımcı olmak, yaralama, öldürme olaylarının haber verilmesi gibi görevleri vardır.(Bunlar, bugünkü görevlerinin de temelidir.)
Mahalle muhtar ve ihtiyar heyetleri, 1913 tarihli İdare-i Umumiye-i Vilayet Kanunu ile kaldırılmış olduğu halde, varlıklarını mahallelerdeki kamu hizmetlerinin bir gereği olarak 1933 yılına kadar fiilen sürdürmüşlerdir. Bu tarihte çıkartılan 2295 sayılı kanunla varlığı sona erdirilen kuruluşun görevlerini, zabıta ve belediye gibi bazı kuruluşların yapması öngörülmüştür. Ancak, on yıllık bir uygulama mahalle muhtarlığının boşluğunun doldurulmasının mümkün olmadığı görüldüğünden, 1944 tarihli ve 4541 sayılı Şehir ve Kasabalarda Mahalle Muhtar ve İhtiyar Heyetlerinin Teşkiline Dair Kanun ile Kanunun uygulama şekil ve esaslarına dair 1945 tarihli tüzük çıkarılmış ve bugünkü şeklini almıştır.
İstanbul Büyükşehir Belediyesi de Başkanımız Sayın Kadir Topbaş’ın talimatı ile 2005 yılında Muhtarlar Hizmet Birimini kurmuştur. Mahallelerde belediye hizmetlerinin sağlıklı yapılmasını ve muhtarların mahallelerindeki sorunlarını direkt olarak iletmelerini sağlamak amacıyla oluşturulan birim, 2005-2016 yılları arasında Halkla İlişkiler Müdürlüğü bünyesinde hizmet verdi. Mart 2016 tarihinde Muhtarlıklar Gıda Tarım ve Hayvancılık Daire Başkanlığı’na bağlı olarak Muhtarlıklar Müdürlüğü’ne dönüştürülmüş ve çalışmalarını Bayrampaşa yerleşkesinde sürdürmektedir.