اکبر گلپایگانی در دهم بهمن ماه سال ۱۳۱۲ در تهران متولد شد. گلپایگانی در پنج سالگی مادر خود را از دست می‌دهد و این حادثه در آن زمان تأثیر بدی بر روحیه وی گذاشته بود. خودش در خاطراتش در این مورد می‌گوید، در آن زمان برای سلامتی مادرم اذان خواندم و تا یک ماه هر روز مناجات می‌خواندم.

در سال ۱۳۱۸, گلپا وارد دبستان فرهنگ شد و به عنوان قاری قرآن در کلاسش برگزیده شد. پس از این فعالیت‌ها، وی با آشنایی با تعدادی قاری قرآن و تعزیه خوان و کار کردن زیر نظر آن‌ها اصول اولیه آوازخوانی را آموخت. در سال ۱۳۲۰وی به‌طور جدی و منظم تعلیم موسیقی و دستگاه‌ها را نزد پدر آغاز کرد. در سال ۱۳۲۶ ایشان اولین تجربه شرکت در یک گروه ارکستر کر و در سال ۱۳۲۷ در انجمن موسیقی مدرسه نظام عضو شد و از سال ۱۳۲۸ به بعد کم‌کم با استادان طراز اول موسیقی آشنا شد و تعلیم را زیر نظر این استادان آغاز کرد.