भीमराव रामजी आंबेडकर का जन्म ब्रिटिशों द्वारा केन्द्रीय प्रांत ( अब मध्य प्रदेश में ) में स्थापित नगर व सैन्य छावनी मऊ में हुआ था। वे रामजी मालोजी सकपाल और भीमाबाई की १४ वीं व अंतिम संतान थे। उनका परिवार मराठी था और वो अंबावडे नगर जो आधुनिक महाराष्ट्र के रत्नागिरी जिले मे है, से संबंधित था। वे हिंदू महार जाति से संबंध रखते थे, जो अछूत कहे जाते थे और उनके साथ सामाजिक और आर्थिक रूप से गहरा भेदभाव किया जाता था। अम्बेडकर के पूर्वज लंबे समय तक ब्रिटिश ईस्ट इंडिया कंपनी की सेना में कार्यरत थे और उनके पिता, भारतीय सेना की मऊ छावनी में सेवा में थे और यहां काम करते हुये वो सूबेदार के पद तक पहुँचे थे। उन्होंने मराठी और अंग्रेजी में औपचारिक शिक्षा की डिग्री प्राप्त की थी। उन्होने अपने बच्चों को स्कूल में पढने और कड़ी मेहनत करने के लिये हमेशा प्रोत्साहित किया।

कबीर पंथ से संबंधित इस परिवार में, रामजी सकपाल, अपने बच्चों को हिंदू ग्रंथों को पढ़ने के लिए, विशेष रूप से महाभारत और रामायण प्रोत्साहित किया करते थे। उन्होने सेना मे अपनी हैसियत का उपयोग अपने बच्चों को सरकारी स्कूल से शिक्षा दिलाने मे किया, क्योंकि अपनी जाति के कारण उन्हें इसके लिये सामाजिक प्रतिरोध का सामना करना पड़ रहा था। स्कूली पढ़ाई में सक्षम होने के बावजूद आंबेडकर और अन्य अस्पृश्य बच्चों को विद्यालय मे अलग बिठाया जाता था और अध्यापकों द्वारा न तो ध्यान ही दिया जाता था, न ही कोई सहायता दी जाती थी। उनको कक्षा के अन्दर बैठने की अनुमति नहीं थी, साथ ही प्यास लगने प‍र कोई ऊँची जाति का व्यक्ति ऊँचाई से पानी उनके हाथों पर पानी डालता था, क्योंकि उनको न तो पानी, न ही पानी के पात्र को स्पर्श करने की अनुमति थी। लोगों के मुताबिक ऐसा करने से पात्र और पानी दोनों अपवित्र हो जाते थे। आमतौर पर यह काम स्कूल के चपरासी द्वारा किया जाता था जिसकी अनुपस्थिति में बालक आंबेडकर को बिना पानी के ही रहना पड़ता था। १८९४ मे रामजी सकपाल सेवानिवृत्त हो जाने के बाद सपरिवार सतारा चले गए और इसके दो साल बाद, अम्बेडकर की मां की मृत्यु हो गई। बच्चों की देखभाल उनकी चाची ने कठिन परिस्थितियों में रहते हुये की। रामजी सकपाल के केवल तीन बेटे, बलराम, आनंदराव और भीमराव और दो बेटियाँ मंजुला और तुलासा ही इन कठिन हालातों मे जीवित बच पाये। अपने भाइयों और बहनों मे केवल अम्बेडकर ही स्कूल की परीक्षा में सफल हुए और इसके बाद बड़े स्कूल मे जाने में सफल हुये। अपने एक देशस्त ब्राह्मण शिक्षक महादेव अम्बेडकर जो उनसे विशेष स्नेह रखते थे के कहने पर अम्बेडकर ने अपने नाम से सकपाल हटाकर अम्बेडकर जोड़ लिया जो उनके गांव के नाम "अंबावडे" पर आधारित था।

रामजी सकपाल ने १८९८ मे पुनर्विवाह कर लिया और परिवार के साथ मुंबई (तब बंबई )चले आये। यहाँ अम्बेडकर एल्फिंस्टोन रोड पर स्थित गवर्न्मेंट हाई स्कूल के पहले अछूत छात्र बने।[3] पढा़ई में अपने उत्कृष्ट प्रदर्शन के बावजूद, अम्बेडकर लगातार अपने विरुद्ध हो रहे इस अलगाव और, भेदभाव से व्यथित रहे। १९०७ में मैट्रिक परीक्षा पास करने के बाद अम्बेडकर ने बंबई विश्वविद्यालय में प्रवेश लिया और इस तरह वो भारत में कॉलेज में प्रवेश लेने वाले पहले अस्पृश्य बन गये। उनकी इस सफलता से उनके पूरे समाज मे एक खुशी की लहर दौड़ गयी और बाद में एक सार्वजनिक समारोह उनका सम्मान किया गया इसी समारोह में उनके एक शिक्षक कृषणजी अर्जुन केलूसकर ने उन्हें महात्मा बुद्ध की जीवनी भेंट की, श्री केलूसकर, एक मराठा जाति के विद्वान थे। अम्बेडकर की सगाई एक साल पहले हिंदू रीति के अनुसार दापोली की, एक नौ वर्षीय लड़की, रमाबाई से तय की गयी थी।[3] १९०८ में, उन्होंने एलिफिंस्टोन कॉलेज में प्रवेश लिया और बड़ौदा के गायकवाड़ शासक सहयाजी राव तृतीय से संयुक्त राज्य अमेरिका मे उच्च अध्धयन के लिये एक पच्चीस रुपये प्रति माह का वजीफा़ प्राप्त किया। १९१२ में उन्होंने राजनीति विज्ञान और अर्थशास्त्र में अपनी डिग्री प्राप्त की और बड़ौदा राज्य सरकार की नौकरी को तैयार हो गये। उनकी पत्नी ने अपने पहले बेटे यशवंत को इसी वर्ष जन्म दिया। अम्बेडकर अपने परिवार के साथ बड़ौदा चले आये पर जल्द ही उन्हें अपने पिता की बीमारी के चलते बंबई वापस लौटना पडा़, जिनकी मृत्यु २ फरवरी १९१३ को हो गयी।