南傳上座部佛教所使用的經典語言稱為巴利語。“巴利”是聖典或佛語的意思。巴利語屬於古印度時代，印度中部一帶地區的方言。這一帶地區的中心是馬嘎塔國。佛陀在世時，馬嘎塔國的首都是王舍城。往北行是舍利弗的出生地那爛陀，后來在那裡建成了那爛陀大學，玄奘大師就曾在此留學。再往北是阿首咖王時的首都巴嗒厘卜城，渡過了恆河則是韋沙離。往西北是佛陀入滅之地古西那拉，還有佛陀的出生地倫比尼、釋迦國的咖畢喇瓦土城。佛陀一生主要行化於這一帶地區，包括王舍城、沙瓦提城、高賞比、鹿野苑、菩提迦耶等。

佛陀在世時，佛陀所說的就是馬嘎塔這一帶的方言,亦即現在所說的巴利語(Pàëi-bhàsà)。在阿首咖王時期，首都雖然已經遷到了恆河南岸，但還是在馬嘎塔國。當時這一帶地區所使用的語言都叫馬嘎底語(Màgadhã)，即馬嘎塔的方言。

第一次結集是在王舍城，是當時馬嘎塔國的首都；第二次結集是在恆河北岸的韋沙離城，是當時瓦基國的首都；第三次結集也是在馬嘎塔國的首都巴嗒厘卜城。佛陀在世時的弘法區域，以及第一次結集、第二次結集和第三次結集都在這一帶地區，當時所使用的語言就是現在所說的巴利語。

第三次結集之后，以馬嘎底語為載體的佛教經典傳到了斯裡蘭卡、緬甸、泰國等地。雖然這些地區原來都有自己的語言，但是為了表示對聖典的尊重，當地的長老僧人們不敢隨意改變佛陀的語言，於是直接用馬嘎底語來傳誦經典。乃至到現在，當僧人們在誦經的時候，並不用自己的語言，而是用巴利語。

“巴利語”是佛滅一千年左右才開始使用的名稱，古代一直都叫“馬嘎底語”(Magadha bhàsà)，也叫Buddha-vacana，即佛陀的語言。因為語言經常會隨著時間而改變，馬嘎底語后來在印度失傳了，但是這種語言至今仍然在斯裡蘭卡、緬甸、泰國等地被保留和使用著。現在上座部國家的僧人們平時並不是講巴利語，這種語言只是用來記載和傳誦聖典，所以叫做“聖典語”。聖典叫“巴利”(pàëi)，於是記載聖典的語言就叫“巴利語”，巴利語的名稱是這樣來的。所以說，巴利語是迄今為止最早的佛經語言，以巴利語記載的三藏是現存最古老、最原始的佛教聖典。

到了佛滅五百至八百年，婆羅門教開始復興，特別是到了笈多王朝，當時的國王信仰婆羅門教，把梵語當成國家統一的規范語言。那個時候，佛教既要與婆羅門教對抗，又受到國家王權的壓力，於是，印度的僧人們開始將流傳在各地各種語言版本的佛教經典逐漸改寫成梵文，也就是用婆羅門的雅語來統一佛經用語。

學過梵文，又學過巴利語的人，就會發現這兩種語言很相似，但它們還是有區別。巴利語是一種比較簡單的語言，它屬於民眾語，發音簡單，語法不難，而且變化也很靈活。但是梵文不同，特別講究發音、文法、音韻和格律等，比巴利語復雜得多，讀起來也比較好聽，有很多連讀音。

佛教在中印度一帶地區大概存在了1500年，但就整個印度來說，則存在了1600年到1700年，因為最后的一二百年隻是在東印度一帶地方苟延殘喘罷了了。