祖沖之在數(shù)學(xué)上的杰出成就，是關(guān)于圓周率的計(jì)算。秦漢以前，人們以“徑一周三”做為圓周率，這就是“古率”。后來(lái)發(fā)現(xiàn)古率誤差太大，圓周率應(yīng)是“圓徑一而周三有余”，不過(guò)究竟余多少，意見(jiàn)不一。直到三國(guó)時(shí)期，劉徽提出了計(jì)算圓周率的科學(xué)方法--“割圓術(shù)”，用圓內(nèi)接正多邊形的周長(zhǎng)來(lái)逼近圓周長(zhǎng)。劉徽計(jì)算到圓內(nèi)接96邊形，求得π=3。14，并指出，內(nèi)接正多邊形的邊數(shù)越多，所求得的π值越精確。祖沖之在前人成就的基礎(chǔ)上，經(jīng)過(guò)刻苦鉆研，反復(fù)演算，求出π在3。1415926與3。1415927之間。并得出了π分?jǐn)?shù)形式的近似值，取為約率，取為密率，其中取六位小數(shù)是3。141929，它是分子分母在1000以?xún)?nèi)最接近π值的分?jǐn)?shù)。祖沖之究竟用什么方法得出這一結(jié)果，現(xiàn)在無(wú)從考查。若設(shè)想他按劉徽的“割圓術(shù)”方法去求的話(huà)，就要計(jì)算到圓內(nèi)接16，384邊形，這需要化費(fèi)多少時(shí)間和付出多么巨大的勞動(dòng)啊！由此可見(jiàn)他在治學(xué)上的頑強(qiáng)毅力和聰敏才智是令人欽佩的。祖沖之計(jì)算得出的密率，外國(guó)數(shù)學(xué)家獲得同樣結(jié)果，已是一千多年以后的事了。為了紀(jì)念祖沖之的杰出貢獻(xiàn)，有些外國(guó)數(shù)學(xué)史家建議把π=叫做“祖率”。

　　祖沖之博覽當(dāng)時(shí)的名家經(jīng)典，堅(jiān)持實(shí)事求是，他從親自測(cè)量計(jì)算的大量資料中對(duì)比分析，發(fā)現(xiàn)過(guò)去歷法的嚴(yán)重誤差，并勇于改進(jìn)，在他三十三歲時(shí)編制成功了《大明歷》，開(kāi)辟了歷法史的新紀(jì)元。

　　祖沖之還與他的兒子祖暅(也是我國(guó)的數(shù)學(xué)家)一起，用巧妙的方法解決了球體體積的計(jì)算。他們當(dāng)時(shí)采用的一條原理是：“冪勢(shì)既同，則積不容異。”意即，位于兩平行平面之間的兩個(gè)立體，被任一平行于這兩平面的平面所截，如果兩個(gè)截面的面積恒相等，則這兩個(gè)立體的體積相等。這一原理，在西文被稱(chēng)為卡瓦列利原理，但這是在祖氏以后一千多年才由卡氏發(fā)現(xiàn)的。為了紀(jì)念祖氏父子發(fā)現(xiàn)這一原理的重大貢獻(xiàn)，大家也稱(chēng)這原理為“祖暅原理”。