上一章介紹的「單歸法」只能進行除數為一位數的除法，當除數為多位數時，便要使用「歸除法」。在學習「歸除法」前，須先了解用直式進行除數為多位數的除法的基本原理。請看用直式計算49383 / 836至小數點後兩位的例子：
跟上一章的情況相似，上面的直式可以分解成以下三個較簡單的除法，49383 / 836的商數就是這三個除法的商數之和，餘數則是最後一個除法的餘數，即49383 / 836 = 59.07..0.48：
 |  |  |
以上三個除法的共通點是，先估計一個只包含一位有效數字的盡量大的商數(註1)，然後從被除數減去這個商數與除數的乘積，使所得餘數不為負數。以下把上述兩個過程分別稱為「估商」和「減積」。在進行「估商」的過程中，我們要用「九因歌」在心中試算「減積」的結果會否得出負數。
「歸除法」採用相同的原理，也包含「估商」和「減積」的過程。由於珠算有專門的除法口訣「九歸歌」，故可使用「九歸歌」進行「估商」。「歸除法」一名中的「歸」和「除」便分別指「估商」和「減積」的過程。由於「減積」的過程涉及乘積，所以要用到「九因歌」。
以下用49383 / 836為例說明上述計算過程。開始時先把除數836和被除數49383分別佈於算盤左端和右面，由於要計算至小數點後兩位，我們須在代表被除數最末一個數字3的一檔右側預留至少兩個空檔。此外，由於除數是三位數，我們要把「定位點」撥至被除數個位向左數第三檔(即被除數的千位，亦即c檔)的右側，此即我們所求商數的小數點位置，而餘數的小數點位置則在被除數個位(即f檔)右側，如下圖所示(下圖用圓黑點標出餘數小數點所在位置)：
「歸除法」是從代表被除數第一位的那一檔開始向右逐檔進行「估商」和「減積」。我們從b檔開始進行「估商」，方法是根據除數的第一位(即8)和b檔上的數字(即4)應用「九歸歌」口訣「八四添作五」，把b檔原有的數字4撥走，並在同一檔加5，如下圖所示：
完成了「估商」(即估計商數的第一位是5)後，接下來我們便要「減積」，即從被除數中減去50 × 836。但剛才使用口訣「八四添作五」時，我們把b檔原有的數字4撥走，這事實上已從原來的被除數49383減去50 × 800 = 40000，所以現在我們只需從被除數的餘下部分9383減去50 × 36。其做法與筆者在《珠算解難：珠算的加、減、乘法》中介紹的方法很相似，也是把多位數乘法分解成可直接用「九因歌」加上補零求積的乘法，所不同者是現在我們要把乘積減去而非把它們加起來(註2)。首先計算5 × 3，得15，把這個積從c、d檔減去，即在c檔減1，d檔減5，如下圖所示(請注意這個運算實質上是從被除數的餘下部分減去50 × 30 = 1500)：
接著計算5 × 6，得30，把這個積從d、e檔減去，即在d檔減3，e檔減0，如下圖所示(請注意這個運算實質上是從被除數的餘下部分減去50 × 6 = 300)：
至此我們已完成對b檔的「估商」和「減積」過程，從上圖的b至f檔可以看到這個中間計算結果，即我們估得49383 / 836的商數的第一位是5，經「減積」後被除數餘下的部分是7583。
接著處理c檔，首先進行「估商」。根據除數的第一位(即8)和c檔上現有的數字(即7)應用「九歸歌」口訣「八七八十六」，把c檔原有的數字7改為8，並在下一檔(即d檔)加6，如下圖所示(請注意這裡我們要應用d檔上方最頂的算珠，不能進位至c檔，這是因為當前的c檔和d檔是分別用來記錄商數和被除數的餘下部分)：
接下來我們要進行「減積」，即從7583減去8 × 836。但跟處理b檔時的情況類似，剛才我們使用口訣「八七八十六」時，其實已從7583減去了8 × 800 = 6400 (註3)，所以現在只需從被除數的餘下部分1183減去8 × 36。利用「九因歌」，先計算8 × 3，得24，把這個積從d、e檔減去(這實質上是從被除數的餘下部分減去8 × 30 = 240)；接著計算8 × 6，得48，把這個積從e、f檔減去(這實質上是從被除數的餘下部分減去8 × 6 = 48)，其結果如下圖所示：
至此我們已完成對c檔的「估商」和「減積」過程，從上圖的b至f檔可以看到這個中間計算結果，即我們估得49383 / 836的商數的首兩位是58，經「減積」後被除數餘下的部分是895。
可是上述「估商」過程把商數的第二位估低了，因為49383 / 836的商數的第二位實際應是9。但這不要緊，因為接著我們要處理d檔，根據除數的第一位(即8)和d檔上現有的數字(即8)應用「九歸歌」口訣「逢八進一」，我們把d檔上的數字8撥走，並在其前一檔(即c檔)加1，這樣便把49383 / 836的商數的第二位調整為9了，如下圖所示：
接下來我們要進行「減積」，即從895減去1 × 836。但剛才使用口訣「逢八進一」時，我們已從895減去1 × 800 = 800，所以現在只需從被除數的餘下部分95減去1 × 36。利用「九因歌」，先計算1 × 3，得3，把這個積從d、e檔減去，即在d檔減0，e檔減3 (這實質上是從被除數的餘下部分減去1 × 30 = 30)；接著計算1 × 6，得6，把這個積從e、f檔減去，即在e檔減0，f檔減6 (這實質上是從被除數的餘下部分減去1 × 6 = 6)，其結果如下圖所示(註4)：
從上圖可見d檔已沒有數字，所以我們已完成對d檔的處理(註5)，從上圖的b至f檔可以看到這個中間計算結果，即我們估得49383 / 836的商數的首兩位是59，經「減積」後被除數餘下的部分是59。
接著處理e檔。由於讀者現在應已開始熟悉「歸除法」的步驟，以下簡化敘述。首先進行「估商」，根據除數的第一位(即8)和e檔上現有的數字(即5)應用「九歸歌」口訣「八五六十二」，把e檔原有的數字5改為6，並在下一檔(即f檔)加2。接下來進行「減積」。利用「九因歌」，先計算6 × 3，得18，把這個積從f、g檔減去(這實質上是從被除數的餘下部分減去0.06 × 30 = 1.8)；接著計算6 × 6，得36，把這個積從g、h檔減去(這實質上是從被除數的餘下部分減去0.06 × 6 = 0.36)，其結果如下圖所示：
至此我們已完成對e檔的處理，從上圖的b至h檔可以看到這個中間計算結果，即我們估得49383 / 836的商數的首四位是59.06，經「減積」後被除數餘下的部分是8.84。
請注意上述「估商」過程把商數的第四位估低了，因為49383 / 836的商數的第四位實際應是7。但接著我們要處理f檔，根據除數的第一位(即8)和f檔上現有的數字(即8)應用「九歸歌」口訣「逢八進一」，我們把f檔上的數字8撥走，並在其前一檔(即e檔)加1，這樣便把49383 / 836的商數的第四位調整為7了。接下來進行「減積」。利用「九因歌」，先計算1 × 3，得3，把這個積從f、g檔減去(這實質上是從被除數的餘下部分減去0.01 × 30 = 0.3)；接著計算1 × 6，得6，把這個積從g、h檔減去(這實質上是從被除數的餘下部分減去0.01 × 6 = 0.06)，其結果如下圖所示：
從上圖可見f檔已沒有數字，所以我們已完成對f檔的處理。至此我們已計算49383 / 836至小數點後兩位，從上圖可讀出這個計算結果：49383 / 836 = 59.07..0.48，與上述直式除法的計算結果相同。
上述「歸除法」完全適用於除數或被除數含小數位的情況，只須小心確定商數的小數點(即「定位點」)和餘數的小數點位置即可，其具體方法如下：先把除數和被除數佈於算盤上，並把「定位點」撥至代表被除數個位那一檔的右側。若除數大於1且在小數點前有n位數字(n ≥ 1)，便把「定位點」向左移n檔的距離；若除數小於1且緊隨小數點後為非零數字，則無須移動「定位點」；若除數小於1且緊隨小數點後有n個(n ≥ 1)連續的0，則把「定位點」向右移n檔的距離。經移動後的「定位點」的位置就是商數的小數點位置。在上述任何一種情況下，餘數的小數點位置都在代表被除數個位那一檔的右側。
舉例說，設我們要求493.83 / 0.00836。我們可以沿用上面計算49383 / 836的算盤，但這次須先把「定位點」撥至代表被除數個位那一檔(即d檔)的右側。由於0.00836小於1且緊隨小數點後有2個連續的0，故應把「定位點」向右移2檔距離至f檔右側，而餘數的小數點位置則在d檔右側，其餘的計算過程跟上面的計算過程完全相同。完成計算後可知493.83 / 0.00836 = 59070..0.0048，如下圖所示：
上面的討論顯示，在使用「歸除法」估商時，如果估得的商數的某個位過小，我們接下來總能使用口訣「逢n進一」把低估了的數字調高。可是，如果估得的商數的某個位過大，上述「歸除法」步驟便無法作出調整。傳統的珠算有專門的算法處理這種情況，稱為「退商法」和「撞歸法」，這將是以下兩章介紹的內容。
註1：上圖三個除法的商數雖然分別為兩位數50、一位數9和小數點後兩位數0.07，但全都只包含一位有效數字。
