上世紀30年代初，日本帝國陸軍的航空兵主要由中島「陸軍91型」和川崎「陸軍92型」兩種戰鬥機組成。第一個是帶有陽傘翼的單翼飛機，第二個是經典的雙翼飛機。這些飛機是相當成熟的機型，但就速度而言，它們明顯不如更現代的外國戰鬥機，特別是英國霍克系列、 波音的P-26A。
為了縮小差距1933年，川崎設計了一款新飛機Ki-5。這是一款具有倒鷗機翼和高空氣動力學特性的戰鬥機單翼飛機，但軍方拒絕了它因為他們認為Ki-5的機動性不足。1934 年9月Ki-5的工作停止後不久，川崎重工奉命設計一款雙翼戰鬥機，而中島則奉命制造一款單翼戰鬥機。第一個專案的陸軍編號為 Ki-10，第二個專案的陸軍編號為 Ki-11。
在川崎重工，新飛機的開發由土井武雄領導。1935 年3月，Ki-10 的第一架原型機問世。搭載850馬力12缸液冷V型發動機，一個月後第二架原型機試飛。測試表明，新飛機在所有關鍵指標上都超過了其前身Ki-5，但在速度上仍遜色於其競爭對手中島Ki-11單翼戰鬥機。為了不錯過一份利潤豐厚的合約，川崎專家對第三架和第四架原型機的設計進行了一些修改。
在第三架機器上安裝了三葉金屬螺旋槳，第四架原型機增加了機翼的橫向 V字支撐柱以提高穩定性。盡管改進後的 Ki-10 的速度仍然不如 Ki-11，但這種差異透過更高的機動性得到了補償，而軍方傳統上最重視這一點。透過稽核並被命名為陸軍戰鬥機 95 型（Ki-10-I）。生產型飛機與第三架原型機相同。從1935年12月到1937年10月總共向部隊交付了300架此型號飛機。
1937 年 6 月，Ki-10-I 被 Ki-10-II 的改進版本所取代，不同之處在於機翼面積和尺寸更大，機身更長了。該改型表現出更好的穩定性，Ki-10-II 飛機一直生產到 1938 年 12 月，在此期間共製造了 280 架戰鬥機。
除了兩次系列修改之外，還開發了幾種實驗變體。其中第一個Ki-10-I KAI是對標準 Ki-10-L 進行改進的結果。實驗飛機的機身具有更高的空氣動力特性，散熱器被移回原處。起落架變為懸臂式，機輪配備整流罩，這使得最高速度從400公裏/小時提高到420公裏/小時。後來，又制造了兩個 Ki-10-II KAI 的復制品，它們與 Ki-10-I KAI 的不同之處僅在於采用了新發動機Ha 9-IIb，在 3800米的高度下可輸出 950 馬力。戰鬥機的速度提高到445公裏/小時，幾乎等於新型中島Ki-27戰鬥機的速度，然而Ki-10-II KAI並沒有進入批次生產，因為雙翼飛機的時代已經過去了。
Ki-10-I和Ki-10-II飛機是日本航空界最先進的雙翼戰鬥機，積極參加了中日戰爭和哈爾欣戈爾沖突的作戰行動。到太平洋戰爭開始時，Ki-10已經過時主要用作教練機，盡管盟軍為這架日本戰鬥機指定了代號「佩裏」，並認為該飛機仍在彈頭隊中服役。
