嘉永２年（１８４９）～明治２７年（１８９４）
和歌山市生まれ
福澤諭吉に敬畏された慶應義塾長

嘉永２年(1849)、名草郡宮村(現：和歌山市)に生まれる。幼い頃に藩校で学び、慶応２年(1866)福澤諭吉が主宰する江戸の福澤塾に入り、洋学を修めた。

明治維新後、慶應義塾や大学南校(東京大学の前身)その他の学校で教鞭を執り、明治９年（1876）イギリスに２年間留学する。帰国後、大蔵省に入り横浜正金銀行設立の計画が進められるにあたりその推進役をつとめ、明治１３年（1880）同行の副頭取に選ばれた。

明治２０年（1887）、福澤諭吉から慶應義塾運営の刷新を託されて塾長に就任し、大学部の設置、塾制の整備に尽力した。

なお、明治２１年（1888）に誕生した次男信三は、後に慶應義塾の塾長となり、親子２代の塾長が誕生している。

明治２３年（1890）に塾長を退いた後、横浜正金銀行支配人となるが、明治２７年（1894）、腹膜炎により４６歳で亡くなった。

福澤は、病中及び死の直後、横浜の小泉家を見舞い、逝去の翌日には絹地に書いた７００字の弔文に手紙を添えて霊前に供えた。その中で「博学殆ど究めざるものなし。殊に数学は師に依らずして高尚の点に達してその最も悦ぶ所なり。既に学林の一大家たるのみならず、その心事剛毅にして寡欲、品行方正にしてよく物を容れ、言行温和にして自ら他を敬畏せしむるは、正しく日本士流の本色にして、蓋し君の少小より家訓の然らしめたる所ならん。その学問を近時の洋学者にしてその心を元禄武士にする者はただ君に於いて見るべきのみ。」と賞賛している。また、晩年には、今相談に乗って欲しい人物の一人として小泉の名を口にしていたと伝えられる。