1914年，苏步青以优异的成绩考入旧四年制的浙江省立第十中学，当时的校长洪彦远对苏步青非常器中，鼓励他好好学习，并承诺以后有机会送他去日本学习。等到苏步青中学毕业后，已经在北洋政府教育部任职的洪彦远没有食言，给苏步青汇去200银元，资助他去日本留学。这让当时只有17岁的苏步青非常感动，同时暗下决心，有朝一日学成后一定要回报母校。

22岁那年，苏步青以第一名的成绩考入日本仙台市的东北帝国大学数学系，师从著名几何学家洼田忠彦教授。之后，他又免试升入研究生院攻读博士学位。此时的苏步青已经在数学方面崭现出了强劲的势头，相继在国际学术期刊发表了几十篇仿射微分几何和射影微分几何方面的研究论文，被国际数学界称作“东方国度上升起的灿烂的数学明星”。

博士毕业后，日本东北帝国大学为了能留住这位数学天才，给苏步青开出了比其他老师高一倍的薪水，这对于出身贫寒的苏步青来说，极具诱惑力。然而，令所有人没有想到的是，苏步青婉拒了校方的好意。他表示，报效祖国是他当前也是此后的唯一理想。有趣的是，当时的苏步青已经娶了松本教授的女儿松本米子为妻，松本教授也希望女婿能留在日本工作生活。然而，苏步青也没有给老丈人“留面子”，于1931年偕妻子松本米子回到中国。

回国后时间不长，“国立清华大学”便向苏步青伸出橄榄枝，高薪邀请他去该校数学系任教。当时的清华大学的数学系已经汇聚了熊庆来、郑桐荪、武之等知名教授，在这里教书可以说名利双收，然而，苏步青再一次婉拒了高薪聘请，执意来到国立浙江大学当了一名副教授，以自己的所学回报家乡的大学。此事传开后，众人都为苏步青高尚的品格和知恩图报的精神所感动。