青岛海军学校的前身是于1923年4月成立的东北航警学校，由奉系军阀张作霖创立，其目的是培养舰艇专业军士和水兵。航警学校设立初级军官班和学兵班，军官班招收高中生，学制三年，实习一年，毕业后授予少尉军衔；学兵班招收16岁以上高小毕业生入校，校训、舰训共两年。

东北航警学校共毕业两届军官班，其中航海班48名，轮机班38名；学兵班8期共毕业1500人，大多分配到东北海军各舰任职。

1928年12月，张学良宣布易帜归属南京国民政府后，东北航警学校改属国民政府军事委员会东北行营管辖。1930年，改名为葫芦岛海军学校。

1931年九一八事变后，葫芦岛海军学校迁到威海卫刘公岛，隶属于南京国民政府军事委员会北平分会。同年冬，学校又迁至青岛，并改名为青岛海军军官学校。

随后，青岛海军军官学校学制发生重大变革，招收初中毕业学生，学生年龄限为16岁，学制延长为6年，分为预科、本科各半，航海、轮机并习，不分科别，并正式命名为“海军将校学生班”；学生录取后必须先到军舰见习一年，身体适应海上生活并复考及格者方能入校。

1937年，青岛海军军官学校直接隶属于国民政府军事委员会，改为全国统一招生，招收对象为高中毕业生，学制为4年。抗日战争全面爆发后，青岛海军学校师生与舰队官兵把军舰上的枪炮拆下，进入鲁中地区打游击战。

1937年11月，青岛海军学校迁至湖北宜昌，1939年10月又迁至四川万县狮子寨，在此期间，马尾海校、黄埔海校和电雷学校并入，师资力量得到充实，共有学员300多名，分为航海甲班、轮机甲班、航海乙班、航海丙(一)班、丙(二)班、轮机丙班共6个班。由于当时海军舰艇在和日军的战斗中损失殆尽，所以学生实习只能在工厂和商船上进行。

甲班学生于1940年9月毕业，乙班和丙班同时于1941年3月毕业，也统称乙班。五期学生全部毕业和分配工作后，这年底，青岛海军军官学校宣告关闭。