元治元年（１８６４年）５月２１日。幕府は勝海舟（４２歳）の献策を容れて、兵庫に海軍操練所を設置した。これは海軍士官養成機関であると同時に工廠でもある、大規模な海軍養成施設であったという。幕臣に限らず諸藩藩士も入所することができた。著名な人物では、坂本竜馬（３０歳）、陸奥宗光、伊東佑亨などである。設置のきっかけは、前年４月に将軍・徳川家茂が上洛して兵庫・大坂沿岸を巡察した時、当時軍艦奉行並であった勝の建言である。勝は神戸の重要性を家茂に説いた結果、操練所設置の用掛となって準備を進めた。勝はこの年軍艦奉行に昇進して操練所を所管し、坂本竜馬をはじめ、入所生の指導にあたった。
しかし、７月の禁門の変で、一部の学生が長州軍に加わっていたという理由で勝は罷免され、操練所も翌１８６５年３月１２日に閉鎖されることになった。
操練所が活動した期間はたいへん短いものであったが、後の日本海軍の礎を支える人材を輩出したことで、その役割は大きかったと言われている。