山本覚馬は1828年1月11日 会津藩士である父山本権八と母さくの嫡男として誕生します。会津藩士の子弟は10歳になると藩校日新館に通うことが義務付けられており、覚馬も同年代の子らとともに幼いころから厳しい教育を受けます。
覚馬は馬術や槍術、刀術でその才能を発揮します。特に槍術は大内流を学び藩内でも一二を争うほどの腕前となるのです。1853年大砲奉行林権助(はやしごんすけ)の随行員として江戸に遊学することになります。
遊学の目的は西洋式砲術、西洋武器の研究、調査であり覚馬は佐久間象山の「五月塾」に入門して象山から教えを受けます。象山の供をして下田に向かった際、黒船を目の当たりにしその圧倒的な武力に衝撃を受け、故郷の会津や日本の行く末に危機感を抱くのです。
「五月塾」で在籍していた勝海舟や吉田松陰とも親交を深め、洋式銃の仕組みや製造法を学び、実射訓練で腕を磨いて行きます。しかし、吉田松陰が海外密航を画策しこれが露見すると象山も連坐して国元で蟄居を言い渡されます。
象山の蟄居により「五月塾」は閉鎖され覚馬は失意のうちに会津に帰国することになります。帰国した覚馬は新設された蘭学所の教授に就任し洋式砲術を教えるとともに会津藩の兵制を西洋式に改革するよう上層部に陳述します。
しかし、会津藩の兵制は弓、槍、刀が中心の長沼流であり、大砲、鉄砲などの飛び道具は身分の低い者が会得するものであるという考え方が根強くあり覚馬の兵制改革は時期尚早として却下されてしまうのです。それでも執拗に食い下がる覚馬に対して藩は禁足を言い渡し無期限の自宅謹慎を命じます。
覚馬は一年に渡り自宅謹慎を余儀なくされますが、外国からの軍事圧力が強まる時勢をかんがみ会津藩でもようやく兵制改革に取り掛かることが決まり覚馬に大砲頭取の任がくだります。日新館の授業で選択科目であった射撃訓練を必須科目とし、取り寄せた洋式銃で厳しい指導を行うとともに、大砲隊や銃隊を中心にすえた軍制に改めました。
1862年会津藩に京都守護職の任命がくだると、松平容保はこれを受け藩士1000人を引き連れて京に上ります。1864年には覚馬も京に呼ばれ7月19日に起きた禁門の変(蛤御門の変)では大砲隊や銃隊を率いて活躍し幕府側の勝利に貢献します。
この功績により覚馬は公用人に取り立てられますが、禁門の変で負傷した傷が悪化して視力がだいぶ落ちていたようです(以前から眼病を患っていたとする説もあります)。その後に起きた鳥羽伏見の戦いにおいて幕府軍は敗戦し覚馬は薩摩によって囚われの身となります。
大砲頭取として禁門の変をともに戦った薩摩に知人がいたことから処刑を免れ、薩摩藩邸に幽閉されていた覚馬ですが、さらに眼病が悪化して失明状態となります。しかし、薩摩では覚馬の才能を高く評価していたため囚人としては格別の厚遇を受けていたようです。
覚馬は、これから先の日本のあるべきすがたを口述筆記した意見書「管見(かんけん)」を新政府に提出しこれが政府高官に評価されたことで1869年幽閉を解かれます。
覚馬は京都府の顧問に採用され西洋の技術を取り入れた殖産興業をすすめ京都の発展に貢献するのです。会津戦争で母や八重が生き残ったことを知るとただちに連絡をとり京に呼び寄せています。
その後、新島襄とともに同志社英学校(のちの同志社大学)の設立に尽力し、京都府議会の議長にも就任しています。新島襄死去後には同志社大学の臨時総長を努めますが1892年12月28日自宅で息を引き取ります。享年65歳。