幼年期 - 挙兵
周防国熊毛郡束荷村字野尻（現・山口県光市束荷字野尻）に、農民・十蔵、琴子の長男として生まれる。家が貧しく12歳ころから奉公に出る。父が萩藩の中間水井武兵衛（後に伊藤直右衛門と改名）の養子となり、下級武士の身分を得る。吉田松陰の松下村塾に学び、高杉晋作、井上聞多らと倒幕運動に加わった。
文久2年（1862年）には公武合体論を主張する長井雅楽の暗殺を画策し、イギリス公使館焼き討ちに参加するなど尊王攘夷の志士として活躍した。また、山尾庸三とともに塙次郎・加藤甲次郎を暗殺した。
文久3年（1863年）には井上聞多、遠藤謹助、山尾庸三、野村弥吉らと共に（長州五傑）イギリスに渡航。翌元治元年（1864年）、四国連合艦隊による長州藩攻撃が近いことを知ると、井上とともに急ぎ帰国し戦争回避に奔走するもかなわず下関戦争（馬関戦争）が勃発する。戦後は和平交渉に通訳として参加した。
長州藩が第一次長州征伐（幕長戦争）で幕府に恭順の姿勢を見せると、高杉らに従い力士隊を率いて挙兵。後に奇兵隊も加わるなど各所で勢力を増やして俗論派を倒し、正義派（革新派）が藩政を握った。