经过十数天的外交努力最终失败的日本政府，在英国方面的压力下最终屈服。3月1日，日本政发表了立刻从清国撤军的声明，声明非常简单，根本没有提到此前日军在清国所遭遇的失败，只是表示为东亚和平，并响应英法美各国之和平要求，日本将率先从清国撤军，以表达日本和谈之诚意。同时，在撤军完成撤军后，日本首相伊藤博文将亲自前往清国进行谈判。同日，日本政府正式下达撤军命令。入侵清国的日军全部放下武器，在清军的指挥下协调下，山东日军前往大沽、辽东日军前往大连登船回国。在太平洋舰队的不眠不休的打击下，日本失去了所有的能进行远洋运输的船支，撤军的任务只能由清国的货船来完成。已经失去一切的日本军人，每人仅带着五天的口粮向着各自的登船地点前进。
大连湾，日军第四师团长黑川通轨在与清军独立团长梁华殿进行“友好”的握手后，第一批登上回国的船支。上船前，黑川通轨被告知要多带干粮，尽量不食用船上的伙食。而且船主也被通知必须友好的将日军第四师团安全的送回日本。事实证明，这种提示的真的友好的表现。
相对日本第四师团，其它的日军日子就不好过了。首先就让日本人想不到的是，他们用来抬伤员的担架因为是从清国砍的木头做的，在把伤员抬上船后也被强行收缴，愤怒的日本兵在清军的枪管面前却是敢怒不敢言。曾经看到日本军队就溃散的清军，在接连获得对日战争胜利之后，已经再也不害怕日军了。日本兵面前的清军嚣张的神情和一言不和就搬出黑洞洞枪口，日本兵们相信清兵们真的敢开枪。
而苦难的日子还在后面。原本行驶三天就能抵达日本的运输船却足足开了六天，因为开到半路船坏了，只能停船修理。但就是这么一等，日本兵们随身携带的口粮就不够吃了。船上到是提供吃喝，不过当然是要收钱的。只是那价格真的让人无法接受，单说一个馒头你不用白面用杂粮做也就算了，还要卖上一两银子一个，肉包子是二两一个。其它的就更不用说了，日本兵们感觉自己遭到了无情的勒索怒火冲天的找到船主，却碰了个软钉子。
“我又没逼你们买，嫌贵可以不买嘛。”船主悠然的拿起个包子咬了一口，然后开始吧唧嘴。食物咀嚼的声音和肉的香味让饿了一整天的日本兵们再也忍不住。带队的军官被迫以军队的名议签下欠条，食物很少，为了给大日本帝国省钱，每个日本兵每天仅有一个杂粮馒头，也就是每个人一天一两银子的开销。因为除了人就没有其它的东西，所以每条船上带足足一千名日本兵。仅仅三天就是三千两银子呀，而且皇上还要额外给每条船发一个人二两银子的运费。虽然他们的这些船虽然隶属太平洋货运公司，虽然要向公司缴纳管理费用，但在船上卖吃食的钱可是扎扎实实的的落到自己口袋的。来回一趟就是三千两白花花的银子，船主们都笑疯了。
船主们在笑，因为他们扎扎实实的赚到钱了。但更高兴的是林永翔，因为他知道一些船主们不知道的事情，那就是皇上向日本政府收取的运输费是一个人二个英镑。兴奋之余，他已经开始联系德、法、意三国的船厂，他要为太平洋货运公司购买万吨级运输船。对于三年前皇上要求他占有太平洋全部货运量的五成的目标，如今他信心十足。
在“皇上圣明”的欢呼声中，抵达横须贺的运兵船主们拿着欠条立马找日本当局要钱。日本政府很快就付了钱，因为日本这边一天不付款，清国的货船一天不开出来，那么日军就无法完成撤军，那么清日之间的战争就不算是结束，那么清国的太平洋舰队虽然不再攻击日本沿海，但他们也将继续封锁日本列岛，那么早已粮食不足的日本列岛就要饿死更多人。
3月18日，随着日军最后一支部队离开清国国土，大清刚刚成立的外交部部长李鸿章就对外发表声明。日本政府从清国土地上的撤军行为正真表明了日本政府和谈的诚意，为此，清国将太平洋舰队全面从日本撤回，解除对日本列岛的封锁。
消息一出，英法德等各国的货船纷纷起航前往日本，战后的日本什么都缺，早一天抵达就意味着早一天获得利润。可谁也想不到的是，第一介抵达日本的货船正是长年走私日本的张朴芳。他早就等在日本外海，太平洋舰队离开的第二天，他就带着五艘装满粮食的货船抵达了大阪港。
3月20日，光绪发出上喻。为正真回复东亚和平，清日两国应当立刻展开具体的和谈进程，清国将委派大清外交部长李鸿章为全权代表与日本和谈，同时指定日本必须派首相伊藤博文做为唯一全权代表。谈判地点定于日本马关春帆楼三楼。
日本早就声明会由伊藤博文亲自谈判，但对于清国还要指定谈判人员颇为不满，但事实上却是改变不了什么。而清国朝廷中对于皇上强行要将谈判地点定在日本，朝中大臣几乎全部反对。纷纷上折言道：敌败，当乞俘来降，谈判地点当选清国国内为佳。但光绪不顾众议坚持如此安排。
3月21日，日本回应同意。同天，已经完成修复的北洋舰队接到命令，定、镇、来、经、靖、济六舰从各自维修港起航前往大沽集结。平远最终还是放弃了，伤的实在太重。最后被拆除，火炮和其它材料用来修复其它六舰。
“去日本，去马关。将那群东洋矮子曾经加诸这个国家、这个民族和你个人的耻辱一次性都给朕拿回来……”说着光绪双拳重重的砸在龙案上。想着离别前皇上狰狞的脸，李鸿章和唐绍仪在大沽登上了北洋舰队旗舰定远号。25日清晨，北洋舰队进入马关。李鸿章在马关受到伊藤博文恭谨的而热烈的迎接。
26日，清兵接管春帆楼，李鸿章一行检查了谈判地点及设施。27日清日谈判正式开始。结果还没等李鸿章提出条件，日本人就先不满意了。