1939年1月2日，八路军前线司令部的一次庆祝元旦集会上，杉本一夫和另外两名日军俘虏走上舞台，宣布要加入八路军。朱德总司令深受感动，与他们紧紧握手，批准了他们的请求，使他们成为首批“日本八路”。八路军总司令部的命令和毛泽东的论述都强调了对日俘的尊重，正确的对日俘虏的政策发挥了巨大威力，吸引了许多日军士兵，唤起了他们的觉醒。除此之外，更有一些战俘正式加入了中国共产党。

1939年11月7日，在山西省辽县（左权）麻田村，八路军总部由杉本一夫等日本士兵创建了“在华日人觉醒联盟”本部（1942年改为反战同盟太行支部），这是最早在敌后抗日根据地成立的日人反战团体。

山田一郎，一位日军中尉医官，曾是日本东京帝国大学医科的毕业生，被俘前曾服务于日军。在加入觉醒联盟后，他自愿为八路军提供医疗服务。他对八路军病员热忱、周到，而且医术精湛。在根据地药物稀缺的情况下，他就地取材研制出治疗肺病的代用药品，服务于军民，被誉为“日本白求恩”。

反战同盟不断扩大，日本士兵纷纷加入八路军和新四军。觉醒联盟刚成立时，盟员们的政治水平都不高，也没有什么工作经验。但在中国共产党和八路军的帮助下，逐渐开展了对日军的宣传、瓦解工作，并取得了显著成绩。

随着抗日战争的深入和反战运动的蓬勃发展，1942年6月23日，在延安的日本同志创立了“在华日本共产主义者同盟”。同盟是在反战同盟的基础上发展起来的，是以共产主义为奋斗目标的先锋队组织。同盟成立后，在各抗日根据地发展了支部，对反战运动中的日本士兵和中国抗日军民产生了深远影响。

1942年8月15日至8月30日在延安召开了华北日本士兵代表大会和华北日人反战团体大会。大会统一了华北日本反战力量，成立了反战同盟统一机构——在华日人反战同盟华北联合会。

国统区也有日人反战组织。这些组织是在日本革命志士的努力，并在中国共产党人周恩来、郭沫若等的关怀、支持下建立的。1939年12月，在桂林成立了在华日本人民反战同盟西南支部。1940年春，日共创始人之一，日共中央委员、日共驻共产国际代表冈野进（即野坂参三，出生于日本山口县，在中国化名林哲），经共产国际总书记季米特洛夫同意，和周恩来等一起从莫斯科经新疆来延安，协助中共开展对敌工作。

反战同盟虽然在数量上比八路军、新四军少得多，但在瓦解日军、战胜日军上却发挥了不可或缺的重要作用。他们利用对日军的内部情况和士兵的思想、语言、风俗习惯的了解，通过喊话、通信、通电话、送慰问袋等方式，直接与日军士兵接触，宣传侵华的非正义性和给士兵及家庭带来的灾难，取得了显著效果。

石田雄是胶东支部歌喉委员，他的歌声如清泉般悦耳，能够根据日本士兵的要求唱出各地的曲调。1943年深秋，他与支部长小林清到山东文登县城据点喊话时，敌人拒绝他们，准备开枪。石田雄用优美哀伤的男高音唱道：“夜半人静月更明，寒光斜射照进窗。期待在渺茫异国的丈夫啊！妻子和孩子非常寂寞和悲哀……”在寒意中，歌声随风飘进碉堡，里面的士兵被感动，思乡厌战之情油然而生，喊话宣传便自然地开始了。

日军士兵的思乡厌战情绪日益加剧，逃亡、自杀和自动向八路军、新四军投降的事件不断增加，士兵反抗长官，不听命令的事件也时有发生，导致日军战斗力不断减退。反战同盟的宣传、瓦解工作无疑是重要因素之一。

反战组织经过华北日本士兵觉醒联盟、在华日人反战同盟、日本人民解放联盟的演变壮大后，到1945年8月，共发展建立了2个地方协议会、4个地区协议会、20个支部，盟员达1000余人。1945年9月至1946年上半年，随着抗战胜利，日本人民解放联盟成员大部分陆续回国，联盟自行解散。