与严苛的警察制度相配合的是保甲制度的建立。殖民者规定每十户为一甲、每十甲为一保，每个“甲”设置“甲长”；“保”则设置“保正”，保甲制还规定“连保连坐”，也就是一人犯罪，该甲保中的所有人都要负连带责任，以达到人人自危而互相监督的目的。

日本的残酷统治使得台湾的抗日活动转入地下，换之以各种形式为掩护展开。在积蓄一定力量后，爆发了日本殖民统治时期台湾人民武装抗日事件中规模最大、牺牲人数最多的一次起义。

1915年，日本在台湾实行殖民统治已经20个年头。此时，有个叫余清芳的人在台南地区以宗教为掩护，秘密从事抗日活动已有多年。这年3月，余清芳在西来庵与同为抗日坚定分子的台中人罗俊和楠梓人江定秘密集会，成立“大明慈悲国”，并组成台湾抗日革命军，余清芳任大元帅。

“大明慈悲国”成立不久，余清芳以“奋勇争先，尽忠报国，恢复台湾”为号召，发表抗日文告，举旗抗日。这年8月，为了保存实力，余清芳率领部众转移到台南地区，翌月，由于殖民当局的镇压，加之叛徒出卖，余清芳被日军抓获，随后在台南监狱处以绞刑。由于余清芳等人的起事地点在西来庵，这次起义被称为“西来庵事件”。起义失败后，殖民当局大肆捕杀起义义士，有近2000人被捕，被判处死刑者有866人。

余清芳起义失败后，日本殖民当局对台湾人民的统治更加残酷。为了维护民族尊严，台湾人民的反抗从未停止过。

日本全面侵华后，由于国内资源的限制，及国际社会的禁运政策，台湾成了日本的物资供应站。为此，殖民当局的“皇民化政策”变本加厉。从1936年开始到1940年，殖民当局在台湾发起了所谓的强化“国民意识运动”，1941年后至战败，又发起了所谓的“皇民奉公运动”。这两项强化殖民“运动”的重点落在对文化和习俗的日本化。这一时期，在精神统治方面，殖民当局强迫台湾人民说日语、穿和服、住日式房子、取日本姓名，放弃台湾民间的妈祖信仰，而改信日本的“国教”神道教。

二战后期，由于侵略战争的不断扩大，为弥补国内兵源的不足，1942年起，日本殖民当局开始在台湾征兵，将无辜的台湾人民充当其侵略野心的牺牲品。除此之外，殖民当局还在台湾强征慰安妇，以供侵略者之淫乐。人们流离失所，痛苦不堪。

1943年11月26日，中、美、英三国首脑在埃及首都开罗签署《开罗宣言》，宣言规定日本用武力从中国夺去的东北各省、台湾和澎湖列岛，战后须归还中国；1945年7月26日，在美、英、中三国签署的《波茨坦公告》中，对这一规定再次进行了确认。1945年8月15日，日本无条件投降后，国民政府任命陈仪为台湾行政长官兼警备司令，全面主持台湾的接收工作。25日，国民政府在台北举行受降典礼，日本原台湾总督兼第十方面军司令官安藤利吉大将向台湾受降主官陈仪递呈投降书。受降典礼结束后，陈仪发布演说说道：“从今天起，台湾及澎湖列岛正式重入中国版图，所有一切土地人民政事皆已置于中华民国国民政府主权之下。这种具有历史意义的事实，本人特报告给中国全体同胞及世界周知。”