在返回上京的路上得病致死，时年五十六岁。九月癸丑日，金太祖的棺椁被运送回金朝都城上京（今黑龙江阿城区白城镇）。

九月乙卯日，葬于宫城西南。九月丙辰日，根据金太祖遗训，其弟完颜晟即皇帝位，是为金太宗。

完颜晟，原名吴乞买，金世祖完颜劾里钵第四子，金太祖完颜阿骨打同母弟，母为翼简皇后懒氏。生于辽太康元年（1075年）。初为金穆宗完颜盈歌的养子。

1115年（辽

天庆五年），在女真族抗辽斗争初获胜的基础上，与完颜宗翰、完颜希尹等力劝阿骨打称帝，建立大金皇朝，遂受命为谙班勃极烈，其统治地位仅次于金太祖。太祖统军出征，完颜晟常为留守。但太祖用兵，多用其计谋。1121年（金天辅五年），奉诏知国政。

辽朝将亡，西夏向金称臣。金在西部和西北部不再有后顾之忧。与此同时，金交替使用武力和招降的手段，征服奚族和辽朝的残余势力，使占领区日趋巩固。 完颜晟也随之开始了对宋用兵的准备工作。