阿保机立国称帝以后，群臣皆感到金顶大帐简陋狭窄，已不太适应朝会的需要，纷纷奏议整修殿宇、营建新都。阿保机向群臣征询建设之所，政事令韩延徽出班奏曰：“陛下自继任汗位以来，虽然说历尽坎坷，但终于名就功成。冥冥中似有天助，巍巍乎地现吉祥。这金顶大帐见证了契丹的崛起，也应当算是我部族成功的象征。但如今陛下立国称帝，理应该选择福址，营建新都，方能与大国形象相匹配也！臣观临潢地势雄奇，紫气笼罩，北靠茫茫群山，南临滔滔河水，西牵松漠而瑞霭常来，东挽辽河而霞光普照。纵横辽远而又俯视千里，真我朝铁骑驰骋天下之宝地也!当是理想的建都之所。”群臣闻听后，皆纷纷赞同之。
　　阿保机闻言大喜，当即下令，仿照中原城市建设格局，在临潢营建新都。诏令韩延徽、韩知古负责统筹规划，康默记负责监造施工。圣旨一下，万众欢腾，军民携手，八方相助。一年零六个月以后，一座新城拔地而起。远望去云蒸霞蔚，绿树葱茏，宛若仙山琼阁；近前看龙盘虎踞，金碧辉煌，直如天上凌霄。阿保机率群臣巡视后欣喜万分。牧民们知道后也奔走相告，感到十分振奋和惊奇。
　　阿保机第一次高坐庙堂之上面南为君，一股冲天豪情油然而生。他举目环顾大殿左右，见群臣站班、文东武西，皆表情严肃；武士排列、盔明甲亮，俱威风凛凛。两缕香烟从熏炉中升起，直达金顶；一块红毡自丹墀下铺出，伸至阶前。群臣跪拜，三呼万岁，礼乐齐鸣，佳音绕梁，余味幽长，经久不去。他这才感到做皇帝的高贵和无上的威严。喜咂良久，他才征询式地对大臣们说：“我契丹部族乃天神的子孙，正宗龙的传人。虽说居草原已千年之久，但也是中华一脉、神州一员。如今既然立国称邦，名扬天下，当以何为进取之策、立国之本？”
　　政事令韩延徽出班奏曰：“臣闻为君之要，当在爱民。治国之道，当施仁政。我朝新立，百业待兴。当务之急，是应明法治而律朝野，施教化以育万民。尊一位圣贤为部族师表，立一家之言为国策源泉。如此方能固本强邦、兴万世之基业也！”
　　阿保机闻之觉得有理，于是问道：“朕闻自古以来有道之君，是应该敬天奉神。然我朝当以何人为部族师表，立哪家之言以教化万民？”
　　于越曷鲁通晓汉族文化，对佛家思想也有些研究。此时他出班奏曰：“我契丹先祖乃天宫神将，后来皈依西天佛祖，偕白马取经而入梵门，可谓从开始即与佛门有缘。因此当尊佛祖为国师，以佛家经典教化万民也！”
　　总汉人司事韩知古摇了摇头，出班奏曰：“若说有缘的话，佛教莫如道教，佛祖莫如老君。想我契丹古来即母系部族，先祖天女乃是仙宫的道姑，所育八部子孙皆是天女的后代。何况西天佛祖本为外邦之神，太上老君才是中华教主。因此我契丹立国，当尊太上老君为国之导师，立道教经典为教民之本！”韩知古祖籍河北玉田，唐天复三年（公元903年）在契丹攻取蓟州时被俘，入夫人述律平家中为奴。少时他即习道学，通药理，成年后就在宫中行医，与述律平的关系极好。故而在听到曷鲁的奏议后，情不自禁地讲出此言，令群臣倍感惊奇。
　　皇太子耶律倍自幼熟读诗书，精通汉族文化，对儒家思想有较深刻的研究。他见阿保机有些犹豫，于是出班奏曰：“启禀父皇，我契丹先祖虽与佛道有缘，但二教均主张个人自我修行，终非君王治国之道。儿臣观中原王朝自秦汉以来，凡立数百年基业者，莫不尊崇孔孟之道，以儒家思想为教化之本，方能让百姓晓尊卑而知礼仪，明法度而感君恩，从而使朝野和谐，万民欢畅。因此，倡导‘四书五经’，弘扬‘三纲五常’，此乃上维皇权，下驭万民之通途也！”
　　阿保机闻言大喜，见群臣再无异议，皆颔首而赞同之，于是宣布奉儒学为国教，尊孔子为先师，在全国修建孔庙，设立学校，倡导“四书五经”，宣传儒家学说。同时，也允许在各地修建佛寺和道观，官民人等可自由选择信仰，并让太子耶律倍率群臣时而祭祀之。由此民风渐顺、政局趋稳，国家的经济也慢慢恢复起来。
　　在此基础上，阿保机又召集群臣廷议治国之策，并根据大家的奏议，采取七项有力措施，大胆改革契丹旧制，建立了各项新的规章制度。
　　第一为创造契丹文字，提高民族素质。韩延徽在奏议中说：“国家无文化而必夭折，军队无文化而必失败，民族无文化而必消亡，个人无文化而必愚蠢，这是有史以来反复验证的真理。契丹民族虽然古老，但是文化是个欠缺，应当创造自己的文字，提高全民的文化水平。”阿保机然其言，遂于神册五年（公元920年），命林牙承旨突吕不和鲁不古二人牵头，负责创造本国文字。在这之前，阿保机之弟迭腊曾根据回鹘文字，创造过“契丹小字”，但由于数量较少，不太实用。二人在此基础上，吸收许多汉人参加，共同仿照汉字偏旁部首，创造出数千个契丹新字（史称“契丹大字”），结束了契丹人一直靠刻木记事的历史，使民族文化的发展产生了一个飞跃。
　　第二为实行“一国两制”，分类进行治理。由于频繁的战争掠夺来大批的奴隶，再加上中原流民的大量涌入，使契丹成了一个胡汉混居、人口众多的国家。韩知古在奏议中说：“今我朝主体民族虽为契丹，但汉民总数几占一半，其风俗习惯与北地也大不相同，应当划区居住、分而治之，使之各得其所、各司其业，如此则社稷可稳、国家可安也！”阿保机从其言，诏令韩知古主其事，给汉民们分土地、划草场、设村落。并根据他们来自何方，分区分类进行安置，尽量把同乡人都安置在一起。比如都是蓟城来的，就在草原上筑个新城，也叫蓟州，由汉民选人自己管理，让流民们有宾至如归的感觉，好像回到了自己的家乡，从而安居乐业。阿保机还亲下诏令，“以旧制治理契丹，以汉制管理汉民”，实行“北面官”和“南面官”制度，由“北面官”统治契丹和其他草原民族，由“南面官”统治汉人。“北面官”依旧穿毡靴着皮衣戴绒帽，官名称于越、林牙、惕隐和夷离毕等等；“南面官”则戴纱帽着锦袍穿皮靴，官名叫宰相、枢密使、左右仆射和政事令等等，完全不一样。但却同事一君，和谐共事，南腔北调，相映成趣。
　　第三为建立新的法律，实行依法治国。康默记在奏议中说：“我契丹部族虽然在联盟成立以来，就有执行法律职能的‘决狱官’，也有几项称得上法律的条文，但执行起来随意性太大，使朝野上下无固定法律可循，这也是造成不断叛乱的重要原因，应予迅速根治之！”阿保机根据他的建议，在朝廷设置专司决狱职能的官员，叫作“夷离毕”，由汉人康默记担任这一职务。并于神册六年（公元921年），亲自主持制定了契丹第一部成文法《决狱法》。又令各部落制定内部法规，使契丹走向法制化国家迈出重要的一步。
　　第四为加强军队训练，打造决胜精兵。耶律曷鲁在奏议中说：“方今天下纷乱，战事频繁。乱世中求生存，角逐中求发展，军队是惟一决定性的因素。当前我朝虽有军而不精，虽有纪而不严，胜则一窝蜂去抢劫，败则一溜烟顾逃命，如此则何以能克敌制胜、弘祖宗之大业也？！”阿保机认为他说得有理，遂命于越曷鲁、妻弟萧敌鲁牵头，参照古代军事家孙武、西汉大将军卫青的做法，加强军事训练，严明军队纪律，务必打造一支决胜铁军。两人遵旨从各部落调集十万壮士，组成精兵铁骑。每名士兵配备两匹战马、百只长箭、一根长鞭和三把战刀，反复进行恶劣条件下的长途奔袭，以提高将士们的野战能力。使之在进攻时如海啸山崩、不可阻挡，撤退时像风入山林，无影无踪。阿保机还把御营亲军扩展到一万人，由他自己亲自训练、直接调动。同时还成立了铁工队和甲仗营，专门制造各种坚甲利器，以适应未来大战的需要。
　　第五为官吏务求廉洁，理政必须清明。皇后述律平在奏议中说：“此为国家昌盛之大计、得万民拥戴之根本。否则虽可立国、亦可亡国也！”阿保机认为皇后说得言简意赅，深为她的政治远见所折服。因之他主持廷议，制定了《限吏规章》，取消了贵族和官吏的许多特权，在全国诏令实行。阿保机清醒地认识到，官吏要廉洁，律己最重要。他听说晋王李存勖喜好声色畋猎，就感叹地对大臣们说：“晋王虽然雄才大略，文武双全，但若喜好声色，江山必不久矣！”因此他在立国称帝以后，就按照皇后述律平的提议，立即遣散伶人，放归鹰犬，减少宫人的数量。同时对各级官吏下“禁酒令”，规定在执行政务或军务的时候，不准喝酒。他还仿照唐太宗的做法，悬“纳谏图”于寝宫之中，每天观而自省。在春秋两季，还经常带领官员下去访问，资助孤寡老弱之人，从而受到百姓的拥戴。
　　第六为发展农耕畜养，推动经济发展。连年的战争和不断的叛乱，使契丹的经济遭到严重的破坏，许多百姓不堪重负，挣扎在死亡线上。飞龙御使阿古只在奏议中说：“我契丹部族虽已建国，但经济羸弱如重病缠身，黎民贫困似雪上加霜，若遇天灾人祸袭来，则国家危矣！为今之计，当轻徭薄税，减负增助，发展农耕，鼓励畜养，方能走出困境、富国强兵，实现祖宗之大业也！”阿保机根据他的提议，亲自主持制定了十项《劝农条令》，鼓励农民开垦荒地，栽柞养蚕，开办榷场（交易场所），饲养禽畜。国家给予必要的帮助，比如提供种子、农具、耕牛和场地等等，从而使农业生产得以恢复和发展，国家的实力不断提升。
　　第七为抑制贵族势力，强化中央集权。萧敌鲁在奏议中说：“迭剌部落太大，贵族势力太强，故而屡次作乱，应当削而弱之。以强化皇权，稳定社稷，此固本强邦之大计也！”阿保机认为他看得很准，遂与群臣一起计议，将迭剌部落一分为二，分为五院、六院的南北两部。任命亲信斜涅赤为北院夷离堇，表弟绾思为南院夷离堇，从而使迭剌部贵族势力大为减弱。同时把其它各部落的夷离堇改为“令隐”，剥夺了他们的军事指挥权，使他们成为隶属于皇帝的将领。对于迭剌和乙室两部落为核心的两大利益集团，朝廷设“北府”和“南府”进行统管，规定宰相为两府内最高长官。北府宰相由后族担任，南府宰相由皇族担任。神册元年（公元916年），阿保机任命妻弟萧敌鲁为首任北府宰相，堂弟耶律苏为首任南府宰相。与此同时，阿保机还任命了一批节度使、招讨使、防御使等地方军事长官。他们虽有带兵权，但直接听命于皇帝，从而大大加强了中央集权，促进了朝廷的稳定。
　　待国家稍微稳定之后，一日早朝，阿保机对大臣们说：“契丹虽然祖居草原，但是不能坐井观天、偏安一隅。目前中原战乱，灾害连年，国家百孔千疮，百姓陷于水火。我天神子孙岂能坐视不管？咱龙的传人焉可置若罔闻？因此，朕欲兴兵南进，夺取中原，救国家于累卵，解黎民于倒悬，开创我统一中华之宏图大业。不知众卿意下如何？”群臣闻之，多有赞成者，那些契丹族将领甚至有些欣喜若狂。
　　尚书左仆射韩延徽出班奏曰：“陛下雄才大略，高瞻远瞩，其博大胸襟当与山河相比美，而崇高理想可同日月争光辉，必令国祚增色、百姓得益，令微臣钦佩之至！吾观朱梁王朝虽已统一中原，但朱全忠死后，其子友珪、友贞昏庸无能，导致内外生乱，朝野分崩离析，其统治必不久矣！然晋王李存勖雄才大略，文武双全，且胆气过人，善谋能战，恐灭梁以代之势成必然也！但中原混战局面当会长期存在。江南吴越、南唐和后蜀等国，皆负隅自保，难成气候，早晚会被北方大国鲸蚕之。为今之计，陛下当效仿秦皇吞并六国之策，稳住阵脚，寻找良机，实行远交近攻，不断壮大自己。现下李存勖在灭燕之后，已成为契丹的对面强敌。我朝可与江南各国及朱梁政权相结好，稳住关东各部，然后寻机向李晋军队发动进攻，实行蚕食战略。如此则中原可图，大业可成也！”群臣听后，纷纷附议赞同之。
　　阿保机闻言大喜：“爱卿真我诸葛亮也！”当即决定按韩延徽所言行事，命曷鲁和萧敌鲁调兵遣将，令韩知古和康默记筹集粮草，及早做好南征准备。
　　恰好这时候机会来了！还是在阿保机称帝之前的时候，晋王帐下幽州检军校尉齐行本，因为与节度使周德威不和，率部下三千多人来投。阿保机以礼相待，封为检校尚书、右仆射，赐契丹国姓，名为兀欲。但齐行本这人反复无常，见利忘义，不久又被晋王李存勖派人策反，卷走契丹边境防御部署图乘夜逃跑，投靠了晋云州节度使李存璋。阿保机闻知大怒，派使者去云州追索，遭到拒绝和讥笑，遂决定以此为借口攻打山西。
　　神册元年（公元916年）八月，阿保机分别致信后梁及江南诸国，历数晋军背信弃义，企图颠覆契丹政权，此番出兵是为“索叛贼而张正义、伐无道而求安宁”，并无拓土开疆之意，诚请各国能够理解。然后亲率二十万大军，出松漠而向西南，直取朔州。为了确保初战完胜，阿保机先派数人化装成樵夫和商贾潜入城内，随即将朔州团团包围。朔州守将毫无察觉，待等他见兵临城下时已经晚矣！被契丹军里应外合，打开城门。十万大军如洪水猛兽，突入城中。守将晋振武军节度使李嗣本率众负隅顽抗，拒不投降，被阿保机远远一箭，射落马下，受伤被俘。部下一哄而散，朔州城破。
　　初战完胜，契丹人军威大振。阿保机率众马不停蹄，挥师向东，攻打云州（今山西大同），遭到云州节度使李存璋的顽强抵抗，连续三日不克。由于云州城高墙固，壕宽水深，晋王李存勖援兵又到，阿保机不再恋战，兵锋一转，连夜挥师向东，越太行，过群山，直扑河北，连下武、蔚、妫、儒（今河北宣化、蔚县、怀来及北京市延庆）四州，迅速占领了幽州西北部大片土地，掠夺了大量的财物和人口北归。阿保机还趁机把武州改名为归化州，把妫州改名为可汗州，派军镇守，将它们划入了契丹的版图。
　　神册二年（公元917年）二月，晋属新州（今河北涿鹿）守军发生内乱。威塞军防御使李存矩（晋王李存勖之弟）因为飞扬跋扈，虐待下属，欺压百姓，勒索钱财，遭到部属一致反对。裨将卢文进等忍无可忍，聚众哗变，将李存矩杀死。晋王李存勖闻报大怒，命幽州节度使周德威、都知防御兵马使李嗣肱率兵前去镇压。卢文进见晋军势大，不能抵敌，遂弃城北进，投靠契丹，向阿保机求救。
　　当年三月，阿保机派族弟曷鲁率军与卢文进兵合一处，夜袭新州。周德威的部下、守将安金全弃城逃走，卢文进重新进驻新州。晋王李存勖怒不可遏，命令周德威调集人马再打新州。阿保机闻讯以后，亲率三万铁骑来援，在新州东妫州西，与周德威大军相遇。周德威号称晋王帐下第一勇将，其所率十万精兵驰骋中原，无人能敌。但契丹铁骑快如飓风、势如猛虎，在阿保机率领下如一股铁流，沾之者死，碰之者亡，晋兵抵挡不住，纷纷败退。周德威率军力战，被契丹十几员将领围在垓心，脱身不得。幸得部将崔开、史亮拼死相救，才侥幸逃得出来，但被萧敌鲁一箭，射中右臂，在众人掩护下大败而走，全军撤到幽州去了。
　　阿保机乘胜率兵追击，将幽州城重重包围，下令昼夜攻打。周德威见契丹军马漫山遍野，无边无沿，四门之外旌旗招展，号角连天，吓得人不卸甲，马不摘鞍，一直在城上督战，几次累得昏了过去。但由于幽州城高墙厚，壕宽水深，城中粮草充足，将士也有数万，急切难以攻下。阿保机便下令暂且停止攻城，召集众将研究办法。
　　降将卢文进人熟地熟，首先说道：“幽州乃北方重镇，关系到晋冀安危，如若攻克，燕云震动，我军便可直下河洛，夺取中原。为今之计，当地上地下一齐动作，令城中防不胜防。即在地上运土为城，与之对峙，同时在下边挖掘地道，通向城中。如此则幽州可破，晋军必败矣！”
　　阿保机从其计，命曷鲁、安端分头带兵施行。但因时已六月，连日阴雨，此计虽好，终未能成。阿保机见天气炎热、人困马乏，乃命曷鲁与卢文进带兵三万、虚张声势，继续佯攻；又命安端带兵两万，西扰云州，使晋兵东西不能相顾，自己则悄悄率领大军主力，退回到契丹境内去了。
　　神册五年（公元920年）十月，机遇再次到来。晋镇州（今河北正定）守将张文礼叛晋，派人与卢文进联系，准备投降契丹。晋王李存勖闻报大惊，急派兵围困镇州。定州守将、义武军节度使王处直与张文礼交好，担心唇亡齿寒，上书向晋王求情，遭到晋王李存勖的严厉申斥。王处直害怕被杀，派养子王郁到契丹求救。
　　阿保机闻讯大喜，派阿古只和耶律辕分别率众从古北口、居庸关南下，攻打檀州（今北京市密云）、顺州（今北京市顺义）以南地区，直逼遂城、望都等地。后来由于晋王李存勖亲自带兵阻击，契丹军才被迫北还。
　　次年十一月，阿保机再次派兵南下。由太子耶律倍和夷离毕康默记分率东西两路人马，越过古北口和居庸关，直插幽州两侧。东路军经檀州过蓟州，直取长芦（今河北沧州），从东部逼近瀛州（今河北河间）、定州；西路军过妫州绕幽州，攻打涿州，兵锋直逼保州（今河北保定）。晋涿州刺史李嗣弼献城投降。契丹军长驱直入，到达定州，定州告急。晋王李存勖亲率大军驰援定州，在祁州（今河北安国）北与契丹军相遇。李存勖身先士卒，率军猛冲，契丹军大败，被迫撤退。此时天降大雪，道路难行，耶律倍决定班师，并设伏兵断后。李存勖命大将王郁率兵追击，结果中了埋伏，五千多名将士几乎全军覆没。契丹军队得以安全撤回境内。
　　神册七年（公元922年）二月，阿保机旧愿未了，再次发兵南侵。但由于晋王李存勖亲自率军拒敌，两军在蓟城附近激战数日，双方皆损失惨重，契丹无奈退兵。当年十月，趁着秋高马肥，阿保机又命次子耶律德光率军南征。但也只攻下平州（今河北卢龙），便被周德威率军拦截，止步不前。此时晋王李存勖已经灭掉后梁，统一了中原地区，在魏州（今河北大名）立国称帝，建立了后唐政权，国力空前强大。阿保机见图谋中原的计划已无法实现，遂转而向周边地区用兵。
　　还是在神册初年的时候，阿保机就曾经率军攻打突厥、沙陀、吐谷浑和党项地区，俘获各部酋长及牧民两万多户，把他们迁至阴山以南，使党项、回鹘和鞑靼等部族，一时皆纳贡臣服。但由于晋王李存勖经常派人挑唆利诱，这些部族便见利忘义，脚踩两只船，时而归顺，时而反叛。如今见后唐建国，势力强大，党项人便率先脱离契丹。随后奚族、乌古等部落也相继投入后唐的怀抱。西北各部族纷纷向后唐暗送秋波，私下往来。而东部的渤海国则更加猖獗，竟然勾结新罗与契丹对抗。神册七年阿保机征南班师，迁蓟城之民屯辽州（今辽宁法库西南），渤海国公然出兵阻挠，杀死辽州刺史，掠走大批人口。阿保机闻之大怒，决定东征西讨，平定四邻，稳住关东。
　　天赞三年（公元924年）六月，经过充分的准备，阿保机命太子耶律倍监国，自己偕次子耶律德光率十万大军西征。临行前在一次朝会上，阿保机征询群臣的意见。尚书左仆射韩延徽出班奏曰：“陛下此番远征，旅途多为荒漠，不惟道路难行，而且补给极难。为保大军完胜，应做些特殊准备才好！”
　　阿保机好奇地问道：“爱卿所言极是。但不知当做何种特殊准备？”
　　韩延徽说：“大军不必十万，五万精兵即可。但必须是一人两马，一马为坐骑，一马驮粮草。将士不论何人，必备水囊粮袋。即备好人畜足够的饮用水，同时把黍米炒熟，装满粮袋，以备应急之用。在大沙漠里行军，无法补给的事是常有的，这样才能万无一失。”
　　阿保机恍然大悟：“爱卿如此细心，令朕自愧不如。”遂吩咐诸将，按韩延徽所言施行。结果在西征中发挥了巨大的作用，创造了沙漠远征的奇迹，为后来的成吉思汗所效仿。
　　当年七月，受阿保机派遣，先锋大将葛剌率军一万，攻克素昆那山东部族，首先占领了大兴安岭以东地区，掠夺了大批牛马，充实了大军的补给。
　　八月，契丹大军到达乌孤山（今蒙古人民共和国肯特山），收服了当地各部落，并按照传统习俗，杀白鹅祭天，与之结为盟好。继而进入古单于国（今肯特山以西乌兰巴托附近），未战而将其降服。
　　九月，大军转向西南，到达古回鹘城（今杭爱山脉以东、鄂尔浑河上游西北岸）。阿保机拜会回鹘诸部酋长，令其加入契丹领导的军事同盟，并勒碑纪念。接着兵发胡母思山（今阿尔泰山东南端的支脉），一战而胜当地诸蕃部，稍事休整。随后又进军业得思山，以红牛白马祭告天地，向各部落颁发契丹国书，收受了回鹘、大食等部落敬献的礼物，与他们结成了友好邻邦。
　　十月，大军渡过流沙河（今准噶尔盆地附近），攻克浮图城（今新疆奇台西北），征服了浮图城以西各部。然后经寓乐山、霸里斯山、乌剌斜里山、霸室山（今新疆、甘肃交界的北山及甘肃、青海交界的祁连山脉）东返。历时五个多月，行程两万多里，将势力扩展到大漠以西，所到之处，尽皆臣服。
　　次年（公元925年）二月，阿保机又命次子耶律德光率军攻打党项。此时党项族首领李仁福已被后唐册封为朔方王，以此为靠山与契丹对抗。耶律德光率军突袭，连下十余城，并把后唐援军击退，由此令党项人再次臣服。四月末班师东归。
　　西征大捷回到上京，阿保机未见任何疲惫，反而愈加精神抖擞、斗志昂扬。他对大臣们说：“朕虽平服西疆、收服各部，但东部渤海国投靠后唐，狐假虎威，杀人掠地，甚为可恶，乃我心头大患，必须及早除之，否则朕寝食难安，其心不甘也！”
　　尚书左仆射韩延徽劝之曰：“陛下亲蹈艰途，身心十分疲惫。将士长途跋涉，军力亦必衰竭，应当很好休整才是。况且出征耗资巨大，百姓难荷重负，亦应舒缓几年才好！”群臣亦纷纷劝阻之。
　　但阿保机执意不听，他长叹一声说：“众卿之意，朕岂不知？昨夜师太托梦给我，告诫我欲速不达，万事从长，一切当以爱惜民力为本。但我思前想后，感慨颇多。如今朕已五十有四，来日尚有何年，恐怕只有天知。现在把能做的事情尽量了结，就省得将来留下遗憾，让儿孙们再费心了！”他的话说得极为伤感，让群臣听了皆不知所言。
　　天赞四年（公元925年）十二月，西征归来仅仅半年，阿保机便又下令东征。皇后述律平放心不下，决定带太子耶律倍、次子耶律德光、尚书左仆射韩延徽、政事令韩知古、夷离毕康默记等一班重臣随行，只令国舅阿古只监国，留守临潢，可谓合朝出动，从来没有，但阿保机欣然同意，令群臣感到十分惊诧。他先带领众人祭拜了木叶山祖庙，又杀青牛白马祷告天地，然后命曷鲁和萧敌鲁为正副先锋，向渤海国进发。
　　还是在大军出发之前，为了确保东征完胜，阿保机就曾派曷鲁带小股骑兵，对渤海国边城进行过数次试探性进攻，一为摸清地形地貌，二为麻痹渤海守军。果然这次契丹大军来袭，渤海国守边将士仍以为是例行骚扰，并未挂在心上。再加上天气寒冷，大雪飘飞，因而躲在哨卡里饮酒作乐，防守十分松懈。被曷鲁和萧敌鲁趁机连下五城，迅速包围了扶余（今吉林农安）重镇。渤海国王湮譔闻讯大惊失色，急忙派兵来援，被安端率领一万铁骑拦住不能前进。
　　次年正月初三，扶余城破，守军将士一万多人全部投降。太子耶律倍率大军主力乘胜北进，击溃渤海援兵，包围了京都忽汗城（今黑龙江宁安渤海镇），昼夜攻打。耶律德光献计采用火攻，烧得忽汗城焦头烂额，烟雾弥天。渤海国王湮譔无奈，率百官出城投降。
　　阿保机恐其中有诈，自己率大军仍驻扎城外，只派侍卫统领康未坦率五千人马入城，一为接受投降，二为维持秩序，同时入户搜缴武器，镇压反抗分子。果然渤海国王听说后唐援兵将至，又自恃城中尚有十万人马，兵精粮足，因之降而复叛，竟派人杀死康未坦，重新关上城门，企图固守待援，负隅顽抗。阿保机闻之怒火万丈，命大军攻入城中，擒而杀之，将其头颅悬于城墙之上。同时令各路大军迅速占领各州、府、县，命各州节度使携带地籍图册，进京纳降，交出所辖人马，听候发落。全国军民人等，无一人敢于反抗。只有长岭（今吉林海龙西南）、南海（今朝鲜咸兴）、定理（今俄罗斯苏城）和鄚颉（今黑龙江阿城）四地降而复反，阿保机立即派兵分别清剿，迅速荡平。
　　当年二月，阿保机率群臣在忽汗城郊遥祭祖庙，杀青牛白马祭告天地，同时大赦天下，改元天显，行檄各国，晓谕万民。宣布改原渤海国为东丹国，改忽汗城为天福城。册封皇太子耶律倍为东丹国主，谓人皇王。设置左右丞相及文武百官，赐天子旌旗、车仗，正式立国称制决事。阿保机的本意是历练太子治国理政的能力，以便未来继承大统。周边高丽、靺鞨等小国、小邦相继归顺，各部落酋长、头领纷纷前来道贺，一时宾客云集，盛况空前。后唐庄宗李存勖闻后叹之曰：“契丹荡平关东，统一北方，实力大长，野心必增，恐中原以后无宁日矣！”
　　庄宗李存勖的担心不是多余的。阿保机东征告捷之后，就准备秣马厉兵、进取中原了。为此，他在接见后唐使者姚坤的时候说：“请转告庄宗皇帝，若南朝把黄河以北割让给我，我便不再南征。否则尔便有灭国之祸！”
　　姚坤听后冷笑着说：“陛下岂非白日做梦、痴心妄想？中原汉地乃祖宗所留，岂能徒赠胡虏、留人笑柄？”
　　阿保机并不生气，仍笑着说：“假如黄河以北不允，那么割让镇、定、幽、朔诸州也可。我们可以划疆为治嘛！”
　　姚坤揶揄地说：“陛下听说过坐井观天，看见过蛇吞大象吗？实乃虽有野心，然而其力不足也！必会为象蹄所杀、死于非命矣！”说罢哈哈大笑。
　　阿保机仍未生气，也大笑着说：“那我就要兵进中原、饮马黄河，到洛阳去做皇帝，拿庄宗的脑袋当夜壶了！”群臣听后皆愕然无语，姚坤则拂袖而去。
　　当年三月，阿保机志得意满，雄心勃勃，率军凯旋临潢，准备整军南侵，再下中原。不料车行至扶余城北，忽然天空中一鹰飞至，在头顶上大叫数声，极为凄厉，吓得辕马忽失前蹄，跌倒在地。车轴断为两截，车轮歪在一旁。阿保机和皇后述律平惊悸下车，默言无语。尚书左仆射韩延徽闻声赶来，甚觉奇怪：此处道路平坦，并无坎坷，怎么会跌倒辕马、轮散轴折？疑惑之间他回过头来问旁观者：“此为何地？”
　　一老汉听到后即回答说：“此为落日崖也！”
　　韩延徽环顾四周，更加疑惑：“此地无山，何称为崖？”
　　那老汉告诉他说：“原来有崖，甚是雄伟。数年前在一黄昏之时，突然日落而崖崩，成一怪石场，故有此名也！”韩延徽听后甚觉不吉，心中惊诧加剧，口中喃喃自语。
　　当晚大军住在扶余，阿保机便觉体乏无力，心神不宁。略饮几杯薄酒之后并未进食，便悄然和衣睡下。入夜时忽然生病坐起，时冷时热，时昏时醒。皇后述律平急召随军御医诊治，连用数服良药而不见效，病势愈发沉重。韩知古为之诊脉，感到其脉象怪异，一会儿急如擂鼓，一会儿慢若游丝，心中倍加忧虑。皇后述律平伏在阿保机的身边，一遍又一遍地呼唤着他的名字，他都不答，只是不断地叨咕着：“师太饶恕我，徒儿知错了！”大家都感到莫名其妙，而又束手无策。
　　至第七日中午，帐外忽有一女尼求见。进来后为阿保机把脉时说：“师兄不听师尊之言，急于求成，穷兵黩武，伤及苍生，故有此厄。与秦皇、汉高之伟业失之交臂，甚为憾之。如今杀戮太重，冤魂群聚，已告到凌霄宝殿。玉帝召其前去对质，恐病已不可医、命亦不能久矣！”说罢取一佛珠置于阿保机口中说：“一切皆为定数，众人不必悲伤。有此宝珠镇之，师兄自会醒来，而且其肌体会历二百年而不腐。师尊嘱我，尽力而为，能做到的只有这些了！”说罢转身离去，不辞而别。
　　当晚日落之时，阿保机果然苏醒过来，目光柔和，面色红润，眼睛却噙满了泪水。他一只手拉着述律平，另一只手拉着耶律倍，长叹一声说：“后悔未听师尊之言，酿成今日之祸。此皆我之过也！看来万事俱应顺其自然，绝对不可以强求也！切记以此为戒，勿蹈我之歧途。我太累了，也该睡了！”说罢脑袋一歪，瞑目而逝，终年五十五岁。
　　皇太子耶律倍、次子耶律德光见父皇驾崩，立刻哭倒在地，数次昏厥。群臣亦痛哭流涕，哀号不止。皇后述律平倒还刚强，她说：“人死不能复生，光哭又有何用？”遂操持一切事务，命将阿保机遗体运回京城。于次年九月，将其葬于祖陵（今内蒙古巴林左旗石房子村西北山谷中）。据说多年一直有苍鹰看护、蟒蛇守卫，人神均不能近前，肌体逾二百年不腐。直到契丹国灭亡，阿保机的遗体才突然不见了，只留下一座石房子，成为千古之谜。