他暗自修练，郭靖与黄蓉毫不知晓。黄蓉教他读书，不到三个月，已将一部“论语”教完。杨过记诵极速，对书中经义却往往不以为然，不住提出疑难。其实黄蓉教他读书，也已早感烦厌，只是常自想到：“此人聪明才智似不在我下，如果他为人和他爹爹一般，再学了武功，将来为祸不小，不如让他学文，习了圣贤之说，于己于人都有好处。”当下耐着性子教读，“论语”教完，跟着再教“孟子”。
几个月过去，黄蓉始终不提武功，杨过也就不问。自那日与郭芙、武氏兄弟打架之后，再不跟他们三人在一起玩耍，独个儿越来越感孤寂，心知郭靖虽收他为徒，武功是决计不肯传授的了。自己本就不是武氏兄弟的对手，待郭靖教得他们一年半载，再有争斗，非死在他们手里不可，心中打定了主意，一有机会，立即设法离岛。
这日下午，杨过跟黄蓉读了几段“孟子”，辞出书房，在海边闲步，望着大海中白浪滔滔，心想不知何日方能脱此困境，眼见海面上白鸥来去，好生欣羡它们的来去自在。正自神往，忽听桃树林外传来呼呼风响。他好奇心起，悄悄绕到树后张望，原来郭靖正在林中空地上教武氏兄弟拳脚，教的是一招擒拿手“托梁换柱”。
郭靖口中指点，手脚比划，命武氏兄弟跟着照学。杨过只看了一遍，早就领会到这一招的精义所在，但武氏兄弟学来学去始终不得要领。郭靖本性鲁钝，深知其中甘苦，毫不厌烦，只是反覆教导。
杨过暗暗叹气，心道：“郭伯伯若肯教我，我岂能如他们这般蠢笨。”闷闷不乐，自回房中睡了。晚饭后读了几遍书，但感百无聊赖，又到海滩旁边，学着郭靖所授的拳脚，使将开来，只是将一招反覆使得几遍，便感腻烦，心念一动：“我若去偷学武功，保管比武氏兄弟强得多，那也不用怕他们来害我了。”
一喜之后，跟着又想：“郭伯伯既不肯教，我又何必偷学他的？哼，这时他就是来求我去学，我也不学的了。最多给人打死了，好希罕么？”想到此处，又是骄傲，又感凄苦，倚岩静坐，竟在浪涛声人迷迷糊糊的睡着了。
次日清晨，杨过不去吃早饭，也不去书房读书，在海中捞了几只大蚝，生火烧烤来吃，心想：“不吃你郭家的饭，也饿不死我。”瞧着岸边的大船和小艇，寻思：
“那大船我开不动，小艇却又划不远，怎生逃走才好？”烦恼了半日，无计可施，便在一块巨岩之后倒转了身子，练起了欧阳锋所授的内功来。
正练到血行加速、全身舒畅之际，突然间身后有人大声呼喝，杨过一惊之下，登时摔倒，手足麻痹，再也爬不起来，原来是郭芙与武氏兄弟三人适于此时到来。
这巨岩之后本来十分僻静，向无人至，但桃花岛上道路树木的布置皆按五行生克之变，郭芙与武氏兄弟不敢到处乱走，来来去去只在岛上道路熟识处玩耍，以致见到了他练功的情状。幸好杨过此时功力甚浅，否则给他们三人这么齐声吆喝，经脉错乱，非当场瘫痪不可。
郭芙拍手笑道：“你在这里捣甚么鬼？”杨过扶着岩石，慢慢支撑着站起，向她白了一眼，转身走开。武修文叫道：“喂，郭师妹问你哪，怎得你这般无礼，也不理睬？”杨过冷冷的道：“你管得着么？”武敦儒大怒，说道：“咱们自管玩去，别去招惹疯狗。”杨过道：“是啊，疯狗见人就咬，人家好端端的在这里，三条疯狗却过来乱吠乱叫。”武敦儒怒道：“你说三条疯狗？你骂人？”杨过笑道：“我只骂狗，没骂人。”
武敦儒怒不可遏，扑上去拔拳便打，杨过一闪避开。武修文想起师父曾有告诫，师兄弟不可打架，这事闹了起来，只怕被师父责备，忙拉位兄长手臂，笑吟吟的对杨过道：“杨大哥，你跟师娘学武艺，我们三个跟师父学。这几个月下来，也不知是谁长进得快了。咱们来过过招，比划比划，你敢不敢？”
杨过心下气苦，本想说：“我没你们的运气，师娘可没教过我武功。”但一听到他说“你敢不敢”四字，语气中充满了轻蔑之意，那句泄气的话登时忍住了不说，只哼了一声，冷冷的斜睨着他。武修文道：“咱们师兄弟比试武功，不论谁输谁赢，都不可去跟师父、师娘说，就是打破了头，也说是自己摔的。谁打输向大人投诉，谁就是狗杂种、王八蛋。杨大哥，你敢不敢？”
他这“你敢不敢”四字第二次刚出口，眼前一黑，左眼上已重重着了杨过一拳，武修文一个踉跄，险些摔倒。武敦儒怒道：“你这般打冷拳，好不要脸。”施展郭靖所教的拳法，向杨过腰间打去。杨过不识闪避，登时中拳，眼见武敦儒又是飞脚踢来，脑海中灵光一闪，想起昨天郭靖传授武氏兄弟的招数，当即右脚微蹲，左手在武敦儒踢来的右脚小腿上一托。这正是“闹市侠隐”全金发所擅擒拿手法中的一招“托梁换柱”，虽非极精深的武功，临敌之时却也颇切实用。昨日郭靖反覆叫两兄弟试习，武氏兄弟本已学会，但当真使将出来，却远不及杨过偷看片刻的灵活机巧。武敦儒被他这么一托，登时远远摔了出去。
武修文眼上中拳，本已大怒，但见兄长又遭摔跌，当即扑将上来，左拳虚幌，杨过向左避让，却不知这是拳术中甚是浅近的招数，先虚后实，武修文跟着右拳实击，砰的一声，杨过右边颧骨上重重中了一拳。武敦儒爬起身来，上前夹击，他两兄弟武功本有根柢，杨过先前就已抵敌不过，再加上郭靖这几个月来的教导，他如何再是敌手？厮打片刻，头脸腰背已连中七八下拳脚。杨过心下发了狠：“就是给你们打死，我也不逃。”发拳直上直下的乱舞乱打，全然不成章法。
武修文见他咬牙切齿的拚命，心下倒是怯了，反正已大占上风，不愿再斗，叫道：“你已经输啦，我们饶了你，不用再打了。”杨过叫道：“谁要你饶？”冲上去劈面猛击。武修文伸左臂格开，右手抓住他胸口衣襟向前急拉，便在此时，武敦儒双拳同时向杨过后腰直击下去。杨过站立不稳，向前摔倒。武敦儒双手按住他头，问道：“你服了没有？”杨过怒道：“谁服你这疯狗？”武敦儒大怒，将他脸孔向沙地上直按下去，叫道：“你不服，就闷死了你。”
杨过眼睛口鼻中全是沙粒，登时无法呼吸，又过片刻，全身如欲爆裂。武敦儒双手用力按住他头，武修文骑在他头颈之中，杨过始终挣扎不脱，窒闷难当之际，这些日子来所练欧阳锋传授的内力突然崩涌，只觉丹田中一股热气激升而上，不知如何，全身蓦然间精力充沛，他猛跃而起，眼睛也不及睁开，双掌便推了出去。
这一下正中武修文的小腹，武修文“啊”的一声大叫，仰跌在地，登时晕了过去。这掌力乃是欧阳锋的绝技“蛤蟆功”，威力固不及欧阳锋神功半成，杨过又不会运用，但他于危急之间自发而生的使将出来，武修文却也抵受不起。
武敦儒抢将过去，只见兄弟一动也不动的躺着，双目翻白，只道已给杨过打死，大骇之下，大叫：“师父，师父，我弟弟死了，我弟弟死了！”连叫带哭，奔回去禀报郭靖。郭芙心中害怕，也急步跟去。
杨过吐出嘴里沙土，抹去眼中沙子，只觉全身半点气力也无，便欲移动一步也是艰难无比，眼见武修文躺着不动，又听得武敦儒大叫：“我弟弟死了！”心下一片茫然，不知到底出了甚么事，明知事情大大不妙，却是无力逃走。
也不知过了多少时候，只见郭靖、黄蓉飞步奔来。郭靖抱起武修文，在他胸腹之间推拿。黄蓉走到杨过边，问道：“欧阳锋呢？他在那里？”杨过茫然不答。黄蓉又问：“这蛤蟆功他甚么时候教你的？”杨过似乎听见了，又似乎没有听见，双眼失神落魄的望着前面，嘴巴紧紧闭住，生怕说了一个字出来。黄蓉见他不理，抓住他双臂，连声道：“快说！欧阳锋在那里？”杨过始终一动不动。
过不多时，武修文在郭靖内力推拿下醒了转来，接着柯镇恶也随着郭芙赶到。
柯镇恶听郭芙说了杨过倒转身子的情状，又听得他如何“打死”武修文，想到这小子原来是欧阳锋的传人，满腔仇怨登时都转到了他身上，听得黄蓉连问：“欧阳锋在那里？”而杨过全不理睬，当即走上前去，高举铁杖，厉声喝道：“欧阳锋这奸贼在那里？你不说，一杖就打死了你！”
杨过此时已豁出了性命不要，大声道：“他不是奸贼！他是好人。你打死我好了，我一句话也不说。”柯镇恶大怒，挥杖怒劈。郭靖大叫：“大师父，别......”
只听拍的一声，铁杖从杨过身侧擦过，击入沙滩。原来柯镇恶心想打死这小小孩童毕竟不妥，铁杖击出时准头略偏。
柯镇恶厉声道：“你一定不说？”杨过大声道：“你有种就打死我，我怕你这老瞎子吗？”郭靖纵身上前，重重打了他个耳光，喝道：“你胆敢对师祖爷爷无礼！”
杨过也不哭泣，只冷冷的道：“你们也不用动手，要我性命，我自己死好了！”反身便向大海奔去。
郭靖喝道：“过儿回来！”杨过奔得更加急了。郭靖正欲上前拉他，黄蓉低声道：“且慢！”郭靖当即停步，只见杨过直奔入海，冲进浪涛之中。郭靖惊道：
“他不识水性，蓉儿，咱们快救他。”又要入海去救。黄蓉道：“死不了，不用着急。”过了一会，见杨过竟不回来，心下也不禁佩服他的傲气，当即纵身入海，游了出去。她精通水性，在近岸海中救一个人自是视若等闲，潜入水底，将杨过拖了回来，将他搁在岩石之上，任由他吐出肠中海水，自行慢慢醒转。
郭靖瞧瞧师父，又瞧瞧妻子，问道：“怎么办？”黄蓉道：“他这功夫是来桃花岛之前学的，欧阳锋若是来到岛上，咱们决不能不知。”郭靖点了点头。黄蓉问道：“小武的伤势怎么样？”郭靖道：“只怕要将养一两个月。”
柯镇恶道：“明儿我回嘉兴去。”郭靖与黄蓉对望了一眼，自都明白他的意思，他决不愿和欧阳锋的传人同处一地。黄蓉道：“大师父，这儿是你的家，你何必让这小子？”
当天晚上，郭靖把杨过叫进房来，说道：“过儿，过去的事，大家也不提了。
你对师祖爷爷无礼，不能再在我的门下，以后你只叫我郭伯伯便是。你郭伯伯不善教诲，只怕反耽误了你。过几天我送你去终南山重阳宫，求全真教长春子丘真人收你入门。全真派武功是武学正宗，你好好在重阳宫中用功，修心养性，盼你日后做个正人君子。”
杨过应了一声：“是，郭伯伯。”当即改了称呼，不再认郭靖作师父了。
郭靖这日一清早起来，带备银两行李，与大师父、妻子、女儿、武氏兄弟别过，带着杨过，乘船到浙江海边上岸。郭靖买了两匹马，与杨过晓行夜宿，一路向北。
杨过从未骑过马，但他内功略有根柢，习练数日，已控辔自如。他少年好事，常常驰在郭靖之前。
不一日，两人渡过黄河，来到陕西。此时大金国已为蒙古所灭，黄河以北，尽为蒙古人天下。郭靖少年时曾在蒙古军中做过大将，只怕遇到蒙古旧部，招惹麻烦，将良马换了两匹极瘦极丑的驴子，身上穿了破旧衣衫，打扮得就和乡下庄汉相似。
杨过也穿上粗布大褂，头上缠了一块青布包头，跨在瘦驴之上。这驴子脾气既坏，走得又慢，杨过在道上整日就是与它拗气。
这一天到了樊川，已是终南山的所在，汉初开国大将樊哙曾食邑于此，因而得名。沿途冈峦回绕，松柏森映，水田蔬圃连绵其间，宛然有江南景色。
杨过自离离桃花岛后，心中气恼，绝口不提岛上之事，这时忍不住道：“郭伯伯，这地方倒有点像咱们桃花岛。”郭靖听他说“咱们桃花岛”五字，不禁怃然有感，道：“过儿，此去终南山不远，你在全真教下好好学艺。数年之后，我再来接你回桃花岛。”杨过头一撇，道：“我这一辈子永远不回桃花岛啦。”郭靖不意他小小年纪，竟说出这等决绝的话来，心中一怔，一时无言可对，隔了半晌才道：
“你生郭伯母的气么？”杨过道：“侄儿那里敢？只是侄儿惹郭伯母生气罢啦。”
郭靖拙于言辞，不再接口。
两人一路上冈，中午时分到了冈顶的一座庙宇。郭靖见庙门横额写着“普光寺”
三个大字，当下将驴子拴在庙外松树上，进庙讨斋饭吃。庙中有七八名僧人，见郭靖打扮鄙朴，神色间极是冷淡，拿两份素面、七八个馒头给二人吃。
郭靖与杨过坐在松下石凳上吃面，一转头，忽见松后有一块石碑，长草遮掩，露出“长春”二字。郭靖心中一动，走过去拂草看时，碑上刻的却是长春子丘处机的一首诗，诗云：
“天苍苍兮临下土，胡为不救万灵苦？万灵日夜相凌迟，饮气吞声死无语。仰天大叫天不应，一物细琐枉劳形。安得大千复混沌，免教造物生精灵。”
郭靖见了此诗，想起十余年前蒙古大漠中种种情事，抚着石碑呆呆不语，待想起与丘处机相见在即，心中又自欣喜。
杨过道：“郭伯伯，这碑上写着些甚么？”郭靖道：“那是你丘祖师做的诗。
他老人家见世人多灾多难，感到十分难过。”当下将诗中含义解释了一遍，道：
“丘真人武功固然卓绝，这一番爱护万民的心肠更是教人钦佩。你父亲是丘祖师当年得意的弟子。丘祖师瞧在你父面上，定会好好待你。你用心学艺，将来必有大成。”
杨过道：“郭伯伯，我想请问你一件事。”郭靖道：“甚么事？”杨过说道：
“我爹爹是怎么死的？”郭靖脸上变色，想起嘉兴铁枪庙中之事，身子微颤，黯然不语。杨过道：“是谁害死他的？”郭靖仍是不答。
杨过想起母亲每当自己问起父亲的死因，总是神色特异，避不作答，又觉郭靖虽然待己甚是亲厚，黄蓉却颇有疏忌之意，他年纪虽小，却也觉得其中必有隐情，这时忍不住大声道：“我爹爹是你跟郭伯母害死的，是不是？”
