孔杰的家住在北京崇文区红桥信用北里一幢普通的居民楼里，父母都是普通的工人。家里只有孔杰一个孩子。
1982年11月25日，孔杰出生在北京，他生活的地方有一个好听的名字，叫“四块玉”。王淑云说：“最开始他是下跳棋，那时刚刚3岁，看他非常有兴趣，我们就给他买了一副象棋，也许是天赋吧，教一遍他就知道了马走日象走田，每天都要拉着父亲下上几盘，而且乐此不疲，对别的玩艺一点也不感兴趣，后来我们就想让他学学围棋。”
当时中日围棋擂台赛正如火如荼，聂卫平由于在擂台赛上的超人表现成为了家喻户晓的英雄人物，母亲让孩子学棋的想法也受到了这一影响而变得愈发强烈。
“一开始我们想得很简单，觉得围棋要是下好了，能够代表国家参加国际比赛，”母亲轻声地回忆着，“当时那么一想就过去了，并没有把它真的当作一回事，毕竟在那时总觉得下棋就是一个玩……”
为了能让孩子玩会玩好，对围棋同样是一无所知的母亲跑到书店买了两本围棋书，一边自学一边当起了老师，跟孩子同步前进。1988年的一天，母亲下班后从崇文区少年宫经过，偶尔看到一张围棋班招生的广告，毫不犹豫地给孩子报了名。
“其实孔杰上围棋班的时候还不到6岁，老师开始不肯收他，说他年龄太小。我和老师好说歹说，人家才算答应。因为他有点基础，所以在班上的成绩就比较靠前，总是数一数二，他学习的劲头也越来越大。”
在少年宫学习了一年，孔杰已经到了上小学的年龄，白天从学校回来后，第一件事就是下棋，为了能让他的棋艺尽快提高，母亲把他送到了北京业余围棋教师张瑞图的家中。
王淑云说：“刚一去的时候，张老师就跟我说：别让孩子学棋了，你看看我，下了这么多年工作都丢了，这条路太窄了，没几个能下得出来的，还是让孩子好好地回家念书吧。我说，您就让他先学一个月，要是能行，您就把他留下，要不行我再把他领回去。”如此的诚恳和执着终于打动了张老师的心，从那天起，孔杰一放学就来到张老师的家中，开始了系统的围棋学习。
张老师家住在天坛北门，四块玉离那里大约两公里，每天学完棋。张老师就要把孔杰送过马路，看着他小小的身影逐渐消失，才放心的回去。
在张老师的悉心调教下，孔杰的棋艺有了长足的提高，就在这个时候母亲萌生了让他成为专业棋手的想法。
为了这个心愿，母亲放弃了所有的业余时间，让孔杰休学一年，带着他东奔西走，历尽艰辛。谈起一件件往事，母亲不觉泪语涟涟。
“我就觉得我太苦了，天天带着孩子到外面下棋，凡是听说有下得好的人，我们找上门去。有的地方特别远，老早就得起床，去了人家还未必在家。有时人家看我们穿得太朴素，估计我们也没多少钱，干脆不理，还有的就找借口出去办事，把我们晾在一边。中午不能回来吃饭，就在外面对付着吃上一口，孔杰的胃病就是这么落下的。但不管风里雨里，还是挺过来了。”
老天不负苦心人，1992年，在聂卫平的推荐下，孔杰入选北京大宝少年队，在北京棋院接受了正规的围棋训练。谭炎午老师提起那段时光感慨地说：“孔杰来的时候棋力一般，但他最可贵的不是勤奋好学，而是有一种顽强的作风，每次辅导他下棋，不到山穷水尽绝不认输。”
正是凭着这种精神，小孔杰代表北京队参加了第七届全国运动会，为北京夺取冠军立下了汗马功劳。孔杰也因此成为了年龄最小的全运会冠军，这一纪录保持至今。
1994年，孔杰打上了职业初段，在选拔赛中名列前茅，入选国家少年集训队。国少队主教练吴玉林老师说：“孔杰入队后成绩并不大好，但他训练相当刻苦，与胡耀宇、彭荃等人较着劲前进，后来经常战胜高段棋手。他给我印象最深的一个是用功，自觉自愿的用功，另外就是胜负心强，平常在下训练赛时，不该输的棋如果输了，他的眼泪都会围着眼圈转个不停，心里甭提多难过了。”
1995年，孔杰与胡耀宇一起拜师刘小光，棋艺突飞猛进。
1999年，孔杰以优异的战绩获得了第二届春兰杯的参赛资格，并先后战胜曹薰铉、依田纪基等日韩高手杀入四强。这一成绩让棋界大为震惊，韩国媒体更是将孔杰称作“春兰少年”。
2000年对于孔杰来说无疑是一个丰收年，他相继获得了春兰杯季军、全国体育大会冠军和棋王战第三名。岁末，在第三届春兰杯世界围棋锦标赛上，又完胜世界第一人李昌镐，跻身八强。