鲁定公九年（公元前501年），五十一岁的孔子被任命为鲁国的中都宰，即鲁国一个重要城市的行政长官。孔子上任以后，制定了一系列养生送死的礼节，按照年龄分配食物，按照身体强弱分配工作，实行一年后，男女别途，路不拾遗，各地都纷纷仿效。
鲁定公见孔子的治理都很有成效，第二年任命孔子为鲁国司空，主管鲁国的工程建设和手工业。孔子区分土地的特性，按照土地特性种植不同的农作物，各种农作物都生长得很好。
孔子从政后，极力维护国君的权威。斗鸡之变后，鲁昭公被赶到齐国，七年后客死在国外。当时季平子当权，将鲁昭公埋葬在鲁国国君墓道之南。孔子派人在昭公墓外开挖一条沟，将昭公墓和历代鲁公的墓连在一起。孔子对季平子的儿子季桓子解释说：“将国君葬在历代国君墓地外虽然贬低了国君，但是也彰显了自己的罪过，这是不符合礼制的。现在将鲁昭公墓归入历代国君的墓地就可以遮掩您父亲不合臣道的行为。”不久，孔子又升任鲁国的司寇，主管鲁国的刑法。
鲁定公十年（公元前500年）春天，齐鲁两国和好，夏天，两国国君在两国交界的夹谷举行结盟仪式。鲁定公准备好车辆随从就要去赴会，孔子以司寇身份兼办会盟时的礼仪事务，他对鲁定公说：“臣闻有文事者必有武备，有武事者必有文备。古者诸侯出疆，必具官以从。请具左右司马。”鲁定公接受孔子的建议，事先安排了军队。
两位国君在夹谷会见时，齐国派亡国了的莱国人企图劫持鲁定公，孔子批评齐国用夷狄之乐，逼迫齐景公撤下武士。齐国又演奏宫中之乐，也被孔子以“匹夫营惑诸侯”违背礼仪的罪名赶走。齐景公感到很惭愧，回国后责备臣子“独以夷狄之道教寡人，使得罪于鲁君”，并答应归还过去侵占的鲁国郓、汶阳和龟阴的土地，表示道歉。
取得这次外交上的胜利，孔子在国内的地位更巩固了，他想实现自己的理想：强化鲁国国君的权力，削弱专权大夫的势力。鲁定公十二年（公元前498年），他对鲁定公说：“臣无藏甲，大夫毋百雉之城。”根据礼制，臣子的家中不能收藏武器，大夫的封邑不能建筑高一丈、长三百丈的城墙，应该收缴兵器，拆除超过规定的城墙。这个建议意在削弱三家大夫的势力，获得鲁定公的支持。孔子命令弟子子路担任季氏的总管，开始拆除三家的城堡。
这个时期，季孙氏、叔孙氏、孟孙氏虽然执掌鲁国的大权，但频繁的战争和外交活动占去了他们很多时间，三桓经常奔走在外，少则一个月，多则半年，甚至被扣为人质在国外一两年都回不了国，加上嗣主年幼，家臣年久，权力逐渐被家臣夺取，城堡反成了家臣的据点。因此，对于拆除都邑，三家大夫的阻力不大。叔孙氏首先拆除了郈邑，季孙氏家臣公孙不狃和叔孙辄不仅不拆除费邑反而率领费邑的人去袭击国都，孔子命申句须、乐颀打败费人，拆除费邑。但拆除孟孙氏成邑又受到抵制。孟懿子的家臣公敛处父对他说：“成，孟氏之保障，无成是无孟氏也。”在孟懿子的暗中支持下，公敛处父坚持不拆，鲁定公亲自带领军队包围了成邑，也没有攻下来。虽然拆除三都的计划没有全部实现，但拆除两家的都邑还是削弱了卿大夫及其家臣的势力，增强了王室的力量。
孔子参与国政不久，鲁国得到较好的治理。“粥羔豚者弗饰贾，男女行者别于途，途不拾遗。四方之客至乎邑者不求有司，皆予之以归。”（《史记·孔子世家》）但这引起齐国恐慌，齐国君臣决定用计离间孔子和鲁国君臣的关系。他们从全国挑选了八十个漂亮的女子，穿上华丽的衣服，教会她们跳《康乐》舞蹈，又挑选了长有漂亮花纹的一百二十匹马，一并送给鲁国国君。鲁国的主政者季桓子和鲁定公受其诱惑，怠于政事。弟子知道后对孔子说：“夫子可以行矣。”孔子说：“鲁国就要举行郊祭大典，如果祭祀以后还是按照礼制将祭祀用的肉分送给大夫们，那我还可以留下来。”季桓子接受了齐国的女乐，一连三天都不去处理国家事务，祭祀后也不按惯例向大夫们分送祭肉，孔子愤然离开鲁国。
