在堪萨斯城民主党政治集团首脑汤姆·彭德格斯特的帮助下，杜鲁门于1922年当选为密苏里州杰克逊县法院的法官。这个职位的性质和县首长相近，都是具行政性质，而不负责审理案件。其后，杜鲁门虽然在1924年竞选连任失败，可是他在1926年重新当选，并且在1930年连任。在任期间，他十分勤奋，其中几项大型的公共建设项目，更为他获得不少赞誉，这些建设包括扩建道路以配合日益增长的交通量和兴建新的县法院大楼。此外，他还筹划建造了十二座“小径圣母像”（Madonna of the Trail），以表彰对国家作出杰出贡献的妇女。

1922年，杜鲁门向一位朋友缴纳了10美元的3K党入会费，但是这笔款项在不久以后又退还给杜鲁门，因此杜鲁门从来没有入会，从来没有出席3K党任何活动，亦从来不是3K党的会员。尽管杜鲁门曾经在日记里对犹太人表示过憎恨，但他的朋友兼生意伙伴雅各布森，却正是犹太人，而且杜鲁门在日后还成为以色列立国的一大推动者。