杜鲁门1884年5月8日出生于密苏里州拉马尔，是约翰·安德森·杜鲁门（John Anderson Truman）和玛莎·艾伦·杨·杜鲁门（Martha Ellen Young Truman）的长子。杜鲁门有一个弟弟和一个妹妹，分别叫约翰·维维安·杜鲁门（John Vivian Truman，1886年~1965年）和玛丽·简·杜鲁门（Mary Jane Truman，1889年~1978年）。

杜鲁门的父亲约翰·杜鲁门是一位农夫和家畜商贩，在杜鲁门只有11个月大的时候，便举家迁到密苏里州格兰德维尤的一个农场。那个农场由杜鲁门的祖父母所拥有，占地达600英亩（240公顷）。为了方便上学，杜鲁门一家在他6岁的时候又迁移到密苏里州独立城。1901年，杜鲁门高中毕业后，从事了很多种工作。1906年，杜鲁门回到了格兰德维尤的农场并在那里度过了约十年的时光。在这段时期里，他结识了贝丝·华莱士（Bess Wallace），并在1911年向她求婚，但却以失败收场。此后，杜鲁门说要比农夫赚到更多钱后，才再次向贝丝求婚。结果，他在1918年如愿以偿，当时他刚从第一次世界大战的战场回来，而且还获得了上尉军衔。