实际上，尽管出席费城会议时麦迪逊资历尚浅（时年36岁，弗吉尼亚议员），威望远不能和华盛顿、富兰克林他们相比，却是这个群英荟萃的会议的核心和灵魂，后来史学家甚至称他为“联邦宪法之父”。这说明麦迪逊必有过人之处。根据佐治亚代表威廉·皮尔斯的《制宪会议代表性格描述》，我们发现他有三大优点：一、集政治家的深谋远虑和学问家的博闻强记于一身；二、熟悉法律和政治，对邦联的事务了如指掌；三、循循善诱，侃侃而谈，特别会说服别人。因此，“他在制宪会议中总是处于引导地位”，“在辩论的任何关头，总是作为最了解情况的人走在前面”。

托马斯·菲杰逊，美国开国领袖之一，《独立宣言》的起草人

　　皮尔斯的说法并不夸张，麦迪逊确实是费城会议的掌舵人。他知道什么时候应该扬帆远出，什么时候应该躲避风浪。5月30日，会议刚刚做出“应该建立一个由最高立法、行政、司法部门组成的全国政府”的决议，代表们就因全国议会的席位问题产生严重分歧。麦迪逊提出，新的全国议会，不能再像《邦联条例》规定的那样，每邦１票表决权。这个提议得到宾夕法尼亚代表古文诺·莫里斯的附议，特拉华代表团团长乔治·里德却提出强烈抗议。里德说，特拉华代表团的使命，受到本邦议会授权的限制。特拉华议会的授权书说，该代表团不得同意改变每邦１票平等表决权的规则。这个授权，是在会议一开始时就宣读过的。如果一定要把这种改变确定下来，本代表团就只好退出会场，回特拉华去了。

　　这当然不行。尽管麦迪逊仍然坚持自己的观点，也相信这一改变终将实现，却认为应该照顾代表们的感情，不能刚一开会就把特拉华代表团弄得很尴尬。他建议暂缓讨论这个问题。会议同意了他的建议，改为讨论全国议会是否应该实行两院制。

　　这个提案在第二天很顺利地就通过了。这就形成了会议的第二个政治决议：“全国议会应由两院组成。”在后来的几天中，会议还通过了一系列决议，比方说，全国议会第一院（即众议院）议员由人民选举，第二院（即参议院）议员由各邦推选，邦联议会的立法权全部移交全国议会，全国议会对各邦无能为力的所有事务都有立法权，对各邦议会的违宪立法有否决权，等等。另外，会议还通过决议，设全国行政长官一人。该行政长官控制立法的复决，有权否决议会的立法，但议会两院可以分别以2/3的多数否决行政长官的否决。这些决议都是十分重要的。它们是与会代表合作的结果。