1787. május 14-én az Alkotmányos Konvent küldöttei megkezdik a gyülekezést Philadelphiában, hogy szembenézzenek egy ijesztő feladattal: az új amerikai kormány békés megbuktatásával, ahogyan azt a Konföderációs cikkely meghatározta. Bár a konvenciónak eredetileg május 14-én kellett volna megkezdődnie, James Madison arról számolt be, hogy csak kis létszámban gyűltek össze. Az üléseket május 25-ig kellett elhalasztani, amikor is a résztvevő államok – Massachusetts, New York, New Jersey, Pennsylvania, Delaware, Virginia, Észak-Karolina, Dél-Karolina és Georgia – kellő számú képviselője megérkezett.
Amint az új Egyesült Államok gazdasági válságba és államközi viszályokba süllyedt, az új nemzet vezetői egyre inkább csalódtak korlátozott hatalmukban. Amikor 1785-ben Maryland és Virginia nem tudott megegyezni a Potomac folyóhoz fűződő jogaikról, George Washington konferenciát hívott össze a kérdés rendezésére Mt. Vernonba. James Madison ezután meggyőzte a virginiai törvényhozást, hogy a marylandi Annapolisba hívja össze az összes államot, hogy megvitassák az ilyen ragadós, kereskedelemmel kapcsolatos kérdéseket. Az 1786. szeptemberi annapolisi konvenció viszont összehívta a philadelphiai konvenciót, hogy dolgozzanak ki olyan további rendelkezéseket, amelyek szükségesnek tűnnek számukra ahhoz, hogy a szövetségi kormány alkotmánya megfeleljen az Unió szükségleteinek.
Aközött, hogy Madison eredetileg felszólította az államokat, hogy küldjenek küldötteket Annapolisba, és hogy Madison új kormányra vonatkozó virginiai tervét bemutatta a philadelphiai konvenciónak, alapvető változás következett be a konvenciós folyamat céljaiban. A küldöttek már nem azzal a céllal gyűltek össze, hogy kereskedelmi megállapodásokat finomítsanak. A jelenlévők jelentős része most már elhatározta, hogy az új amerikai kormányzat egészét átdolgozza, anélkül, hogy a szavazóközönség egyetlen szavazatot is leadott volna.