Den 14. maj 1787 begynder delegerede til forfatningskonventet at samles i Philadelphia for at tage fat på en skræmmende opgave: den fredelige omstyrtelse af den nye amerikanske regering, som den var defineret i Forbundets artikel. Selv om det oprindeligt var meningen, at konventet skulle begynde den 14. maj, rapporterede James Madison, at kun et lille antal var mødt op. Møderne måtte udskydes til den 25. maj, hvor et tilstrækkeligt beslutningsdygtigt antal af de deltagende stater – Massachusetts, New York, New Jersey, Pennsylvania, Delaware, Virginia, North Carolina, South Carolina og Georgia – var ankommet.

I takt med at de nye Forenede Stater var sunket ned i økonomisk krise og stridigheder mellem staterne, var den nye nations ledere blevet mere og mere frustrerede over deres begrænsede magt. Da Maryland og Virginia i 1785 ikke kunne blive enige om deres rettigheder til Potomac-floden, indkaldte George Washington til en konference for at afgøre sagen i Mt. Vernon. James Madison overbeviste derefter Virginias lovgivende forsamling om at indkalde et konvent af alle staterne til at drøfte sådanne klæbrige handelsrelaterede spørgsmål i Annapolis i Maryland. Konventet i Annapolis i september 1786 indkaldte på sin side konventet i Philadelphia for at udtænke yderligere bestemmelser, som måtte forekomme dem nødvendige for at gøre den føderale regerings forfatning passende for Unionens krav.

Mellem Madisons oprindelige opfordring til staterne om at sende delegerede til Annapolis og præsentationen af Madisons Virginia-plan for en ny regering for konventet i Philadelphia var der sket et grundlæggende skift i konventprocessens mål. De delegerede var ikke længere samlet med det formål at finpudse handelsaftaler. Et betydeligt antal af de tilstedeværende mænd var nu fast besluttet på at revidere den nye amerikanske regering som helhed, uden at der blev afgivet en eneste stemme af den stemmeberettigede offentlighed.