Toukokuun 14. päivänä 1787 perustuslakikokouksen edustajat alkavat kokoontua Philadelphiassa vastatakseen pelottavaan tehtävään: konfederaatiopykälässä määritellyn uuden amerikkalaisen hallituksen rauhanomaiseen syrjäyttämiseen. Vaikka konventin oli alun perin määrä alkaa 14. toukokuuta, James Madison ilmoitti, että vain pieni joukko oli kokoontunut. Kokouksia jouduttiin lykkäämään 25. toukokuuta asti, jolloin osallistuvista osavaltioista – Massachusettsista, New Yorkista, New Jerseystä, Pennsylvaniasta, Delawaresta, Virginiasta, Pohjois-Carolinasta, Etelä-Carolinasta ja Georgiasta – oli saapunut paikalle riittävä päätösvalta.

Kun uudet Yhdysvallat vajosivat talouskriisiin ja osavaltioiden välisiin erimielisyyksiin, uuden kansakunnan johtohenkilöt olivat yhä enemmän turhautuneet rajoitettuun valtaansa. Kun Maryland ja Virginia eivät vuonna 1785 päässeet yksimielisyyteen oikeuksistaan Potomac-jokeen, George Washington kutsui koolle konferenssin asian ratkaisemiseksi Vernon-vuorelle. James Madison sai sitten Virginian lainsäätäjän suostuteltua kutsumaan koolle kaikkien osavaltioiden kokouksen keskustelemaan tällaisista tahmeista kauppaan liittyvistä kysymyksistä Annapolisiin, Marylandiin. Syyskuussa 1786 pidetty Annapolisin konventti puolestaan kutsui Philadelphian konventin koolle laatimaan sellaiset lisämääräykset, jotka he katsovat tarpeellisiksi, jotta liittovaltion hallituksen perustuslaki vastaisi unionin vaatimuksia.

Välillä, kun Madison alun perin kehotti osavaltioita lähettämään delegaatteja Annapolisiin ja kun Madison esitteli Philadelphiassa pidetylle konventille Virginian suunnitelmaa uudesta hallituksesta, oli tapahtunut perustavanlaatuinen muutos konventtimenettelyn tavoitteissa. Valtuutettuja ei enää koottu kauppasopimusten korjaamiseksi. Huomattava osa paikalla olleista miehistä oli nyt päättänyt uudistaa Amerikan uuden hallituksen kokonaisuutena ilman, että äänestäjäkunta olisi äänestänyt yhtään kertaa.