Tutkintonsa jälkeen Rowling muutti Lontooseen ja työskenteli useissa eri töissä, muun muassa Amnesty Internationalin tutkijana.
Rowling sai ensimmäisen kerran idean Harry Potterista, kun hän oli myöhässä junassa matkalla Manchesterista Lontooseen King’s Crossille vuonna 1990. Seuraavien viiden vuoden aikana hän alkoi suunnitella sarjan seitsemää kirjaa ja keräsi lukuisia muistiinpanoja, joista monet olivat paperinpalasilla.
Rowling muutti Portugaliin vuonna 1990 opettamaan englantia ja otti muistiinpanonsa mukaansa. Siellä hän tapasi ja meni naimisiin portugalilaisen toimittajan Jorge Arantesin kanssa. Pariskunnan tytär Jessica syntyi vuonna 1993. Avioliiton päätyttyä avioeroon Rowling palasi Isoon-Britanniaan asumaan Edinburghiin Jessican ja matkalaukun kanssa, joka sisälsi Harry Potter ja viisasten kivi -kirjan kolme ensimmäistä lukua.
Suuri osa Harry Potterista ja viisasten kivestä oli kirjoitettu Edinburghin kahviloissa Rowlingin ja hänen tyttärensä eläessä etuuksilla. Rowling sai ensimmäisen kirjan valmiiksi kouluttautuessaan opettajaksi. Hän opetti Edinburghin kouluissa, kun Harry Potter ja viisasten kivi -kirjan käsikirjoitus päätyi Bloomsbury Publishing -kustantamoon kirjailijan kuvaamien ”lukemattomien” hylkäysten jälkeen.
Kirja oli ensimmäinen esittely Harry Potterista, nuoresta velhosta, joka huomaa maagisen perimänsä 11-vuotissyntymäpäivänään saadessaan kirjeen, jossa hänet hyväksytään Tylypahkan noitien ja velhojen kouluun.
Harry saa läheisiä ystäviä ja muutamia vihollisia ensimmäisen kouluvuotensa aikana, ja ystäviensä avulla Harry kohtaa pimeän velhon lordi Voldemortin paluuyrityksen.Lordi Voldemort tappoi Harryn vanhemmat, mutta ei onnistunut tappamaan Harrya tämän ollessa vain 15 kuukauden ikäinen.
Bloomsbury julkaisi Viisasten kiven vuonna 1997 alkupainoksella, jonka painosmäärä oli 1000 kappaletta, joista 500 kappaletta jaettiin kirjastoihin. Nykyään tällaisten kappaleiden arvo on 16 000-25 000 puntaa.
Kirja julkaistiin ensin nimellä J.K. Rowling. ”K” tarkoittaa Kathleenia, Rowlingin isänpuoleisen isoäidin nimeä. Se lisättiin hänen kustantajansa pyynnöstä, joka ajatteli, että ilmeisen naiskirjailijan kirja ei ehkä vetoaisi kohderyhmäänsä eli nuoriin poikiin.
Harry Potter -sarjan toinen kirja Harry Potter ja salaisuuksien kammio ilmestyi vuonna 1998, ja sitä seurasi Rowlingin sarjan kolmas kirja Harry Potter ja Azkabanin vanki vuonna 1999. Sarjan neljännestä teoksesta Harry Potter ja tulenkukkaro (Harry Potter and the Goblet of Fire) tuli ilmestyessään vuonna 2000 kaikkien aikojen nopeimmin myydyin kirja vuorokaudessa.
Vuonna 2001 Warner Bros. julkaisi ensimmäisen kirjan elokuvasovituksen, jonka pääosissa nähdään Daniel Radcliffe, Emma Watson, Alan Rickman, Robbie Coltrane ja Ralph Fiennes. Samana vuonna Rowling meni naimisiin anestesiatohtori Neil Murrayn kanssa pariskunnan kotona Skotlannissa. Pariskunnalla on kaksi yhteistä lasta, David (syntynyt 2003) ja Mackenzie (syntynyt 2005).
Jatkamalla Harry Potter -sarjaa Rowling julkaisi vuonna 2003 viidennen osan Harry Potter ja Feeniksin veljeskunta. Harry Potter ja puoliverinen prinssi (Harry Potter and the Half-Blood Prince) seurasi vuonna 2005, ja viimeinen kirja Harry Potter ja kuoleman varjelukset (Harry Potter and the Deathly Hallows) julkaistiin vuonna 2007.
Kaikkia Rowlingin Harry Potter -kirjoja seurasi vielä seitsemän valkokangassovitusta, ja ne päättyivät vuonna 2011 julkaistuun kahdeksanteen elokuvaan Harry Potter ja kuoleman varjelukset 2. osa.
Vuonna 2014 Rowling julkaisi Pottermore-sivustollaan novellin, joka käsitteli aikuistunutta Harry Potteria ja tylypahkan luokkakokoontumista. Sivuston avaamisen jälkeen hän on lisännyt sinne lisää tarinoita ja tietoa kaikesta Harry Potterista.
Vuonna 2017 Rowling ilmoitti verkkosivuillaan julkaisevansa kaksi uutta kirjaa British Libraryn näyttelyä varten, jolla juhlistetaan hänen esikoisromaaninsa Harry Potter ja viisasten kivi julkaisemisen 20-vuotispäivää.
Kirjat, Harry Potter: A History of Magic (kuvattu aikuisten versioksi) ja Harry Potter: A Journey Through a History of Magic (lapsiystävällinen versio), julkaistiin 20. lokakuuta samana vuonna, ja ne sisälsivät käsikirjoituksia, alkuperäisiä kuvituksia sekä Harry Potter -hahmojen ja taikuuden tutkimista.