Efter sin eksamen flyttede Rowling til London og arbejdede i en række job, bl.a. som researcher hos Amnesty International.
Rowling fik først ideen til Harry Potter, da hun blev forsinket på et tog fra Manchester til London King’s Cross i 1990. I løbet af de næste fem år begyndte hun at planlægge de syv bøger i serien og samlede talrige notater, hvoraf mange var på papirrester.
Rowling flyttede til Portugal i 1990 for at undervise i engelsk og tog sine notater med sig. Der mødte og giftede hun sig med den portugisiske journalist Jorge Arantes. Parrets datter, Jessica, blev født i 1993. Efter at hendes ægteskab endte med skilsmisse, vendte Rowling tilbage til Storbritannien for at bo i Edinburgh med Jessica og en kuffert med de tre første kapitler af Harry Potter og De Vises Sten.
Meget af Harry Potter og De Vises Sten var blevet skrevet på caféer i Edinburgh, mens Rowling og hendes datter levede af understøttelse. Rowling færdiggjorde den første bog, mens hun var under uddannelse som lærer. Hun underviste på skoler i Edinburgh, da manuskriptet til Harry Potter og de vises sten endte hos Bloomsbury Publishing efter, hvad forfatteren beskriver som “masser” af afvisninger.
Bogen var den første introduktion til Harry Potter, en ung troldmand, der opdager sin magiske arv på sin 11-års fødselsdag, da han modtager et optagelsesbrev til Hogwarts skole for heksekunster og troldmandskunst.
Harry får nære venner og nogle få fjender i løbet af sit første år på skolen, og med hjælp fra sine venner står Harry over for et forsøg på comeback af den mørke troldmand Lord Voldemort, der dræbte Harrys forældre, men som ikke formåede at dræbe Harry, da han kun var 15 måneder gammel.
Bloomsbury udgav De vises sten i 1997 med et første oplag på 1.000 eksemplarer, hvoraf 500 blev uddelt til biblioteker. I dag er sådanne eksemplarer vurderet til mellem 16.000 og 25.000 pund.
Bogen blev først udgivet under navnet J.K. Rowling. “K” står for Kathleen, Rowlings farmors navn fra faderen. Det blev tilføjet efter ønske fra hendes forlægger, som mente, at en bog af en tydeligvis kvindelig forfatter måske ikke ville appellere til målgruppen af unge drenge.
Den anden bog i Harry Potter-serien, Harry Potter og hemmelighedernes kammer, udkom i 1998, efterfulgt af den tredje bog i Rowlings serie, Harry Potter og fangen fra Azkaban, i 1999. Det fjerde bind i serien, Harry Potter og ildbægeret, blev den hurtigst sælgende bog på 24 timer nogensinde ved sin udgivelse i 2000.
I 2001 udkom filmatiseringen af den første bog på Warner Bros. med Daniel Radcliffe, Emma Watson, Alan Rickman, Robbie Coltrane og Ralph Fiennes i hovedrollerne. Samme år giftede Rowling sig med anæstesilæge Dr. Neil Murray i parrets hjem i Skotland. Parret har to børn sammen, David (født i 2003) og Mackenzie (født i 2005).
I forlængelse af den meget succesfulde Harry Potter-serie udgav Rowling den femte del, Harry Potter and the Order of the Phoenix, i 2003. Harry Potter og Halvblodsprinsen fulgte i 2005, mens den sidste bog Harry Potter og Dødsregalierne blev udgivet i 2007.
Hver af Rowlings Harry Potter-bøger blev efterfulgt af yderligere syv filmatiseringer på det store lærred og sluttede med udgivelsen af den ottende film, Harry Potter og Dødsregalierne del 2, i 2011.
I 2014 offentliggjorde Rowling en novelle om den voksne Harry Potter og en genforening med Hogwartsskolen på sin hjemmeside Pottermore. Siden hjemmesiden blev lanceret, har hun tilføjet flere historier og oplysninger om alt om Harry Potter.
I 2017 annoncerede Rowling på sin hjemmeside, at hun ville udgive to nye bøger i forbindelse med en udstilling på British Library, der fejrer 20-årsdagen for udgivelsen af hendes første roman, Harry Potter og de vises sten.
Bøgerne, Harry Potter: A History of Magic (beskrevet som den voksne version) og Harry Potter: A Journey Through a History of Magic (den børnevenlige version), blev udgivet den 20. oktober samme år og indeholdt manuskripter, originale illustrationer og en udforskning af Harry Potter-figurerne og magien.