Conan Doyle kirjoitti neljä romaania ja viisikymmentäkuusi novellia, joissa Holmes esiintyy. Kaksi ensimmäistä novellia, lyhytromaania ilmestyi Beeton’s Christmas Annual -lehdessä vuonna 1887 ja Lippincott’s Monthly Magazine -lehdessä vuonna 1890, ja hahmon suosio kasvoi valtavasti, kun The Strand Magazine -lehdessä alkoi ensimmäinen novellisarja vuonna 1891; lisää novellisarjoja ja kaksi sarjaromaania ilmestyi vuoteen 1927 asti. Tarinat kattavat ajanjakson noin vuodesta 1878 vuoteen 1907, ja viimeinen tapaus on vuodelta 1914.Neljää lukuun ottamatta kaikki tarinat kertoo Holmesin ystävä ja elämäkerturi, tohtori John H. Watson; kaksi tarinaa kertoo Sherlock Holmes itse, ja kaksi muuta on kirjoitettu kolmannessa persoonassa.Conan Doyle sanoi, että Holmesin hahmo sai inspiraationsa tohtori Joseph Belliltä, jonka palveluksessa Doyle oli työskennellyt virkailijana Edinburghin kuninkaallisessa sairaalassa. Sherlock Holmesin tavoin Bell oli tunnettu siitä, että hän teki suuria johtopäätöksiä pienimmistäkin havainnoista. Michael Harrison on väittänyt vuonna 1971 Ellery Queen’s Mystery Magazine -lehdessä julkaistussa artikkelissa, että hahmo sai inspiraationsa Wendell Schereristä, joka oli ”konsultoiva etsivä” murhatapauksessa, jonka väitettiin saaneen paljon huomiota sanomalehdissä Englannissa vuonna 1882.