Conan Doyle skrev fire romaner og seksoghalvtreds noveller med Holmes som hovedperson. De to første historier, korte romaner udkom i henholdsvis Beeton’s Christmas Annual for 1887 og Lippincott’s Monthly Magazine i 1890. karakteren voksede enormt i popularitet med begyndelsen af den første serie af noveller i The Strand Magazine i 1891; yderligere serier af noveller og to romaner i serier udkom indtil 1927. Historierne dækker en periode fra ca. 1878 til 1907, med en sidste sag i 1914. alle historier på nær fire er fortalt af Holmes’ ven og biograf, Dr. John H. Watson; to er fortalt af Sherlock Holmes selv, og to andre er skrevet i tredje person. Conan Doyle sagde, at karakteren Holmes var inspireret af Dr. Joseph Bell, som Doyle havde arbejdet for som kontorist på Edinburgh Royal Infirmary. Ligesom Sherlock Holmes var Bell kendt for at drage store konklusioner ud fra de mindste observationer. Michael Harrison har i en artikel i Ellery Queen’s Mystery Magazine fra 1971 hævdet, at karakteren var inspireret af Wendell Scherer, en “konsulentdetektiv” i en mordsag, der angiveligt fik stor opmærksomhed i aviserne i England i 1882.