Vaikka neurokemia tunnustettuna tieteenä on suhteellisen uusi, neurokemian taustalla oleva ajatus on ollut olemassa jo 1700-luvulta lähtien. Alun perin aivojen oli ajateltu olevan erillinen kokonaisuus erillään ääreishermostosta. Vuodesta 1856 alkaen tehtiin useita tutkimuksia, jotka kumosivat tämän ajatuksen. Aivojen kemiallinen koostumus oli lähes identtinen ääreishermoston koostumuksen kanssa. Ensimmäisen suuren harppauksen neurokemian tutkimuksessa teki Johann Ludwig Wilhelm Thudichum, joka on yksi ”aivokemian” pioneereista. Hän oli yksi ensimmäisistä, joka esitti hypoteesin, että monet neurologiset sairaudet voisivat johtua aivojen kemikaalien epätasapainosta. Hän oli myös yksi ensimmäisistä tutkijoista, jotka uskoivat, että kemiallisin keinoin voitaisiin hoitaa, ellei jopa parantaa, valtaosa neurologisista sairauksista.

50-luvulla neurokemiasta tuli tunnustettu tieteellinen tutkimusala. Neurokemian perustaminen tieteenalana juontaa juurensa sarjaan ”kansainvälisiä neurokemiallisia symposiumeja”, joista ensimmäinen vuonna 1954 julkaistu symposiuminite oli nimeltään Biochemistry of the Developing Nervous System. Nämä kokoukset johtivat International Society for Neurochemistryn ja American Society for Neurochemistryn perustamiseen. Näissä varhaisissa kokouksissa keskusteltiin mahdollisten välittäjäaineiden, kuten asetyylikoliinin, histamiinin, aine P:n ja serotoniinin, alustavasta luonteesta. Vuoteen 1972 mennessä ajatukset olivat konkreettisempia.

Yksi ensimmäisistä suurista onnistumisista kemikaalien käyttämisessä aivotoiminnan muuttamiseen oli L-DOPA-kokeilu. Vuonna 1961 Walter Burkmayer ruiskutti L-DOPA:ta Parkinsonin tautia sairastavalle potilaalle. Pian injektion jälkeen potilaan vapina väheni jyrkästi, ja hän pystyi hallitsemaan lihaksiaan tavalla, johon hän ei ollut pystynyt pitkään aikaan. Vaikutus saavutti huippunsa 2,5 tunnin kuluessa ja kesti noin 24 tuntia.