Los primeros en intentar entender la naturaleza de la materia fueron los filósofos griegos; ellos propusieron, con base en sus reflexiones, la existencia de partículas homogéneas e indivisibles que constituían toda la materia y marcaban la diferencia entre las sustancias. Sin embargo, la idea de los átomos permaneció abandonada aproximadamente 21 siglos. Durante ese tiempo surgieron otras teorías para entender el comportamiento de la materia, como la de Aristóteles (250 a. C.), quien consideraba a la materia compuesta de aire, tierra, agua y fuego. Creía que a partir de la combinación de estos cuatro elementos se generaban todas las sustancias perceptibles.
Sin embargo la química, como ciencia en constante evolución, tiene sus orígenes a principios de la Edad Media en Alejandría, en donde confluyeron las tradiciones griega, egipcia y oriental (chinas e hindúes). A esta química primigenia se le conoce como alquimia. Era una actividad empírica, es decir, funcionaba a partir de ensayo y error. Aunque la alquimia no se considera una ciencia, durante esa época se perfeccionaron muchas metodologías que actualmente son fundamentales en la química; además, se aislaron las primeras sustancias, se obtuvieron las primeras aleaciones metálicas y se dieron los primeros pasos hacia la medicina farmacéutica.
Fueron los alquimistas medievales quienes prepararon ácidos y desarrollaron técnicas para autentificar oro. Uno de los objetivos de la alquimia era obtener la piedra filosofal, pues existía la idea de la transfiguración de los materiales. Se creía que la piedra filosofal ayudaría a convertir en oro a otros metales considerados "enfermos", como el plomo. La obtención y tratamiento de metales también tuvo mucho auge durante ese periodo, lo cual dio como resultado la posibilidad de que se fabricaran nuevas herramientas y armas más resistentes. Debe recordarse que quien tuviera el mejor armamento tendría superioridad sobre sus enemigos.
El desarrollo de la imprenta permitió la difusión de todos estos conocimientos. Pero, a pesar de ello y de los avances metodológicos, la alquimia no se considera una ciencia porque no creaba explicaciones abstractas para los fenómenos; además, tampoco era cuantitativa porque no se tenían las herramientas adecuadas para ello.
Durante esa etapa, Teofrasto Paracelso (1493-1541) —quien era iatroquímico, es decir, un alquimista, médico y curandero del siglo XVI— impulsó el uso de sustancias específicas para la cura de cada enfermedad, promoviendo con ello el desarrollo de técnicas para extraer dichas sustancias de plantas e incluso de animales.
También en ese tiempo empezó a comprenderse que la ciencia (aunque no se le llamaba así) no era absoluta, definitiva ni estática, sino que se encuentra en constante evolución. De esta forma, la alquimia comenzó a transformarse en una actividad racional, donde las explicaciones abstractas y lo concreto fueron valorados para dar explicaciones del mundo, lo cual dio lugar al nacimiento de la química.