Первые пистолеты появляются в XV веке; они представляли собой короткий ствол, насаженный на деревянную колоду, с фитильным замком. Леонардо да Винчи изобрёл колесцовый замок для пистолета (заводившийся ключом) — это единственное его изобретение, получившее признание при жизни. Пистолеты того времени были весьма различны по конструкции и назначению. Короткие пистолеты (пуфферы) применялись для стрельбы в упор. Длинные кавалерийские пистолеты имели достаточную поражающую способность на дистанции до 30-40 метров по незащищённой цели. Тяжёлые доспехи (типа Максимилиановского), впрочем, они редко пробивали даже при стрельбе в упор, а скорость пули редко превышала 150-160 м/сек (у карманных «пуфферов» могла быть меньше 100 м/с). В XVII—XVIII веках колесцовый замок был вытеснен ударно-кремнёвым, менее надёжным в плане осечек, но зато более простым в заряжании, более дешёвым и не боящимся грязи; в первой половине XIX века последний сменился капсюльным или пистонным замком.

Так как кремнёвый пистолет был однозарядным, то делались различные попытки увеличить скорострельность пистолета. Это приводило к появлению двуствольных и даже многоствольных образцов. Уже в XVI веке был изобретён револьвер (то есть пистолет с барабаном — один из первых образцов, русской работы начала XVII века, хранится в Оружейной палате). Однако он не получил распространения, поскольку был очень дорог, сложен в изготовлении и громоздок, пороховые газы в нём часто вырывались наружу, и при этом он не обеспечивал главного преимущества позднейшего револьвера — непрерывной стрельбы (ввиду особенностей кремнёвого замка, требовавшего после каждого выстрела подсыпать порох на полку). Чаще всего однозарядные пистолеты изготовлялись и носились парами, что позволяло сделать по крайней мере два выстрела один за другим.

Позже для большей точности выстрела в стволе пистолета выполнялись нарезы, что позволяло пуле вращаться в полёте и попадать точно в цель. Такая технология преобладает в наши дни.