Ant Merkinės piliakalnio stovėjusi medinė lietuvių pilis minima nuo 1377 m. Svarbią gynybinę reikšmę ji turėjo XIV – XV a., kai saugojo pietinę Lietuvos valstybės dalį nuo pastovių kryžiuočių antpuolių. Pasirinkta strategiškai puiki vieta Nemuno, Merkio ir Stangės upių santakoje.
Merkinės pilis, stovėjusi netoli perkėlos per Nemuną, davė pradžią Merkinės miesteliui, besikuriančiam į šiaurę nuo piliakalnio.