Historie Lennonovy zdi se váže na kulturní prostředí Kampy. Od 17. století na tomto ostrůvku odděleném od Prahy Vltavou a romantickou Čertovkou sídlili truhláři. Bydlel tu známý český vědec Josef Dobrovský, malíř Adolf Kašpar, herec Jan Werich i básník Vladimír Holan. V jednom z domů přímo na Velkopřevorském náměstí, kde najdeme i Lennonovu zeď, se narodil hudební skladatel Josef Bohuslav Foerster.
Na „Zeď nářků”, jak se zdi na Velkopřevorském náměstí tehdy občas říkalo, i na okolní zdi lidé při romantických procházkách nebo cestou do hospody psali nápisy už v 60. a 70. letech. Většinou šlo o básně, vlastní i přejaté, či o spontánní sdělení bez hlubšího významu. Politické nápisy se na Zdi objevovaly jen zřídkakdy – více jich vzniklo například v souvislosti s okupací po 21. srpnu 1968.
Za doby tzv. normalizace v 70. a 80. letech pak Zeď ještě posílila svou symboliku svobody spontánního projevu.