L'explication la plus populaire autour de la pierre est qu'elle a été érigée par les Romains et utilisée comme pierre centrale à partir de laquelle toutes les distances de la "Grande-Bretagne Romaine" ont été mesurées. Cette explication vient de l'historien londonien du 16ème siècle William Camden, même s'il n'y a jamais aucune preuve archéologique...
On pense que la pierre de Londres était à l'origine plus grande, et qu'elle a été endommagée et réduite en taille au cours du 17ème siècle, peut-être lors du grand incendie de Londres en 1666. La partie restante de la pierre a ensuite été recouverte d'une petite coupole en pierre pour la protéger. . Mais lorsque la pierre a commencé à entraver la circulation, elle a été déplacée deux fois, une fois en 1742 et de nouveau en 1798. La deuxième fois, elle a été déplacée, elle a été placée dans un boîtier en pierre dans le mur sud de l'église St Swithin, où elle est restée plus de 150 ans, tout au long du XIXe siècle.
En 1962, l'église St Swithin a été démolie et le London Stone a été installé à son emplacement actuel dans un bâtiment en face de la gare de Cannon Street. Dix ans plus tard, la London Stone et sa protection grillagée sont devenues une structure classée Grade II.

Sur la plaque de bronze installée en 1962, il est inscrit :
PIERRE DE LONDRES
Il s'agit d'un fragment de la pièce originale de calcaire autrefois solidement fixée dans le sol face à la gare de Cannon Street.
Supprimé en 1742 sur le côté nord de la rue, en 1798, il a été déplacé dans le mur sud de l'église de St.Swithun London Stone qui se trouvait ici jusqu'à sa démolition en 1962.
Son origine et son but sont inconnus, mais en 1188, il y avait une référence à Henry, fils d'Eylwin de Lundenstane, par la suite maire de Londres.