桃叶渡之名的由来，要追溯到六朝东晋时代，大书法家王羲之的七子王献之，他常在这里迎接他的爱妾桃叶渡河。那时内秦淮河水面阔，遇有风浪，若摆渡不慎，常会翻船。桃叶每次摆渡心里害怕，回此王献之为她写了一首《桃叶歌》：“桃仙复桃叶，渡江不用楫，但渡无所苦，我自迎接汝。”后人为了纪念王献之，遂把他当年迎接桃叶的渡口命名为桃叶渡。从六朝到明清，桃叶渡处均为繁华地段。河舫竞立，灯船萧鼓。

　　清顺治年间，孝陵卫人金云南迁居渡口，见渡口非常拥挤，常有人落水而死，便捐建木桥，题名“利涉桥”（取便利涉水之意），康熙二年（1663年）易木桥为石桥。1984年，有关部门在渡口原址立桃叶渡碑。