Foi a segunda ponte construída em 1218 pelo arquiteto Lapo. Para distinguir as duas pontes foi dado o nome de "Vecchio" (Velha) a anterior e "Nuovo" (Nova) a essa. A princípio era feira de madeira e usada para facilitar o transporte de mercadorias diretamente para o porto de Pisa. Foi destruída por uma enchente em 1274 e reconstruída em pedra e madeira pelos arquitetos religiosos frei Sisto e frei Ristoro.

Leva o nome "Carraia" devido ao trânsito de carros carregados de mercadorias.

Passados pouco mais de vinte anos a ponte cedeu com o peso da multidão que ali estava para assistir a um espetáculo no rio, causando a morte de algumas pessoas. Foi feito um restauro, mas a ponte caiu novamente em 1333 por causa de uma desastrosa inundação. Logo reconstruída em pedra por Frei Giovanni, parece seguir um plano de Giotto. Nas suas extremidades foram construídas duas capelas. Desta vez a ponte resistiu um pouco mais, a cerca de 200 anos.

Por esta razão, a ponte é confiada a Ammannati (que já estava trabalhando na Ponte Santa Trinita), a quem foi feito o pedido de ampliá-la e fortalecê-la.

Até o início do século XIX eram lançados da Ponte alla Carraia os fogos de artifício para celebrar o dia de São João, padroeiro de Florença (24 de junho). Em 1867 foram construídas passagens nos dois lados da ponte, a fim de torná-la mais seguras ao tráfego depedestres, dado o intenso trânsito daquela área.

Durante a Segunda Guerra Mundial foi minada e queimada para impedir a passagem das tropas aliadas dos nazistas em retirada.

Em 1948 foi novamente reconstruída nos modos como se vê atualmente, mantendo a estrutura do projeto do arquiteto Ettore Fagioli, com cinco arcos, que vão diminuindo em direção às extremidades. Uma vez concluído, em 1952, a ponte foi violentamente criticada pelos florentinos devido a sua curvatura muito acentuada, sendo apelidada de "a ponte corcunda". O descontentamento dos cidadãos com a obra foi tanto que a ponte foi aberta ao tráfego sem qualquer cerimônia oficial de inauguração.