Der erste bekannte Versuch eine schiffbare Verbindung zwischen Nordsee und Schwarzem Meer herzustellen ist schon mehr als 1200 Jahre her. Im Jahre 793 wurde bei Treuchtlingen im Auftrag von Karl dem Großen ein erster Kanal ausgehoben. Dieser ist heute als Karlsgraben oder Fossa Carolina bekannt und verlief zwischen Fränkischer Rezat und der Altmühl über die europäische Wasserscheide. Wegen schlechtem Wetter und ungünstigen Bodenverhältnissen soll dieser Kanal nie fertig geworden sein. Manche Historiker sind aber der Meinung, dass der Karlsgraben doch nutzbar war. Da man damals noch keine Kammerschleusen kannte, wurden die Höhenunterschiede durch aneinandergereite Teiche überwunden. Die Kähne wurden einfach über Rutschen und Rollen von einem Teich zum anderen transportiert.
In den folgenden Jahrhunderten gab es immer wieder Pläne, diese Verbindung nutzbar herzustellen. Allerdings erst im Jahr 1825 begann der endlich erfolgreiche Versuch, dessen Ergebnis der Ludwig-Donau-Main Kanal war. Ludwig I., König von Bayern beauftragte Heinrich Freiherr von Pechmann mit der Planung des Kanals. Dieser beschäftigte sich schon seit 1818 mit dem Projekt. Im Jahr 1836 begann der Kanalbau und wurde innerhalb von 10 Jahren vollendet. Es entstand ein 172 km langer Kanal zwischen Kelheim und Bamberg. Zur Überwindung der Höhendifferenzen von Kelheim (338 m über dem Meeresspiegel) über die Voralb (höchster Punkt bei 417 m) bis nach Bamberg (230 m über dem Meer) wurden genau 100 Schleusen gebaut.
Schon 4 Jahre nach der Fertigstellung erreichte der Kanal seinen höchsten Güterumschlag. Ab 1860 war jedoch das Eisenbahnnetz in Bayern soweit ausgebaut, dass der Kanal dieser Konkurrenz nicht mehr standhalten konnte. Das Frachtaufkommen verminderte sich beständig und der Kanal wurde wirtschaftlich bedeutungslos.
1945 erlitt der Kanal schwere Beschädigungen durch Bombentreffer und wurde 1950 offiziell als Wasserstrasse stillgelegt. Ab 1955 wurde die Strecke zwischen Nürnberg und Bamberg durch den Bau des Frankenschnellweges fast vollständig zerstört. Ab 1980 fielen weitere Abschnitte zwischen Kelheim und Berching dem Main-Donau-Kanal (auch Europakanal genannt) zum Opfer.