En juin 1809, les travaux de Boyard sont suspendus. Deux mois plus tôt, l’affaire des brûlots, qui voit une escadre française dispersée dans la panique par des navires incendiaires britanniques en pleine rade d’Aix, aurait pu affirmer plus que jamais la nécessité du fort Boyard. En fait, c’est l’importance même de l’arsenal de Rochefort qui est mise en cause, sa réputation de site imprenable se voyant sérieusement battue en brèche. A quoi bon tant investir pour un tel site, d’autant plus que l’empereur, quatre ans après Trafalgar, se détourne de sa Marine ? 5 ans d’efforts, 75 000 m3 de pierres déversées et 3,5 millions de francs semblent engloutis en pure perte dans les sables de Boyard.
L’enrochement, qui affleure à marrée basse, est abandonné à la houle et aux courants. Cet abandon dure près de 30 ans.

Service Historique de la Défense, Rochefort, 1K4W4Profil de l’enrochement de Boyard pris dans la direction du clocher de St Marie, Isle de Rhé, 11 octobre 1810. Dessin à la plume sur papier.