Le premier sous-marin dont les formes rappellent celles d'un poisson naquit d'une idée de l'américain Robert Fulton qui cherchait un moyen pour forcer le blocus continental imposé par l'Angleterre à la France vers 1800.
Entre 1796 et 1801, Fulton, citoyen des États-Unis, propose au Directoire, puis au premier Consul un sous-marin appelé "Nautilus" plus élaboré que la "Tortue".
Deux prototypes sont successivement réalisés et soumis à essais réalistes assez probants. Aucun cependant ne sera employé dans les opérations de guerre contre la flotte anglaise, qui bloque les ports français. On note que la propulsion est encore assurée par la force humaine, à l'aide d'une hélice assez élaborée.
Le Nautilus fut sans doute le seul sous-marin de l'histoire à naviguer à la voile. Fulton avait imaginé une mâture très ingénieuse pour faciliter la navigation en surface à partir d'un mât rabattable portant une voile en éventail tendue par des antennes. En quelques minutes, cette voile pouvait se monter ou se replier grâce à un treuil et se loger avec le mât dans une gaine, sur le dos du sous-marin.
La coque en cuivre, longue de 6,48 mètres avec 1,94 mètres de diamètre, de section circulaire, était pisciforme avec le gros bout en avant.
Après Fulton, on peut citer en France les projets de Castera de 1796 à 1810 et en 1809 les expériences médiocres du sous-marin Nautile des frères Coessin, sorte de grand tonneau manoeuvré par neuf hommes.
Le projet de Montgery en 1823 préconisait pour son sous-marin l'Invisible, l'emploi d'un double moteur, en surface une machine à vapeur et en plongée un moteur à poudre.
De 1835 à 1865, grâce au développement de la mécanique, d'intéressants projets furent réalisés dont ceux du Docteur Payerne. Il fit des essais en Seine en 1846 et à Brest en 1847 pour des renflouements. Parmi ses projets, on relève le Pyrhydrostat à coque en tôle avec une machine à vapeur pour la marche en surface et une chaudière spéciale pour la plongée utilisant un mélange de charbon pilé avec du chlorate de potassium et du bicarbonate de manganèse.
En 1850, un sous-officier bavarois Bauer conçut le " brandtaucher " (plongeur marin). Ce sous-marin fait de métal, long de 8 mètres pesait 35 tonnes et sa propulsion était un système de roue type cage d'écureuil mue par deux hommes. Nouvelle innovation de la navigation sous-marine, la stabilité de ce bateau en plongée était assurée par le déplacement longitudinal d'un poids ; le principe de la caisse d'assiette était né. Lors de sa première plongée le submersible mal conçu coula par 18 mètres et se brisa.
Bauer et les deux hommes d'équipage furent tout de même les premiers rescapés d'un sous-marin car après avoir utilisé le principe de l'équilibrage des pressions, ils purent évacuer l'épave et remonter à la surface.
Malgré cet échec, en 1855, Bauer récidive avec le "Diable Marin" sous-marin de 16 mètres de long, 3,60 mètres de diamètre, pesant 47 tonnes et mû par la trépigneuse, propulsion similaire au " brandtaucher ". Celui-ci fut un succès, il effectua plus d'une centaine d'immersions mais disparût à jamais lors de la 135eme sortie. Heureusement, l'équipage fut sauvé. Grâce aux dix années d'effort de Bauer, le sous-marin effectuait une transition et prouvait sa valeur en tant qu'arme de guerre. Il faut noter que Bauer a été le premier à construire un sous-marin en métal qui naviguait correctement.
C'est à partir de 1860 que les choses s'accélèrent. Il y a tout d'abord les sous-marins suicides "David" de Hunley qui feront la première victime d'une attaque sous-marine, une frégate, la "Housatonic".
En 1860, on décide la construction d'un sous-marin imaginé par l'amiral Bourgeois, et réalisé à Rochefort sur les plans de l'ingénieur du génie maritime Charles Brun.
Lancé en 1863, les essais du bâtiment ont lieu en 1864. Pour la première fois, la propulsion mécanique remplaçait la propulsion humaine.
L'appareil moteur est un moteur à air comprimé alimenté en air à la pression de 12 bars à partir de réservoirs. L'air détendu est rejeté dans le bord, puis déchargé à l'extérieur pour éviter les surpressions. Autre innovation, la vidange des ballasts se fait aussi à l'air comprimé. Malgré des essais satisfaisants à La Palice, ils sont confrontés à des problèmes d'équilibre et de stabilité qui ne seront résolus que vingt ans plus tard. Bourgeois et Brun sont appelés à d'autres fonctions et le projet est abandonné.
En 1878, le russe Drzewiecki construit un sous-marin de 6 mètres de long armé d'un équipage composé de quatre hommes. Il mettra à son compte l'invention d'une hélice orientable et les premiers essais de la propulsion électrique. Il utilisera le périscope inventé en 1872 par un belge, le commandant Dandenant.
L'expérience du "Plongeur" non menée à son terme n'avait pas permis de résoudre le problème de la navigation sous-marine.
Elle avait toutefois montré qu'un appareil moteur devrait, pour permettre la navigation sous-marine, être anaérobie et ne pas entraîner de variation de poids. L'avènement de la torpille automobile Whitehead vers 1873 produit deux effets notables :
- elle donne aux sous-marins à venir une arme beaucoup plus adaptée que la charge portée au bout d'une perche,
- elle constitue un exemple de sous-marin certes inhabité, mais capable de naviguer entre deux eaux à l'aide de gouvernails horizontaux.
En 1879, c'est le britannique Garett qui installa dans son "Resurgam" (je referai surface) une machine à vapeur permettant au sous-marin d'aller plus vite. Ce système prévu pour la marche en surface était aussi utilisé pour la marche en plongée en comprimant de la vapeur dans des pistons spéciaux.
En 1885, ce système bien que peu efficace en plongée à cause de son autonomie réduite, fut repris par un ingénieur suédois Nordenfelt à qui l'on doit la construction du premier sous-marin doté d'un tube lance-torpilles. Il faut noter que la propulsion à vapeur sera adoptée par la moitié des sous-marins construits pour la navigation en surface, et ce jusqu'en 1916.
Dès 1880, Claude Goubet, ingénieur des Arts et Métiers, étudie le principe de la navigation sous-marine et construit un premier sous-marin fortement copié sur les projets de Drzewiecki, nommé le Goubet N° 1. Ce bâtiment expérimenté en 1888 donna des résultats si satisfaisants que son inventeur se remit immédiatement à l'œuvre.
En 1899, un deuxième sous-marin, le Goubet N° 2 réussit dans les eaux de Toulon de superbes évolutions et une plongée de vingt minutes à vingt mètres de profondeur. Malgré ces résultats concluants, le Goubet ne fut pas accepté par la Marine.
En 1886, Gustave Zédé, ancien directeur des Constructions Navales, reprenant une idée de Dupuy de Lôme, prenant en compte les progrès de l'électricité (accumulateurs élctriques et machines à courant continu) établit le projet d'un sous-marin expérimental à propulsion électrique, dépourvu de toute arme. L'Amiral Aube, ministre de la marine, approuve ce projet et le "Gymnote" est mis sur cale en 1887.
A partir de 1900 les sous-marins connurent cinq révolutions fondamentales dans leur design.
L'USS Holland ( SS-1 ) fut la première. Réalisé aux États-Unis par un immigrant irlandais, John Holland et soutenu au départ par la Fenian Society (une association nord-américaine favorable à l'indépendance de l'Irlande), ce projet fut établi pour permettre aux séparatistes irlandais d'attaquer des unités de la flotte britannique. En 1900, Holland remporta un concours de sous-marins organisé par l'US Navy. L'USS Holland ( SS-1 ) naquit de ce concours et fut le premier sous-marin vraiment utilisable au combat. Le Holland alliait plusieurs caractéristiques innovantes comme des torpilles autopropulsées tirées d'un tube rechargeable, un moteur électrique pour les opérations en plongée, et une coque de forme révolutionnaire permettant d'évoluer efficacement à travers les océans, coque dont la forme sera reprise par toutes les marines et que l'US Navy utilisera jusqu'en 1959. Ce projet remporta un tel succès que l'US Navy acheta finalement un total de sept sous-marins de type Holland . Et, fait ironique, les Britanniques achetèrent même quelques Holland pour la royal Navy. La société de Holland, Electric Boat , continue aujourd'hui de construire des sous-marins en tant que filiale de General Dynamics Corporation .