Depuis des millénaires, certains hommes ont tenté à pénétrer dans la mer, sans grand succès.
Contrairement à ce que l'on peut s'attendre, la première expérience relatée dans des récits d'un « sous-marin » remonte à 844 avant Jésus-Christ. Salmanazar III régnait sur l'Assyrie et écumait Tyr et Sidon. Trois Phéniciens fabriquèrent des outres étanches en peaux de bêtes, gonflées d'air, lestées de pierre pour flotter sous l'eau afin de traverser le Tigre et aller chercher des secours. Le premier fut tué, l'outre du second fut percée par une flèche, celui-ci utilisa l'outre du premier pour se laisser dériver et ainsi être sauvé avec son troisième compagnon.
Un récit du XIIeme siècle raconte qu'Alexandre le Grand en 332 avant Jésus Christ, au siège de Tyr, se fit enfermer dans un tonneau percé de hublots, immergé pour observer la vie sous-marine. Hérodote, Aristote et Pline l'Ancien 350 ans plus tard rapportent des expériences analogues.
Léonard de Vinci dessina les plans d'un navire de guerre type sous-marin, mais jugeant cette invention trop cruelle, les détruisit ultérieurement.
Jusqu'au 17eme siècle, l'homme plongeait sous l'eau à l'aide de petits engins dont les formes rappellent grossièrement celles d'une cloche. Cette machine, qui autorise le travail à quelques mètres sous la surface de l'eau n'est pas à considérer comme un sous-marin.
En 1472, le vénitien Roberto Valturio décrit un bateau de forme fuselée comportant à sa partie inférieure des roues à aubes verticales mais pas de moyen de propulsion horizontale ; il devait sans doute être remorqué. Il est probable que ce submersible soit resté à l'état de projet.
On notera cependant les formes circulaires et allongées de l'appareil qui demeureront une constante stable de l'architecture des sous-marins modernes.
Projet de Roberto Valturio.
En 1578, le mathématicien anglais William Bourne donne la description d'un bateau sous-marin mettant en évidence la technique du ballast qui deviendra essentielle pour les réalisations futures. Ce projet restera à l'état d'esquisse.
Sur la coupe du bâtiment, on distingue deux systèmes à vis et à leviers sur la double paroi amovible qui préfigure le principe des ballasts. On remarque aussi le mât creux permettant l'approvisionnement en air respirable.

Projet de William Bourne
La première plongée d'un sous-marin à peu près certaine, date de 1624. C'est le savant hollandais Cornelius Van Drebbel d'Alkmaar (inventeur du thermomètre) qui fit plonger en 1624 dans la tamise un petit sous-marin en bois. Des manches en cuir permettaient à douze rameurs de le faire avancer. Il ne descendait pas au-dessous de douze à quinze pieds par crainte de l'excès de pression. Il était pourvu d'un dispositif de régénération de l'air. Deux bateaux de ce type auraient été envoyés à la Rochelle pour faire sauter la digue.
Projet de Van Drebbel, considéré comme le véritable premier sous-marin.
Deux français à la même époque, le Père minime Martin Mersenne (1588 - 1648) un religieux, et un gentilhomme De Son , chacun de leur côté étudièrent deux sous-marins. Le premier se borna aux études théoriques : il décrivit vers 1634 un sous-marin pisciforme à coque métallique avec canons capables de tirer sous l'eau. Il envisagea même la propulsion à vapeur. Le second construisit à Rotterdam, en 1653, un bateau fuselé à l'avant et à l'arrière avec une roue à aubes centrale actionnée à bras de l'intérieur du sous-marin. Ce vaisseau fut mis à l'eau mais la propulsion ne le fit pas bouger d'un pouce et il est probable qu'il ne plongea même pas.
Projet de De Son.
On peut citer le projet de Borelli (1680) qui inventa un sous-marin dont la propulsion était assurée par des rames palmipèdes. La plongée était obtenue par la variation du volume de sacs à eau communiquant avec la mer. Un levier de compression actionné à bras agissait sur ces sacs.
Projet de Borelli en 1680.
En 1689, le constructeur des galères du roi, Jean Baptiste Chabert propose des idées sous forme de dessins en appliquant les mêmes astuces que l'abbé Borelli. En effet, tous deux envisagent de doter leurs bateaux d'outres communiquant avec l'extérieur. Celles-ci sont maintenues vides par un système de leviers qui, une fois desserrés, permettent l'admission de l'eau entraînant l'immersion. Sous l'action de ces mêmes leviers, l'eau peut être chassée et le bateau remonte.

Projet de Chabert en 1689.
Le premier martyr fut un mécanicien anglais du nom de Day. Il construisit un engin doté d'un lest largable à l'intérieur duquel il s'immergea par neuf mètres pendant 24 heures avec succès. Malheureusement, Day s'enhardit et descendit jusqu'à 35 mètres sous la surface des eaux... On ne le reverra jamais.
Le développement de ce nouveau type de bâtiment fut donc très lent. Les problèmes posés par la résistance de la structure aux fortes pressions hydrostatiques en plongée causèrent de nombreux accidents dont certains entraînèrent la mort de l'expérimentateur. Ce fut le cas en 1772 lorsque l'anglais Day mourut écrasé dans la coque de son sous-marin.
Bushnell peut être considéré comme l'inventeur du premier sous-marin qui ait été réalisé et ait été employé dans les opérations militaires.
Ce curieux engin était formé d'une enveloppe métallique de coupe circulaire surmontée d'une tourelle cylindrique munie de hublots à verres épais pour la vision. Ce bateau portait comme appareil militaire une charge de 150 livres de poudre fixée aux flancs et destinée à être portée sur la carène d'un navire ennemi. L'immersion était obtenue en introduisant de l'eau dans le bateau au moyen d'une soupape placée sous les pieds du pilote. Pour remonter, la même eau était expulsée au moyen d'une pompe à bras. Une hélice verticale permettait de régler l'immersion. Enfin, la propulsion et la direction étaient produites par une hélice horizontale et un gouvernail. Toutes ces manoeuvres se faisaient à bras.

En 1776, la guerre faisait rage entre les habitants de la Nouvelle-Angleterre et la puissance coloniale. L'armée de George Washington étant assiégée par la flotte anglaise à New-York, Bushnell mit sa Tortue à la disposition du futur Président des États-Unis.
L'engin piloté par le sergent Lee, fut utilisé à plusieurs reprises pour tenter de couler le navire du Chef de l'Armée Navale Anglaise. Étant fort sensible à la houle, la Tortue échoua dans sa mission et dut son salut à sa faculté de plonger.
L'insuccès était essentiellement dû aux difficultés de mise en place de la charge de poudre noire sur la carène. L'appareil moteur humain, par ses performances très limitées, rendait en outre l'opération hasardeuse (manque de puissance, manque d'autonomie, caractère non aérobie...).