Les sous-marins sont généralement classés :
- selon leur utilisation (civile ou militaire),
- ou selon leur mode de génération d'énergie et de propulsion (nucléaire ou conventionnelle), qui conditionne en grande partie leur conception.
Compte tenu des considérations précédentes, les parties essentielles d'un sous-marin sont :
- une coque intérieure, épaisse ;
- une coque extérieure mince qui assure l'hydrodynamisme*.
* faculté physique à se déplacer rapidement dans l'eau en intégrant ballasts, soutes extérieures, les antennes des senseurs, les panneaux et les sas d'accès à bord.
La forme idéale pour les sous-marins modernes est celle de la goutte d'eau. Par conséquent, les ballasts sont situés à l'avant et à l'arrière. Des régleurs, situés au centre du sous-marin, permettent d'ajuster son poids à la poussée d'Archimède ; une réserve d'air comprimé permet de chasser l'eau des ballasts et de faire surface.
Ils disposent également :
- d'une propulsion par moteurs électriques, dans la plupart des cas, sauf pour certains sous-marins nucléaires qui utilisent directement des turbines à vapeur comme moteurs de propulsion ;
- d'une hélice, possédant généralement de nombreuses pales de grande taille ;
- d'une source d'énergie : soit des accumulateurs électriques rechargés par des génératrices couplées à des moteurs diesels ou à des dispositifs anaérobies dans le cas des sous-marins classiques ; soit, pour les sous-marins nucléaires, un réacteur nucléaire alimentant en vapeur des turbo-alternateurs (et éventuellement des turbines de propulsion) ;
- des systèmes de régénération de l'atmosphère intérieure ;
- d'un ou plusieurs sas d'évacuation, pour le sauvetage de l'équipage et éventuellement utilisés pour larguer des plongeurs.
Les sous-marins militaires disposent en plus de leurs armes et de divers équipements complémentaires.
L'immersion maximale d'un sous-marin militaire est passée d'une centaine de mètres pendant la Seconde Guerre mondiale à environ 300/400 mètres pour la plupart des sous-marins actuels, alors qu'elle atteint plusieurs milliers de mètres pour les sous-marins de recherche océanographique comme le Nautile qui est étudié dans cet exercice.