海军的主要部分是它的舰艇。通常分为战斗舰艇、登陆作战舰艇和勤务舰船几类。

战斗舰艇是装备有专用武器、直接进行海战的舰艇，包括水面战斗舰艇和潜艇。如果细分，那么接执行的基本任务不同，区分为航空母舰、战列舰、巡洋舰、驱逐舰、护卫舰、鱼雷艇、导弹艇、猎潜艇、水雷舰、巨水雷舰和登陆艇等；接排水量、武器装备不同，分为不同的舰级；在同一舰级中按外型、构造和战术技术性能不同，又分为不同的舰型。

一般排水量在500吨以上称为舰，小于500吨的称为艇。不过潜水艇不论排水量大小，习惯上都称艇。舰艇的动力装置现在除了常规动力外，不少已改为核动力型的了。

世界上有国家近200个，多数国家都有靠海的一面，也有四面全是海的，像澳大利亚、新西兰、英国、日本这样的国家。这些国家大都建设有海军，规模、人数有大有小。

最大的海军国家是美国和俄罗斯，它们的水面舰艇主要是航空母舰，水下的核潜艇和常规潜艇占了全世界这两类舰艇的一半以上。有一些国家的陆军、国民警卫队也装备有舰艇，吨位不大，主要作内河和近海的巡逻、运输用的。

海军的舰艇和民用船只的区别不在吨位大小，主要是船体的坚固结构、航速、抗沉、耐波程度不同。再就是侦察、通信和导航系统一般船只没有海军舰艇那样齐全、先进。民用船只也不装备武器。

但是一战时，民用船只被证调用于打仗，过去和现在的例子都不少。1949年中国人民解放军渡海解放海南岛之战，就使用了大量民用船只，还创造了木船打兵舰的战例。

1991年海湾战争中，美国曾调动170艘商船，租用外籍船只78艘，用来运输各类物资。民用船只一般作勤务船只用，以弥补海军这类船只的不足。

舰船可分为战斗舰艇和辅助舰船两大类。战斗舰艇是指装备有专用作战武器、担负直接作战任务的舰船，可进一步分为水面战斗舰艇和潜艇。水面战斗舰艇是执行水面作战任务的舰船。按照作战基本任务的不同，水面战斗舰艇又可区分为不同的舰种，包括航空母舰、战列舰（现今各国海军都已淘汰战列舰）、巡洋舰、驱逐舰、护卫舰、军用快艇（包括鱼雷艇、导弹艇、巡逻艇等）、水雷战舰艇、两栖作战舰艇等。在同一舰种中，按排水量、武器装备的不同，又可区分为不同的舰级，以巡洋舰为例，美国有“提康德罗加”级巡洋舰，俄罗斯有“光荣”级巡洋舰。按照排水量大小，水面战斗舰艇还可分为大型水面战斗舰艇、中型水面战斗舰艇和小型水面战斗舰艇。其中，航空母舰、战列舰、巡洋舰是大型的适合远洋作战的水面战斗舰艇；驱逐舰、护卫舰是中型水面战斗舰艇，既能用于远洋作战，也能用于近海作战；军用快艇、水雷战舰艇是小型水面战斗战舰，主要用于近海作战。此外两栖作战舰艇是用于执行登陆作战的舰船，其主要任务是在登陆作战时将登陆兵、武器装备、车辆、军用物资和登陆工具等输送到预定登陆地区，以保障登陆作战的胜利。两栖作战舰艇吨位不一，大的如两栖攻击舰，吨位在万吨以上，小的如登陆艇，只有数百吨。潜艇是一种能潜入水下活动和作战的舰艇。按作战使命可分为攻击潜艇和战略潜艇；按动力可分为核动力潜艇和常规动力潜艇。潜艇中最重要的应该是战略潜艇，战略潜艇的主要武器是弹道导弹，属于核武器，是一个国家核打击力量的一部分。只有少数几个国家拥有这种潜艇。除了上述战斗舰艇外，还有一类重要的舰船是辅助舰船。辅助舰船是指担负海上战斗保障、技术保障和后勤保障等任务的舰船。辅助舰船上装备有与其用途相适应的专用设备,通常还有些自卫武器,但是不具备直接作战能力。辅助舰船的类型有很多，包括补给舰船、维修供应船、运输船、医务船、打捞救生船、工程船、海洋调查船、研究试验船、情报支援船、训练舰船、基地勤务船等。此外，还有一些舰艇概念是在上述舰船概念的基础上发展出来的，如濒海战斗舰是一种为了适应近海作战而发展起来的水面战斗舰艇，可视为护卫舰的变种。