Tomcat系统架构

浏览器访问服务器的流程

http请求的处理过程

image-20221019095724908

Tomcat请求处理过程

image-20221019095857334

Tomcat既按照Servlet的规范要求去实现了Servlet容器,同时也具有HTTP服务器的功能

Tomcat Servlet容器处理流程

image-20221019100156548

1.HTTP服务器会将请求信息使用ServletRequest对象封装起来

2.根据URL映射调用Servlet容器中的某个具体的Servlet

3.若Servlet还未加载,则通过反射机制创建Servlet,并调用Servlet的init方法完成初始化

4.调用具体Servlet的service方法来处理请求,请求处理结果使用ServletResponse对象封装

5.将ServletResponse对象返回给HTTP服务器,HTTP服务器会把响应发送给客户端

Tomcat核心组件

image-20221019101950961

根据上面的介绍,可以发现,Tomcat需要实现两个重要的功能

1.与客户端交互.进行请求响应对象转换

2.Servlet容器处理业务逻辑

下面介绍Tomcat的两个核心组件

连接器组件Coyote

负责对外交流,处理Socket连接,负责网络字节流与Request和Response对象的转化

image-20221019101814566

image-20221019101923099

容器Contalina

负责内部处理,加载和管理Servlet,以及具体处理Request请求

image-20221019102429036

1.Engine

表示整个Catalina的Servlet引擎,用来管理多个虚拟站点,一个Service最多只能有一个Engine,当一个引擎可以有多个Host

2.Host

代表一个虚拟主机,或者说一个站点,可以给Tomcat配置多个虚拟主机地址,而一个虚拟主机可以包含多个Context

3.Context

表示一个Web应用程序,一个Web应用可以包含多个Wrapper

4.Wrapper

表示一个Servlet,Wrapper作为容器中的最底层,不能包含子容器

上述组件的配置就体现在conf/server.xml中

Tomcat核心配置

配置说明

核心配置文件在tomcat目录下conf/server.xml

主要标签结构

<!--
Server 根元素,创建⼀个Server实例,⼦标签有 Listener、GlobalNamingResources、
Service
-->
<Server>
<!--定义监听器-->
<Listener/>
<!--定义服务器的全局JNDI资源 -->
<GlobalNamingResources/>
<!--
定义⼀个Service服务,⼀个Server标签可以有多个Service服务实例
-->
<Service/>
</Server>

Server标签

<!--
port:关闭服务器的监听端⼝
shutdown:关闭服务器的指令字符串
-->
<Server port="8005" shutdown="SHUTDOWN">
<!-- 以⽇志形式输出服务器 、操作系统、JVM的版本信息 -->
<Listener className="org.apache.catalina.startup.VersionLoggerListener" />
<!-- Security listener. Documentation at /docs/config/listeners.html
<Listener className="org.apache.catalina.security.SecurityListener" />
-->
<!--APR library loader. Documentation at /docs/apr.html -->
<!-- 加载(服务器启动) 和 销毁 (服务器停⽌) APR。 如果找不到APR库, 则会输出⽇志, 并
不影响 Tomcat启动 -->
<Listener className="org.apache.catalina.core.AprLifecycleListener"
SSLEngine="on" />
<!-- Prevent memory leaks due to use of particular java/javax APIs-->
<!-- 避免JRE内存泄漏问题 -->
<Listener
className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
<!-- 加载(服务器启动) 和 销毁(服务器停⽌) 全局命名服务 -->
<Listener
className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
<!-- 在Context停⽌时重建 Executor 池中的线程, 以避免ThreadLocal 相关的内存泄漏 -->
<Listener
className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />


<!-- Global JNDI resources
Documentation at /docs/jndi-resources-howto.html
GlobalNamingResources 中定义了全局命名服务
-->
<GlobalNamingResources>
<!-- Editable user database that can also be used by
UserDatabaseRealm to authenticate users
-->
<Resource name="UserDatabase" auth="Container"
type="org.apache.catalina.UserDatabase"
description="User database that can be updated and saved"
factory="org.apache.catalina.users.MemoryUserDatabaseFactory"
pathname="conf/tomcat-users.xml" />
</GlobalNamingResources>
<!-- A "Service" is a collection of one or more "Connectors" that share
a single "Container" Note: A "Service" is not itself a "Container",
so you may not define subcomponents such as "Valves" at this level.
Documentation at /docs/config/service.html
-->
<Service name="Catalina">
...
</Service>
</Server>

Service标签

<!--
该标签⽤于创建 Service 实例,默认使⽤ org.apache.catalina.core.StandardService。
默认情况下,Tomcat 仅指定了Service 的名称, 值为 "Catalina"。
Service ⼦标签为 : Listener、Executor、Connector、Engine,
其中:
Listener ⽤于为Service添加⽣命周期监听器,
Executor ⽤于配置Service 共享线程池,
Connector ⽤于配置Service 包含的链接器,
Engine ⽤于配置Service中链接器对应的Servlet 容器引擎
-->
<Service name="Catalina">
...
</Service>

Executor标签

<!--
默认情况下,Service 并未添加共享线程池配置。 如果我们想添加⼀个线程池, 可以在
<Service> 下添加如下配置:
name:线程池名称,⽤于 Connector中指定
namePrefix:所创建的每个线程的名称前缀,⼀个单独的线程名称为
namePrefix+threadNumber
maxThreads:池中最⼤线程数
minSpareThreads:活跃线程数,也就是核⼼池线程数,这些线程不会被销毁,会⼀直存在
maxIdleTime:线程空闲时间,超过该时间后,空闲线程会被销毁,默认值为6000(1分钟),单位
毫秒
maxQueueSize:在被执⾏前最⼤线程排队数⽬,默认为Int的最⼤值,也就是⼴义的⽆限。除⾮特
殊情况,这个值 不需要更改,否则会有请求不会被处理的情况发⽣
prestartminSpareThreads:启动线程池时是否启动 minSpareThreads部分线程。默认值为
false,即不启动
threadPriority:线程池中线程优先级,默认值为5,值从1到10
className:线程池实现类,未指定情况下,默认实现类为
org.apache.catalina.core.StandardThreadExecutor。如果想使⽤⾃定义线程池⾸先需要实现
org.apache.catalina.Executor接⼝
-->
<Executor name="commonThreadPool"
namePrefix="thread-exec-"
maxThreads="200"
minSpareThreads="100"
maxIdleTime="60000"
maxQueueSize="Integer.MAX_VALUE"
prestartminSpareThreads="false"
threadPriority="5"
className="org.apache.catalina.core.StandardThreadExecutor"/>

Connector标签

Connector 标签⽤于创建链接器实例

默认情况下,server.xml 配置了两个链接器,⼀个⽀持HTTP协议,⼀个⽀持AJP协议

⼤多数情况下,我们并不需要新增链接器配置,只是根据需要对已有链接器进⾏优化

<!--
port:
端⼝号,Connector ⽤于创建服务端Socket 并进⾏监听, 以等待客户端请求链接。如果该属性设置
为0, Tomcat将会随机选择⼀个可⽤的端⼝号给当前Connector 使⽤
protocol:
当前Connector ⽀持的访问协议。 默认为 HTTP/1.1 , 并采⽤⾃动切换机制选择⼀个基于 JAVA
NIO 的链接器或者基于本地APR的链接器(根据本地是否含有Tomcat的本地库判定)
connectionTimeOut:
Connector 接收链接后的等待超时时间, 单位为 毫秒。 -1 表示不超时。
redirectPort:
当前Connector 不⽀持SSL请求, 接收到了⼀个请求, 并且也符合security-constraint 约束,
需要SSL传输,Catalina⾃动将请求重定向到指定的端⼝。
executor:
指定共享线程池的名称, 也可以通过maxThreads、minSpareThreads 等属性配置内部线程池。
URIEncoding:
⽤于指定编码URI的字符编码, Tomcat8.x版本默认的编码为 UTF-8 , Tomcat7.x版本默认为ISO8859-1
-->
<!--org.apache.coyote.http11.Http11NioProtocol , ⾮阻塞式 Java NIO 链接器-->
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000"
redirectPort="8443" />
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

Engine标签

<!--
name: ⽤于指定Engine 的名称, 默认为Catalina
defaultHost:默认使⽤的虚拟主机名称, 当客户端请求指向的主机⽆效时, 将交由默认的虚拟主机处
理, 默认为localhost
-->
<Engine name="Catalina" defaultHost="localhost">
...
</Engine>

Host标签

用于配置一个虚拟主机

<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
...
</Host>

Context标签

Context标签用于配置一个Web应用

<Host name="www.abc.com" appBase="webapps" unpackWARs="true"
autoDeploy="true">
<!--
docBase:Web应⽤⽬录或者War包的部署路径。可以是绝对路径,也可以是相对于 Host appBase的
相对路径。
path:Web应⽤的Context 路径。如果我们Host名为localhost, 则该web应⽤访问的根路径为:
http://localhost:8080/web_demo。
-->
<Context docBase="/Users/yingdian/web_demo" path="/web3"></Context>

<Valve className="org.apache.catalina.valves.AccessLogValve"
directory="logs"
prefix="localhost_access_log" suffix=".txt"
pattern="%h %l %u %t &quot;%r&quot; %s %b" />
</Host>

手写简易版Tomcat

实现步骤

1.解析web.xml中的配置,保存url与servlet对象的映射关系

<?xml version="1.0" encoding="UTF-8" ?>
<web-app>
<servlet>
<servlet-name>ww</servlet-name>
<servlet-class>server.MyServlet</servlet-class>
</servlet>
<servlet-mapping>
<servlet-name>ww</servlet-name>
<url-pattern>/my</url-pattern>
</servlet-mapping>
</web-app>
private void loadServlet() {
InputStream resourceAsStream = this.getClass().getClassLoader().getResourceAsStream("web.xml");
SAXReader saxReader = new SAXReader();

try {
Document document = saxReader.read(resourceAsStream);
Element rootElement = document.getRootElement();

List<Element> selectNodes = rootElement.selectNodes("//servlet");
for (int i = 0; i < selectNodes.size(); i++) {
Element element = selectNodes.get(i);
// <servlet-name>lagou</servlet-name>
Element servletnameElement = (Element) element.selectSingleNode("servlet-name");
String servletName = servletnameElement.getStringValue();
// <servlet-class>server.LagouServlet</servlet-class>
Element servletclassElement = (Element) element.selectSingleNode("servlet-class");
String servletClass = servletclassElement.getStringValue();


// 根据servlet-name的值找到url-pattern
Element servletMapping = (Element) rootElement.selectSingleNode("/web-app/servlet-mapping[servlet-name='" + servletName + "']");
// /lagou
String urlPattern = servletMapping.selectSingleNode("url-pattern").getStringValue();
servletMap.put(urlPattern, (HttpServlet) Class.forName(servletClass).newInstance());
}
} catch (DocumentException | IllegalAccessException | InstantiationException | ClassNotFoundException e) {
e.printStackTrace();
}

}

2.定义一个线程类,封装request,response对象,请求资源

private void loadServlet() {
InputStream resourceAsStream = this.getClass().getClassLoader().getResourceAsStream("web.xml");
SAXReader saxReader = new SAXReader();

try {
Document document = saxReader.read(resourceAsStream);
Element rootElement = document.getRootElement();

List<Element> selectNodes = rootElement.selectNodes("//servlet");
for (int i = 0; i < selectNodes.size(); i++) {
Element element = selectNodes.get(i);
// <servlet-name>lagou</servlet-name>
Element servletnameElement = (Element) element.selectSingleNode("servlet-name");
String servletName = servletnameElement.getStringValue();
// <servlet-class>server.LagouServlet</servlet-class>
Element servletclassElement = (Element) element.selectSingleNode("servlet-class");
String servletClass = servletclassElement.getStringValue();


// 根据servlet-name的值找到url-pattern
Element servletMapping = (Element) rootElement.selectSingleNode("/web-app/servlet-mapping[servlet-name='" + servletName + "']");
// /lagou
String urlPattern = servletMapping.selectSingleNode("url-pattern").getStringValue();
servletMap.put(urlPattern, (HttpServlet) Class.forName(servletClass).newInstance());
}
} catch (DocumentException | IllegalAccessException | InstantiationException | ClassNotFoundException e) {
e.printStackTrace();
}

}

3.启动Socket监听,将线程类放入线程池

public void start() throws IOException {
// 加载解析相关的配置 web.xml
loadServlet();

// 定义一个线程池
int corePoolSize = 10;
int maximumPoolSize = 50;
long keepAliveTime = 100L;
TimeUnit unit = TimeUnit.SECONDS;
ArrayBlockingQueue<Runnable> workQueue = new ArrayBlockingQueue<>(50);
ThreadFactory threadFactory = Executors.defaultThreadFactory();
RejectedExecutionHandler handler = new ThreadPoolExecutor.AbortPolicy();

ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(
corePoolSize,
maximumPoolSize,
keepAliveTime,
unit,
workQueue,
threadFactory,
handler
);

/**
* 完成Minicat1.0版本
* 需求: 浏览器请求http://localhost:8080
* 返回一个固定的字符串到页面"Hello Minicat!"
*/
ServerSocket serverSocket = new ServerSocket(port);
System.out.println("=====>>>Minicat start on port:" + port);
System.out.println("=========>>>>>>使用线程池进行多线程改造");
/*
多线程改造(使用线程池)
*/
while(true) {
Socket socket = serverSocket.accept();
RequestProcessor requestProcessor = new RequestProcessor(socket,servletMap);
//requestProcessor.start();
threadPoolExecutor.execute(requestProcessor);
}

4.请求localhost:8080/my之后,会进入HttpServlet的service进行处理,区分GET,POST请求

public void service(Request request, Response response) throws Exception {
if("GET".equalsIgnoreCase(request.getMethod())) {
doGet(request,response);
}else{
doPost(request,response);
}
}

源码剖析

Tomcat启动流程

image-20221019114416099

Tomcat请求处理流程

流程分析

image-20221019114431327

示意图

image-20221019114458817

Mapper组件体系结构

image-20221019114602665

Tomcat类加载机制

JVM类加载机制

类加载过程:Java类(.java)–>字节码文件(.class)–>字节码文件

image-20221019133918617

引导启动类加载器

BootStrapClassLoader:加载java核心库文件,比如rt.jar中的类,构造ExtClassLoader和AppClassLoader

扩展类加载器

ExtClassLoader:加载扩展库JAVA_HOME/lib/ext目录下的jar中的类,如classpath中的jre,javax.*或者java.ext.dir指定位置中的类

系统类加载器

AppClassLoader/SystemCalssLoader:默认的类加载器,搜索环境变量classpath中指定的路径

双亲委派机制

当某个类加载器要加载某个.class文件时,它首先把这个任务委托给他的上级类加载器,递归这个操作,如果上级的类加载器没有加载,自己才会去加载这个类.

作用

1.防止重复加载同一个.class

2.保证最上层的核心.class不能被篡改.

Tomcat类加载机制

image-20221019135730245

1.系统类加载器正常情况下应该加载的是Classpath下的类,但是tomcat中加载的是tomcat的启动类,如bootstrap.jar

2.Common通用类加载器加载Tomcat使用以及应用通用的一些类,位于CATALINA_HOME/lib下,比如servlet-api.jar

3.Catalina ClassLoader用于加载服务器内部可见类

4.Shared ClassLoader用于加载应用程序共享类

5.Webapp ClassLoader,每个应用程序都有独一无二的Webapp ClassLoader,加载应用程序/WEB-INF/classes和/WEB-INF/lib下的类

加载顺序

1.首先从Bootstrap ClassLoader加载指定的类

2.如果未加载到,则从/WEB-INF/classes加载

3.如果未加载到,则从/WEB-INF/lib/*.jar加载

4.如果未加载到,则一次从Sytstem,Common,Shared加载

Tomcat优化策略

Tomcat支持HTTPS

HTTP与HTTPS的区别

1.HTTPS需要使用SSL证书

2.Tomcat下HTTP默认端口8080,HTTPS默认端口8443

3.HTTPS具有安全性,会对数据传输加密,相当于HTTP的升级版

HTTPS工作原理

image-20221019141737461

Tomcat配置HTTPS

1.使用JDK中的keytool工具生成免费的证书

keytool -genkey -alias lagou -keyalg RSA -keystore lagou.keystore

image-20221019142015924

2.配置conf/server.xml

<Connector port="8443" protocol="org.apache.coyote.http11.Http11NioProtocol"
maxThreads="150" schema="https" secure="true" SSLEnabled="true">
<SSLHostConfig>
<Certificate
certificateKeystoreFile="a.keystore 证书文件地址" certificateKeystorePassword="lagou123" type="RSA"
/>
</SSLHostConfig>
</Connector>

3.使用https协议访问localhost:8443

Tomcat性能优化

优化指标

1.响应时间:执行某个操作的耗时

2.吞吐量:系统在给定时间能支持的事务数量.单位TPS.

优化策略

1.虚拟机优化

  • 内存直接影响服务的运行效率和吞吐量
  • 垃圾回收机制会不同程度的导致程序运行中断

image-20221019143640846

2.Tomcat配置优化

  • 调整tomcat线程池

image-20221019143316751

  • 调整tomcat的连接器

image-20221019143333554

  • 禁用AJP连接器

image-20221019143515148

  • 调整IO模式

image-20221019143537010

  • 动静分离

可以使⽤Nginx+Tomcat相结合的部署⽅案,Nginx负责静态资源访问,Tomcat负责Jsp等动态资源访问处理(因为Tomcat不擅⻓处理静态资源)