系统未扩展以支持并发用户

时间:2012-11-27 09:57:53

标签: java mysql tomcat autoscaling

我在扩展系统上的并发用户数时遇到问题。根据我的测试,缩放并发用户数似乎直接增加了线性关系中请求的持续时间。

我正在运行部署在具有16Gb RAM的(虚拟)Ubuntu四核机器上的Java Web应用程序。我正在使用Apache Tomcat 7和MySQl 5.5数据库。 Tomcat和MySQL正在使用默认设置 - 我没有以任何方式配置它们。

我正在使用Apache Benchmark运行一些测试,最终创建一个SQL查询来返回一行数据,其响应大小非常小。

我使用Spring的JDBCTemplate和Apache Commons BasicDataSource。 spring bean的配置如下所示。

<!-- READ ONLY CONNECTION TO DATABASE -->
<bean id="dataSource" class="org.apache.commons.dbcp.BasicDataSource" destroy-method="close">
  <property name="driverClassName">
    <value>com.mysql.jdbc.Driver</value>
  </property>
  <property name="username">
    <value>${database.username}</value>
  </property>
  <property name="password">
    <value>${database.password}</value>
  </property>
  <property name="url">
    <value>${database.url}/${database.schema}</value>
  </property>
  <property name="timeBetweenEvictionRunsMillis" value="7200000" />
  <property name="minEvictableIdleTimeMillis" value="3600000" />
  <property name="maxActive" value="100" />
  <property name="maxIdle" value="5" />
  <property name="defaultAutoCommit" value="false" />
  <property name="defaultReadOnly" value="true" />
</bean>

<bean id="myDao" class="...">
   <property name="jdbcTemplate" ref="jdbcTemplate"></property>
   <property name="dataSource" ref="dataSource"></property>
</bean>

<bean id="jdbcTemplate" class="org.springframework.jdbc.core.JdbcTemplate">
   <property name="dataSource" ref="dataSource" />
</bean>

创建几个查询的My Java方法使用@Transactional注释。

这些是我的测试结果:

  • 1请求需要0.2秒。
  • 10个请求(同时执行)需要0.9秒。

因此,您可以看到我的应用程序没有缩放。我不确定问题的原因是什么。任何人都可以看到我做错了什么或建议我可以进一步调查的方法吗?

提前致谢,

菲尔

更新

进一步的指标:

  1 Request,  Concurrency   1 = 0.22s
 10 Requests, Concurrency  10 = 0.6s (mean), 0.5(min)
100 Requests, Concurrency 100 = 7 (mean), 3.7(min)
300 Requests, Concurrency 300 = 12s (mean), 4.3(min)
300 Requests, Concurrency 300 = 18s (mean), 6.4(min)

响应大小为1kb。

尝试相同的请求&amp;改变并发性:

300 Requests, Concurrency   8 = total time: 14.9s
300 Requests, Concurrency  20 = total time: 15.3s
300 Requests, Concurrency 300 = total time: 24s

因此,将并发性降低到8可以更快地完成10秒,然后将并发性降低到300.从8减慢交易速度。 8似乎是最佳的并发性。

1 个答案:

答案 0 :(得分:3)

尝试同时创建应用程序时需要考虑一些事项。

首先,仅仅因为您的服务器有四个核心,并不意味着它们都可供您的JVM使用,您需要询问运行时以查看可用的数量,并且在技术上可以在此期间更改JVM虽然很少见。

接下来,您需要考虑环境的物理拓扑。数据库是否与应用程序在同一服务器上运行?如果是这样,您在处理和IO方面会有额外的资源争用,而不仅仅是您的应用程序在做什么。

了解这些要点后,您需要考虑应用程序的IO与处理配置文件。例如,查找素数并将其输出到系统日志的应用程序实际上是100%处理而0%IO。在这种类型的应用程序中,没有必要在应用程序中拥有比可用内核更多的线程,因为内核将继续忙于他们正在做的事情,任务切换的开销实际上会降低应用程序的速度。

与数据库密切相关的应用程序通常会对处理配置文件具有相对较高的IO,尽管如果您只是读取该配置文件会降低IO限制,并且这些读取相对较小且具有定义良好的数据库,其中要查询的数据是逻辑布局。根据整个数据库集是否可以保留在内存中或是否正在进行磁盘分页,数据库的大小也会影响IO。

如果您是并发新手,我强烈建议您阅读Brian Goetz的Java Concurrency in Practice。话虽这么说,你正在通过剖析你的应用程序采取合理的方法。