爱吱声

标题: 谈谈大型网站架构的一些关键技术 [打印本页]

作者: 季侯    时间: 2012-1-17 10:11
标题: 谈谈大型网站架构的一些关键技术
想进黑虎帮,没积分啊,发点贴
2 F: H9 m4 T9 T2 _# v" {' Q
$ ^0 Y* D& K( f" T1 y9 f1 A% x2 z$ M" a, B# g$ q8 X
最近12306很火,无数人站出来为铁道部指点迷津,提出了无数个解决方案。虽然很多人没做过网站也没写过程序,,,,,
  [* O0 L2 }4 j8 X; `
. x8 w/ a, e. K, k7 _: W乘罗教主还没空,我也凑个热闹,说说网站架构的一些东东。当然了,纯技术的东东可能没人喜欢,所以我保留随时挖坑不填的权力。0 l% }4 i! R- j' t$ ~3 \# v0 g

" u2 m6 \% y, G% m( U2 f1 先说说cache
* p  v0 I* p+ ]3 {: I+ h2 g3 J5 h$ S, P4 U! N# C6 S' P
: x+ T) l* p# ~0 X7 U
作为一个老军医,总有人问我,“xxx,帮我看看,为啥我这系统性能这么差?” 我的第一个反应就是,瓶颈在哪里,cache怎么做的。
- n# k9 W- r0 _7 S0 N% L, ~0 t" g$ G/ Y( X2 }
常有人说,木桶的容量是最短的那块木板决定的;那么如果把一个网站当作一个木桶,网站开发者这个桶匠绝对是个杯具。因为他拿到的木板太参差不齐了,有的长有上百米,有的才几公分。1 y/ m4 z2 |" X: d; D4 {% ^9 ]9 _

2 N! a7 ?5 x: q; f$ e9 A1 y/ P' z这块最短的木板往往就是数据库了,以12306为例,常见的使用场景是:
2 _' U4 A2 Z6 B: F* }: {
% J- |& S. A. m- |5 b用户登录上来,根据出发地和目的地查询车次,然后选择 一个有票的车次买票,下订单,付款。
- @2 F  ~/ i. n9 J8 K/ m# u7 m1 k) P# @4 z! z' n
不管是登录/查询车次/查询是否有票/下订单/付款都涉及数据库操作,是一个典型的读多写少的场景,数据库将会是瓶颈。那么为什么数据库会是瓶颈哪?
+ C$ L& V% e. R; q7 H, o* _3 D' Q. v2 ^# b/ g" |# W5 r9 H
1 数据库操作相对web层是一个非常耗时的操作,单次操作往往需要几毫秒,并发链接数也只有3000/4000;而nginx之类的静态服务器,每秒处理10万个请求,支持数万个并发链接无压力;所以只要稍微大一点的网站,数据库很容易成为瓶颈;
  l: a- J) N2 d# L1 g0 T1 Z- ?1 W; \
2. 数据库链接是一个非常昂贵的资源,一般来说单台mysql服务器能够只能提供3000/4000的并发链接;一旦大量web请求到来,那么很有可能申请不到数据库链接,不得不排队;当队列中的请求累计到一定数量时,新的请求很容易超时,从而失败。
8 U2 q, }0 e, p  d: K8 m- n4 L7 R; H; p* e! [/ V! o4 g
3. 查询操作太多,基本上每买一张票都会查询很多次,而每次查询都会产生数据库查询操作。虽然可以通过建立合适的索引加快查询,通过读写分离/水平分库等手段降低单个数据库的负荷,但是只要数据库操作数量大到一定程度,那么唯一的办法就是减少数据库操作。, l1 v3 L3 N0 C+ N: k$ G
1 P2 M" b9 m1 A6 Y$ {/ y
将一些很少变化,但是频繁查询的数据缓存到memcached/redis等缓存服务器中是一种成熟有效的技术。以根据出发地/目的地查询为例,以往的查询需要从数据库的车次站点表中查询,现在可以把{出发地/目的地}-> [车次列表]的映射关系存到redis中,这样每次查询的时候直接从redis中就可以得到。& j& m; B* v& O, W& a& R$ j( @6 ]
: m+ W8 Z% h& C1 W$ K
这么做的好处是,从redis中查询比从数据库中查询要快的多,相差不止一个数量级,redis能支持的并发链接数也远远超过mysql;所以能够降低了数据库负荷,也避免了数据库链接资源的申请。
' j: }( P& D; X) U% @) t1 m8 C1 O* I# B2 E5 H4 s
所以采用合理的cache技术,降低数据库负荷是大型网站架构的一个关键技术点。
* _% f5 o( p& h. q2 e
作者: 谜团    时间: 2012-1-17 10:23
把任务分散我觉得比较好7 \9 V" D7 {9 ?! d3 [
分成100个桶: y9 m! S1 z) c7 F$ P% `. C# ]% j
每个桶里一定票
7 {* y9 s6 m; V% \! K用户自行选择去哪个桶
作者: 大山猫    时间: 2012-11-18 16:38
谜团 发表于 2012-1-17 10:23
" e: ~. i  C# M9 F9 R把任务分散我觉得比较好, B# F, P5 H1 f; u
分成100个桶7 C6 d" n7 m% W2 d
每个桶里一定票

5 m. ]9 ^4 w" J1 |- w% \这肯定不行,会有人编程序同时选这一百个桶




欢迎光临 爱吱声 (http://129.226.69.186/bbs/) Powered by Discuz! X3.2