爱吱声

标题: 谈谈大型网站架构的一些关键技术 [打印本页]

作者: 季侯    时间: 2012-1-17 10:11
标题: 谈谈大型网站架构的一些关键技术
想进黑虎帮,没积分啊,发点贴- V) \& W  [) w. O* Y; N2 P

8 C2 j5 V9 Y9 F9 K5 s* ], ]7 y. M$ C' b: n$ F5 f8 w) S
最近12306很火,无数人站出来为铁道部指点迷津,提出了无数个解决方案。虽然很多人没做过网站也没写过程序,,,,,  L8 ]( p; t$ I. n
; r! Q$ t) r+ E9 \/ p) d
乘罗教主还没空,我也凑个热闹,说说网站架构的一些东东。当然了,纯技术的东东可能没人喜欢,所以我保留随时挖坑不填的权力。
$ s1 i7 @# m7 H. U, v0 C" q
! |# D* j* D, X& {( k4 h8 S1 先说说cache/ p5 F) T) n, r8 Z  W

3 ]& S8 T0 t5 C  i6 `6 z- l& H7 w* \4 R# L2 X0 C) L% d
作为一个老军医,总有人问我,“xxx,帮我看看,为啥我这系统性能这么差?” 我的第一个反应就是,瓶颈在哪里,cache怎么做的。
$ {" h, ~. H2 v0 W4 L" z- K! W, _( a" I  r% T, |9 I5 Y1 @4 @
常有人说,木桶的容量是最短的那块木板决定的;那么如果把一个网站当作一个木桶,网站开发者这个桶匠绝对是个杯具。因为他拿到的木板太参差不齐了,有的长有上百米,有的才几公分。
+ |0 R8 i! p( W; O+ z9 _: S) Q# Z9 j) ]' R: b% i
这块最短的木板往往就是数据库了,以12306为例,常见的使用场景是:
) F% ^$ L6 D% E; D( G2 |5 o3 ?) u9 [$ D$ G& j. z( H
用户登录上来,根据出发地和目的地查询车次,然后选择 一个有票的车次买票,下订单,付款。3 }/ S8 N" z! k5 V: h; y: ^' M

5 R1 h7 h7 |) F3 i2 N8 |8 [" }不管是登录/查询车次/查询是否有票/下订单/付款都涉及数据库操作,是一个典型的读多写少的场景,数据库将会是瓶颈。那么为什么数据库会是瓶颈哪?
$ q8 O2 h" S) T/ O1 N- O0 U# _$ n2 t) m# W( y
1 数据库操作相对web层是一个非常耗时的操作,单次操作往往需要几毫秒,并发链接数也只有3000/4000;而nginx之类的静态服务器,每秒处理10万个请求,支持数万个并发链接无压力;所以只要稍微大一点的网站,数据库很容易成为瓶颈;
. D4 W1 |& t) R" @9 B6 v) d1 p- P( |% U1 s( n
2. 数据库链接是一个非常昂贵的资源,一般来说单台mysql服务器能够只能提供3000/4000的并发链接;一旦大量web请求到来,那么很有可能申请不到数据库链接,不得不排队;当队列中的请求累计到一定数量时,新的请求很容易超时,从而失败。
. a# ~! ~. ^$ l, _( k* \' U
7 T/ m# M3 S# h$ l5 T3. 查询操作太多,基本上每买一张票都会查询很多次,而每次查询都会产生数据库查询操作。虽然可以通过建立合适的索引加快查询,通过读写分离/水平分库等手段降低单个数据库的负荷,但是只要数据库操作数量大到一定程度,那么唯一的办法就是减少数据库操作。
- M* f" E9 r0 j& U) x" ~6 s8 t. U* F
; @  M* i: A* ^将一些很少变化,但是频繁查询的数据缓存到memcached/redis等缓存服务器中是一种成熟有效的技术。以根据出发地/目的地查询为例,以往的查询需要从数据库的车次站点表中查询,现在可以把{出发地/目的地}-> [车次列表]的映射关系存到redis中,这样每次查询的时候直接从redis中就可以得到。' @4 W6 ~3 M) f; r# s

1 @/ x- [! M& G" d这么做的好处是,从redis中查询比从数据库中查询要快的多,相差不止一个数量级,redis能支持的并发链接数也远远超过mysql;所以能够降低了数据库负荷,也避免了数据库链接资源的申请。
1 K) r7 a/ k2 F" v$ x2 F. c2 m1 `7 u
& D+ B0 p; D: R* q: P所以采用合理的cache技术,降低数据库负荷是大型网站架构的一个关键技术点。
( }, D/ `7 u- {) L# C% o. v  u
作者: 谜团    时间: 2012-1-17 10:23
把任务分散我觉得比较好7 V3 s9 p5 @  H/ H/ t, t3 K; b
分成100个桶$ y& Y, I. x( n0 G2 I; ?: N
每个桶里一定票9 h1 t5 l* M- F# G4 r8 z/ O/ p
用户自行选择去哪个桶
作者: 大山猫    时间: 2012-11-18 16:38
谜团 发表于 2012-1-17 10:23
% x2 _- F3 h( f0 ?  P' b7 b把任务分散我觉得比较好, _" W% z5 n* L7 F8 E! K
分成100个桶0 B" E% R) F# D3 ^0 c- l1 v+ n
每个桶里一定票
# v! y# l7 D6 w, D
这肯定不行,会有人编程序同时选这一百个桶




欢迎光临 爱吱声 (http://129.226.69.186/bbs/) Powered by Discuz! X3.2