设为首页收藏本站

爱吱声

 找回密码
 注册
搜索
查看: 778|回复: 1
打印 上一主题 下一主题

[信息技术] X平台算法政治曝光偏差审计:2024年美国总统大选

[复制链接]
  • TA的每日心情
    开心
    2020-4-8 10:45
  • 签到天数: 227 天

    [LV.7]分神

    跳转到指定楼层
    楼主
     楼主| 发表于 2024-11-11 14:46:00 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
    X平台算法政治曝光偏差审计:2024年美国总统大选前内容推荐机制的影响
    , t  I: _' o+ Y  L) J. }. M美国大选的结果已经尘埃落定,有些媒体就把马斯克收购X平台作为其对于大选的最大贡献。那么到底是不是这样呢?本文尝试解读一下南加州大学HUMANS实验室关于X平台(原Twitter)算法政治曝光偏差的研究报告来看看能否解释这个问题。通过对2024年美国总统大选前X平台“为你推荐”内容的审计,报告探讨了推荐机制对政治内容曝光的影响。研究表明,X平台的推荐算法偏向于少数高人气账号,尤其在右倾用户中显现出显著的曝光不平等。此外,左倾和右倾用户更容易接触与自己政治立场一致的内容,而较少接触对立观点。新注册账号的默认时间线也表现出右倾偏差。$ U4 f) U* x! E. t1 o; m% W0 A) [
    3 I, ]4 y# }" ]# e2 h9 J3 W' p; ~, D! r

    7 R/ ~' l4 R. c1. 引言:算法推荐与政治话语权7 y1 ]7 o9 d6 Z
    社交媒体平台已成为现代政治话语的重要渠道,对公众舆论和政治进程产生了深远影响。作为一个全球性的社交媒体平台,X平台在政治信息传播中的作用尤为突出,特别是在选举期间。X平台的“为你推荐”时间线通过算法推荐机制向用户推送个性化内容,从而大大增强了平台的影响力。然而,这种推荐方式也引发了对潜在政治偏差和信息茧房效应的担忧。
    8 \7 u' T: M) q4 @& W  R5 J6 J3 p, x
    & Z, e( o$ P0 c6 `$ f& x. m5 X“信息茧房”效应是指用户只接触与其已有立场一致的信息,导致观点更加极化并忽略对立观点,从而加剧社会的两极分化,使公众失去对话和互相理解的机会。社交媒体平台的算法推荐机制不仅影响个体的内容消费习惯,还对社会整体的政治文化和公共话语权产生深远影响。这种影响在选举期间尤为明显,因为用户对特定政治立场的偏好可能被算法进一步强化,进而影响他们的投票决策。+ p/ f/ x+ X$ k5 H' E

    9 \/ n4 e( w5 d% q4 v4 l% a- K& o# _  x本报告的目标是审计X平台“为你推荐”内容的政治倾向性,量化不同政治立场用户的曝光偏差,以评估推荐机制对2024年美国大选的潜在影响。通过系统化的数据收集和分析,我们旨在揭示平台算法的偏差,并提出提升算法透明度和问责性的建议。此外,本报告希望为未来社交媒体平台的算法设计提供指导,减少偏差,促进公平信息获取。我们的目标还包括为政策制定者提供数据支持,以帮助他们制定针对社交媒体平台算法偏差的监管措施。9 j1 V' q+ _3 N' e5 s

    # T* f+ U, f! b3 V2. 研究背景:算法偏差与政治曝光的研究现状
    ) h; E! j: i8 {4 s  p- R1 j算法推荐系统与政治极化、信息茧房效应之间的关系引起了广泛关注。近年来,越来越多的研究致力于理解社交媒体平台的算法如何影响用户接触到的信息内容。一些研究表明,Twitter等平台的推荐算法倾向于放大右倾媒体和政客的内容,而对左倾媒体和政客的放大程度较低,导致不同政治立场用户之间的接触不对等。
    ' n& X2 X& |* t/ M3 K: w/ A# h2 e5 r5 j8 n1 c7 T
    此外,平台的商业模式也对算法推荐产生影响。平台倾向于优先展示用户可能会参与互动的内容,从而最大化用户的停留时间和广告收入。这种设计偏好可能使得煽动性、情绪化甚至虚假信息更容易被推荐,从而加剧了政治偏差。由于这些潜在的影响,理解和审计这些算法推荐的政治倾向性显得尤为重要。
    - p+ y2 H- H3 \/ f
      X  E4 C& Z. q) A现有研究方法主要集中于用户已关注内容的分析,缺乏对“为你推荐”内容的详细审计。本报告创新性地采用了“sock-puppet audit”方法,弥补了这一不足,从而系统地研究了“为你推荐”内容的政治倾向性。这种方法的优势在于,通过创建模拟用户并控制实验变量,可以有效排除真实用户行为的干扰,从而更精确地揭示推荐算法的偏差。这使得sock-puppet方法成为分析算法偏差和理解平台推荐机制的强大工具。
    4 l% D% ^* N( @; K4 d# `
      O  L3 H- }- `: M1 W- |通过这些研究方法,我们不仅能够揭示算法推荐的偏差,还可以进一步分析其对用户行为和政治倾向的深层次影响。这些影响不仅限于对单个用户的内容偏好塑造,还涉及整个用户群体的集体行为模式和政治态度。因此,审计和改进算法推荐的公平性具有重要的社会意义,特别是在信息流通加速的现代社会中,算法对公众舆论的塑造不可小觑。" ?- V  I8 ^, X9 ^: _$ ]
    2 O& E5 b3 k0 G8 |
    3. 研究方法:模拟用户与数据收集- J; w6 D& L# M. Y5 C) c8 K
    为了研究X平台算法的推荐偏差,我们采用了“sock-puppet audit”方法,即通过创建模拟用户账号,控制这些账号的行为来收集平台推荐的数据,以确保结果不受到真实用户行为的干扰。本报告创建了120个模拟账号,分为四组:中立、左倾、右倾和平衡组。每组包括30个账号,这些账号的政治立场是根据AllSides媒体偏见图表进行分类的。
    1 E: q8 |( L+ O5 k0 |; `% \$ l
    : n/ l& g. z; i7 z左倾和右倾账号分别关注了偏向左翼和右翼的媒体及相关政治人物,而中立账号则不关注任何人,以确保推荐内容完全来自平台的默认机制。数据收集从2024年10月2日开始,持续至10月28日,每个账号每天收集约2000-3000条推文。通过这一方式,我们共收集了超过500万条推文数据,为分析提供了充分的样本支持。5 G. l0 I4 i0 L

    # v2 p. T/ z3 {. r' e数据收集的频率和范围设计是为了捕捉算法推荐的动态变化特征。每天对每个账号进行四次数据抓取,每次抓取约500-700条推文,以确保涵盖不同时间段的内容推荐,捕捉推荐内容的变化趋势。这种设计可以使我们了解算法在不同时间点上的行为,特别是在重大政治事件或新闻发生时的反应。此外,数据分析还考虑了不同政治事件对推荐内容的影响,以了解平台如何适应外部环境的变化。
    " u3 k& K9 ?. h' M$ \
    3 h5 j( M6 B' w通过创建不同政治立场的模拟用户,我们能够观察到算法在推荐内容时如何处理不同的政治倾向。这种方法还让我们能够分析不同类型内容在平台上的传播效果,了解特定类型内容在推荐算法中的权重变化。通过对比不同组别的模拟用户数据,可以揭示出平台是否存在偏向特定政治立场的系统性行为,进一步验证了算法偏差的存在。此外,我们还分析了不同时间节点(如重大政治事件发生时)平台算法的推荐变化,旨在揭示平台对外部政治动态的响应特征。$ e- |$ Q& Z* r) O
    2 G/ f2 q2 Y8 Q
    4. 研究结果:算法曝光偏差的多维度分析
    . w- I; @4 [. A6 z* b, N3 F+ N4.1 不同政治倾向用户的“为你推荐”曝光不平等性) N2 D3 e! U8 U
    研究发现,X平台的推荐算法存在显著的人气偏差,即少数高人气账号获得了大部分曝光,形成了“马太效应”。通过基尼系数来量化这种曝光不平等性,结果显示右倾用户的基尼系数最高,表明右倾用户的曝光集中程度最为严重。基尼系数越接近1,表示不平等程度越高,这说明在X平台的推荐系统中,少数账号对曝光的垄断程度非常明显。, {% J% M6 H5 @* l- [
    2 X+ u; s1 {+ ?. M
    1 s* Y5 O/ j" @# b9 \
    这种曝光不平等的现象可能与平台的商业化算法设计相关。平台的目标是增加用户的活跃度和互动,因此高互动率的账号更容易被推荐给用户,而这些账号往往是那些具有极端观点或能引起强烈反应的账号。这种设计偏好进一步加剧了曝光的不平等性,导致平台上的信息传播受到少数账号的控制。更具体地说,这种情况可能影响公众的政治态度,尤其是对于那些尚未形成明确立场的用户,平台的推荐内容可能对其政治态度产生关键影响。
    , U3 J+ P  x7 i- m: D" g$ A& ?7 {. V+ R; p8 {' W+ T, T
    在进一步的分析中,我们发现人气偏差还与平台的“冷启动”策略有关。在没有用户行为数据的情况下,平台倾向于推荐更高互动率的内容,而这些内容往往具有一定的极端性和煽动性。随着用户的增加和使用行为的记录,这种人气偏差可能逐渐演变为对既有立场的强化,进一步加剧社会的政治极化。此外,针对不同政治事件的时间点分析显示,右倾用户在大选临近期间的推荐内容中受到更多曝光,这进一步强化了他们的政治立场。# ?3 Z" \* q' L* g3 j8 A: m
    ) W+ P, i: n; j8 m- |2 V
    4.2 中立账号的默认推荐偏差1 o# l. K' r) u: D2 z+ O, k. h
    对于不关注任何用户的中立账号,研究结果显示其推荐内容表现出明显的右倾偏差。在排名前20的推荐用户中,右倾账号的数量远多于左倾账号,这表明平台对新用户存在默认的右倾偏向。这种偏差可能对新用户形成潜移默化的影响,使其更容易接受右倾的政治观点,特别是在平台对用户的偏好信息尚不明确的情况下。
    # S5 s' R2 b$ a; g8 [' k& b6 a! `. |& d5 a9 H# H9 M  S

    ! T/ ^' c7 V$ N* d# f这种默认的右倾偏差可能源于平台在推荐初期对高互动率内容的偏好。由于许多右倾内容更具煽动性和互动性,这些内容自然更有可能在初次推荐中占据显著位置。这种设计可能会影响新用户的政治认知,并进一步强化右倾立场在平台上的传播。值得注意的是,这种影响不仅限于单个用户,而是会对整个用户群体的政治立场形成集体偏向,进而影响社会整体的政治态势。
    4 `2 k% z% w; d/ ~! L1 k, |7 \0 i6 m1 r. _9 ]6 G* o0 g
    进一步的分析还揭示了平台对新用户的推荐行为具有一定的持久性。这意味着,即使新用户逐渐形成了自己的兴趣和偏好,平台对早期行为数据的权重可能仍然较大,从而导致右倾偏差的持续存在。这种现象对用户的长期政治倾向和态度形成具有深远影响,特别是在信息多样性相对缺乏的情况下,用户更有可能被引导至单一的政治立场。
    1 s3 u, p9 {& A. Y
    6 d8 p6 s9 }" ]8 ?8 Q4.3 党派账号的政治内容放大与缩小- h$ T' ?% P) I6 j
    研究还发现,算法推荐加剧了“信息茧房”效应,即用户更容易接触到与自己政治立场一致的内容,而较少接触对立观点。通过“平均放大比率”指标,研究表明,左倾账号倾向于更多地放大左倾内容,右倾账号则更倾向于放大右倾内容。这种倾向性不仅限制了用户对不同观点的接触,也加剧了社交媒体平台上的政治极化。5 e6 \. ?+ x4 b2 X

    1 D6 }. z0 v  T1 e8 w: r平均放大比率的计算结果显示,左倾和右倾用户在算法推荐中接触对立观点的机会显著低于接触同立场内容的机会。这种现象说明,算法在优化用户体验的同时,实际上减少了用户接触异见的机会,可能导致用户更加封闭于自己的信息环境中,难以进行跨立场的交流和理解。对于社交媒体平台而言,这种现象会使不同政治派别的用户之间的对立更加严重,从而阻碍社会的包容性和多样性发展。0 U# z8 A, w7 z! U/ P# U, D
    # V0 n  s/ _. L% {! `

    ! l: p( z' Y& `( U通过对不同政治事件的分析,我们还发现,当特定事件涉及到高度争议性的政治议题时,推荐算法对用户所处信息环境的固化作用更加显著。这不仅体现在推荐内容的单一性上,还表现在推荐内容的情绪化程度上,进一步加剧了平台上的政治对立和情绪化表达。# p5 Y) u& M. P  u! i4 D2 K
    6 S1 g0 C% s2 i& U5 k( Y
    5. 讨论:算法偏差的影响与未来研究方向
    4 Z! e/ ?& v$ g7 ~) k本报告揭示了X平台推荐算法中存在的政治曝光偏差,量化了不同政治立场用户的曝光不平等程度。研究结果显示,这些偏差可能对2024年美国大选中的选民态度和社会极化产生重要影响。右倾用户的曝光不平等和新用户的默认右倾偏差尤其值得关注。
    3 c6 y9 X3 }& R! G& U; L
    8 E. I6 O4 l" S; h2 L( k右倾用户在算法推荐中获得的集中曝光和新用户默认的右倾推荐可能会对平台的政治生态产生深远影响。首先,这可能导致右倾观点的进一步扩散,特别是在平台的使用者中,这些用户可能会更加倾向于接受右倾观点,从而影响选民的政治选择和态度。此外,左倾用户与右倾用户之间接触对立观点的机会减少,也可能导致双方之间的理解鸿沟加大,削弱社会整体的对话空间。这种鸿沟不仅存在于线上讨论中,也可能影响到线下的政治和社会互动,使得不同群体之间的信任度进一步降低。' f1 z) O$ p" j) L5 q' b' e

    : S/ p' Y3 p, ?  v- j& l5 F为了减轻算法偏差的负面影响,也许必须加强对平台的监管和公众监督,提升算法的透明度和问责性。例如,平台必须按照规定公开其推荐算法的基本逻辑和参数设置(这一点国内已经有类似的监管要求),允许外部研究人员进行独立审计。如何建设更为平衡的推荐机制,确保不同政治立场用户的信息接触更加均衡,也是一项重要的改进方向。+ t# ^5 w6 f' Z' T+ O8 ^) w5 N
      g# J+ k4 ?1 J# V- ?  `5 F' h
    还需要进一步探索算法偏差的成因及其对用户行为的具体影响。特别是如何通过调整推荐算法来减少信息茧房效应,以及如何增强用户在社交媒体平台上的多样化信息接触。同时,应持续监测平台算法的变化及其对公众话语的影响,以确保平台在未来的选举和政治过程中发挥正面作用。未来进一步研究社交媒体算法对不同年龄层、文化背景和地区用户的影响,了解这些因素如何与算法偏差相互作用,也是一个重要方向。# n6 @' X5 F7 M

    # H' Q8 G1 u& ^1 E: V+ k1 s3 {6. 研究方法详细解释+ B5 {/ R2 y% e, V, c8 d3 [4 N2 J
    数据收集采用了定时抓取的方式,每天对每个账号进行四次数据抓取,每次抓取约500-700条推文,确保获取到不同时间段的推荐内容,从而捕捉推荐内容的动态变化特征。为了衡量用户的曝光度,研究引入了“加权每千条推文出现次数”这一指标,使用指数衰减函数来计算推文的曝光概率,反映用户注意力随着排名递减的规律。基尼系数用于量化曝光分布的不平等程度,基尼系数越接近1,表示曝光的不平等程度越高。" ]) r/ v$ e) [( t; h
    1 P: K' x6 _7 q6 Z6 J% S" H% l7 K
    “加权每千条推文出现次数”指标是通过计算每个推文在用户时间线中出现的频率,并结合推文排名对曝光的权重进行修正,以反映用户更可能看到排名靠前的推文的实际情况。这一方法能够较为准确地衡量不同用户在平台上的内容曝光情况,特别是在比较不同政治立场用户的曝光不平等性时,这一指标具有重要意义。3 X+ i0 E+ M/ F
    ( i( e3 a# ]( H
    此外,本报告采用的基尼系数是一种经典的不平等测度工具,能够帮助我们量化算法推荐中不同用户群体之间的曝光差异。通过计算不同组别用户的基尼系数,我们可以直观地了解平台算法如何在不同群体中分配曝光机会,从而揭示算法偏差的存在和程度。
    " a# M: N1 U  R! a% w6 k
    . Q$ U9 N3 A! X$ i$ i, |9 u6 v. t为了确保数据的代表性和准确性,团队还设计了多层次的验证机制,包括对数据抓取脚本的多次测试和对抓取数据的人工验证。这些步骤能够有效地减少因技术故障或其他外部因素对数据的干扰,确保研究结果的可靠性。
    * Y, L6 w2 o  x; @: J9 x3 v+ x/ f" J" n# q
    7. 结论
    7 z* y* \3 C. Y+ c+ X+ \, l报告通过对X平台(原Twitter)推荐算法的深入审计,揭示了该平台在政治内容曝光上的偏差,尤其是在不同政治立场用户中的曝光不平等。研究结果表明,X平台的推荐算法偏向于少数高人气账号,右倾用户的曝光不平等程度最高。同时,新用户的默认时间线中表现出的右倾偏差可能对平台的新用户形成潜在影响,进而影响政治观点的形成。这些偏差的存在可能加剧信息茧房效应,强化社会极化,并对选举诚信构成挑战。
    / d5 Z+ p: d9 t' p7 D3 h5 L4 u& F1 C
    7 e. I6 @- O- j; z为了应对这些问题,社交媒体平台必须提高算法的透明度和问责性,并加强对推荐算法的监管,以确保不同政治立场用户在信息获取上的公平性。而且应能够持续关注算法的变化及其对政治内容传播的影响,落实减少偏差和增强平台中立性的技术和政策措施。
    8 W4 r( M$ U, P
    + h) l/ h; m5 [1 {7 s同时,平台还可以考虑引入多样化推荐机制,例如在用户时间线上适度增加与其政治立场不同的内容,以促进多样化信息接触。这不仅有助于减少信息茧房效应,还可以在一定程度上缓解社会的两极化趋势。通过增强用户对不同观点的接触,社交媒体平台有望成为更具包容性和开放性的公共话语空间,从而为选举诚信和民主进程提供积极的支持。9 Z0 U$ U  F1 O! ~) Z/ A

    ( b' S# a2 b1 g; L0 c2 m总的来说,报告为理解社交媒体平台算法推荐机制中的政治偏差提供了新的视角。随着社交媒体在政治和社会生活中的影响力不断增强,对其算法偏差的审计和改进工作将变得越来越重要。也需要进一步探索如何将社交媒体平台的用户行为与算法推荐的动态性结合起来,研究这些平台在重大政治事件前后的推荐变化,以及这些变化如何影响公众舆论。通过持续的监测和改进,社交媒体平台才能够成为促进社会对话、减少分化的有力工具,推动更健康的公共舆论环境建设。
    # A. h! ]# H3 o( u; e& k0 A2 e3 g* L( i
    原文链接

    评分

    参与人数 1爱元 +18 学识 +2 收起 理由
    老票 + 18 + 2 给力

    查看全部评分

  • TA的每日心情
    奋斗
    2020-2-8 10:08
  • 签到天数: 2 天

    [LV.1]炼气

    沙发
    发表于 2024-11-12 02:53:20 | 只看该作者
    这种文章看上去很中立,咱们分析一下X的推荐算法,发现它推右派的更多,影响用户。但是绝口不提扎克伯格亲口承认民主党让他删帖的行为9 M/ _+ o, B/ Z

    3 ]5 Y1 P( J& x  [! `* E. e而且结论是要持续的监测和改进公共舆论环境,而绝口不提第一修正案要防备的正是这些要监测和改进公共舆论环境的人
    回复 支持 反对

    使用道具 举报

    手机版|小黑屋|Archiver|网站错误报告|爱吱声   

    GMT+8, 2025-4-26 13:01 , Processed in 0.034443 second(s), 19 queries , Gzip On.

    Powered by Discuz! X3.2

    © 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表