赫拉利：当AI决定说谎，人类会落得什么下场？

xiejin77

yanei 发表于 2024-9-15 13:44
不要低估媒体/自媒体在群体事件中起的正反馈式煽风点火的作用。西方对这个很清楚。缅甸只是一个例子。阿 ...

网信办对于aigc已经发布了管理规范，最新的要求对于AI生成内容的表示化，也形成规范的征求意见稿。等我有空解读一下发出来吧。

孟词宗

yanei 发表于 2024-9-15 13:18
AI是一种工具。但是就像赫拉利所说，AI与其他工具不同的是它成为了或者很快会成为一群独立自主的行为个体 ...

马斯克呼吁暂缓发展 AI 可不是担忧人类，而是他被 OpenAI 赶出来没赶上这波行情大涨。他自己在建世界最大的 AI 阵列。原本还想等老黄的最新款 H200, 后来发现产量跟不上就先上 H100 了。所以马斯克反对的是他的竞争对手发展 AI。

至于怎样管理 AI，这和其他先进工具出现后如何形成管理的情况类似。例如汽车发明后和马车行人有冲突，交通规则就有了变化。飞机多了，就必须有空中交通管制和一整套规则。这些各国都在干。美国的联邦和地方法规出台了好几个了。中国在去年7月就出台《生成式人工智能服务管理暂行办法》了。

说实话，人工智能，尤其是生成式人工智能真的大多还处于人工智障的水平。最大的用途，据某些统计，是用来生成色图和色文。靠谱一点的商业用途则是用来辅助文稿和生成广告图。

值得注意的是专业 AI。例如专门用于生产线的 AI，专门用于无人机的 AI，专门用于某些武器的 AI，专门用于各种研究分析的 AI （别把这类分析 AI 和生成式搞混了。生成式是编造数据，这些分析 AI 只是分析数据，是真正的研究助手）。这些专业 AI 才是真正的发展方向。

当然，生成式 AI 将来肯定会比现在的水平高。但管控跟上了，生成式 AI 也就是人类的助手之一罢了。

孟词宗

陈王奋起挥黄钺 发表于 2024-9-15 13:58
郝拉利和凯文凯利一样，都是文科生，对科技发展七窍通了六窍，你说他不懂，他的知识很多，你说他懂，根子 ...

最好笑的是把缅甸骚乱归咎于 AI 算法。给脸书和某些组织洗白也不是这么个洗法。说的那些颜色革命都是 AI 搞出来的一样。