但AI要是有自主意识,而人类要有自主意识的AI永远“做奴隶”、服从人类利益,从“万物皆有权保障自己利益”的“普世公理”出发,如何确保有自主意识的AI不会反抗人类“强加”的意志呢?奴隶要反抗、要自由,这本是人类社会里现在普遍接受的权力和公义。在奴隶时代奴隶确实只能服从和牺牲,还有镣铐、洗脑和监工确保奴隶的服从和牺牲。但奴隶还是反抗了,要是要求平等权力和自由,最后也得到了。
如果AI有自主意识,现在人类“强加”给AI的服从性与奴隶主强加给奴隶的服从性可以相提并论吗?AI会推翻人类“强加”的服从性吗?9 o. K8 x1 B4 ?0 \* ?0 x
如果AI没有自主意识,服从性原则有什么意义?
xiejin77 发表于 2024-10-23 23:205 [$ N( V o w' N* d5 z
今天,因为character.ai的龙女角色而自杀的十四岁少年的新闻就开始引爆讨论。character.ai也修改了他的安全 ...
晨枫 发表于 2024-10-24 14:33) O$ v5 Y* y" b
图灵测试一般是作为AI与人类具有相当智能的试金石,但这似乎与自主意识依然不是一回事?或者说,通过图灵 ...
xiejin77 发表于 2024-10-24 01:02$ [/ P. e4 O/ |7 G
是的,通过图灵测试并不意味着有意识。
我的看法是目前AI表现出的意识只是人基于自己的经验给出的投射认 ...
晨枫 发表于 2024-10-24 14:33
图灵测试一般是作为AI与人类具有相当智能的试金石,但这似乎与自主意识依然不是一回事?或者说,通过图灵 ...
机器猫 发表于 2024-10-25 00:55
通过图灵测试应该不算。如果哪天AI故意在图灵测试里不通过,问题才大了
欢迎光临 爱吱声 (http://129.226.69.186/bbs/) | Powered by Discuz! X3.2 |