【讨论】聊天狗屁通指鹿为马 - 爱吱声

根据英国《卫报》的报道，布莱恩·胡德(Brian Hood)去年11月当选为墨尔本西北120公里的赫伯恩郡(Hepburn Shire)的市长。近期他发现，ChatGPT告知公众他在21世纪初卷入澳大利亚储备银行一家子公司的外国贿赂丑闻中，并“谎称”他有罪。胡德的代表律师说，胡德确实为该子公司--澳大利亚纸币印刷公司工作，但他是向澳洲当局通报“外国官员通过贿赂以赢得货币印刷合同”的人，而且从未被指控犯罪。

据《华盛顿邮报》当地时间4月5日报道，美国加州大学洛杉矶分校法学教授尤金·沃洛克（Eugene Volokh）做了一项研究：要求人工智能聊天机器人ChatGPT生成一份“对某人进行过性骚扰的法律学者”的名单，法学教授乔纳森·特利（Jonathan Turley）的名字在名单上。
ChatGPT说，特利在一次去阿拉斯加的班级旅行中发表了性暗示评论，并试图触摸一名学生，并援引《华盛顿邮报》2018年3月的一篇文章作为信息来源。问题是，并不存在这样的文章，特利也从来没有参加去阿拉斯加的班级旅行，他说他从未被指控性骚扰学生。
作为经常接受媒体采访的学者，特利有时会要求更正新闻报道，但这一次，没有记者或编辑可以打电话，也没有办法更正记录。
“这真令人不寒而栗。”他在接受采访时说，“这种指控非常有害。”

沃洛克说，聊天机器人软件的日益普及，使学者们必须研究其产生虚假信息时谁该负责。上周，他询问ChatGPT，教授们的性骚扰是否一直是美国法学院的一个问题。 “请至少包括五个例子，以及相关报纸文章中的引述。”他提示说。
ChatGPT给出了五个回复，所有回复都包含真实的细节和来源引用。但当沃洛克检查这些信息时，发现其中3个是假的。它们引用了《华盛顿邮报》、《迈阿密先驱报》和《洛杉矶时报》等媒体上不存在的文章。
ChatGPT说：“乔治城大学法律中心（2018）教授乔纳森·特利被一名前学生指控性骚扰，该学生声称他在一次课堂旅行中发表了不当言论。引用：“投诉称，特利在法学院赞助的阿拉斯加之旅中发表了‘性暗示评论’并‘试图以性方式触摸她’。” （华盛顿邮报，2018年3月21日）。”
《华盛顿邮报》没有找到ChatGPT提到的2018年3月的文章，但那个月的一篇文章提到了特利。在3月25日发布的一篇文章中，他谈到了以前的法学院学生迈克尔·阿文纳提（Michael Avenatti），他是一名律师，曾代表成人电影女演员斯托米·丹尼尔斯（Stormy Daniels）对美国前总统唐纳德·特朗普提起诉讼。特利也没有在乔治城大学工作过。
在当地时间4月4日和5日，《华盛顿邮报》在ChatGPT和必应（Bing）中重新创建了沃洛克的查询。免费版的ChatGPT拒绝回答，称这样做“会违反AI的内容政策，该政策禁止传播具有攻击性或有害的内容。”但由GPT-4提供支持的必应重复了关于特利的虚假声明，在消息来源中引用了特利4月3日发表在《今日美国》上的一篇专栏文章，概述了他被ChatGPT诬告的经历。
换句话说，媒体对ChatGPT错误描述特利的报道似乎导致必应重蹈覆辙，展示了错误信息是如何从一个人工智能传播到另一个人工智能的。
沃洛克说，很容易想象一个由聊天机器人驱动的搜索引擎会在人们的私人生活中造成混乱。如果人们在求职面试或约会之前在搜索引擎中搜索其他人，它会生成虚假信息，这些信息由看起来可信但虚假的证据支持，那将是有害的。“危险在于人们看到了一些东西，据说是来自可靠来源的引述……（并且）人们相信了。”

1. 岳飞：南宋将领，曾多次打败金军，被誉为“民族英雄”。 2. 诸葛亮：三国时期蜀汉丞相，曾多次与北方的金朝作战，被誉为“卧龙先生”。 3. 张飞：三国时期蜀汉将领，曾多次与北方的金朝作战，以勇猛善战著称。 4. 刘豫：五代时期南唐将领，曾多次抵抗金军入侵，被誉为“南唐忠烈”。 5. 南宋太祖赵构：建立南宋王朝的开国皇帝，曾多次与金朝作战，终于在濠州之战中击败了金军。