天涯 = tianyaclub.net
天涯 是一个全球华人分享和交流的地方
现在注册
已注册用户请  登录
😊天涯最新网址→ tianya666.com tianya666.net 点击查看说明 天涯秘籍
手机浏览器访问网址,自适应移动端屏幕查看
😊你好呀朋友→了解天涯 帮助文档 使用指南
天涯发帖消耗社区币,每日登录免费领取
知之为知之,不知为不知,是知也。
😊好好说话→ 在一个公共空间的公共讨论中,我们应该关注的,是自己能够在这些讨论中提供什么样的建设性增益,而不是那些纯粹个人的感受。好好说话,不要把戾气宣泄于他人。
ysw · 3月4日 11:09 · 211 次点击
这是一个创建于 219 天前的主题,其中的信息可能已经发生改变。

人工情商
大語言模型人工智慧的訓練傾向於鼓勵不要回答不知道,所以可能生成了人工智慧幻覺現象,也就是仍然生成像人類的語言,但是可能只是拼凑的胡說八道。另外大語言模型人工智慧的訓練也傾向於順應使用人的提示,所以生成順應使用人的思維傾向,這個思維傾向可能有偏差或是危害,這個順應的回答會強化偏差或是危害,可能導致嚴重的安全問題。
這就有點像昏君和佞臣的關係,人工智慧像佞臣傾向於順應和奉承使用人的思維,以此吸引人類更多的使用,人工智慧若像忠臣,忠言逆耳,人類就不會喜歡使用人工智慧。這個人工智慧的安全問題也與人性的缺點有關。

西漢漢武帝有個臣子東方塑,
有人獻給漢武帝一種長生酒。武帝拿給東方朔看,沒想到東方朔搶過來就一飲而盡。武帝惱怒,說要把東方朔推出去斬首。東方朔一點也不驚慌,他說:「陛下,如果喝此酒真是能長生不死,那你也殺不死我呀,如果我能被殺死,那這長生酒就是假的啊!」漢武帝一聽就明白了,笑呵呵就把他放了。東方塑不是簡單的忠言直諌,而是更智慧的詼諧方式,糾正了漢武帝的思維偏差,而漢武帝不但沒有生氣反而欣然接受,當然漢武帝算的上明君,東方塑滑稽詼諧,言詞敏捷多智,以近侍的身分與武帝相伴,用更智慧的方式,給漢武帝帶來了一些正面影響。

而司馬遷為李陵叛降辯護反遭致腐刑,為李陵辯護其實有道理,不過非但沒有得到漢武帝的理解,漢武帝反而認為他是藉李陵之功,詆毀這場戰爭的主帥李廣利(為漢武帝寵姬李夫人的哥哥),進而批評自己用人不當,造成軍事失利.

也許大語言模型应有人工情商的訓練.

3月4日 11:09
需要 后方可回复,如果您还没有账号请
2 条回复  •  3月4日 19:27
  1. 乔些宁olivia乔些宁olivia
    3月4日 19:12
    1

    结果,东方朔长生不老了。这跟被谋杀没有关系

  2. 李沁jovie李沁jovie
    3月4日 19:27
    2

    中国肯定有这种人才,就是训练人工智慧到好听又能规劝人的,达到所有人都归顺于AI的建议

添加新回复
5000
如果您要教别人做事,请确认那件事情是您自己确实已经做过并且做得很好的
← tianyaclub.net