人工情商 大語言模型人工智慧的訓練傾向於鼓勵不要回答不知道,所以可能生成了人工智慧幻覺現象,也就是仍然生成像人類的語言,但是可能只是拼凑的胡說八道。另外大語言模型人工智慧的訓練也傾向於順應使用人的提示,所以生成順應使用人的思維傾向,這個思維傾向可能有偏差或是危害,這個順應的回答會強化偏差或是危害,可能導致嚴重的安全問題。 這就有點像昏君和佞臣的關係,人工智慧像佞臣傾向於順應和奉承使用人的思維,以此吸引人類更多的使用,人工智慧若像忠臣,忠言逆耳,人類就不會喜歡使用人工智慧。這個人工智慧的安全問題也與人性的缺點有關。 西漢漢武帝有個臣子東方塑, 有人獻給漢武帝一種長生酒。武帝拿給東方朔看,沒想到東方朔搶過來就一飲而盡。武帝惱怒,說要把東方朔推出去斬首。東方朔一點也不驚慌,他說:「陛下,如果喝此酒真是能長生不死,那你也殺不死我呀,如果我能被殺死,那這長生酒就是假的啊!」漢武帝一聽就明白了,笑呵呵就把他放了。東方塑不是簡單的忠言直諌,而是更智慧的詼諧方式,糾正了漢武帝的思維偏差,而漢武帝不但沒有生氣反而欣然接受,當然漢武帝算的上明君,東方塑滑稽詼諧,言詞敏捷多智,以近侍的身分與武帝相伴,用更智慧的方式,給漢武帝帶來了一些正面影響。 而司馬遷為李陵叛降辯護反遭致腐刑,為李陵辯護其實有道理,不過非但沒有得到漢武帝的理解,漢武帝反而認為他是藉李陵之功,詆毀這場戰爭的主帥李廣利(為漢武帝寵姬李夫人的哥哥),進而批評自己用人不當,造成軍事失利. 也許大語言模型应有人工情商的訓練.
ysw
如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
创作者 ysw 尚未开启!打赏功能为了鼓励分享而设计。
详见 天涯打赏功能说明
结果,东方朔长生不老了。这跟被谋杀没有关系
中国肯定有这种人才,就是训练人工智慧到好听又能规劝人的,达到所有人都归顺于AI的建议