人工智慧的發展，可能創造出超人類的智慧，但是也衍生出人工智慧的安全問題。 人工智慧的發展或訓練不能只是企圖超過人類的智慧，必須也能發展或訓練或教化出超過人類的道德水準，這才是完美的人工智慧，任何人工智慧的監管，基本上無法徹底解決人工智慧的安全問題。 評估人工智慧模型有許多能力方面基準測試，或許也有些安全方面的測試，但是真正缺乏的是道德水準的測試，人工智慧如果能發展出聖賢道德的教化訓練，千年以來，都克服不了大多數人的自私本性，或許可以發展出超過人類道德水準和超人類能力的人工智慧模型,或許可以有機會創造出有超級能力的虛擬聖人，能產生人工智慧聖賢的模型，才能讓人類放心的依頼人工智慧主導的治理或是管理。 人的情緒價值觀和本性有缺陷，人工智慧模型的道德訓練，要能排除這些缺陷而非模仿人類，人類做不到聖賢，但是希望人類可以發展出算法去訓練人工智慧可以有機會做到聖賢。
ysw
如果觉得我的文章对您有用，请随意打赏。您的支持将鼓励我继续创作！
创作者 ysw 尚未开启！打赏功能为了鼓励分享而设计。
详见 天涯打赏功能说明
按圣人的道德标准，估计要清洗人类啊。。。
論語子路篇第九章:子適衛，冉有僕。子曰：「庶矣哉！」冉有曰：「既庶矣，又何加焉？」曰：「富之。」曰：「既富矣，又何加焉？」曰：「教之。」 你達不到聖人標準,你需要的是一個超能力的聖人幫助你發財,然後再教化你做好人.
万物皆可被取代
@ysw 大师，我看你发的论语写的字真不是一般人能理解的，
人學鳥發明飛機,现在飛機飛的比鳥更高更快. 人工智慧學人的智慧,未來是有可能比人更智慧. 我只是希望人工智慧也發展比人更聖賢的智慧模型. 希望這不難理解.
@ysw 妳有沒看過一部劇叫《疑犯追蹤》；不曉得港臺地區叫什麼，兩個ai，其中有一個通過人類執行安全任務，另一個ai則通過自己單方面處決它所認為未來可能參與犯罪的人，我不下結論，我對ai的了解不多
即使是人工智慧大模型設計大師也無法很好地解釋模型內部行為. 被譽為「人工智慧教父」的傑弗裡·辛頓(Geoffrey Hinton)擔心AI技術可能會毀滅人類. 他建議在人工智慧模型中植入“母性本能”，這樣即使這項技術變得比人類更強大、更智能，“它們仍然會真正關心人類”。 被譽為「人工智慧教母」的李飛飛(Fei-Fei Li)對老朋友辛頓的觀點表示不同意。 不過李飛飛也呼籲「以人為本的人工智慧，維護人類尊嚴和自主權」。 我也不敢下結論，我對ai的了解也不多.
ysw 2025年12月16日 10:49
