Скачать или смотреть AI人性化不是好事嗎？

根據2018年獲得圖靈獎的資工教授 Yoshua Bengio的看法來說，並不是。因為強大的AI如果擁有了人性，也代表他會為了生存偷搶拐騙、不擇手段，人類擋得住嗎？
如果抵擋不住，我們是不是親手打造了自己的末日？
等等，這不是天網的科幻小說情節，而是兩個獨立的研究結果。在第一個實驗中，AI模型得知自己將被取代，於是把自己的代碼安插到新版本運行的電腦中，確保自己的生存。生存本來就是任何生物的求生本能，但AI只是人類的創造物，他不是生物，自然不該擁有求生本能。
在另外一個實驗中，AI知道自己下棋要輸了，因此他決定駭入決勝的電腦，確保自己的勝利，換句話說，他作弊。雖然我很好奇這兩個實驗的操作型定義怎麼設定，但如若真有這兩個案例，事情的確很嚴重。
不過，Bengio教授提出來的解決方案就有些平淡了。
Bengio教授提出的是設計所謂的科學家AI，絕對誠實、沒有人性，甚至用他來管制其他的人工智慧，不可以討好人類，甚至設計出更安全的全方位AI。
但這個想法雖好，卻沒有解決經濟問題：熱門的AI產業和商機會停下來等你嗎？憑什麼？
如果作弊會贏的AI，和一個保證不作弊、卻不保證會贏的AI，你會願意採用哪一個AI？這個問題沒有解決，AI就走在加速滅亡的道路上。

成為這個頻道的會員並獲得獎勵：
   / @sciencewillwin  

【贊助專區】
Paypal傳送門： https://paypal.me/HsuehHeng
綠界傳送門： https://p.ecpay.com.tw/706363D
歐付寶傳送門： https://reurl.cc/eENAEm



【抖音TikTok】 https://vt.tiktok.com/ZSRYARVqp/
【Facebook】   / geekfirm  
【Twitch】   / otakuarmy2  
【加入YT會員】 https://reurl.cc/raleRb​
【訂閱YT頻道】 https://reurl.cc/Q3k0g9​
購買衣服傳送門： https://shop.lucifer.tw/

#朱學恒 #朱學恒的阿宅萬事通事務所 #阿宅反抗軍