以前我也這麼認為，但現在深度學習的發展，我改變我的想法了。

現在深度學習AI可以學出人類想不到的圍棋走法。所以如果讓AI更深發展，實際上人類是無法預測機器會學出什麼東西的。

因為深度學習就是讓機器人摸索各種可能，找尋最佳解法，但問題是最佳解法不見得是最好解法。（這悠關於人類的各種道德或經驗規則）

例如你的小狗一直叫，你跟機器人說：讓他不要再吵了。

機器人可能找到最佳解法：把牠殺了就不會再吵了。

當然你可以事先設定各種規則，引導機器人避免各種不適合的行為，但這總會有漏洞的，一旦AI越複雜，漏洞越有可能發生。

事實上越高度的AI發展，人類能掌控的部份就越少。