我舉個兩個例子來看看

我以前公司主管聊天說到,他以前是在某軍用系統商做事,
有次軍演(此事蠻大條的 有上新聞),
海軍誤射拖靶機,一開始海軍把責任歸咎在他公司,
認為是安全鎖故障,後來他們跟海軍人員上艦測試,
明明就是正常,安全鎖沒解開,飛彈按鈕怎麼按就是沒反應,
後來海軍才承認是自己問題

去年美國新聞,美國軍方想研究AI武器,但是美國軍火商卻異常反對,
知道什麼理由嗎?
以往武器誤傷友軍,是軍方(操作者是軍方的人)的錯!
AI武器誤傷友軍,是武器商(操作者是武器商製的AI)的錯!

簡單說要扛責任的!
你確定駕駛者願意去扛AI出問題所造成的事故負責人嗎?