PCDVD數位科技討論區
PCDVD數位科技討論區   註冊 常見問題 標記討論區為已讀

回到   PCDVD數位科技討論區 > 其他群組 > 七嘴八舌異言堂
帳戶
密碼
 

  回應
 
主題工具
Fly Pig
Silent Member
 

加入日期: Oct 2017
文章: 2
這個案例
我覺得AI的錯誤不算過份

引用:
作者samwu995
Openai說:問AI問食物跟法律都需要專業評估以免出包。

在AI發展快速的時代,多數人遇到任何問題,先問的不是老師、醫師或專家,而是直接開啟手機的AI App,請它們解決各種疑難雜症。不過,日本卻有一名70歲老翁,因聽信AI,竟誤食毒菇,險些喪命。

據日媒《MBS每日放送》報導,老翁3日到奈良縣北山村的山區採菇,當時發現幾朵外型酷似「秀珍菇」或「香菇」的野生菇類。

他原本想先詢問植物園或專家確認是否能夠食用,但當天卻未能聯繫上,決定自行利用AI辨識功能,將菇菇拍照上傳,最後得到「應為香菇或秀珍菇,可食用」的回覆後,便安心烤來吃。沒想到過了半小時,老翁開始狂吐不止,趕緊就醫治療。剩餘菇體也被和歌山縣立自然博物館與和歌山市衛生研究所帶回檢驗,發現竟是含有劇毒的「日本臍菇」(月夜茸),即使加熱也無法去除毒性

專家指出,日本臍菇外觀與香菇、秀珍菇極為相似,菌褶根部...
     
      
舊 2025-11-25, 08:34 AM #51
回應時引用此文章
Fly Pig離線中  
blair
Elite Member
 
blair的大頭照
 

加入日期: Jun 2001
您的住址: 地球
文章: 6,234
引用:
作者tbsky
公司的 chatgpt 和 gemini 都有使用付費版。胡說八道隨意解釋就算了,我覺得更可怕的是 AI 有時還會自我造典。

有次問了一個 samba 軟體的細節,AI 為了強化它自己的解釋,引用了一段 man document 給我看,然後說 source code 什麼什麼地方有。但是實際上我完全找不到 AI 說的東西,最後才發現竟然連它引用的文件都是它用 man 格式自己捏造的。

生成式AI會出問題幾乎都是類似用法。
因為生成式AI目前的評分方式是有生成比說不知道好
所以目前的AI會積極「生成」
把AI當成助手比較沒問題
 
__________________
~愛由一個笑容開始,用一個吻來成長,用一滴眼淚來結束。
當你出生時你一個人在哭,而所有在旁的在笑,因此請活出你的生命,
當你死的時候,圍繞你的人在哭而你便是唯一在笑。~
舊 2025-11-25, 08:53 AM #52
回應時引用此文章
blair離線中  
hendry2002
Major Member
 
hendry2002的大頭照
 

加入日期: Jan 2008
您的住址: 銀河系
文章: 168
引用:
作者tbsky
公司的 chatgpt 和 gemini 都有使用付費版。胡說八道隨意解釋就算了,我覺得更可怕的是 AI 有時還會自我造典。

有次問了一個 samba 軟體的細節,AI 為了強化它自己的解釋,引用了一段 man document 給我看,然後說 source code 什麼什麼地方有。但是實際上我完全找不到 AI 說的東西,最後才發現竟然連它引用的文件都是它用 man 格式自己捏造的。


很正常 之前問過Chatgpt 有關EDA tool的使用問題

結果居然幫我捏造了不存在的cadence的指令

問了他兩次 他才認錯

所以用chatgpt 要再使用google檢查一下

__________________
我的封鎖名單:
cjan
Kentnet
rcack
冰的啦魔王大人
沒問題
舊 2025-11-25, 09:10 AM #53
回應時引用此文章
hendry2002離線中  
HHeLiBeBCNOFNe
Power Member
 

加入日期: Oct 2017
文章: 524
AI只能做為參考,
身為人,要判斷AI給的資料是否正確,
才能引用AI給的資料來應用,
不然任何一套AI都有相對應的免責條款,
如果人傻傻的對AI給的資料照單全收,
屆時發生民事、刑事案件,
你就會知道了...
舊 2025-11-25, 04:22 PM #54
回應時引用此文章
HHeLiBeBCNOFNe離線中  
rainwens
Advance Member
 

加入日期: Jan 2013
文章: 419
引用:
作者blair
同樣一個產業調查
GPT付費版跟免費版的回答完全不一樣
而且我用各家免費版去查,回覆竟然都類似。

會是免費版使用精簡模型的緣故嗎?思考的比較淺
舊 2025-11-25, 04:52 PM #55
回應時引用此文章
rainwens離線中  
blair
Elite Member
 
blair的大頭照
 

加入日期: Jun 2001
您的住址: 地球
文章: 6,234
引用:
作者rainwens
會是免費版使用精簡模型的緣故嗎?思考的比較淺

付費的思考模型按下去不會馬上出來,回答時間也不一定
免錢的一按下去馬上開始回答
當然就是思考深淺差異
而胡說八道無中生有是越淺的越容易發生
__________________
~愛由一個笑容開始,用一個吻來成長,用一滴眼淚來結束。
當你出生時你一個人在哭,而所有在旁的在笑,因此請活出你的生命,
當你死的時候,圍繞你的人在哭而你便是唯一在笑。~
舊 2025-11-25, 05:23 PM #56
回應時引用此文章
blair離線中  


    回應


POPIN
主題工具

發表文章規則
不可以發起新主題
不可以回應主題
不可以上傳附加檔案
不可以編輯您的文章

vB 代碼打開
[IMG]代碼打開
HTML代碼關閉



所有的時間均為GMT +8。 現在的時間是06:26 AM.


vBulletin Version 3.0.1
powered_by_vbulletin 2025。