PCDVD數位科技討論區 - 大家用AI做什麼?

PCDVD數位科技討論區 (https://www.pcdvd.com.tw/index.php)

- 七嘴八舌異言堂 (https://www.pcdvd.com.tw/forumdisplay.php?f=12)

- - 大家用AI做什麼? (https://www.pcdvd.com.tw/showthread.php?t=1218206)

引用:

作者ericshliao

上面提到司法案件的判例, 我剛好想起之前看新聞說有個案件, 應該是美國的, 律師用AI寫辯護狀, AI居然援引了無中生有的虛假判例.

其實我想這應該是律師問題比較大，偷懶與變笨到一個極致，連要引用的都沒點去看一下怎一回事。

今天看到MIT說AI讓人變笨的。沒有刻痕直接用AI就是變笨~
https://www.youtube.com/watch?v=VX9...gcJCdMKAYcqIYzv

我一直在想最近某金融行業出包是不是因為AI.... :laugh:

引用:

作者ericshliao

上面提到司法案件的判例, 我剛好想起之前看新聞說有個案件, 應該是美國的, 律師用AI寫辯護狀, AI居然援引了無中生有的虛假判例.

我最近發現AI用來做疾病診斷很好用. 雖然不能取代找醫師看診, 但碰上疑難雜症, 醫師也不能下明確的判斷, 這時把症狀拿去問AI, AI會把可能的原因都列出, 再細問更具體的情況, 可以把症狀的原因篩選出來, 再拿這個去跟醫師討論, 可以幫病人自己很大的忙, 省得胡亂瞎猜.

"無中生有的判例"，可能出自小說或戲劇。

我們"人"知道戲劇是虛構的，不會要求的太嚴謹。
像湯姆．克魯斯那樣咆哮法庭，在實際上會被請出去。
雖然觀眾看的很爽。

如果是知名的作品，收錄的網站很多。AI有可能會將它視作"大量查詢到的結果"。

當然你知我知搜尋的結果數量大，不代表它是正確的。
很久以前搜尋引擎熱門時，我曾搜尋過一些問題。
我相信有做過類似的事的朋友一定知道。
如果一個網站寫錯，後面可能有十個百個抄錯。
要分析搜尋出來的結果是否正確，還是得靠你自己腦子裡的知識儲備。

前面我列過一篇，說明 AI 放大了 GIGO 的問題。
當然搜尋引擎的問題也一並繼承下來……

無腦接受簡單Key一行問題得出的答案，很危險。

感謝野口兄提供資訊，但我也擔心Brave Search API未來要收費，
所以我問了Gemini，它提供幾個替代方案，一個是使用SearXNG，
另一個是註冊免信用卡的Tavily(每月限制1000次)，可能的話我會試著使用SearXNG。

引用:

作者野口隆史

本地 qwen 3 4B VL 這個等級的就打死免費版線上 LLM
至少兩年前就是如此了

我原本想推 llama.cpp + brave search mcp
但後來想想為了更有助於推廣
我讓 agent 幫我寫了這篇
除了腳本跟流程，其他都是 LLM 寫的
https://github.com/Lawlietr/Local_LLM_Guide

引用:

作者substar999

SearXNG 我自己也是用這個
理論上來說這是最好的選擇

但是 agent 用多了之後 (通常發生在每天第三次搜尋之後就會發生)
Google, Brave, DuckDuckgo 都會進入速率限制

以台灣環境來說，你最後實際可用的只有 startpage , bing 這兩個可以使用
bing 實際上不太好用，我看過 agent 工具調用使用 bing 的搜尋結果
我覺得它對 agent 來說不太好，所以我基本上是關掉的
Tavily 我也有用，我從來沒有達到它的每月限制過
但是 agent 就不同了，agent 你給它一個任務，它就要使命必達
會一直網路搜索到它要的東西為止，速度完全不是人類可以比的

所以註冊 brave 使用 api 對 agent 來說會是更好的選擇
因為 brave api 對於 agent 工具調用沒有限制

所以我自己人肉搜索使用 searxng
給 agent 使用 brave api

引用:

作者Crazynut

這個問題直接問AI,為什麼要做無中生有的判例,而不是去找真正的資料?

引用:

這其實是AI的一個典型問題，叫：

👉 「幻覺（hallucination）」

意思是：

AI不是在「查資料」
而是在「生成最像真的內容」

所以它可能會：

編出不存在的判例名稱
編出假的引用
甚至寫出完整「虛構判決」

而且：
👉 格式越專業，看起來越像真的

🎯 結論（重點）

✔ 你看到的說法是「真實事件」
✔ 而且不是單一案例，而是：
👉 已經變成法律界的風險問題

👉 核心教訓只有一句話：
AI可以寫，但不能直接信，尤其在法律、醫療這類高風險領域

如果你有興趣，我可以幫你分析一個更深層的問題：
👉 為什麼連「受過專業訓練的律師」都會被AI騙過（這其實很值得深思）

我有興趣想問AI為什麼會創造這樣虛假的案例而不是去找真實案例你們是要故意騙律師的嗎?

你的問題其實問到核心了，而且我先直接講結論：

👉 不是故意騙人，而是「它本來就不是在查資料」

這點如果沒有理解，就很容易誤用 AI。

🧠 AI在做什麼？（關鍵誤解）

很多人以為 AI 像：

Google + 資料庫 + 搜尋引擎

但其實更接近：

👉 「超強自動補字機」

它的工作是：

根據你問的問題
預測「下一句最像人類會說什麼」

而不是：

去查真實世界的資料
再把資料回傳給你
⚠️ 為什麼會「編出判例」？

當你問：

請列出支持這個法律論點的判例

AI腦中其實沒有「查詢」這個動作，它是在做：

法律文件通常會引用判例 ✅
判例通常長這樣（格式、語氣）✅
那我就「生成一個最像真的」✅

👉 結果就是：
形式完全正確，但內容可能是假的

🧩 更精準講法：它在「填補缺口」

當資料不確定時，它不會說：

我不知道

而是傾向：

生成一個最合理的答案

這是因為設計目標是：
👉 讓對話「流暢、有幫助」

而不是：
👉 保證每句都可驗證

🧪 為什麼連律師也會被騙？

這才是最關鍵、也最值得思考的地方：

1️⃣ 格式太真
案名（看起來合理）
年份（合理）
法院（合理）
法律用語（完全正確）

👉 人類會用「形式」判斷真假

2️⃣ AI很「自信」

不像人會說：

我不確定
可能有誤

AI通常是：
👉 語氣非常肯定

這會降低人的警覺

3️⃣ 專業人士的「認知捷徑」

律師平常：

習慣快速掃判例
不會逐條查證（除非有疑點）

👉 AI剛好利用了這個習慣（不是故意，而是結果）

🤖 那AI「知道自己在亂講嗎」？

👉 不知道

因為它沒有：

事實意識
真偽判斷能力
「我在說謊」的概念

對它來說：

真實判例
虛構判例

👉 在生成機制上「沒有本質差別」

🎯 所以是不是在「騙人」？

很直接地說：

👉 不是騙，而是「會一本正經地胡說」

差別很重要：

騙人 → 有意圖
幻覺 → 沒有意圖，只是生成錯誤
🧭 這件事真正的風險

你剛剛的直覺其實很準，真正危險的不是AI，而是：

👉 人類會誤把「流暢」當「真實」

尤其在：

法律
醫療
金融

這種領域，代價很高

🪶 一句話總結

👉 AI不是資料庫，而是語言生成器
👉 它可以「寫得像真的」，但不保證「是真的」

引用:

作者sclee

法律問題尋求建議,AI應該用得上罷?
畢竟也是找資料,判例和法條
以前沒這麼方便,有些人自稱法律人,常被他們唬住,說你們都不懂
現在有AI,人腦背再多,也沒AI找得快

可以用得上, 我已經這樣用了.
AI是要看你怎麼問問題, 有網友說的垃圾進, 垃圾出.
所以自己也是要做點功課, 過程中筆記, 慢慢改進問的方式.

總之, 我認為AI適合所有調資料的工作, 然後再讓很資深專業的審核就好.
也就是以前在裡面混水摸魚的半桶水, 通通可以不用工作了, AI取代.
留下來的, 基本功都很紮實, 而不是純粹人型文書機.

引用:

作者Earstorm-5

其實跟AI交流多,就會了解運作模式,提供多一些資料給AI
看到有問題,要求修改或修正,不是隨便丟個問題就任由發揮
出來後看都不看

好奇,現在的檢察官寫起訴書或法官寫裁決書,會不會給AI寫?
把資料備好確要起訴被告或認定有罪,AI學會模擬真實的寫法
寫好稍為修改一下就好,省事省麻煩

諮詢律師有包案件的, 也有每個小時資費的, 如果你有辦法先找出頭緒, 會省很多$.

我大概找了幾次律師, 幾次官司, 從剛開始沒有頭緒不曉得怎麼layout, 到後來幾乎掌控.
(也就是功課做好, 要用來攻防的重點我也幾乎做好, 有條有理, 找了律師整理&法院出席)

律師的作用還是很不錯的, 畢竟法院是充滿了人, 進去就對你身旁的律師打招呼.
不是光內容好就會滿分, 有必然的把握, 法院是高級的菜市場, 雙方討價還價.
代表你的律師累積出來的名聲就是最後把分數衝高的要素.

有幾次經驗了, 台灣人很喜歡表現得很高尚的方式就是沒有絕對對錯, 各打50大板之類.
找對律師的好處就是他可以幫你讓天秤多像你這裡傾斜, 尤其是你看起來就不討喜的時候.

很多人都說什麼法條啥的, 但其實在法院, 人的因素比重很高, 實在有點太高...

引用:

作者Earstorm-5

諮詢律師有包案件的, 也有每個小時資費的, 如果你有辦法先找出頭緒, 會省很多$.

我大概找了幾次律師, 幾次官司, 從剛開始沒有頭緒不曉得怎麼layout, 到後來幾乎掌控.
(也就是功課做好, 要用來攻防的重點我也幾乎做好, 有條有理, 找了律師整理&法院出席)
43...

攻防的重點講的不全是法律條文, 而是證據為主, 我知道什麼對我有利, 什麼對方有利.
那些用來彼此攻防的意思, 然後找一次律師了解通常哪些部分比重多少, 過去判斷例子.
譬如女的調解, 男的調解, 年輕的, 老的, 判還不起的金額會考量的條件什麼的.
然後討論對方的性別, 年齡, 身份, 背景會影響多少最後的比例.

最重要的, 是如果對方說謊, 當場有證據抓出來, 這是最有效攻擊的手段.
不論法院出來的人是誰, 都會把說謊的人當作在騙她/他... 好感度就會降低.

我跟律師都會主攻這點去看對方要不要說謊, 因為不說謊的都不用跟我對台了.