PCDVD數位科技討論區

PCDVD數位科技討論區 (https://www.pcdvd.com.tw/index.php)
-   七嘴八舌異言堂 (https://www.pcdvd.com.tw/forumdisplay.php?f=12)
-   -   AI 威脅無稽之談,德國研究:AI 不具複雜推理能力 (https://www.pcdvd.com.tw/showthread.php?t=1210474)

rainwens 2024-10-16 02:37 PM

引用:
作者野口隆史
你說的這個就是多專家模型啊
概念跟實作去年其實就有了
https://mistral.ai/news/mixtral-8x22b/

我現在都用 8x7B 幫我做近期指定類型新聞或期刊報告總結
例如最近一星期發生的資安事件,自動追蹤並製作流程
幾乎可以取代我用了二十幾年的 rss 了

就算不是複合模型
現在 RAG 用的也是不同任務可以選擇調用不同模型
如果你用 8x7B 就可以只用這一個大模型

原來如此,受教了
請問現在給大家免費用的GPT、Gemini、Copilot能調用RAG嗎?

NT-MAN 2024-10-16 03:15 PM

我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版! :ase

hillhsu 2024-10-16 04:04 PM

引用:
作者NT-MAN
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版! :ase


免連線,你要去那運算????

:flash: :flash: :flash:

野口隆史 2024-10-16 04:08 PM

引用:
作者rainwens
原來如此,受教了
請問現在給大家免費用的GPT、Gemini、Copilot能調用RAG嗎?

ChatGPT, Copilot, Claude 有很簡單的 RAG

如果你要使用線上免費可以使用 perplexity
https://www.perplexity.ai
每天免費提供五次全功能的 copilot(RAG)

開源替代可以使用 Perplexica
https://github.com/ItzCrazyKns/Perp...le#installation

你只要把預設的搜索引擎改成 together ai
https://www.together.ai
跑出來的效果不會比 perplexity 差

要更進階可以使用 kotaemon
https://github.com/Cinnamon/kotaemon

我自己平常使用 Open-Web UI + Ollama
https://github.com/open-webui/open-webui
https://github.com/ollama/ollama
搭配 together 做新聞與相關資料的彙整


引用:
作者NT-MAN
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版! :ase

這個一直都有
兩年前我就看過有人在賣提示詞跟 LoRA 模型了
剛搜尋一下找的
betterwaifu.com/blog/loras
我沒細看,你有興趣就花點時間研究吧

NT-MAN 2024-10-16 06:07 PM

引用:
作者hillhsu
免連線,你要去那運算????

:flash: :flash: :flash:

應該以後會有單機跑得動的軟體,顯卡買好一點的拚看看! 少量生成應該還是可以的 :laugh: (連線只適合用在普通的圖像! 18X的還是有隱私比較好!)

引用:
作者野口隆史
這個一直都有
兩年前我就看過有人在賣提示詞跟 LoRA 模型了
剛搜尋一下找的
betterwaifu.com/blog/loras
我沒細看,你有興趣就花點時間研究吧

好像有看過!

hendry2002 2024-10-16 07:38 PM

前陣子新竹的某EDA TOOL大拜拜

群聯董座潘建成與會時就有再推自家LLM模型組機

大概幾百萬一台

可以放在家裡或公司來玩

:laugh: :laugh: :laugh: :laugh:

u8526425 2024-10-17 07:52 AM

目前的擬人AI
大概是這種程度
不過真沒想到科幻片的情節竟有可能在有生之年成真(獨立AI機器人.星際旅遊.飛空車...)
特斯拉發表會展示Optimus機器人功能 是由人從遠端協助

超軼絕塵 2024-10-17 08:42 AM

引用:
作者NT-MAN
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版! :ase

本地部署不限制18+內容生成早就有還一堆426在賣整合好的
連生成影片都有
但問題是你先要有最頂的CPU+GPU
這類圖像跟影片生成是兩個都吃的
很多人弄個兩分鐘的就黑屏了
嚴格來說看解析度跟楨率~整個影片大於萬張圖都有風險
我跑生成影片時看即便都水冷
CPU跟GPU還是上看90度
看你心臟多大顆敢這樣跑多久吧

野口隆史 2024-10-17 10:11 AM

引用:
作者u8526425
目前的擬人AI
大概是這種程度
不過真沒想到科幻片的情節竟有可能在有生之年成真(獨立AI機器人.星際旅遊.飛空車...)
特斯拉發表會展示Optimus機器人功能 是由人從遠端協助 (https://udn.com/news/story/6811/8292114)

這新聞寫錯了
這新聞當初是美國媒體引一段畫面
就是工程人員穿戴動作捕抓設備來操控機械人身體
但這影片是特斯拉自己放出來介紹他們是怎麼訓練機器人怎麼像人一樣動作的

特斯拉 AI DAY 當初最早宣布 Optimus 的時候
根本沒有機器人,是由真人 cosplay 扮演的
當初還被笑說研發智能機器人根本是癡人夢話
結果第二年開始 Optimus 出來後
就沒有人笑得出來了
還讓波士頓動力進入大改革

野口隆史 2024-10-17 12:52 PM

nvidia 今天對 LLM 做出了巨大貢獻
LLM 現在會數數了
https://huggingface.co/nvidia/Llama...70B-Instruct-HF


所有的時間均為GMT +8。 現在的時間是03:26 PM.

vBulletin Version 3.0.1
powered_by_vbulletin 2025。