搜尋結果
2024年2月26日 · RAG 概念是由自然語言處理科學家 Patrick Lewis 等學者在 2020 年發表的論文 2 中所提出。 這項技術簡而言之，就是在向 LLMs 提供用戶的提示詞（prompt）之前，會先從外部的資料庫「檢索」相關資料，再將這些相關資料連同原本的提示詞提供給 LLMs 參考並「生成」回覆。 IBM 的語言技術總監 Luis Lastras 用開書考試（open-book）跟闔書考試來類比 RAG 跟模型微調的差異：「使用 RAG 系統時，你是要求模型去檢索書的內容（資料庫），而不是光依憑（模型微調）的記憶來回答問題。 」 3. 而 RAG 所使用並非傳統的資料庫，而是所謂的向量資料庫（vector database）。
2024年3月22日 · RAG比我原本想的還有趣. 在上工作坊之前，早就知道建立RAG大概會經歷哪些環節，心想不就是「先拆解文件，接著取得每個文件區塊的embeddings並放入向量資料庫，再來進行相似性搜尋相關文件區塊，最後根據相關文件進行生成」嗎？ 上完工作坊後才發現RAG其實是個相當精細的LLM應用，比我想像得還要有趣許多。 根據 LangChain ，RAG可以分為五個環節： Deconstructing the RAG stack（擷自 X ） 每個環節都有很大的發揮空間可以提升成效。 舉例來說，使用者提出的查詢並不一定適合作為資訊檢索用途。
2024年3月7日 · 一、資料清理. 二、如何切割文本. 三、如何搜尋. 四、LLM 生成品質. 快速掌握 LLM 應用全局觀. 有了「長上下文 LLM」（Long-Context LLM），還需要 RAG 嗎？ RAG（Retrieval-Augmented Generation，檢索增強生成）無疑是當今開發大型語言模型（LLM）產品時，不可或缺的技術。 由於可以確保 LLM 生成的真實性，在企業 AI 應用與搜尋場景相當受到重視。 為此，我也試著實作一個簡單的 RAG 應用。 多年累積下來，我的 Apple Notes 已經有 7000 多則筆記，搜尋愈來愈不準確，常在寫新筆記時想參考舊筆記，卻怎麼也找不到。
- Orid 是什麼？討論的思維框架
- 選擇關注點：第一步就是最後一步
- 關注你的位移
- 為什麼要使用 A → B 結構？
- 狀態負面時去休息；狀態正面時做 Reflection
- 小結
- Reference
ORID 是為了主持討論，讓參與者聚焦的一種結構，和上述講的 reflection 並沒有歷史淵源，不過 reflection 是自己和自己對話，和別人對話很容易發散，和自己對話更容易發散，因此 ORID 用於 reflection 可謂十分稱手的框架。 ORID 是個在國際上被廣泛使用的焦點式提問法，透過四個層次的提問，能夠幫助使用者更結構性地思考與回應問題。以下為ORID的四層提問： 1. OBJECTIVE：具體的事實，做了哪些事情、看到與觀察哪些事情 2. REFLECTIVE：感受與反應，在當下直接的感受、反應與印象深刻的地方 3. INTERPRETIVE：事後詮釋與分析，試著解釋與分析事實與自己的感受 4. DECISIONAL：訂定目標與下一步，找出下一步可應用、執行與改善的...
「回顧」的起手式，也就是 ORID 裡的 Objective，這一段的提問法門是「你看見什麼」或「發生了什麼事」。 我個人認為，回答這個問題是一個大學問，玄妙程度幾乎和打禪機差不多。 你的視角受限於你的狀態、你的目的，甚至你的格局。到底是你很有自覺地選擇了你的關注點，還是某件雞毛蒜皮的事情綁架了你的注意力？ 在我剛開始嘗試建立 reflection 習慣時，我常常會選擇一些「自己做不好的事情」當成回顧主題，然後硬是用一種虛假的正面態度，寫出一套「愈挫愈勇」的發憤圖強文，結果是我從來沒有去踏實執行我在最後一步為自己設定的偉大 next step。 極高比例的人，在選擇關注點時，會關注自己做不好的事情，或者關注自己和別人的比較。偶爾關注一下自己的負面心態，進行「反省」是 OK 的，但不要太習慣如...
為了避免自己的注意力被拉走，我建議大家在建立 reflection 習慣時，刻意選擇有「位移」的事情來關注，也就是任何在你身上發生，從 A 狀態變成 B 狀態的事情。 別忘了「學習」的目的就是讓自己成長，知道原本不知道的事，做到原本不會做的事，發生在自己身上的任何成長，只要有 A → B 的結構，都值得我們慶祝。 講 A → B 可能略顯空洞，下圖列出一些例子： 之前提過學習其實有 outside-in 和 inside-out 兩個方向的作用力，因此這裡建議把關注點區分成兩大類別，外在專業的位移，或者內在狀態的位移。看看當下對哪個方向有感覺都可以，只是略為注意一下比例平衡，向外或向內的 reflection 都應該要不定期發生。 至於細目我這邊舉出幾個例子，只是示意給你看，一開始的時候可以...
刻意選擇 Growth mindset 視角
使用 A → B 結構來收斂你的關注點，第一個實用目的是防守自己的注意力被一些偏向 fixed mindset 的焦點拉走，起手式一開始就要落在 growth mindset 的範疇，這樣才會有效。
培養你的後設認知
另外，從「學習如何學習」的角度，你其實需要刻意去研究新態度、新觀念、新行為到底是怎麼在你自己身上發芽的。 說到底，只有自己親自掌握自己的學習模式，你的學習成效才會迎來飛躍式的進展。雖然你的學習教練/老師可能擁有比你更高的專業度去診斷學習問題，但教練/老師只能與你共享某一小段的時光，最終你需要成為你自己的教練。 因此，能夠倒退一步，把發生在自己身上的學習旅程當成客體來觀察，其實是蠻重要的技能。 而刻意關注 A → B 如何發生在自己身上，會讓你可以持續地累積對自己學習模式的洞察。
不要浪費有效經驗
最後最實在的一點，是前文提到，「做中學」為什麼強調 reflection，因為做中學裡面有太多的 try-and-error，有時候你的結果根本是誤打誤撞試出來的。 這些靠運氣、靠嘗試逼出來的「結果」（也就是 A → B 結構中的 B 狀態），如果沒有徹底掌握「究竟是怎麼發生的」，你可能根本就不再有第二次重現結果的機會。 你必須順藤摸瓜，從 B 狀態倒推回去，像偵探一樣往 A 方向探索，找出過程中的驅動要素，好好把事情發生經過描述清楚，然後辨證自己是否能重現這些有效的驅動要素。如此一來這個專業技能才是真正掌握到你的手裡。 不關注結果怎麼跑出來的，卻跑去關注別人的結果比自己好，這不是徹底的浪費嗎？
會建議大家刻意運用 A → B 結構來收斂關注點，很大的原因是，我們見證到太多的學習者努力地做 reflection，以為這就是「認真」，但事實上他們的關注點卻被 fixed mindset 拉走。 我覺得 A → B 是一個蠻簡單的訣竅，可以快速抓出有助於把你扳回 growth mindset 的方向。 事實上，要防止 fixed mindset 跑出來，還有一個是做 reflection 的時機。我建議大家要養成在「狀態好的時候做 reflection」的習慣，如果你今天完成了一個挑戰很有成效感，或者你今天忽然有個澎湃覺得自己堅持好久好偉大，或者你今天得到了一個稱讚覺得飄飄然，這是你做 reflection 的最佳時機，這個時候最容易抓到 A → B 結構。 練習在這種時候做 refle...
這篇文章介紹的是在做 reflection 的起手式，選擇關注點的「入門訣竅」。 在持續練習一段時間之後，你會開始對 growth mindset 的狀態有更高的自覺，到了那個階段以後，你可以自由選擇任何為你帶來成長的經驗進行 reflection。
2024年2月20日 · 資料科學家發現與解決問題的四步驟： 溝通需求與目標. 拆解問題，不斷假設驗證. 建立模型. 模型迭代與優化. 以下分別說明各步驟內容。 步驟一：溝通需求與目標. 當別人提出需求時，很重要的一點是「先問他到底為什麼要做？ 溝通很重要，如果不了解背後動機，時間花了做出來對方不滿意，那就是兩敗俱傷。 所以要先溝通需求，釐清原本的問題是什麼。 如果公司要做 Chatbot，有兩個可能性： 客服團隊成本太高，那麼 Chatbot 要解決的問題是降低成本. 客服團隊的客服品質不好，那麼 Chatbot 要解決的問題是能提升品質. 釐清需求後，要再了解對方的團隊是否有以前的資料可以用，如果沒有，就要從蒐集資料開始。 步驟二：拆解問題，不斷假設驗證. 確定有資料後，接下來開始分析，根據目標提出假設。
2024年3月29日 · 發佈日期: 2022 年 4 月 19 日 作者: ALPHA Camp. 內容目錄. 自己：找到擅長的優勢，用成長思維前進. 職能：找到喜歡的角色，培養技能與軟實力. 免費點我下載完整數據分析案例. 產業：找到認同的價值，去解決問題，貢獻價值. 職涯規劃的步驟. 面試被問到未來職涯規劃該如何回答. 1. 展現你的熱情和動力. 2. 具體的短期和長期目標. 3. 展示學習和適應的能力. 4. 與公司目標的契合度. 5. 彈性和開放性. 不同年紀的職涯規劃考量點. 20多歲：探索和基礎建設. 30多歲：專業鞏固和職業成長. 40多歲：高峰和轉型. 職涯規劃 Q&A. 公司都要找即戰力，但有全職工作如何能培養轉職實戰經驗？ 30 歲轉職可行嗎？ 該怎麼做？ 該持續跳槽？ 還是在一家公司待很久？
2023年11月6日 · 1. 明確您的學習目標. 2. 設定學習時間表. 3. 選擇學習資源. 4. 實際動手練習. 5. 持續追蹤和評估進度. 6. 加入社群和尋求支持. 7. 保持耐心和積極態度. 有哪些學寫程式可利用的資源和工具. 教學網站和指南. 程式碼編輯器和開發工具. 線上程式練習平台. 實作練習的重要性. 加入社群和討論區. 程式設計持續學習與進步. 如何持續學？ 拆解目標、階段完成、要開心. 為什麼要學寫程式. 隨著科技演進，越來越多產業開始數位轉型。 所以除了軟體工程師之外，數位產業裡的其他職能角色（如 PM、行銷、設計師…等等）若能培養程式專長，也能進一步提升工作效率，增加個人能力獨特性，進而開創更好的職涯。 掌握基本的程式能力，你將能夠建立. 1. 與科技團隊溝通的能力。 2.
