搜尋結果
2024年2月1日 · Transformer模型概述. Transformer的工作原理. Transformer在自然語言處理中的應用. 對AI發展的影響. 在人工智慧領域，Transformer模型自2017年由Google的研究者介紹以來，已成為最具影響力的創新之一。 它不僅改變了自然語言處理（NLP）的面貌，還對整個AI技術的發展產生了重大影響。 本文將深入探討Transformer的基本原理、結構特點以及它如何推動AI技術的突破。 Transformer模型概述. Transformer模型是基於自注意力機制（self-attention mechanism）的一種架構，它能夠在處理序列數據時，同時考慮序列中的所有元素，這種全局視角使得Transformer在多個領域特別有效。
2024年2月26日 · 在我 前一篇分享 OpenAI 研究員 Andrej Karpathy 介紹 LLMs 的文章 曾介紹到，通常 LLMs 的訓練會經過兩個階段：產出基本模型（base model）、曠日廢時且需要投入大量資源的「預訓練」階段，以及後續頻繁進行的「模型微調（fine-tuning）」階段。 在上述的訓練過程中，若希望 LLMs 理解特定領域的知識，就得從模型微調的階段下手，將特定領域的專業知識輸入基本模型進行訓練。 但模型的微調不僅得仰賴硬體的運算，且無法很快地將公司或組織的新資料納入模型之中，這都會對客製化 LLMs 的落地應用形成限制。 而 RAG 就能夠突破上述的限制。 RAG 概念是由自然語言處理科學家 Patrick Lewis 等學者在 2020 年發表的論文 2 中所提出。
2024年3月7日 · 一、資料清理. 二、如何切割文本. 三、如何搜尋. 四、LLM 生成品質. 快速掌握 LLM 應用全局觀. 有了「長上下文 LLM」（Long-Context LLM），還需要 RAG 嗎？ RAG（Retrieval-Augmented Generation，檢索增強生成）無疑是當今開發大型語言模型（LLM）產品時，不可或缺的技術。 由於可以確保 LLM 生成的真實性，在企業 AI 應用與搜尋場景相當受到重視。 為此，我也試著實作一個簡單的 RAG 應用。 多年累積下來，我的 Apple Notes 已經有 7000 多則筆記，搜尋愈來愈不準確，常在寫新筆記時想參考舊筆記，卻怎麼也找不到。
2023年11月8日 · LangChain的特點. 易於使用 ：LangChain提供了一系列API，讓開發者可以快速啟動和運行LLM，而無需深入了解模型的內部運作機制。 高度靈活 ：透過配置和擴展機制，開發者可以根據需要自定義LangChain的行為，使其適應不同的應用場景。 生態系統整合 ：LangChain旨在與現有的AI工具和框架無縫集成，支持多種LLM和第三方服務，從而促進生態系統的互操作性。 LangChain的應用場景. 自動文本生成 ：利用LLM生成文章、報告或其他文本內容。 智能問答系統 ：構建基於LLM的問答系統，提供精確的答案和解釋。 語言理解和分析 ：使用LLM進行語言分析，從文本中提取有用的見解和信息。 個性化推薦 ：根據用戶的互動和偏好，利用LLM生成個性化的內容和推薦。
2024年1月29日 · 你為什麼學程式？ 問為什麼超重要！ 如何知道學會了？ 用用看就知道！ 沒經驗如何證明有能力？ 從作品集和部落格開始. 怎麼學完？ 其實持續學更重要！ 如何持續學？ 拆解目標、階段完成、要開心. 一直撞牆怎麼辦？ 用成長心態面對. 為什麼要找人一起學？ 因為能幫自己突破盲點. 免費點我下載數據技能路線指南. 自學程式正夯，但你一定也遇過這些問題：怎麼知道學會了？ 學了真的就可以找到工作嗎？ 怎麼持續學？ 一直撞牆怎麼辦？ 這次職涯相談室請來兩位教學經驗豐富的程式開發前輩 Jack 和維元，帶大家從「自學程式的 7 個 FAQ」，來一一破解你的迷思和誤區，幫你修成正果。 你 為什麼學程式？ 問為什麼超重要！ 你問過自己為什麼要學程式嗎？ 是想要有個帶得走的能力、想加值職能、想轉職、想賺更多錢？
2024年3月25日 · ALPHA Camp 在社群帶學生做作品集，幫助新手從「一個想要解決的生活問題」出發，開始做作品集。 學生怎麼只應用課程所學，就做出了好玩專案？ 學習教練，又給大家哪些作品題目與靈感的建議呢？ 做 Side Project，為了求職面試，也建立 動手做習慣. 在學習總教練 Victor 大力推動下，AC 社群掀起大家都來做 Side Project 的熱潮。 但等等，Side Project 不是求職面試時要用的作品集嗎？ 有那麼容易？ 學到一半的人，也可以做嗎？ 其實，就像 Victor 鼓勵大家的那句話：新手就要開始做 Side Project！ 廣義來說，Side Project 是指用個人時間進行的專案。
2023年11月28日 · Watch on. . 深度學習 Deep Learning 是機器學習的分支，大多數的深度學習模型是基於多層神經網絡 Neural Network 模擬人腦的工作方式，演算法在數據中自行在每層挑選哪些特定的特徵是相關再進行分析，隨著數據量越大，深度學習能夠每次對其結果進行改進。 . 在從事機器學習時，一開始會從收集數據並清理整合的準備開始，接著將數據轉換成可以餵給模型的格式，並萃取出有意義的特徵，接著選擇適合你預期目標的模型後開始訓練。 並用一些指標來評估模型並作參數的調整，接著Input更多的數據來測試模型，然後作出Output預測。 深度學習是機器學習的子集，機器學習是透過工程師在訓練數據的input與output給予一定程度的指導，讓機器從累積的訓練數據中學習後得出最佳解。
