搜尋結果
2024年1月17日 · Andrej Karpathy 是 2011 年開始在史丹佛大學攻讀資工博士時，就投入自然語言與電腦視覺等各種深度學習模型的研究，師承人工智慧專家李飛飛。 2015 年 OpenAI 創立時，他也是 OpenAI 創辦時的團隊成員之一，後來在 2017 年加入特斯拉（Tesla）擔任人工智慧的資深總監，負責領導電腦視覺團隊，也就是自動輔助駕駛（Autopilot）這項著名功能的核心。 他在 2023 年重返 OpenAI。 除了研究之外，他也相當熱衷於人工智慧的知識推廣，不僅在史丹佛大學開設首堂深度學習的課程，也在 YouTube 上傳講解影片。
2024年3月7日 · RAG 是什麼？ RAG 的優勢. Apple Notes + RAG 的實作流程. RAG 產品化的挑戰. 一、資料清理. 二、如何切割文本. 三、如何搜尋. 四、LLM 生成品質. 快速掌握 LLM 應用全局觀. 有了「長上下文 LLM」（Long-Context LLM），還需要 RAG 嗎？ RAG（Retrieval-Augmented Generation，檢索增強生成）無疑是當今開發大型語言模型（LLM）產品時，不可或缺的技術。 由於可以確保 LLM 生成的真實性，在企業 AI 應用與搜尋場景相當受到重視。 為此，我也試著實作一個簡單的 RAG 應用。
- 學習社群裡的不同關係
- 同儕互學的情境
- 主動分享學習心得
- 小結
你學習的領域決定了你有哪些學習社群可以挑選，所以社群這件事主要就是看你要不要跳進去，把自己看做是社群的一份子，關注社群的訊息，主動傳播社群文化，進一步成為貢獻者等等。 從「學習成效」的角度切入，社群其實可以給予你超越「交朋友」以外的價值。 當你認同自己屬於某個社群時，你在某種程度上接受了社群文化/思維模式對你的影響，這讓你更容易掌握到「重點何在」，你會更容易吸收到「表面知識」以外的深層內涵。 簡言之，社群可以提供給你某種沉浸式學習的效果。 這邊是單就「學習成效」來討論，參與社群的好處還有很多，包括交朋友、獲取最前沿的知識、找到可觀摩的榜樣等等。 無論打算在「社群活動」上花費多少時間，當你開始學習某件事情以後，建議你瞭解一下該領域的相關社群，並且將自己視為某些社群的一份子。
緣起：你看到水準不同的作品
在一個學習群組裡，個人之間會有才智與能力的落差，但整體而言，背景知識和經驗值沒有真的差得很多。在這種水平相似的前提下，若讓全部人去做同一份練習，導致成果落差的變因通常是： 1. 優化次數：技術純熟度在優化的過程中提升了，因此在最終成果裡展現出更好的品質 2. 關注點/施力角度：願意針對某件事情進行優化，以及採用的手法 假設大家都在寫同一份程式作業，在優化時，有些同學會追求使用更新更簡潔的語法，有些同學喜歡把邏輯流程設計得很漂亮，有些同學喜歡鑽研變數命名⋯⋯ 針對他們在乎的事情，經過幾輪優化以後，最後就會在那個特定點上，展示出不同的水準。 我們無法直接看出別人優化了幾次，但我們可以看出那個「水準不同」的點在哪裡。 通常一個學習契點是這樣發生的： 1. 你看到了一份水準不同的作品 2. 你自問，為什麼我做不出同樣的水準，難道他看到了什麼我沒看到的事情嗎？ 無論是用什麼心情問出這個問題，一個同儕互學的回合就這樣開始了。
如何有效觀摩？
大多數同學了解「觀摩」的重要性，但卻很難用正確的心態去執行，我們注意到，有非常多的學習者會在觀摩其他同學繳交的作業以後，會助長自己「比不上別人」的念頭。 觀摩真正的用意是找出「行為模式」和「觀看方式」的差異，從而擴大自己的視角。已經找到長效動力的人，他的行為模式和觀看方式，和混混噩噩的初心者有極為顯著的差異，如果只看「結果」而不去看「門道」，非常容易導致挫折感的緊速累加。 同樣是「觀摩」，有些人愈看愈挫折，有些人可以保有 growth mindset 的狀態。 許多同學在觀摩作業時，只看「結果」，不問「過程」，以至於看不出門道，所以最後無法產生「學習心得」。也就是說，在這回合的 learning cycle 裡，你從同學厲害作業獲得的 input 太少。 若能成功產生「學習心得」，即使過程中有些技不如人的挫折感，相比於發現的喜悅，前面的小挫折也不是太重要。 在進行觀摩時，建議可以把注意力放在以下焦點：
焦點 1：什麼是好作品？找出花費工夫最有價值的地方。
先問一個問題，你是怎麼找到這些水準不同的作品的？ 你真的是去打開每一份作業細細品味，地毯式調查之後才排序出最厲害、最值得觀摩的作業嗎？ 還是你直接打開了評價最好的作業？甚至，你是否先閱讀了作業底下的評論，先看看別人稱讚了什麼，才看出這份作業的「門道」？ 無論這些作業平台的排序機制是什麼，其實這些送到我們眼前的作業，大多通過某種程度的篩選，他們刻意施力的點，是大部分人認為值得施力的點，因此他們拿到了更好的評價。 換言之，這個群體的價值邏輯究竟是什麼？大家在看成果時，究竟都關注什麼？哪些事情很常被提到？以後你要不要也把你的力氣花在類似的地方？
前面講的都是觀摩，也建議你主動分享自己的學習心得。 既然觀摩時建議你把力氣花在別人的關注點上，分享時也建議你優先分享類似的內容，例如： 1. 我發現某件事情很重要，因為我看到⋯⋯ 2. 我注意到把力氣花在某件事上特別有 CP 值，因為我看到⋯⋯ 從這些關注點開始，帶出你想分享的技術內涵。 一方面是在刻意練習你的思維模式，練習看事情的源頭、門道、竅門，而不要只看結果。另一方面，是為你的同儕社群引發好的分享文化，讓未來的同儕互學變得愈來愈有 CP 值。
相比於向大師學習，你反而特別能夠從你同儕身上意識到「關注點」的差異。 因為同儕間的技術層次落差不大，視野和經驗值也都差不多，所以「關注點」成為個人水平落差之間很關鍵的控制變因。關注點帶來努力方向與次數的不同，最後造成了結果品質的差異。 和大師學習時，需要學習的事情實在太多了，而且你不會去和大師計較為什麼他的作品比較好，對吧。 同儕互學，才是最能夠優化學習方法和思維模式的情境，你可以透過同儕互學，讓自己變得更擅長學習。 另外，這篇文章沒有刻意討論同儕互學時的負面狀態，例如技不如人的挫折感，或者比較、嫉妒或不服氣等心情。從我個人的觀點，這些心情勢必都會發生在過程裡，但你不需要特別去做什麼，甚至不需要刻意處理這些心情。 和人比較時，負面心情跑出來是很正常的，但切忌不要讓負面心情變成你在這個回合裡唯...
其他人也問了
《鐵達尼號:電影原聲帶》是什麼?
電影《鐵達尼號》獲得哪些獎項?
《鐵達尼號》是什麼?
《鐵達尼號》在哪些電視台播出?
文科生的 ALPHA Camp 程式學習之旅，5 大理由推薦 AC. 發佈日期: 2020 年 10 月 16 日 作者: Calvin Sung. 一年多前，我還在倫敦，差不多晚上十一點多，和一個做行銷的朋友經過Google在King Cross的大樓。. 微醺的兩人指著那裡說，我們未來要在裡面工作。. 或許朋友當時只是 ...
2023年7月25日 · 數據分析轉後端工程師 Ching 的「鬆弛有度」學習法. 了解更多 ALPHA Camp 高留存率的學習體驗. ORID 是個在國際上被廣泛使用的焦點式提問法，透過四個層次的提問，能夠幫助使用者更結構性地思考與回應問題。. 本文以大家熟悉的 ORID 焦點討論法為起始點，接下來 ...
竹科工程師在 ALPHA Camp 找回寫程式的樂趣. 已經是工程師的 Ming，在課程中重新建立思考能力，享受學習的本質，更憑著專注與堅持，在工作產品量產 (MP) 的壓力下成功完課！. lighthouse - ALPHA Camp.
交大土木系，碩士也是念營建工程的 Ginger，來上過兩次 ALPHA Camp 課程，一次是實體班的行銷課程，一次是線上的 JavaScrip全端開發課程 ，雖然聽說是因為某種神祕的力量，剛好總是在人生迷惘的時刻，看到了ALPHA Camp 的廣告，但是從土木、行銷到軟體工程師 ...
