大模型AI全棧手冊

1.大模型前世今生未來\1.1 大語言模型綜述及總結(jié) 的目錄

8 月份 Github 上最火的10篇 AI 論文！.pdf

GPT-4的前世、今生和未來！.pdf

大模型時(shí)代，我們真的不再需要分詞了嗎？.pdf

大模型綜述來了！一文帶你理清全球AI巨頭的大模型進(jìn)化史.pdf

多模態(tài)大語言模型綜述來啦！一文帶你理清多模態(tài)關(guān)鍵技術(shù).pdf

推特爆火！揭曉大模型的未來何去何從.pdf

張俊林趣談：GPT4是否已具備類人智慧，為何GPT通過Next Token Prediction可以產(chǎn)生智能.pdf

致敬2202年，這些優(yōu)秀的裁縫們.pdf

1.大模型前世今生未來\1.2 RLHF技術(shù)及大模型訓(xùn)練 的目錄

AI2_僅憑開源數(shù)據(jù)，可達(dá)ChatGPT 83%表現(xiàn).pdf

COIG：首個(gè)大規(guī)模、可商用的中文開源指令數(shù)據(jù)！.pdf

ICLR Spotlight｜Facebook提出無損INT8優(yōu)化器，單機(jī)可以跑千億參數(shù)模型了？？.pdf

Wombat：93%ChatGPT性能！無需RLHF就能對齊人類的語言模型.pdf

抱抱臉：ChatGPT背后的算法——RLHF _ 附12篇RLHF必刷論文.pdf

陳丹琦團(tuán)隊(duì)新作：單卡A100可訓(xùn)300億參數(shù)模型啦！.pdf

從語言模型到ChatGPT，大模型調(diào)教全攻略.pdf

高效又穩(wěn)定的ChatGPT大模型訓(xùn)練技巧總結(jié)，讓訓(xùn)練事半功倍！.pdf

全球1000+研究員在Twitter直播訓(xùn)練超大模型？？.pdf

數(shù)據(jù)規(guī)?？s小 200 倍！超低訓(xùn)練成本的指令微調(diào)，完美復(fù)刻大模型.pdf

訓(xùn)練ChatGPT的必備資源：語料、模型和代碼庫完全指南.pdf

震撼開源！首個(gè)1萬多人共同標(biāo)注的35種語言的高質(zhì)量對話數(shù)據(jù)集來啦.pdf

1.大模型前世今生未來\1.3 大模型評測 的目錄

Mind2Web_ 首個(gè)全面衡量大模型上網(wǎng)能力的數(shù)據(jù)集.pdf

清華發(fā)布 KoLA 評測集，分4個(gè)認(rèn)知層級評測LLM，GPT-4竟不是第一？.pdf

清華發(fā)布首個(gè)最全大模型安全評測系統(tǒng)，ChatGPT登榜首！.pdf

上交清華搞事情！發(fā)起最全學(xué)科大模型中文知識及推理評測！GPT-4 竟然血洗所有國產(chǎn)模型.pdf

1.大模型前世今生未來\1.4 大模型&AI商業(yè)分析 的目錄

被比爾蓋茨選中的GPT技術(shù)，是如何演進(jìn)，又革誰的命？.pdf

大模型商業(yè)的攪局者？除了谷歌和微軟，你可能忘記了它！.pdf

互聯(lián)網(wǎng)的下半場，跟臺海局勢一樣魔幻.pdf

1.大模型前世今生未來\1.5 國外大模型 的目錄

AutoGPT不靠譜，微軟推出升級版！可編輯自主規(guī)劃過程.pdf

SEEM：微軟基于 CV 大模型新作，分割“瞬息全宇宙”.pdf

谷歌 Bard 大升級超越 ChatGPT：這 10 個(gè)功能 ChatGPT 也做不到.pdf

谷歌PaLM殺瘋了，已從語言模型進(jìn)化成機(jī)器人大腦？？.pdf

谷歌發(fā)布技術(shù)報(bào)告：PaLM-2 推理超越 GPT-4，訓(xùn)練文本是第一代近 5 倍.pdf

谷歌宣布開放PaLM API，可在瀏覽器內(nèi)操作，終于可以嘗試大模型啦.pdf

搶先微軟，Google版Copilot上線！谷歌宣布給Google全家桶開放Bard功能.pdf

王炸！微軟發(fā)布Visual ChatGPT：視覺模型加持ChatGPT實(shí)現(xiàn)絲滑聊天.pdf

微軟發(fā)布「升級版」多模態(tài)大模型 Kosmos-2！新增局部理解能力，解鎖實(shí)體級交互.pdf

微軟發(fā)布多模態(tài)版ChatGPT！取名“宇宙一代”.pdf

重磅！谷歌發(fā)布5620億參數(shù)多模態(tài)模型PaLM-E，機(jī)器人操控?zé)o所不能.pdf

1.大模型前世今生未來\1.6 國內(nèi)大模型 的目錄

GLM 大加強(qiáng)，清華團(tuán)隊(duì)推出 GLM 聯(lián)網(wǎng)加強(qiáng)版 WebGLM！.pdf

阿里「通義千問」大戰(zhàn)百度「文心一言」15個(gè)回合后，GPT4沉默了.pdf

百度文心一言在國產(chǎn)模型中倒數(shù)？我看懵了.pdf

大模型當(dāng)私人法律顧問？北大團(tuán)隊(duì)推出法律大模型，數(shù)據(jù)與模型全部開源！.pdf

上海AI lab提出VideoChat：可以與視頻對話啦.pdf

悟道3.0全面開源！LeCun VS Max 智源大會(huì)最新演講.pdf

中科院發(fā)布多模態(tài) ChatGPT，圖片、語言、視頻都可以 Chat ？中文多模態(tài)大模型力作.pdf

10.其他文章（搞笑、鬼畜、吐槽、科研技巧等） 的目錄

“AI不會(huì)涼！” 她要扛起中國AI落地的大旗.pdf

“我要做小小瑤大人的狗！”.pdf

11 個(gè)好用的科研工具推薦！工作效率提升 max！  .pdf

19位算法工程師總結(jié)：機(jī)器學(xué)習(xí)項(xiàng)目成功落地的三條秘訣.pdf

DeepMind 發(fā)了篇論文，把我看笑了.pdf

Yoshua Bengio：我的一生.pdf

從 Google AI 離職了，這里讓我愛不起來.pdf

大佬在線復(fù)盤：我在訓(xùn)練 DALL·E 時(shí)犯過的錯(cuò).pdf

回顧2022，那些令人印象深刻的AI突破.pdf

機(jī)器學(xué)習(xí)梗圖大賞.pdf

近期神奇機(jī)器學(xué)習(xí)應(yīng)用大賞  .pdf

兩個(gè)月，刷了八千篇Arxiv，我發(fā)現(xiàn)??  .pdf

聊聊工業(yè)界“AI算法創(chuàng)新”亂象.pdf

論文投稿新規(guī)則，不用跑出SOTA，還能“內(nèi)定”發(fā)論文？！.pdf

盤點(diǎn)我跳過的科研天坑，進(jìn)坑就是半年白干  .pdf

強(qiáng)化學(xué)習(xí)，商業(yè)化之路宣告死亡了嗎？.pdf

如果你跟夕小瑤戀愛了---（上）.pdf

如果你跟夕小瑤戀愛了---（下）.pdf

如何優(yōu)雅的追到女神夕小瑤.pdf

若被制裁，中國AI會(huì)雪崩嗎？.pdf

十級NLPer才能笑出聲的算法梗！.pdf

算法工程師的三觀測試.pdf

他與她，一個(gè)兩年前的故事.pdf

吐血整理：論文寫作中注意這些細(xì)節(jié)，能顯著提升成稿質(zhì)量  .pdf

萬萬沒想到，我的煉丹爐玩壞了.pdf

我對你的愛，是只為你而留的神經(jīng)元.pdf

我在谷歌實(shí)習(xí)時(shí)發(fā)現(xiàn)了一個(gè)模型 bug，于是有了這篇 ACL.pdf

我在斯坦福做的科研demo?要被導(dǎo)師帶去美國國會(huì)演講？.pdf

我在斯坦福做科研的碎碎念  .pdf

我終于逃離了互聯(lián)網(wǎng)，卻陷入了迷茫.pdf

無內(nèi)鬼，來點(diǎn)ICML_ACL審稿人笑話.pdf

想通這點(diǎn)，治好 AI 打工人的精神內(nèi)耗.pdf

謝撩，人在斯坦福打SoTA.pdf

一位老師，一位領(lǐng)導(dǎo)，一個(gè)讓全體學(xué)生考上目標(biāo)學(xué)校的故事.pdf

在斯坦福，做 Manning 的 phd 要有多強(qiáng)？.pdf

哲學(xué)討論：未來的語言模型有沒有可能具備意識和主觀感受？.pdf

這些表情包十分珍貴，應(yīng)該讓科研人先用.pdf

自動(dòng)駕駛技術(shù)簡史.pdf

2.AIGC技術(shù)解讀\2.1 GPT技術(shù)解讀 的目錄

ACL’22 _ 為大模型定制的數(shù)據(jù)增強(qiáng)方法FlipDA，屠榜六大NLU 數(shù)據(jù)集！.pdf

ChatGPT 的議論文究竟寫的怎么樣？111 位高中教師告訴你答案.pdf

ChatGPT 講的笑話90%是重復(fù)的？歸納出來只有這25個(gè)？.pdf

ChatGPT勁敵團(tuán)隊(duì)發(fā)布，可輕松引導(dǎo)ChatGPT不要輸出有害言論！.pdf

GPT-4 開始內(nèi)測 32000 輸入長度的版本了！你收到邀請了嗎_.pdf

GPT-4使用效果不好？美國奧本大學(xué)提出Prompt分類法，另辟蹊徑構(gòu)建Prompt設(shè)計(jì)指南.pdf

GPT-4知道它是不是“胡說八道”嗎？一篇關(guān)于大模型“自知之明”的研究.pdf

LeCun：ChatGPT無法實(shí)現(xiàn)通用人工智能，但ALM技術(shù)路線可以！.pdf

OpenAI _ GPT-3新模型Davinci，將AI寫作提升到新水平！網(wǎng)友驚呼：GPT-4要來了？.pdf

阿里最新研究：當(dāng)ChatGPT 遇上推薦系統(tǒng)，遭遇滑鐵盧.pdf

百萬獎(jiǎng)金懸賞大模型不擅長的任務(wù)！這 11 個(gè)任務(wù)模型越大，效果越差！.pdf

大模型跨界研究：計(jì)算精神病學(xué)發(fā)現(xiàn)，大模型居然比人類更焦慮.pdf

大模型知識Out該怎么辦？浙大團(tuán)隊(duì)探索大模型參數(shù)更新的方法—模型編輯.pdf

當(dāng)ChatGPT參加中國高考，把全國A卷B卷喂給它后，竟嚴(yán)重偏科！.pdf

對大模型微調(diào)后竟能超越ChatGPT！只需要讓模型模擬真實(shí)的人類交互！.pdf

還能這么玩？清華給 ChatGPT 做逆向，發(fā)現(xiàn)了 ChatGPT 的進(jìn)化軌跡！.pdf

僅用自然語言，讓ChatGPT輸出連貫的長篇小說！蘇黎世聯(lián)邦理工大學(xué)提出RecurrentGPT.pdf

清華發(fā)布工具學(xué)習(xí)框架，讓ChatGPT操控地圖、股票查詢，賈維斯已來？.pdf

讓GPT-3、ChatGPT、GPT-4一起做腦筋急轉(zhuǎn)彎，GPT-4一騎絕塵！.pdf

斯坦福_ ChatGPT用于生成式搜索引擎的可行性.pdf

完爆GPT3、谷歌PaLM！檢索增強(qiáng)模型Atlas刷新知識類小樣本任務(wù)SOTA.pdf

我把GPT 的學(xué)習(xí)軌跡可視化了！竟和人類十分類似 ｜ACL2023.pdf

一個(gè)技巧，讓ChatGPT學(xué)會(huì)復(fù)雜編程，編程水平逼近人類程序員！.pdf

用 AudioGPT 輸入自然語言，可以讓 ChatGPT 唱歌了？.pdf

又一恐怖技能！卡耐基梅隆大學(xué)發(fā)布超強(qiáng)智能體，炸翻科研圈.pdf

只給大模型LeetCode編號，也能解題！大模型表現(xiàn)好是源于對訓(xùn)練數(shù)據(jù)的記憶嗎？請不要迷信大模型.pdf

直接攻擊，越獄攻擊，道德攻擊??這樣做，ChatGPT 就會(huì)泄漏你的隱私.pdf

最新研究，GPT-4暴露了缺點(diǎn)！無法完全理解語言歧義！.pdf

2.AIGC技術(shù)解讀\2.1 GPT技術(shù)解讀\ChatGPT與GPT4趣聞 的目錄

120名頂級技術(shù)專家用GPT-4搞出的腦洞發(fā)明大賞.pdf

AI開始卷高考了，英語已被卷到134分？？.pdf

ChatGPT進(jìn)入百度“弱智吧”后，瘋了.pdf

ChatGPT驚人語錄大賞.pdf

GPT-3 泄露了我的真實(shí)姓名.pdf

百萬懸賞！尋找“模型越大，效果越差”的奇葩任務(wù)！.pdf

匯集了23年7省高考作文題，圍觀ChatGPT和GPT-4寫高考作文.pdf

紐約大學(xué)教授建議：ChatGPT時(shí)代下，請?zhí)善剑?pdf

日本首相會(huì)見奧特曼，考慮引入 ChatGPT 技術(shù).pdf

2.AIGC技術(shù)解讀\2.2 Diffusion系列 的目錄

3D Diffusion模型來了！OpenAI出品，已開源.pdf

Diffusion驚艷應(yīng)用大賞.pdf

Stable Diffusion公司發(fā)布首個(gè)大語言模型StableLM，已開源公測！.pdf

當(dāng) BLIP-2 遇上 Diffusion！可控圖像生成的最優(yōu)解，圖像主題、風(fēng)格任意切換，指哪改哪.pdf

擴(kuò)散模型又殺瘋了！這一次被攻占的領(lǐng)域是.._.pdf

2.AIGC技術(shù)解讀\2.3 預(yù)訓(xùn)練技術(shù) 的目錄

MIT發(fā)現(xiàn)語言模型內(nèi)的事實(shí)知識可被修改？？.pdf

MIT指出公開預(yù)訓(xùn)練模型不能亂用.pdf

不要只追求模型收斂了，一個(gè)簡單Trick讓模型更穩(wěn)定！絕對想不到.pdf

推翻OpenAI結(jié)論，DeepMind重新定義預(yù)訓(xùn)練的參數(shù)和規(guī)模關(guān)系！.pdf

預(yù)訓(xùn)練模型的記憶機(jī)制解密！.pdf

預(yù)訓(xùn)練模型對實(shí)體的表示能力差？一個(gè)簡單有效的解法來了?。ㄩ_源）.pdf

3.谷歌_微軟_Meta等前沿系列\(zhòng)3.1 谷歌系列 的目錄

Pix2Seq：谷歌大腦提出 CV 任務(wù)統(tǒng)一接口！.pdf

谷歌&HuggingFace_ 零樣本能力最強(qiáng)的語言模型結(jié)構(gòu).pdf

谷歌、斯坦福聯(lián)合發(fā)文：我們?yōu)槭裁匆欢ㄒ么竽Ｐ停?pdf

谷歌：級聯(lián)語言模型是通用推理系統(tǒng)的未來.pdf

谷歌稱之為“下一代 AI 框架”， Pathways 真有那么強(qiáng)嗎？.pdf

谷歌出品，數(shù)據(jù)集搜索引擎上線了！.pdf

谷歌發(fā)布Self-Debug方法，讓大模型學(xué)會(huì)自己修bug，一次性生成正確代碼.pdf

谷歌提出 RNN 版 Transformer，或?yàn)殚L文本建模的當(dāng)前最優(yōu)解.pdf

谷歌訓(xùn)了28個(gè)15億參數(shù)模型，說明數(shù)據(jù)對大模型訓(xùn)練的影響.pdf

谷歌要完，百度也危了.pdf

擊敗GPT3，刷新50個(gè)SOTA！谷歌全面統(tǒng)一NLP范式.pdf

深度學(xué)習(xí)撞墻？谷歌：是時(shí)候動(dòng)用鈔能力了.pdf

雙塔模型的最強(qiáng)出裝，谷歌又開始玩起“老古董”了？.pdf

搜索引擎變天了！谷歌宣布開放「生成式搜索平臺」！AI 大模型顛覆搜索體驗(yàn).pdf

重磅！Google Brain 與 DeepMind 宣布合并，成立 Google DeepMind 新部門.pdf

3.谷歌_微軟_Meta等前沿系列\(zhòng)3.2 微軟系列 的目錄

微軟：我已把顯存優(yōu)化做到了極致，還有誰？.pdf

微軟發(fā)現(xiàn)了一個(gè)超簡單的NLP上分技巧，還發(fā)了ACL2022 ？？.pdf

3.谷歌_微軟_Meta等前沿系列\(zhòng)3.3 Meta_OpenAI其他大廠系列 的目錄

ChatGPT或要推出APP，OpenAI官宣為ChatGPT招募移動(dòng)端開發(fā)工程師.pdf

OpenAI新作，直指DeepMind格局小了！大模型復(fù)雜推理應(yīng)逐步驗(yàn)證.pdf

領(lǐng)英職場退出中國，谷歌Bard集成進(jìn)安卓，陸奇最新演講，HuggingFace網(wǎng)傳遭禁｜今日科技圈要聞.pdf

推特大裁員后，馬斯克與白宮發(fā)生沖突！META 大批裁員正在路上.pdf

泄露了 5.33 億 Facebook 用戶的個(gè)人資料后，Meta 被罰款 2.75 億美元.pdf

再次戰(zhàn)勝人類：Meta AI推出首款可以_忽悠_人的AI模型.pdf

值得關(guān)注！正在引領(lǐng)行業(yè)變革的15家AI明星創(chuàng)業(yè)公司.pdf

4.編程基礎(chǔ) 的目錄

7款優(yōu)秀Vim插件幫你打造完美IDE.pdf

All in Linux：一個(gè)算法工程師的IDE斷奶之路.pdf

Git從入門到進(jìn)階，你想要的全在這里.pdf

算法工程師的效率神器——vim篇.pdf

一份北大信科內(nèi)部流傳的 “CS 自救指南”（無廣推薦）  .pdf

5.機(jī)器學(xué)習(xí)基礎(chǔ) 的目錄

持續(xù)學(xué)習(xí)簡述.pdf

機(jī)器學(xué)習(xí)模型可解釋性.pdf

類別不均衡問題.pdf

強(qiáng)化學(xué)習(xí)掃盲貼：從Q-learning到DQN.pdf

入門指導(dǎo)手冊1.pdf

入門指導(dǎo)手冊2.pdf

入門指導(dǎo)手冊3.pdf

數(shù)據(jù)清洗指南.pdf

為什么回歸問題用MSE？.pdf

為什么搜索與推薦場景用AUC評價(jià)模型好壞？.pdf

在錯(cuò)誤的數(shù)據(jù)上，刷到 SOTA 又有什么意義？.pdf

怎樣將Embedding融入傳統(tǒng)機(jī)器學(xué)習(xí)框架？.pdf

整頓職場，從 ROC 曲線開始.pdf

置信學(xué)習(xí)簡述.pdf

5.機(jī)器學(xué)習(xí)基礎(chǔ)\0.數(shù)學(xué)基礎(chǔ) 的目錄

線性代數(shù)應(yīng)該這樣講（二）.pdf

線性代數(shù)應(yīng)該這樣講（一）.pdf

線性代數(shù)應(yīng)該這樣講-三--向量2范數(shù)與模型泛化.pdf

線性代數(shù)應(yīng)該這樣講-四--奇異值分解與主成分分析.pdf

5.機(jī)器學(xué)習(xí)基礎(chǔ)\1.經(jīng)典統(tǒng)計(jì)機(jī)器學(xué)習(xí)模型 的目錄

LightGBM最強(qiáng)解析，從算法原理到代碼實(shí)現(xiàn)~.pdf

從點(diǎn)到線：邏輯回歸到條件隨機(jī)場.pdf

從邏輯回歸到受限玻爾茲曼機(jī).pdf

從邏輯回歸到最大熵模型.pdf

機(jī)器學(xué)習(xí)系列-強(qiáng)填EM算法在理論與工程之間的鴻溝（上）.pdf

機(jī)器學(xué)習(xí)系列-強(qiáng)填EM算法在理論與工程之間的鴻溝（下）.pdf

解開玻爾茲曼機(jī)的封印會(huì)發(fā)生什么？.pdf

邏輯回歸與樸素貝葉斯的戰(zhàn)爭.pdf

樸素貝葉斯與揀魚的故事.pdf

深度前饋網(wǎng)絡(luò)與Xavier初始化原理.pdf

深入解析GBDT二分類算法（附代碼實(shí)現(xiàn)）.pdf

6.深度學(xué)習(xí)基礎(chǔ)、前沿與實(shí)戰(zhàn)技巧\基礎(chǔ)篇 的目錄

不要再糾結(jié)卷積的公式啦！0公式深度解析全連接前饋網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò).pdf

從前饋到反饋：解析循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）及其tricks.pdf

你的模型真的陷入局部最優(yōu)點(diǎn)了嗎？.pdf

深度解析LSTM神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)原理.pdf

訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)如何確定batch的大小？.pdf

6.深度學(xué)習(xí)基礎(chǔ)、前沿與實(shí)戰(zhàn)技巧\學(xué)術(shù)前沿 的目錄

2022年競賽打榜，神經(jīng)網(wǎng)絡(luò)還是干不過樹模型？？.pdf

AdaX：一個(gè)比Adam更優(yōu)秀，帶”長期記憶“的優(yōu)化器.pdf

ICLR2020滿分論文 - 為什么梯度裁剪能加速模型訓(xùn)練？.pdf

ICLR2020---如何判斷兩個(gè)神經(jīng)網(wǎng)絡(luò)學(xué)到的知識是否一致.pdf

ICML2021 _ Self-Tuning- 如何減少對標(biāo)記數(shù)據(jù)的需求？  .pdf

NYU & Google- 知識蒸餾無處不在，但它真的有用嗎？  .pdf

別讓數(shù)據(jù)坑了你！用置信學(xué)習(xí)找出錯(cuò)誤標(biāo)注（附開源實(shí)現(xiàn)）.pdf

大幅超越DALL·E 2和Imagen，斯坦福發(fā)布RA-CM3模型，融合檢索與生成.pdf

大佬聯(lián)合署名！反對 ACL 設(shè)置匿名期！.pdf

大模型煉丹無從下手？谷歌、OpenAI燒了幾百萬刀，總結(jié)出這些方法論?  .pdf

負(fù)采樣，yyds！ .pdf

高效利用無標(biāo)注數(shù)據(jù)：自監(jiān)督學(xué)習(xí)簡述.pdf

谷歌重磅：可以優(yōu)化自己的優(yōu)化器！手動(dòng)調(diào)參或?qū)⒊蔀闅v史??？.pdf

涵蓋1600+任務(wù)的巨型Benchmark來了！跑個(gè)測試花一周？？.pdf

可交互的 Attention 可視化工具！我的Transformer可解釋性有救了？.pdf

你的 GNN，可能 99% 的參數(shù)都是冗余的  .pdf

年末回顧：2021年 AI 領(lǐng)域十大研究趨勢及必讀論文  .pdf

破局?jǐn)?shù)據(jù)困境，迭代一年的終版解決方案竟是純規(guī)則方法！.pdf

深度學(xué)習(xí)，路在何方？  .pdf

神網(wǎng)站PaperWithoutCode：舉報(bào)無法復(fù)現(xiàn)的論文，讓一作社死？？.pdf

十年內(nèi)就能實(shí)現(xiàn)通用人工智能？先把組合泛化研究明白吧！.pdf

恕我直言，很多小樣本學(xué)習(xí)的工作就是不切實(shí)際的.pdf

恕我直言，你的實(shí)驗(yàn)結(jié)論可能嚴(yán)重依賴隨機(jī)數(shù)種子！  .pdf

我拿模型當(dāng)朋友，模型卻想泄漏我的隱私？.pdf

我刪了這些訓(xùn)練數(shù)據(jù)?模型反而表現(xiàn)更好了??？  .pdf

一時(shí)學(xué)習(xí)一時(shí)爽，_持續(xù)學(xué)習(xí)_持續(xù)爽.pdf

一訓(xùn)練就顯存爆炸？Facebook 推出 8 比特優(yōu)化器，兩行代碼拯救你的顯存！  .pdf

硬核推導(dǎo)Google AdaFactor：一個(gè)省顯存的寶藏優(yōu)化器.pdf

語言模型也會(huì)“地域黑”？實(shí)驗(yàn)表明ALBERT最能黑，BART最友善.pdf

在錯(cuò)誤的數(shù)據(jù)上，刷到 SOTA 又有什么意義？  .pdf

6.深度學(xué)習(xí)基礎(chǔ)、前沿與實(shí)戰(zhàn)技巧\技巧篇 的目錄

All in Linux：一個(gè)算法工程師的IDE斷奶之路.pdf

BERT重計(jì)算：用22.5%的訓(xùn)練時(shí)間節(jié)省5倍的顯存開銷（附代碼）.pdf

被深度學(xué)習(xí)框架逼瘋的N大瞬間！何解？.pdf

別再喊我調(diào)參俠！夕小瑤“科學(xué)煉丹”手冊了解一下.pdf

模型訓(xùn)練太慢？顯存不夠用？這個(gè)算法讓你的GPU老樹開新花.pdf

算法工程師的效率神器——vim篇.pdf

談?wù)勗鯓犹岣邿挼な炙?pdf

萬萬沒想到，我的煉丹爐玩壞了.pdf

顯存不夠，如何訓(xùn)練大型神經(jīng)網(wǎng)絡(luò)？.pdf

訓(xùn)練效率低？GPU利用率上不去？快來看看別人家的tricks吧?.pdf

7.自然語言處理與知識圖譜 的目錄

太酷啦，Transformer 的有效上下文長度可擴(kuò)展至百萬級.pdf

寫了一篇關(guān)于 NLP 綜述的綜述！.pdf

7.自然語言處理與知識圖譜\2020學(xué)術(shù)前沿 的目錄

ACL20 - 讓笨重的BERT問答匹配模型變快！.pdf

ACL2020 - 線上搜索結(jié)果大幅提升！亞馬遜提出對抗式query-doc相關(guān)性模型.pdf

ACL2020---FastBERT：放飛BERT的推理速度.pdf

ACL2020---對話數(shù)據(jù)集Mutual：論對話邏輯，BERT還差的很遠(yuǎn).pdf

ACL2020---基于Knowledge-Embedding的多跳知識圖譜問答.pdf

FLAT：中文NER屠榜之作！.pdf

Google - 突破瓶頸，打造更強(qiáng)大的Transformer.pdf

GPT-3誕生，F(xiàn)inetune也不再必要了！NLP領(lǐng)域又一核彈！.pdf

LayerNorm是Transformer的最優(yōu)解嗎？.pdf

Transformer哪家強(qiáng)？Google爸爸辨優(yōu)良！.pdf

別再蒸餾3層BERT了！變矮又能變瘦的DynaBERT了解一下.pdf

陳丹琦“簡單到令人沮喪”的屠榜之作：關(guān)系抽取新SOTA！.pdf

當(dāng)NLPer愛上CV：后BERT時(shí)代生存指南之VL-BERT篇.pdf

吊打BERT-Large的小型預(yù)訓(xùn)練模型ELECTRA終于開源！真相卻讓人---.pdf

告別自注意力，谷歌為Transformer打造新內(nèi)核Synthesizer.pdf

還在用[CLS]？從BERT得到最強(qiáng)句子Embedding的打開方式！.pdf

賣萌屋上線Arxiv論文速刷神器，直達(dá)學(xué)術(shù)最前沿！.pdf

如何讓BERT擁有視覺感知能力？兩種方式將視頻信息注入BERT.pdf

如何優(yōu)雅地編碼文本中的位置信息？三種positioanl encoding方法簡述.pdf

萬能的BERT連文本糾錯(cuò)也不放過.pdf

無需人工！無需訓(xùn)練！構(gòu)建知識圖譜 BERT一下就行了！.pdf

7.自然語言處理與知識圖譜\2021-2022.3學(xué)術(shù)前沿 的目錄

1000層的Transformer，誕生了！ .pdf

AllenAI _ 用GPT-3幫助增建數(shù)據(jù)，NLI任務(wù)直接提升十個(gè)點(diǎn)??？  .webarchive

AllenAI 發(fā)布萬能問答系統(tǒng) MACAW！各類題型樣樣精通，性能大幅超越 GPT-3！  .pdf

Fine-tune之后的NLP新范式：Prompt越來越火，CMU華人博士后出了篇綜述文章  .pdf

Google Research新成果，讓表格理解和檢索更上一層樓！.pdf

Google掀桌了，GLUE基準(zhǔn)的時(shí)代終于過去了？  .pdf

Prompt tuning新工作，五個(gè)參數(shù)解決下游任務(wù) fine-tuning  .pdf

Transformer太大了，我要把它微調(diào)成RNN.pdf

把數(shù)據(jù)集刷穿是什么體驗(yàn)？MetaQA已100%準(zhǔn)確率.pdf

別再Prompt了！谷歌提出tuning新方法，強(qiáng)力釋放GPT-3潛力！  .pdf

別再雙塔了！谷歌提出DSI索引，檢索效果吊打雙塔，零樣本超BM25！.pdf

超硬核 ICML’21 _ 如何使自然語言生成提速五倍，且顯存占用減低99%.pdf

從 ACL’22 投稿情況，速覽當(dāng)下 NLP 研究熱點(diǎn)！  .pdf

打破情感分類準(zhǔn)確率 80 分天花板！更加充分的知識圖譜結(jié)合范式  .pdf

丹琦女神的對比學(xué)習(xí)新SOTA，在中文表現(xiàn)如何？我們補(bǔ)充實(shí)驗(yàn)后，驚了！.pdf

丹琦女神新作：對比學(xué)習(xí)，簡單到只需要Dropout兩下.pdf

對比學(xué)習(xí)有多火？文本聚類都被刷爆了?.pdf

發(fā)現(xiàn)一篇專門吐槽 NLP 內(nèi)卷現(xiàn)狀的 ACL 論文 ...  .pdf

分類問題后處理技巧CAN，近乎零成本獲取效果提升.pdf

加了元學(xué)習(xí)之后，少樣本學(xué)習(xí)竟然可以變得這么簡單！  .pdf

清華提出LogME，無需微調(diào)就能衡量預(yù)訓(xùn)練模型的下游任務(wù)表現(xiàn)！  .pdf

如何提升大規(guī)模Transformer的訓(xùn)練效果？Primer給出答案  .pdf

軟硬兼施極限輕量BERT！能比ALBERT再輕13倍？！.pdf

誰說發(fā) paper 一定要追快打新？2021年，研究 word2vec 也能中頂會(huì)！  .pdf

以4%參數(shù)量比肩GPT-3！Deepmind 發(fā)布檢索型 LM，或?qū)⒊蔀?LM 發(fā)展新趨勢??？  .pdf

用多模態(tài)信息做 prompt，解鎖 GPT 新玩法  .pdf

預(yù)訓(xùn)練卷不動(dòng)，可以卷輸入預(yù)處理啊！  .pdf

這篇論文提出了一個(gè)文本_-_知識圖譜的格式轉(zhuǎn)換器.._.pdf

中文BERT上分新技巧，多粒度信息來幫忙.pdf

7.自然語言處理與知識圖譜\2022.3-2023.6學(xué)術(shù)前沿 的目錄

2202年了，繼續(xù)大比拼ViT、MLP、CNN結(jié)構(gòu)有意義嗎？？.pdf

ACL‘22杰出論文：Prompt范式有bug！.pdf

ACL2023 _ 賠了？引入GPT-3大模型到智能客服，竟要賠錢？.pdf

ACL'22 _ 陳丹琦提出CoFi模型剪枝，加速10倍，精度幾乎無損.pdf

AI講話總愛“結(jié)巴”？這篇NeurIPS論文找到了病因，結(jié)巴率已接近人類！.pdf

Batch size 沒必要設(shè)為2的次方！？.pdf

BERTopic：NLP主題模型的未來！.pdf

BERT為何無法徹底干掉BM25？？.pdf

CMU 提出全新 GAN 結(jié)構(gòu)，GAN 自此邁入預(yù)訓(xùn)練大軍！.pdf

DeepMind：用 GNN 學(xué)習(xí)通用推理算法.pdf

EMNLP 2022 最佳論文揭曉！這腦洞絕了?_.pdf

ICLR 2023 最高分論文被錘抄襲？？.pdf

ICLR’22 最佳腦洞獎(jiǎng)提名：《GPT 如何進(jìn)行布朗運(yùn)動(dòng)_》.pdf

NAACL最佳方法論文：課本上的A_搜索算法可以提升文本生成效果！.pdf

別再無腦wwm了！在下游任務(wù)中不一定有效！.pdf

顛覆認(rèn)知！數(shù)據(jù)增強(qiáng)、正則化可導(dǎo)致不易察覺的災(zāi)難？.pdf

人在ACL2022，無人戴口罩我有些慌.pdf

隨機(jī)種子 3407 is all you need.pdf

推薦系統(tǒng)用戶反饋延遲新解法！阿里提出CVR無偏估計(jì)算法.pdf

忘掉Xavier初始化吧！最強(qiáng)初始化方法ZerO來了.pdf

我們追求的泛化，竟是一條死路？.pdf

我是粉紅豬佩奇，我要把粉色吹風(fēng)機(jī)寫進(jìn) IJCAI 論文！.pdf

訓(xùn)練雙塔檢索模型，可以不用query-doc樣本了？明星機(jī)構(gòu)聯(lián)合發(fā)文.pdf

又一科研利器誕生！能對話的論文閱讀器，hammerScholar.pdf

自監(jiān)督學(xué)習(xí)效果差？Meta AI 提出 Q-score 快速過濾錯(cuò)誤樣本！.pdf

7.自然語言處理與知識圖譜\Prompt 的目錄

AI取代人類，可以自動(dòng)生成prompt了.pdf

desktop.ini

Prompt IDE來了?是劃時(shí)代AI神器還是雞肋？.pdf

Prompt都不需要了，動(dòng)動(dòng)手就能玩多模態(tài)對話系統(tǒng)，iChat來啦！.pdf

搭配對比學(xué)習(xí)，萬能的 prompt 還能做可控文本生成.pdf

恕我直言，你的模型可能并沒看懂 prompt 在說啥.pdf

7.自然語言處理與知識圖譜\基礎(chǔ)知識 的目錄

45個(gè)小眾而實(shí)用的NLP開源字典和工具.pdf

NLP-Subword三大算法原理：BPE、WordPiece、ULM.pdf

NLP的游戲規(guī)則從此改寫？從word2vec,-ELMo到BERT.pdf

NLP最佳入門與提升路線.pdf

Step-by-step-to-Transformer：深入解析工作原理（以Pytorch機(jī)器翻譯為例）.pdf

那些擊潰了所有NLP系統(tǒng)的樣本.pdf

如何打造高質(zhì)量的NLP數(shù)據(jù)集.pdf

如何優(yōu)雅地編碼文本中的位置信息？三種positioanl encoding方法簡述的副本.pdf

史上最可愛的關(guān)系抽取指南？從一條規(guī)則到十個(gè)開源項(xiàng)目.pdf

斯坦福大學(xué)最甜網(wǎng)?。褐R圖譜CS520面向大眾開放啦！.pdf

搜索引擎核心技術(shù)與算法-——-倒排索引初體驗(yàn).pdf

文本分類問題不需要ResNet？小夕解析DPCNN設(shè)計(jì)原理（上）.pdf

文本分類問題不需要ResNet？小夕解析DPCNN設(shè)計(jì)原理（下）.pdf

文本分類有哪些論文中很少提及卻對性能有重要影響的tricks？.pdf

語義向量檢索入門教程（非恰飯貼）.pdf

中文分詞的古今中外，你想知道的都在這里.pdf

7.自然語言處理與知識圖譜\子方向綜述 的目錄

2202年了，“小樣本”還值得卷嗎？  .pdf

CMU & MILA & 谷歌 _ 三家巨頭發(fā)布史上最干文本增強(qiáng)總結(jié).pdf

NLP進(jìn)入預(yù)訓(xùn)練模型時(shí)代：從word2vec,ELMo到BERT.pdf

NLP哪個(gè)細(xì)分方向最具社會(huì)價(jià)值？.pdf

NLP數(shù)據(jù)增強(qiáng)方法綜述：EDA、BT、MixMatch、UDA.pdf

NLP中的少樣本困境問題探究.pdf

超一流 - 從XLNet的多流機(jī)制看最新預(yù)訓(xùn)練模型的研究進(jìn)展.pdf

從零構(gòu)建知識圖譜.pdf

打破BERT天花板：11種花式煉丹術(shù)刷爆NLP分類SOTA！.pdf

對比學(xué)習(xí)綜述.pdf

對話系統(tǒng)的設(shè)計(jì)藝術(shù).pdf

多輪對話與檢索式聊天機(jī)器人(chatbot)綜述.pdf

格局打開，帶你解鎖 prompt 的花式用法  .pdf

工業(yè)界求解NER問題的12條黃金法則.pdf

后BERT時(shí)代：15個(gè)預(yù)訓(xùn)練模型對比分析與關(guān)鍵點(diǎn)探究.pdf

基于知識圖譜的篇章標(biāo)簽生成綜述.pdf

任務(wù)完成型對話之對話狀態(tài)追蹤DST綜述.pdf

如何提高NLP模型魯棒性和泛化能力？對抗訓(xùn)練論文綜述.pdf

搜索中的Query理解及應(yīng)用.pdf

文本對抗攻擊入坑寶典.pdf

文本匹配相關(guān)方向打卡點(diǎn)總結(jié).pdf

文本生成評價(jià)指標(biāo)的進(jìn)化與推翻.pdf

限定域文本語料的短語挖掘綜述.pdf

一人之力，刷爆三路榜單！信息抽取競賽奪冠經(jīng)驗(yàn)分享.pdf

一文跟進(jìn)Prompt進(jìn)展！綜述+15篇最新論文逐一梳理  .pdf

預(yù)訓(xùn)練模型關(guān)鍵問題梳理與面試必備高頻FAQ.pdf

智能問答系統(tǒng)與機(jī)器閱讀理解分方向綜述.pdf

中文分詞的古今中外，你想知道的都在這里.pdf

8.跨模態(tài)與計(jì)算機(jī)視覺 的目錄

ACL’21 _ 對話系統(tǒng)也要進(jìn)軍多模態(tài)了！  .pdf

ACL'21 _ 多模態(tài)數(shù)值推理新挑戰(zhàn)，讓 AI 學(xué)解幾何題.pdf

Allen AI提出MERLOT，視頻理解領(lǐng)域新SOTA！.pdf

Facebook 推出多模態(tài)通用模型 FLAVA，吊打 CLIP 平均十個(gè)點(diǎn)！  .pdf

GAN 的內(nèi)在漏洞！只看眼睛就能找出虛擬人臉？.pdf

Meta AI 發(fā)布 data2vec！統(tǒng)一模態(tài)的新里程碑！  .pdf

MSRA-萬字綜述 直擊多模態(tài)文檔理解  .pdf

Yann LeCun 新作！大幅超越 MAE，圖像語義表示卷出新高度.pdf

吊打BERT、GPT、DALL·E，跨模態(tài)榜單新霸主誕生！.pdf

對比學(xué)習(xí)效果差？谷歌提出弱語義負(fù)樣本，有效學(xué)習(xí)高級特征！.pdf

多模態(tài)為什么比單模態(tài)好？第一份嚴(yán)謹(jǐn)證明來了！  .pdf

多模態(tài)為什么比單模態(tài)好？第一份嚴(yán)謹(jǐn)證明來了！.pdf

谷歌：CNN擊敗Transformer，有望成為預(yù)訓(xùn)練界新霸主！LeCun卻沉默了.._.pdf

谷歌：一篇論文，讓研究者吃我三份安利.pdf

國外學(xué)者將500萬篇CS論文搬進(jìn)了畢業(yè)論文，結(jié)論：學(xué)海無涯“卷”作舟.pdf

驚呆！不用一張圖片，卻訓(xùn)出個(gè)圖像識別SOTA？.pdf

視覺增強(qiáng)詞向量：我是詞向量，我開眼了！.pdf

刷新SOTA！Salesforce提出跨模態(tài)對比學(xué)習(xí)新方法，僅需4M圖像數(shù)據(jù)！  .pdf

圖靈獎(jiǎng)大佬 Lecun 發(fā)表對比學(xué)習(xí)新作，比 SimCLR 更好用！  .pdf

圖靈獎(jiǎng)大佬+谷歌團(tuán)隊(duì)，為通用人工智能背書！CV 任務(wù)也能用 LM 建模！  .pdf

屠榜CV還不是這篇論文的終極目標(biāo)，它更大的目標(biāo)其實(shí)是??.pdf

我裂開了...人類腦海中的畫面，被AI解碼了？？.pdf

用Midjourney畫_球迷沖進(jìn)球場擁抱梅西_事件.pdf

再介紹一篇最新的Contrastive Self-supervised Learning綜述論文  .pdf

9.算法崗求職經(jīng)驗(yàn)技巧 的目錄

13個(gè)offer，8家SSP，談?wù)勎业那镎薪?jīng)驗(yàn).pdf

6 年大廠面試官，談?wù)勎覍λ惴◢徝嬖嚨囊恍┛捶?nbsp; .pdf

Google、MS和BAT教給我的面試真諦.pdf

別再搜集面經(jīng)啦！小夕教你斬下NLP算法崗offer！.pdf

大廠生存36計(jì).pdf

工作6年，談?wù)勎覍Α八惴◢彙钡睦斫?pdf

拒絕跟風(fēng)，談?wù)剮追N算法崗的區(qū)別和體驗(yàn).pdf

一個(gè)接了等于自殺的高薪offer  .pdf

在大廠和小廠做算法有什么不同？.pdf

9.算法崗求職經(jīng)驗(yàn)技巧\面試必備基礎(chǔ)知識 的目錄

「小公式」平均數(shù)與級數(shù).pdf

「小算法」回文數(shù)與數(shù)值合法性檢驗(yàn).pdf

賣萌屋算法崗面試手冊上線！通往面試自由之路.pdf

算法工程師思維導(dǎo)圖—深度學(xué)習(xí)篇.pdf

算法工程師思維導(dǎo)圖—數(shù)據(jù)結(jié)構(gòu)與算法.pdf

算法工程師思維導(dǎo)圖—統(tǒng)計(jì)機(jī)器學(xué)習(xí)篇.pdf

算法與數(shù)據(jù)結(jié)構(gòu)--空間復(fù)雜度O-1-遍歷樹.pdf

預(yù)訓(xùn)練模型關(guān)鍵問題梳理與面試必備高頻FAQ.pdf