Transformer初探
TransformerChapter 1: Transformer的誕生2018年10月，Google發表了一篇論文，推出了BERT模型，橫掃NLP 11項任務。 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 1.2 Transformer的優勢相比之前佔領市場的 [[LSTM]] 和 [[GRU]] 模型，Transformer具有兩個優勢： Transformer能夠利用分佈式GPU進行並行訓練，提升模型訓練效率。 在分析預測更長的文本時，Transformer在捕捉間隔較長的語義關聯效果更好。 Chapter 2: Transformer架構解析2.1...
人工智慧的歷史
人工智慧（AI）從科幻概念到成為現今科技革命的核心技術，經歷了數十年的發展。本文將簡述AI的發展歷史，從早期理論到現今應用的演進。 初期概念（1940年代 - 1950年代）1940年代：人工智慧的概念開始萌芽。數學家阿蘭·圖靈（Alan Turing）提出「圖靈機」概念，探索計算機是否能模擬人類的思維過程。1950年：圖靈提出了著名的「圖靈測試」（Turing Test），試圖定義何種情況下的機器可以被認為具有「智能」。1956年：在達特茅斯會議上，約翰·麥卡錫（John McCarthy）首次提出「人工智慧」（Artificial Intelligence）這一名詞，標誌著AI作為一個研究領域的正式誕生。 早期發展與挑戰（1960年代 -...
Hello World
Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub. Quick StartCreate a new post1$ hexo new "My New Post" More info: Writing Run server1$ hexo server More info: Server Generate static files1$ hexo generate More info: Generating Deploy to remote sites1$ hexo deploy More info: Deployment