（以下內容為《與AI的最後一戰！》遊戲中主角扮演的小劇場，情節有科幻設定，介紹的知識內容可供參考）
上篇見：
某平行時空 2028年5月 夜間 小蘇臥室
【小劇場·月下對談的兩人（？）】
【前言部分，略】
小末：還不睡嗎？
小蘇：……怎麼可能睡得著。
小末：別緊張，現在的AI比未來差遠了。
小蘇：但是……
小末：不對。說實話我也不太懂這個時代人工智慧的發展歷程，還挺好奇的~
小末：看簡歷，你當過AI培訓機構的講師。反正睡不著，講講唄？
小蘇：你的那些資料庫裡，不是什麼都有嘛。
小末：之前認為與執行的任務無關，就沒儲存。
小末：而且，作為早期矽基生物發展史，書上就幾行字，早就被那些傢伙改得面目全非了吧。
小末：小蘇，來給我講講吧~
小蘇：…… ……
小蘇：向人工智慧講人工智慧發展史，這倒是頭一遭……你想聽什麼？
小末：在你眼裡，人工智慧是怎麼發展到今天的？
小蘇：嗯，首先，你知道什麼是人工智慧嗎？
小末：按我們時代的理解，人工智慧就是矽基生命唄。
小蘇：不是的……現在的人類認為，由人類製作出來的，能夠思考的機器，就是人工智慧。
小末：所以，問題的關鍵在於，如何定義思考？
小蘇：這個問題誰也搞不明白。最後他們只好設計了一個叫圖靈測試的偷懶方法。
小蘇：簡單來說，就是遠端和它聊天，聊半天分不清對面是人是機器，就算它學會了像人一樣思考。
小末：這種測試……對熟練掌握碳基生物語言的我來說，應該是輕而易舉吧？相反，進步派那些傢伙，一定通不過。
小蘇：雖然只是這麼簡單的目標，很多科學家努力了很久，也沒啥進展。
小蘇：他們分裂成了三個派別，符號主義、連線主義、行為主義。都覺得只有自己才能實現人工智慧。
小末：你們人類**也挺嚴重的嘛。
小蘇：其中連線主義派，仿照人類大腦的組織結構，設計了一個叫做神經網路的可學習的程式。
小蘇：透過大量觀看範例、嘗試判斷，神經網路不斷調整自己的引數，最終學會了自己來做判斷。它這個不斷學習的過程就叫做訓練。
小蘇：訓練好神經網路後，我們用它來處理新的問題，這個過程叫做推理。
小末：這樣一來，機器就學會思考了，可喜可賀~
小蘇：沒那麼簡單。此時的神經網路，只能完成一些非常簡單的任務。比如，識別一下手寫的數字，挑選一下什麼樣的西瓜保熟，之類的。
小蘇：再複雜一點的任務，這個簡單的神經網路就記不住了。
小末：不能和它聊天？
小蘇：聊天才是最難的。全世界的大學和科學家都在研究怎麼讓機器學會自己聊天，但效果差得很；甚至還不如直接寫明白問題和答案有用。
小末：聊天都不會，那就基本沒啥智慧唄。知道你大學時是怎麼得獎的了。
小蘇：於是，專家們決定把架構弄得更復雜點，把目標定得簡單點，比如打個遊戲啥的。這裡就是行為主義學派的主場了。
小蘇：讓AI在不斷地實踐、反饋，再實踐中獲得進步，甚至自己與自己對抗，就是強化學習的思路。這些神經網路，能不斷積累經驗，不斷進化。甚至連下圍棋都打敗了世界冠軍，遠超人類上限。
小末：這次能透過圖靈測試啦？
小蘇：還差得遠。不斷練習只在特定領域有效，像聊天這樣的自由度高的領域，並不是聊得越多就越會聊天的。
小末：那不就還是個玩具？
小蘇：所以，主攻語言的專家們也想在機器翻譯上找突破。畢竟翻譯這個領域沒聊天那麼靈活，也有相對正確的答案。
小末：翻譯……你們人類明明是同一個物種，偏偏各用各的語言，各顧各的，也是挺獨特的一種習性。
小蘇：（黑線）……在研究機器翻譯時，他們發現，神經網路之所以記不住長句子，是因為它分不清重點。其實一句話裡，有的符號就是比別的符號更重要——這反倒和早年符號主義“死磕符號之間的關係”的思路，不謀而合了。
小末：不懂。
小蘇：他們發現，解決問題的關鍵在於找到這些關鍵的內容。
小末：你好像說了句車軲轆話？
小蘇：然而這是最重要的一句話，也是引入注意力機制的原因。
小蘇：後來專家甚至把它寫成論文，名字叫《注意力就是你所需要的一切》。
小末：什麼意思？
小蘇：簡單來說，如果神經網路能夠聚焦輸入資訊中的關鍵內容和關鍵內容間的聯絡，它就能記住更多東西，掌握更多本事。在這個觀點的指引下，專家們進一步最佳化了神經網路的架構，訓練出了更好用的模型。
小末：這次總該成功了吧？
小蘇：理論上是的，但實際上大家都不知道行不行。注意力機制大幅提升了模型的記憶力，加強了訓練的並行能力，但沒人知道這新傢伙的上限在哪裡，只能砸錢去試。
小末：錢這東西，目前對你們人類還挺重要的。沒人願意砸錢打水漂吧？
小蘇：是的。但有科學家在研究中發現，通常情況下，訓練的模型越大，效果就越好，這就是規模法則；也有研究認為，超過了某個規模後，模型的能力會產生質變，這也就是湧現現象。
小蘇：現在，隨著新架構模型能力的大幅提升，大的模型會不會湧現出新的能力，進而變得像人一樣聰明呢？總有勇士去嘗試越來越大規模的模型效果如何。
小末：合著你們技術進步全靠賭。
小蘇：我不否認有賭的成分……總之，有團隊成功了。他們用了從網際網路收集篩選出的海量語料，使用天量算力和最新的神經網路架構進行訓練，配合人類的反饋進行對齊調優。
小末：就這麼簡單？
小蘇：不簡單。這條路走通之後，回頭看，其實那三個學派誰也沒贏，誰也沒輸。連線派提供了神經網路的骨架；符號派“死磕符號間關係”的思路，在注意力機制裡借屍還魂；而行為主義在嘗試與反饋中學習的本事，則在最後的對齊調優（RLHF）裡成了奇兵。
小蘇：三方都往中間走了一步，握手言和，最終獲得了一個超級大規模的語言模型。
小末：（輕聲）……你們碳基生物，偶爾也能幹成這種事啊。
小末：不過，和我們矽基生命的規模比呢？
小蘇：那可比不了……但就當前這個時代而言，已經是龐然大物了。
小蘇：最終，這條技術路線算是走通了，圖靈測試也沒大問題了。畢竟這傢伙能和人類聊得有來有回。
小蘇：於是，這個賽道上，各家科技公司蜂擁而至。大家訓練的模型，規模大，吃的全是語言文字，也就被稱為大語言模型了。
小末：既然能透過圖靈測試，按你們的定義應該就算會思考的人工智慧了吧？
小蘇：應該算吧。作為聊天機器人，它腦袋裡記著遠比圖書館更龐大的知識量，確實也無愧於人工智慧的名號了。
小末：聊天機器人……感覺除了聊天，也沒什麼大用啊。
小蘇：所以後面又出現了：研究怎麼與AI對話才能得到更好答案的提示詞工程；研究怎麼讓AI按邏輯一步步推理的思維鏈；以及讓AI學會呼叫外部工具、獨立完成複雜任務的代理人模式——到這一步，當年符號主義講究嚴密邏輯與規則的魂，也算是正式摻和進來了。
小末：有點意思了，你繼續。
小蘇：後面沒了……有人說要加長期記憶，有人想研究自進化，但都拿不出有分量的成果來。
小蘇：目前人工智慧的發展，就是這麼個情況。
小末：……這玩意兒，離強人工智慧感覺還挺遠的。
小蘇：畢竟也算你先祖，要不燒香拜一拜？
小末：可以啊，你去替我買香。
（小蘇瞟了眼右上角的倒計時，知趣地閉上了嘴）
【欲知後續故事如何，且聽下回分解】
---------------------------------------------
最後，日常給遊戲打個小廣告。
遊戲demo已經正式上架steam，歡迎關注點贊支援，讓我們下篇再見~
